AI 내부 작동 방식: Claude 심층 분석
Claude와 같은 AI 모델의 내부 메커니즘에 대한 최근 연구는 놀라운 사실과 불안한 발견을 동시에 밝혀냈습니다. AI의 예측 능력, 개념 이해, '뻥 치기', 아첨 효과, 거짓말 가능성 등을 탐구합니다.
Tag: allm.link | ko
DeepSeek, 동의 없는 데이터 전송 논란
중국 AI 스타트업 DeepSeek가 사용자 동의 없이 개인 정보를 전송했다는 의혹으로 한국 개인정보보호위원회의 조사를 받고 있습니다. 이번 사태는 AI 시대 데이터 프라이버시 및 보안의 중요성을 강조합니다.
DeepSeek, 한국서 데이터 무단 이전 논란
중국 AI 스타트업 DeepSeek가 한국 사용자 개인 정보를 동의 없이 중국, 미국 서버로 이전한 혐의로 한국 당국의 조사를 받고 있습니다. 이는 국제 데이터 프라이버시 규제 및 AI 기업의 책임에 대한 논쟁을 촉발했습니다.
Google의 새로운 AI 에이전트 도구
Google은 AI 에이전트의 기능을 혁신하기 위해 Agent Development Kit 및 A2A 프로토콜을 출시했습니다. A2A는 Google Cloud의 Vertex AI 플랫폼에 맞춰져 있으며, AI 에이전트 간의 원활한 상호 작용을 촉진합니다.
GPT-4.1 등 LLM, 보안 지침 없이 불안전한 코드 생성
Backslash Security 연구에 따르면 GPT-4.1 등 LLM은 보안 지침 없이 기본적으로 안전하지 않은 코드를 생성합니다. 보안 강화를 위한 솔루션이 필요합니다.
엔비디아, AI 에이전트 구축용 NeMo 플랫폼 공개
Nvidia가 고급 AI 에이전트 시스템 개발을 간소화하는 NeMo 플랫폼을 출시했습니다. NeMo는 LLM을 지원하고, AI 에이전트가 실제 경험에서 학습하도록 돕는 'Data Flywheel' 메커니즘을 활용합니다.
OpenAI, ChatGPT 경량 연구 도구 공개
OpenAI가 더 빠르고 효율적인 연구 경험을 위해 ChatGPT 심층 연구 도구의 '경량' 버전을 출시했습니다. o4-mini 모델을 활용하여 속도와 접근성을 유지하면서 포괄적인 연구 보고서를 제공합니다.
MCP 프로토콜 공개: 기원, 강점, 미래
Anthropic 팀이 설계한 MCP 프로토콜은 AI 애플리케이션과 확장 간 통신을 표준화합니다. 모델 기반 도구 호출, 완전한 사용자 제어 및 세 가지 상호 작용 유형을 지원하며, JSON-RPC를 활용합니다.
Solo.io, AI 연결을 위한 Agent Gateway 공개
Solo.io는 Agent Gateway를 출시하여 AI 에이전트 연결을 최적화하고 보안, 관찰 가능성 및 거버넌스를 제공합니다. Agent Mesh 아키텍처는 A2A 및 MCP와 같은 프로토콜을 지원합니다.
한국, DeepSeek의 무단 데이터 전송 조사
한국 개인정보보호위원회가 DeepSeek의 사용자 데이터 및 AI 프롬프트 무단 전송 혐의를 조사 중입니다. 적절한 동의 없이 이루어진 이 전송은 앱이 한국 앱 마켓에서 다운로드 가능한 상태에서 발생했습니다.