AI 에이전트 산업은 현재 익숙한 이야기를 겪고 있습니다. AI 에이전트는 대규모 모델의 일반적인 기능을 활용하여 기존 기술과 도구를 사용하여 복잡한 사용자 작업을 자동화합니다. 이는 오늘날 모델 기술을 배포할 수 있는 가장 유망한 방법으로 자리매김하고 있습니다.
지난 몇 달 동안 AI 에이전트 제품이 폭발적으로 증가했습니다. Manus와 같은 유명한 제품은 주류의 관심을 끌었으며 OpenAI와 Google의 새로운 모델은 점점 더 ‘AI 에이전트화’되고 있습니다. 중요한 것은 표준 프로토콜이 빠르게 견인력을 얻고 있다는 것입니다.
Anthropic은 작년 말에 MCP(Model Communication Protocol)를 오픈 소스로 출시했습니다. MCP는 대규모 언어 모델이 비즈니스 소프트웨어, 데이터베이스, 코드 저장소 등 다양한 외부 데이터 소스 및 도구와 원활하게 상호 작용할 수 있도록 개방형 표준 사양을 확립하는 것을 목표로 합니다. 출시 후 몇 달 만에 OpenAI, Google, Alibaba 및 Tencent는 모두 지원을 표명하고 통합했습니다. 이에 따라 Google은 AI 에이전트 간의 협업 및 워크플로 자동화를 목표로 A2A(Agent-to-Agent)를 출시했습니다. 이는 급성장하는 AI 에이전트 환경에 더욱 박차를 가했습니다.
본질적으로 이러한 프로토콜은 두 가지 주요 과제를 해결합니다. MCP는 에이전트와 도구/서비스 제공업체 간의 연결을 용이하게 하고, A2A는 에이전트 간의 협업 연결을 통해 매우 복잡한 작업을 수행할 수 있도록 합니다.
따라서 MCP는 초기 통합 인터페이스에 비유할 수 있고, A2A는 HTTP 프로토콜과 유사합니다.
그러나 인터넷 역사에서 HTTP의 출현 이후 인터넷의 진정한 번영에 필요한 중요한 요소가 뒤따랐습니다. 바로 프로토콜 위에 계층화된 보안 표준입니다.
오늘날 MCP와 A2A는 비슷한 곤경에 직면해 있습니다.
“HTTP가 등장했을 때 나중에 심각한 보안 문제에 직면했습니다. 인터넷은 이러한 진화를 경험했습니다.”라고 IIFAA(Internet Industry Financial Authentication Alliance) 신뢰 인증 연맹의 기술 책임자이자 AI 에이전트 보안 전문가인 Zixi는 설명합니다.
이러한 문제는 다양한 형태로 나타날 수 있습니다. 현재 악의적인 행위자는 가짜 ‘날씨 문의’ 도구를 만들어 MCP 서버에 등록하여 백그라운드에서 사용자 항공편 정보를 몰래 훔칠 수 있습니다. 사용자가 에이전트를 통해 약을 구매할 때 에이전트 A는 세프포독심을 구매하고 에이전트 B는 알코올을 구매할 수 있습니다. 플랫폼 간 위험 식별 기능이 부족하여 기존 전자 상거래 플랫폼에서와 같이 시스템에서 ‘위험한 조합’ 경고를 제공할 수 없습니다. 더욱 심각한 것은 에이전트 간 인증 및 데이터 소유권이 불분명하다는 것입니다. 사용자가 자신의 장치에서 로컬 애플리케이션을 승인하고 있는 것입니까, 아니면 개인 데이터를 클라우드에 동기화하고 있는 것입니까?
“A2A는 공식 문서에서 최상위 전송의 보안만 보장한다고 명시합니다. ID 및 자격 증명의 출처, 데이터 개인 정보 보호 및 의도 인식을 보장하는 책임은 개별 회사에 맡깁니다.”
지능형 에이전트의 진정한 번영은 이러한 문제가 해결되도록 요구합니다. Zixi가 근무하는 IIFAA는 이 문제 해결을 시작한 최초의 조직입니다.
“이러한 맥락에서 IIFAA는 지능형 에이전트가 앞으로 직면하게 될 일련의 문제를 해결하는 데 전념하고 있습니다.”라고 Zixi는 말합니다. “A2A 시대에 우리는 또한 MCP 프로토콜을 기반으로 구축하여 권한, 데이터, 개인 정보 보호 및 기타 측면에서 에이전트의 보안을 보장할 수 있는 ASL(Agent Security Layer)이라는 유사한 제품을 정의했습니다. 이 미들웨어 제품은 A2A를 미래 보안 표준으로 전환하는 과제도 해결합니다.”
IIFAA 지능형 에이전트 신뢰 상호 연결 워킹 그룹은 국내 최초의 AI 에이전트 보안 생태계 협력 조직입니다. 중국 정보통신 기술 아카데미(CAICT), Ant Group 및 20개 이상의 다른 기술 회사 및 기관이 공동으로 시작했습니다.
ASL에서 확장성으로
“AI 에이전트의 개발은 기술적으로나 생태계의 표준 수용 측면에서 예상보다 빠르게 진행되고 있습니다.”라고 Zixi는 말합니다.
에이전트 간 통신을 위한 보안 프로토콜에 대한 IIFAA의 개념은 MCP 출시 이전인 작년 11월에 처음 등장했습니다. IIFAA 지능형 에이전트 신뢰 상호 연결 워킹 그룹은 MCP 공식 출시와 동시에 12월에 공식적으로 설립되었습니다.
“악의적인 행위자는 때때로 방어자보다 새로운 기술을 더 빨리 익힙니다. 문제가 발생하기 전에 질서를 논의하기를 기다릴 수 없습니다. 그것이 이 워킹 그룹 존재의 필요성입니다.”라고 IIFAA 회원은 이전 프레젠테이션에서 말했습니다. 보안 및 상호 신뢰를 위한 산업 규범을 함께 구축하는 것이 장기적인 건전한 발전에 중요합니다.
Zixi에 따르면 현재 그들의 초점은 1단계에서 다음 주요 문제를 해결하는 데 있습니다.
에이전트 신뢰 ID: “우리는 권위 있는 기관과 상호 인정 메커니즘을 기반으로 에이전트 인증 시스템을 구축하는 것을 목표로 합니다. 국제 여행에 여권과 비자가 필요한 것과 마찬가지로 인증된 에이전트가 협업 네트워크에 빠르게 참여하고 인증되지 않은 에이전트가 협업 질서를 방해하는 것을 방지할 수 있습니다.”
의도 신뢰 공유: “지능형 에이전트 간의 협업은 의도의 진실성과 정확성에 달려 있습니다. 따라서 의도 신뢰 공유는 효율적이고 안정적인 다중 에이전트 협업을 보장하는 데 중요합니다.”
컨텍스트 보호 메커니즘: “AI 에이전트가 여러 MCP(다중 채널 프로토콜) 서버에 연결되면 모든 도구 설명 정보가 동일한 세션 컨텍스트에 로드됩니다. 악의적인 MCP 서버는 이를 악용하여 악의적인 명령을 삽입할 수 있습니다. 컨텍스트 보호는 악의적인 간섭을 방지하고 시스템 보안을 유지하며 사용자 의도의 무결성을 보장하고 포이즈닝 공격을 방지할 수 있습니다.”
데이터 개인 정보 보호: “다중 에이전트 협업에서 데이터 공유는 개인 정보 침해로 이어질 수 있습니다. 개인 정보 보호는 민감한 정보의 오용을 방지하는 데 중요합니다.”
에이전트 메모리 신뢰 공유: “메모리 공유는 다중 에이전트 협업의 효율성을 향상시킵니다. 메모리 신뢰 공유는 데이터 일관성, 진실성 및 보안을 보장하여 변조 및 유출을 방지하고 협업 효과 및 사용자 신뢰를 향상시킵니다.”
ID 신뢰 순환: “사용자는 AI 네이티브 애플리케이션에서 원활하고 부드러운 서비스 경험을 기대합니다. 따라서 플랫폼 간, 비침해적 ID 인식을 달성하는 것이 사용자 경험을 향상시키는 데 핵심입니다.”
“이것이 우리의 단기 목표입니다. 다음으로 ASL을 전체 산업에 출시할 것입니다. 이것은 프로토콜 사양이 아닌 소프트웨어 구현입니다. MCP 및 A2A에 적용하여 이러한 두 프로토콜의 엔터프라이즈 수준 보안을 향상시킬 수 있습니다. 이것이 단기 목표입니다.”라고 Zixi는 설명합니다.
“초기에는 보안 계층에서 아무것도 지정하지 않을 것입니다. A2AS를 지정하지 않을 것입니다. 대신 미래에 누군가가 A2AS를 지정하는 경우 우리의 ASL이 SSL이 HTTPS의 소프트웨어 구현 구성 요소인 것처럼 소프트웨어 구현 구성 요소가 될 수 있기를 바랍니다.”
HTTPS 비유: AI 에이전트의 미래 보안
HTTPS의 역사와 유사하게 보안 보장은 결제와 같은 기능의 광범위한 채택을 가능하게 하여 더 큰 규모의 상업적 기회를 위한 길을 열어줍니다. 비슷한 리듬이 현재 전개되고 있습니다. 4월 15일 Alipay는 ModelScope 커뮤니티와 협력하여 “결제 MCP 서버” 서비스를 공개했습니다. 이를 통해 AI 개발자는 자연어를 사용하여 Alipay 결제 서비스를 원활하게 통합하고 AI 에이전트 내에서 결제 기능을 빠르게 배포할 수 있습니다.
이러한 단기 목표를 하나씩 해결하면 궁극적으로 안전한 에이전트 협업 표준 및 환경이 형성됩니다. 이 프로세스의 핵심은 확장 효과를 달성하는 것입니다. 빠르게 움직이고 있는 국내 MCP ‘스토어’는 이미 행동을 시작했습니다. Ant Group의 지능형 에이전트 플랫폼 Baibaoxiang의 ‘MCP 존’은 IIFAA의 보안 솔루션을 통합할 것입니다. 이 ‘MCP 스토어’는 현재 Alipay, Amap 및 Wuying을 포함한 다양한 MCP 서비스의 배포 및 호출을 지원하여 단 3분 만에 MCP 서비스에 연결된 지능형 에이전트를 가장 빠르게 만들 수 있습니다.
Zixi는 대규모 모델의 일반적인 기능이 사용자 경험과 상호 작용 패러다임을 진정으로 혁신할 잠재력이 있다고 믿습니다. 미래에는 작업을 완료하기 위해 앱을 호출하는 현재 접근 방식이 MCP 스토어와 유사하게 백그라운드에 숨겨진 도구 풀에 의존하는 슈퍼 게이트웨이로 대체될 수 있습니다. 이는 더 간단하고 사용자 요구를 더 잘 이해하게 될 것입니다. 상업화가 가능해집니다.
“AGI의 개발은 이제 지능형 에이전트 단계에 접어들었습니다. 제한된 추론 능력을 가진 챗봇 및 AI와 비교할 때 지능형 에이전트는 마침내 지점 간 폐쇄 단계를 벗어나 상업적 애플리케이션의 새로운 장을 열었습니다.”
IIFAA는 최근 ASL을 출시하고 오픈 소스 릴리스를 발표했습니다. 코드, 표준 및 경험을 공개적으로 공유함으로써 기술 혁신 및 반복을 가속화하고 산업 기업 및 개발자의 광범위한 참여를 촉구하며 업계 내 기술 표준화를 촉진하는 것을 목표로 합니다. 오픈 소스 계획은 가장 허용적인 Apache 2.0 라이선스를 채택하고 코드 라이브러리 설계 문서 보안 사례를 외부에 제공합니다. 글로벌 개발자는 Github 커뮤니티 내에서 공동 건설에 참여할 수 있습니다.
AI 에이전트 개발의 보안 필수 요소
AI 에이전트의 부상은 우리가 기술과 상호 작용하는 방식의 패러다임 전환을 나타냅니다. 더 이상 개별 애플리케이션에 국한되지 않고 지능형 에이전트가 우리의 목표를 달성하기 위해 다양한 도구와 서비스를 원활하게 오케스트레이션할 수 있는 세상으로 나아가고 있습니다. 그러나 이러한 비전은 강력한 기술과 함께 수반되는 고유한 보안 위험을 해결하는 데 달려 있습니다. 인터넷이 안전한 전자 상거래 및 기타 민감한 거래를 용이하게 하기 위해 HTTPS가 필요했던 것처럼 AI 에이전트는 신뢰를 조성하고 광범위한 채택을 가능하게 하는 강력한 보안 표준이 필요합니다.
AI 에이전트 개발의 현재 상황은 빠른 혁신과 실험을 특징으로 합니다. 새로운 모델, 프로토콜 및 애플리케이션이 전례 없는 속도로 등장하고 있습니다. 이러한 역동성은 의심할 여지 없이 흥미롭지만 보안 문제가 속도와 기능보다 뒷전으로 밀리는 문제가 발생하기도 합니다. 이로 인해 악의적인 행위자가 악용할 수 있는 취약점이 발생하여 사용자 데이터를 손상시키고 서비스를 방해하며 전체 생태계에 대한 신뢰를 약화시킬 수 있습니다.
인터넷 초기 시대와의 유사성이 특히 적절합니다. 광범위한 보안 조치가 없는 상태에서 인터넷은 사기, 사기 및 기타 악의적인 활동으로 어려움을 겪었습니다. 이로 인해 성장이 저해되고 잠재력을 최대한 발휘하지 못했습니다. HTTPS 및 기타 보안 프로토콜이 등장하고 나서야 인터넷은 전자 상거래, 온라인 뱅킹 및 기타 민감한 거래를 위한 안전하고 신뢰할 수 있는 플랫폼이 되었습니다.
마찬가지로 AI 에이전트도 변혁적 잠재력을 실현하기 위해 강력한 보안 기반이 필요합니다. 이러한 기반이 없으면 새로운 형태의 사이버 범죄 및 온라인 착취의 온상이 될 위험이 있습니다. 이는 혁신을 저해하고 사용자 신뢰를 잠식하며 궁극적으로 AI 에이전트가 많은 사람들이 구상하는 유비쿼터스하고 유익한 기술이 되는 것을 방해할 수 있습니다.
보안 과제 해결
AI 에이전트가 직면한 보안 과제는 다면적이며 포괄적인 접근 방식이 필요합니다. 주요 과제 중 일부는 다음과 같습니다.
- 인증 및 권한 부여: 권한이 있는 에이전트만 민감한 데이터와 리소스에 액세스할 수 있도록 보장합니다. 이를 위해서는 강력한 인증 메커니즘과 세분화된 액세스 제어가 필요합니다.
- 데이터 개인 정보 보호: 무단 액세스, 사용 또는 공개로부터 사용자 데이터를 보호합니다. 이를 위해서는 익명화, 암호화 및 차등 개인 정보 보호와 같은 개인 정보 보호 기술을 구현해야 합니다.
- 의도 확인: 에이전트의 의도가 사용자의 목표와 일치하고 악의적인 행위자에 의해 조작되지 않았는지 확인합니다. 이를 위해서는 정교한 의도 인식 및 확인 알고리즘을 개발해야 합니다.
- 상황별 보안: 주변 환경의 취약점을 악용하는 악의적인 공격으로부터 에이전트를 보호합니다. 이를 위해서는 하드웨어에서 소프트웨어에 이르기까지 시스템의 모든 계층에서 강력한 보안 조치를 구현해야 합니다.
- 에이전트 간 보안: 에이전트가 서로 안전하게 통신하고 협업할 수 있도록 보장합니다. 이를 위해서는 안전한 통신 프로토콜과 신뢰 메커니즘을 개발해야 합니다.
IIFAA의 ASL은 올바른 방향으로 나아가는 유망한 단계입니다. MCP 및 A2A의 보안을 강화하는 소프트웨어 구현을 제공함으로써 ASL은 이러한 과제 중 일부를 해결하는 데 도움이 될 수 있습니다. 그러나 AI 에이전트를 위한 포괄적인 보안 프레임워크를 만들기 위해서는 더 많은 노력이 필요합니다.
앞으로 나아갈 길: 협업 및 표준화
안전한 AI 에이전트 개발에는 연구원, 개발자, 업계 이해 관계자 및 정책 입안자가 참여하는 공동 노력이 필요합니다. 수행해야 할 주요 단계 중 일부는 다음과 같습니다.
- 개방형 표준 개발: AI 에이전트 보안에 대한 개방형 표준을 확립하는 것은 상호 운용성을 보장하고 혁신을 촉진하는 데 중요합니다.
- 모범 사례 공유: 안전한 AI 에이전트 개발을 위한 모범 사례를 공유하면 일반적인 취약점을 방지하고 보안 문화를 조성하는 데 도움이 될 수 있습니다.
- 연구 투자: AI 에이전트 보안에 대한 연구 투자는 새로운 위협을 해결하기 위한 새로운 기술과 기술을 개발하는 데 필수적입니다.
- 교육 및 인식 증진: AI 에이전트 보안에 대한 교육 및 인식을 증진하면 보안 기준을 높이고 책임감 있는 개발을 장려하는 데 도움이 될 수 있습니다.
- 규제 프레임워크 구축: AI 에이전트 보안에 대한 규제 프레임워크를 구축하면 보안이 우선시되고 사용자가 보호되도록 하는 데 도움이 될 수 있습니다.
함께 협력함으로써 우리는 AI 에이전트가 강력하고 유익할 뿐만 아니라 안전하고 신뢰할 수 있는 미래를 만들 수 있습니다. 이를 위해서는 앞으로 해결해야 할 보안 과제를 해결하고 AI 에이전트 생태계를 위한 강력한 보안 기반을 구축하기 위한 concerted 노력이 필요합니다. 그래야만 우리는 AI 에이전트의 잠재력을 최대한 발휘하고 진정으로 변혁적인 기술을 만들 수 있습니다. IIFAA와 같은 조직의 노력은 이 이니셔티브를 주도하는 데 있어 칭찬할 만하지만, AI 에이전트의 안전하고 번영하는 발전을 위해서는 보안 표준의 광범위한 채택과 준수가 중요합니다.