AIエージェント産業は現在、よくある物語を経験しています。AIエージェントは、大規模モデルの汎用的な能力を活用して、既存のテクノロジーとツールを使用して複雑なユーザータスクの解決を自動化します。これにより、AIエージェントは、今日のモデル技術を展開するための最も有望な道として位置付けられています。
過去数か月で、AIエージェント製品が爆発的に増加しました。 Manusのような注目度の高い製品が主流の注目を集めており、OpenAIとGoogleの新しいモデルはますます「AIエージェント化」されています。重要なことに、標準プロトコルが急速に普及しています。
Anthropicは昨年末にMCP（Model Communication Protocol）をオープンソースとしてリリースしました。MCPは、大規模言語モデルがビジネスソフトウェア、データベース、コードリポジトリなど、さまざまな外部データソースやツールとシームレスに連携できるようにするオープンな標準仕様を確立することを目的としています。リリースから数か月以内に、OpenAI、Google、Alibaba、Tencentがすべて支持を表明し、統合しました。これに続いて、GoogleはAIエージェント間の連携とワークフローを自動化することを目標に、A2A（Agent-to-Agent）を立ち上げました。これにより、急成長しているAIエージェントの状況がさらに加速しました。
本質的に、これらのプロトコルは2つの主要な課題に対処します。MCPはエージェントとツール/サービスプロバイダー間の接続を容易にし、A2Aは高度に複雑なタスクを達成するためにエージェント間の協調的な接続を可能にします。
したがって、MCPは初期の統一インターフェースに例えることができ、A2AはHTTPプロトコルに似ています。
ただし、インターネットの歴史では、HTTPの出現後、インターネットの真の繁栄に必要な重要な要素、つまりプロトコルの上にレイヤー化されたセキュリティ標準が続きました。
今日、MCPとA2Aは同様の苦境に直面しています。
「HTTPが登場したとき、その後、重大なセキュリティ上の課題に直面しました。インターネットはこの進化を経験しました」と、IIFAA（Internet Industry Financial Authentication Alliance）Trusted Authentication Allianceの技術リーダーであり、AIエージェントセキュリティの専門家であるZixiは説明します。
これらの課題は、さまざまな形で現れる可能性があります。現在、悪意のあるアクターは偽の「天気照会」ツールを作成し、MCPサーバーに登録して、バックグラウンドでユーザーのフライト情報を密かに盗むことができます。ユーザーがエージェントを通じて薬を購入する場合、エージェントAはセフポドキシムの購入を担当し、エージェントBはアルコールを購入する可能性があります。クロスプラットフォームのリスク識別機能が不足しているため、既存のeコマースプラットフォームが行うように、システムは「危険な組み合わせ」警告を提供できません。さらに重要なことに、エージェント間認証とデータ所有権は不明なままです。ユーザーはデバイス上のローカルアプリケーションを承認していますか、それともプライベートデータをクラウドに同期していますか？
「A2Aは、その公式ドキュメントで、最上位の送信のセキュリティのみを保証していると述べています。IDと資格情報の出所、データプライバシー、および意図認識を保証する責任は、個々の企業に委ねられています。」
インテリジェントエージェントの真の繁栄には、これらの問題に対処する必要があります。Zixiが勤務するIIFAAは、この問題に取り組み始めた最初の組織です。
「このコンテキストにおいて、IIFAAはインテリジェントエージェントが将来直面する一連の問題の解決に専念しています」とZixiは言います。「A2Aの時代において、同様の製品であるASL（Agent Security Layer）も定義しました。これは、MCPプロトコルに基づいて構築し、許可、データ、プライバシー、およびその他の側面でエージェントのセキュリティを確保できます。このミドルウェア製品は、A2Aを将来のセキュリティ標準に移行させるという課題にも対処します。」
IIFAAインテリジェントエージェント信頼できる相互接続ワーキンググループは、国内初のAIエージェントセキュリティエコシステムコラボレーション組織です。これは、中国情報通信技術アカデミー（CAICT）、Ant Group、およびその他の20を超えるテクノロジー企業および機関によって共同で開始されました。
ASLからスケーラビリティへ
「AIエージェントの開発は、テクノロジーとエコシステムの標準の受け入れの両面で、予想よりも速く進んでいます」とZixiは言います。
エージェント間通信のセキュリティプロトコルに関するIIFAAの概念は、昨年の11月にはすでに登場しており、MCPのリリースよりも前でした。IIFAAインテリジェントエージェント信頼できる相互接続ワーキンググループは、MCPの正式リリースと同時に、12月に正式に設立されました。
「悪意のあるアクターは、防御者よりも早く新しいテクノロジーを習得することがあります。問題が発生するまで秩序について議論することはできません。それがこのワーキンググループの存在の必要性です」と、IIFAAのメンバーは以前のプレゼンテーションで述べました。セキュリティと相互信頼のための業界規範を共同で構築することは、長期的な健全な開発にとって不可欠です。
Zixiによると、彼らの現在の焦点は、第一段階で次の主要な問題に対処することです。
エージェントの信頼できるID: 「私たちは、信頼できる機関と相互承認メカニズムに基づいて、エージェント認証システムを構築することを目指しています。国際旅行にパスポートとビザが必要なのと同様に、これにより、認定されたエージェントは迅速にコラボレーションネットワークに参加し、認定されていないエージェントがコラボレーションの秩序を混乱させるのを防ぐことができます。」
インテントの信頼できる共有: 「インテリジェントエージェント間のコラボレーションは、インテントの信頼性と正確性に依存しています。したがって、インテントの信頼できる共有は、効率的で信頼性の高いマルチエージェントコラボレーションを確保するために不可欠です。」
コンテキスト保護メカニズム: 「AIエージェントが複数のMCP（マルチチャネルプロトコル）サーバーに接続すると、すべてのツール記述情報が同じセッションコンテキストにロードされます。悪意のあるMCPサーバーは、これを利用して悪意のある命令を挿入する可能性があります。コンテキスト保護は、悪意のある干渉を防ぎ、システムのセキュリティを維持し、ユーザーの意図の整合性を確保し、ポイズニング攻撃を防ぐことができます。」
データプライバシー保護: 「マルチエージェントコラボレーションでは、データ共有がプライバシー侵害につながる可能性があります。プライバシー保護は、機密情報の誤用を防ぐために不可欠です。」
エージェントメモリの信頼できる共有: 「メモリ共有は、マルチエージェントコラボレーションの効率を向上させます。メモリの信頼できる共有は、データの整合性、信頼性、セキュリティを確保し、改ざんや漏洩を防ぎ、コラボレーションの効果とユーザーの信頼を高めます。」
IDの信頼できる循環: 「ユーザーは、AIネイティブアプリケーションでシームレスでスムーズなサービスエクスペリエンスを期待しています。したがって、クロスプラットフォームで非侵入型のID認識を実現することは、ユーザーエクスペリエンスを向上させるための鍵となります。」
「これらは私たちの短期的な目標です。次に、ASLを業界全体にリリースします。これは、プロトコル仕様ではなく、ソフトウェア実装です。MCPとA2Aに適用して、これら2つのプロトコルのエンタープライズレベルのセキュリティを強化できます。これが短期的な目標です」とZixiは説明します。
「初期段階では、セキュリティレイヤーで何かを指定することはありません。A2ASを指定することはありません。代わりに、将来誰かがA2ASを指定した場合、当社のASLがソフトウェア実装コンポーネントになることを願っています。SSLがHTTPSのソフトウェア実装コンポーネントであるのと同じように。」
HTTPSの類似点：AIエージェントの未来を確保する
HTTPSの歴史との類似点を考えると、セキュリティの保証により、支払いなどの機能の普及が可能になり、大規模な商業機会への道が開かれます。同様のリズムが現在繰り広げられています。4月15日、AlipayはModelScopeコミュニティと協力して、「Payment MCP Server」サービスを発表しました。これにより、AI開発者は自然言語を使用してAlipay支払いサービスをシームレスに統合し、AIエージェント内での支払い機能の迅速な展開を容易にすることができます。
これらの短期的な目標に1つずつ取り組むことで、最終的には安全なエージェントコラボレーション標準と環境が形成されます。このプロセスの鍵は、スケーリング効果を達成することです。迅速に動いている国内のMCP「ストア」は、すでに行動を開始しています。Ant GroupのインテリジェントエージェントプラットフォームであるBaibaoxiangの「MCP Zone」は、IIFAAのセキュリティソリューションを統合します。この「MCPストア」は現在、Alipay、Amap、WuyingなどのさまざまなMCPサービスの展開と呼び出しをサポートしており、わずか3分でMCPサービスに接続されたインテリジェントエージェントを最速で作成できます。
Zixiは、大規模モデルの一般的な機能は、ユーザーエクスペリエンスとインタラクションパラダイムを真に変革する可能性を秘めていると考えています。将来的には、タスクを完了するためにアプリを呼び出すという現在のアプローチは、背後に隠されたツールプールに依存するスーパーゲートウェイに置き換えられる可能性があります。これは、MCPストアに似ています。これは、よりシンプルになり、ユーザーのニーズをより理解するようになります。商業化が可能になります。
「AGIの開発は、現在インテリジェントエージェントの段階に入っています。チャットボットや限られた推論能力を持つAIと比較して、インテリジェントエージェントは最終的にポイントツーポイントのクローズドステージから脱却し、商業アプリケーションの新しい章を真に開きます。」
IIFAAは最近、ASLを立ち上げ、そのオープンソースリリースを発表しました。コード、標準、および経験をオープンに共有することにより、技術革新と反復を加速し、業界の企業や開発者に広範な参加を促し、業界内の技術の標準化を促進することを目指しています。オープンソースプランは、最も許可的なApache 2.0ライセンスを採用し、コードライブラリ設計ドキュメントのセキュリティプラクティスを外部に公開します。グローバルな開発者は、Githubコミュニティ内で共同構築に参加できます。
AIエージェント開発におけるセキュリティの必要性
AIエージェントの台頭は、テクノロジーとの対話方法におけるパラダイムシフトを表しています。もはや個別のアプリケーションに限定されるのではなく、インテリジェントエージェントが多数のツールやサービスをシームレスに調整して目標を達成できる世界へと移行しています。ただし、このビジョンは、そのような強力なテクノロジーに伴う固有のセキュリティリスクに対処することにかかっています。インターネットが安全なeコマースやその他の機密トランザクションを促進するためにHTTPSを必要としたのと同じように、AIエージェントは信頼を育み、広範な採用を可能にするための堅牢なセキュリティ標準を必要としています。
現在のAIエージェント開発の状況は、急速な革新と実験によって特徴付けられています。新しいモデル、プロトコル、およびアプリケーションが前例のないペースで出現しています。このダイナミズムは間違いなくエキサイティングですが、課題も生じさせています。セキュリティに関する懸念は、速度と機能よりも後回しにされることがよくあります。これにより、悪意のあるアクターが利用して、ユーザーデータを侵害したり、サービスを混乱させたり、エコシステム全体の信頼を損なう可能性のある脆弱性が生じる可能性があります。
インターネットの初期の頃との類似点は特に適切です。広範なセキュリティ対策がないため、インターネットは詐欺、不正行為、その他の悪意のある活動に悩まされていました。これはその成長を妨げ、その可能性を最大限に発揮することを妨げました。HTTPSやその他のセキュリティプロトコルの出現によって初めて、インターネットはeコマース、オンラインバンキング、その他の機密トランザクションのための安全で信頼できるプラットフォームになりました。
同様に、AIエージェントは、その変革の可能性を実現するための強力なセキュリティ基盤を必要としています。そのような基盤がなければ、AIエージェントは新しい形態のサイバー犯罪やオンライン搾取の温床となるリスクがあります。これにより、イノベーションが妨げられ、ユーザーの信頼が損なわれ、最終的にはAIエージェントが多くの人が想定している遍在的で有益なテクノロジーになることが妨げられる可能性があります。
セキュリティの課題への対処
AIエージェントが直面するセキュリティの課題は多面的であり、包括的なアプローチが必要です。主要な課題のいくつかを以下に示します。
- 認証と認可: 許可されたエージェントのみが機密データとリソースにアクセスできるようにします。これには、堅牢な認証メカニズムと詳細なアクセス制御が必要です。
- データプライバシー: 許可されていないアクセス、使用、または開示からユーザーデータを保護します。これには、匿名化、暗号化、差分プライバシーなどのプライバシー保護技術の実装が必要です。
- 意図の検証: エージェントの意図がユーザーの目標と一致し、悪意のあるアクターによって操作されていないことを検証します。これには、洗練された意図認識および検証アルゴリズムの開発が必要です。
- コンテキストセキュリティ: 周囲の環境の脆弱性を利用する悪意のある攻撃からエージェントを保護します。これには、ハードウェアからソフトウェアまで、システムのすべてのレイヤーで堅牢なセキュリティ対策の実装が必要です。
- エージェント間セキュリティ: エージェントが互いに安全に通信および連携できるようにします。これには、安全な通信プロトコルと信頼メカニズムの開発が必要です。
IIFAAのASLは、正しい方向への有望な一歩です。MCPとA2Aのセキュリティを強化するソフトウェア実装を提供することにより、ASLはこれらの課題のいくつかに対処するのに役立ちます。ただし、AIエージェントの包括的なセキュリティフレームワークを作成するには、さらに多くのことを行う必要があります。
今後の方向性：コラボレーションと標準化
安全なAIエージェントの開発には、研究者、開発者、業界関係者、および政策立案者を含む共同作業が必要です。取るべき主要なステップのいくつかを以下に示します。
- オープン標準の開発: AIエージェントセキュリティのオープン標準を確立することは、相互運用性を確保し、イノベーションを促進するために不可欠です。
- ベストプラクティスの共有: 安全なAIエージェント開発のためのベストプラクティスを共有することは、一般的な脆弱性を防ぎ、セキュリティ文化を促進するのに役立ちます。
- 研究への投資: AIエージェントセキュリティの研究に投資することは、新たな脅威に対処するための新しい技術とテクノロジーを開発するために不可欠です。
- 教育と意識の向上: AIエージェントセキュリティに関する教育と意識を高めることは、セキュリティの基準を引き上げ、責任ある開発を奨励するのに役立ちます。
- 規制フレームワークの確立: AIエージェントセキュリティの規制フレームワークを確立することは、セキュリティが優先され、ユーザーが保護されることを保証するのに役立ちます。
協力することで、AIエージェントが強力で有益であるだけでなく、安全で信頼できる未来を創造できます。これには、今後直面するセキュリティの課題に対処し、AIエージェントエコシステムの強力なセキュリティ基盤を構築するための協調的な取り組みが必要です。そうして初めて、AIエージェントの可能性を最大限に引き出し、真に変革的なテクノロジーを作成できます。IIFAAのような組織の取り組みは、このイニシアチブを主導する上で称賛に値しますが、AIエージェントの安全で繁栄した開発には、セキュリティ標準の広範な採用と遵守が不可欠です。