オンデバイスAIにおける革命：Google DeepMind Gemma 3n
より高速、よりスマート、そしてよりプライベートな人工知能を個人のデバイス上で実現しようとする、たゆまぬ追求が、AIモデルの設計と展開方法に深い変革をもたらしています。私たちは、AIが単なるリモートサービスではなく、スマートフォン、タブレット、ノートパソコンなどのデバイスに直接組み込まれたローカライズされたインテリジェンスとなる時代に入りつつあります。このシフトは、ほぼ瞬時の応答性、大幅なメモリ需要の削減、そしてユーザープライバシーの新たな重視を約束します。モバイルハードウェアが急速に進化し続けるにつれて、日々のデジタルインタラクションを再定義できる、コンパクトで超高速なモデルの作成に焦点が当てられています。
オンデバイスマルチモーダルAIの課題
この取り組みにおける最大のハードルの1つは、リソースが限られたモバイルデバイス環境内で、高品質なマルチモーダルAIを提供することです。膨大な計算能力の恩恵を受けるクラウドベースシステムとは異なり、オンデバイスモデルは、RAMと処理能力に対する厳しい制約の下で動作する必要があります。テキスト、画像、音声、動画を解釈する能力を含むマルチモーダルAIは、通常、ほとんどのモバイルデバイスを圧倒する可能性のある大規模なモデルを必要とします。さらに、クラウドへの依存は、遅延とプライバシーに関する懸念を引き起こし、パフォーマンスを損なうことなくローカルで実行できるモデルの必要性を強調しています。
Gemma 3n：モバイルAIにおける飛躍
これらの課題に対処するために、GoogleとGoogle DeepMindは、モバイルファーストの展開向けに特別に設計された画期的なAIモデルであるGemma 3nを発表しました。Gemma 3nは、AndroidおよびChromeプラットフォーム全体でのパフォーマンス向けに最適化されており、Gemini Nanoの次期イテレーションの基盤として機能します。このイノベーションは、大幅な進歩を表しており、リアルタイムの応答時間を維持しながら、はるかに小さなメモリフットプリントを持つデバイスにマルチモーダルAI機能をもたらします。これは、この共有インフラストラクチャ上に構築された最初のオープンモデルでもあり、開発者は実験のためにすぐにアクセスできます。
層ごとの埋め込み (Per-Layer Embeddings: PLE)：重要なイノベーション
Gemma 3nの中心にあるのは、RAMの使用量を劇的に削減する手法である層ごとの埋め込み (PLE) の適用です。未加工のモデルサイズはそれぞれ50億および80億のパラメータですが、20億および40億のパラメータモデルと同等のメモリフットプリントで機能します。動的なメモリ消費量は、5Bモデルではわずか2GB、8Bバージョンでは3GBです。これは、MatFormerと呼ばれる方法を使用してトレーニングされた2Bサブモデルを含む4Bアクティブメモリフットプリントモデルであるネストされたモデル構成によって実現されます。これにより、開発者は個別のモデルをロードせずに、パフォーマンスモードを動的に切り替えることができます。KVC共有やアクティベーション量子化などのさらなる機能強化により、遅延がさらに削減され、応答速度が向上します。たとえば、モバイルでの応答時間はGemma 3 4Bと比較して1.5倍に向上しており、そのすべてが優れた出力品質を維持しながら実現されています。
パフォーマンスベンチマーク
Gemma 3nによって達成されたパフォーマンスメトリクスは、モバイルへの展開に適合していることを強調しています。自動音声認識や翻訳などのタスクに優れており、音声を翻訳されたテキストにシームレスに変換できます。WMT24++ (ChrF) などの多言語ベンチマークでは、50.1%のスコアを達成しており、日本語、ドイツ語、韓国語、スペイン語、フランス語などの言語における強さを示しています。その「mix’n’match」機能により、さまざまな品質と遅延の組み合わせに最適化されたサブモデルを作成でき、開発者はさらに優れたカスタマイズを行うことができます。
マルチモーダル機能とアプリケーション
Gemma 3nのアーキテクチャは、テキスト、音声、画像、動画などのさまざまなモダリティからのインターリーブされた入力をサポートし、より自然でコンテキストが豊富なインタラクションを可能にします。また、オフラインで動作できるため、ネットワークに接続していなくてもプライバシーと信頼性を確保できます。潜在的なユースケースは広大であり、次のものが含まれます。
- ライブの視覚的および聴覚的フィードバック： 視覚チャネルと聴覚チャネルの両方を介して、ユーザー入力に対するリアルタイムの応答を提供します。
- コンテキストを認識したコンテンツ生成： さまざまなセンサー入力によって決定される、ユーザーの現在のコンテキストに基づいて、カスタマイズされたコンテンツを作成します。
- 高度な音声ベースのアプリケーション： より洗練された音声インタラクションと制御を可能にします。
Gemma 3nの主な機能
Gemma 3nには、次の機能が含まれています。
- モバイルファースト設計： Google、DeepMind、Qualcomm、MediaTek、Samsung System LSI間のコラボレーションを通じて開発され、最適なモバイルパフォーマンスを実現します。
- メモリフットプリントの削減： 層ごとの埋め込み (PLE) を使用して、5Bおよび8Bパラメータモデルでそれぞれ2GBおよび3GBの動作フットプリントを実現します。
- 応答時間の向上： Gemma 3 4Bと比較して、モバイルでの応答時間が1.5倍高速化されます。
- 多言語の熟練度： WMT24++ (ChrF) で50.1%の多言語ベンチマークスコアを達成します。
- マルチモーダル入力： 音声、テキスト、画像、動画を受け入れて理解し、複雑なマルチモーダル処理とインターリーブされた入力を可能にします。
- 動的なサブモデル： ネストされたサブモデルとのMatFormerトレーニングとmix’n’match機能を使用して、動的なトレードオフをサポートします。
- オフライン操作： インターネット接続なしで動作し、プライバシーと信頼性を確保します。
- 簡単なアクセス： Google AI StudioおよびGoogle AI Edge経由で利用可能で、テキストおよび画像処理機能を備えています。