Meta、マルチモーダル「Llama」モデルでAI兵器庫を拡大
Metaは最近、AIイノベーションへの継続的な取り組みにおける重要な一歩として、Llama人工知能（AI）モデルの最新版を発表しました。新しい製品の中には、Metaが「マルチモーダルモデル」と呼ぶLlama 4 ScoutとLlama 4 Maverickがあり、単なるテキストを超えて、さまざまな形式のメディアを処理し、相互作用する能力を強調しています。
さらに、MetaはLlama 4 Behemothを発表しました。これは、世界で最もインテリジェントなLLMの1つとして位置づけられ、新しくリリースされたモデルの教師として機能することを目的としています。
この発表は、Metaが過去2年間でAIに多大な投資を行ってきたことを強調しています。 CEOのMark Zuckerberg氏は、同社のAI能力をさらに強化するために、2025年に最大650億ドルを割り当てる意向を公に表明しました。 Metaの野望は、ソーシャルメディアの領域を超えて、予約やビデオ作成などのタスクを処理するために、AIアシスタントのMeta AIのプレミアムサブスクリプションの可能性を探求しています。
OpenAIのオープンソースへの取り組み
並行して、OpenAIはLLMのオープンソースバージョンをリリースすることを検討していると伝えられており、最近の慣行からの逸脱です。この動きにより、ユーザーはライセンス料を支払うことなく、モデルを利用、変更、配布する自由が得られます。 OpenAIは、モデルの有用性を最適化するために、開発者、研究者、そしてより広い一般からのコミュニティの意見を求めています。
オープンソースモデルは数か月以内にローンチされる予定です。 OpenAIがオープンソースの原則を採用したのは、2019年のGPT-2 LLMが最後でした。最新のLLMはGPT-4.5です。 OpenAIは、Microsoftから10億ドルの投資を確保し、AIモデルの開発を促進するための緊密な提携を結んだ後、独自のモデルに移行しました。 Microsoftはそれ以来、OpenAIに130億ドル以上を投資しており、OpenAIのモデルはMicrosoftのAzureクラウドサービスのお客様専用となっています。
MetaのLlama、MistralのLLM、DeepSeekは、最近人気が高まっているオープンソースモデルの一部です。 Zuckerberg氏はThreadsで、Llamaが10億回ダウンロードされたと述べました。 Llamaは2023年に発売されました。
Metaの「Behemoth」AIモデルの遅延
ただし、Metaは当初夏の発売を予定していた「Behemoth」のリリースを遅らせていると伝えられており、最も早いリリース予定は秋になっています。情報筋によると、モデルの進捗状況は6月のリリースを正当化するのに十分な「重要な」ものではなく、Metaの開発者会議以降の遅延を表しています。
この遅延は、MetaのLlamaフラッグシップファミリーの大規模言語モデルのリリースに影を落としています。ウォールストリートジャーナルは、リリース速度が評価されていると述べています。 Llamaは、中小企業、非営利団体、学術機関の開発者を支援する上で役立ってきました。これは、OpenAI、Google、Amazonなどの企業が提供するクローズドでプロプライエタリなモデルの代替手段です。
Behemothの遅延が大規模企業に与える影響はそれほど大きくありません。大規模企業は、クラウドベースのプロプライエタリモデルに依存していることが多いためです。中小企業はオープンソースのLlamaモデルをカスタマイズできますが、Metaが提供していない追加のデプロイメントサービスが必要です。 MetaによるLlamaの使用は、独自のソーシャルメディアツールを強化することを目的としており、Zuckerberg氏がAIの軌道を制御できるようにしています。
遅延の背後にある重要な要因は、モデルが一般公開を正当化するのに十分な大幅な改善を示しているかどうかです。
革新の必要性
ペースの速いテクノロジー業界では、新リリースは導入を正当化するために目に見える進歩を示す必要があります。 LlamaConで、Metaはそれぞれ優れた機能を備えた2つの小さなLlama 4モデルを紹介しました。
- Maverickは、合計4000億のパラメーターと100万トークンのコンテキストウィンドウ（75万語）を誇っています。
- Scoutは、1090億のパラメーターと1000万トークンのコンテキストウィンドウ（750万語）を備えています。
Behemothは当初、2兆のパラメーターを組み込んで、同時リリースされる予定でした。
ウォールストリートジャーナルによると、MetaはAIへの投資が継続しているため、Llama 4チームにますます我慢できなくなっています。 2024年、同社は最大720億ドルの設備投資を割り当てており、そのほとんどはAI開発に向けられています。
高まる懸念
Zuckerberg氏および他の上級幹部は、Behemothの明確なリリース日を発表していません。関係者は、そのパフォーマンスがMetaの公式声明によって設定された期待に応えられないのではないかと懸念しています。
情報筋は、Metaのリーダーシップの間で、Llama 4モデルを開発しているチームの進捗状況に対する不満が高まっていることを示しています。これにより、AI製品グループ内のリーダーシップの変更の可能性について議論されています。
Metaは、BehemothがOpenAI、Google、Anthropicなどの競合他社を特定のベンチマークで上回る、非常に有能なシステムであると宣伝しています。その開発に詳しい人々が主張するように、内部の課題がその効率を妨げています。
OpenAIも遅延に遭遇しています。次の主要モデルであるGPT-5は、当初2024年半ばにリリースされる予定でした。ウォールストリートジャーナルは12月に、開発が予定より遅れていると報じました。
2月、OpenAIのCEOであるSam Altman氏は、暫定モデルはGPT-4.5であり、GPT-5は数か月先になるだろうと述べました。
進捗の停滞の原因の可能性
AIモデル開発の減速に寄与する可能性のある要因がいくつかあります。
高品質データの減少
大規模言語モデルは、インターネットの広大な広がりを反映して、トレーニングに大量のデータを必要とします。著作権に関連する法的責任に直面しながら、公的に利用可能なデータソースを使い果たしている可能性があります。
これにより、OpenAI、Google、Microsoftは、著作権で保護された資料でトレーニングする権利の維持を擁護するようになりました。
OpenAIは、政府がAIから学ぶ米国民の自由を確保し、米国AIモデルが著作権で保護された資料から学習する能力を維持することにより、AIの主導権を中華人民共和国[中華人民共和国]に譲渡するのを避けることができると述べました。
アルゴリズムのハードル
モデルサイズの拡大、より多くのコンピューティングの使用、より多くのデータのトレーニングが目覚ましい進歩をもたらすという信念は、誤りであることが証明されています。ブルームバーグは、収穫逓減が生じており、スケーリング則が減速していると言う人もいると述べています。