OpenAIを怒らせた物語：深掘り
2019年、MIT Technology Reviewのベテラン記者、カレン・ハオは、当時ほとんど知られていなかったOpenAIに関する記事を編集者に提案した。そこで明らかになったのは、OpenAIの野望が当初の目標から大きく逸脱しているという事実であり、予期せぬ展開に満ちた旅路となった。
私がOpenAIのオフィスに足を踏み入れたのは、2019年8月7日のことだった。当時CTOだったグレッグ・ブロックマンは、わずかにためらいながら微笑み、これほど広範囲なアクセスを許可するのは彼らにとって前例のないことだと認めた。
OpenAIは一般にはあまり知られていなかったかもしれないが、私は常に進化し続ける人工知能の現状を取材する記者として、その動向を綿密に監視してきた。
OpenAIの初期と変化の兆し
2019年以前、OpenAIはAI研究コミュニティにおいて、やや異質な存在と見なされていた。10年以内に汎用人工知能（AGI）を達成するという大胆な主張は、多くの人々から懐疑的に受け止められた。多額の資金を得ていたにもかかわらず、同社には明確な方向性が欠けており、そのマーケティング活動は、他の専門家から独創性に欠けると見なされる研究を過剰に宣伝していると認識されることが多かった。それでもなおOpenAIは羨望の的でもあった。非営利団体として、商業化には関心がないと宣言し、財政的なプレッシャーから解放された知的な探求のためのユニークな環境を作り出したからだ。
しかし、私が訪問するまでの6ヶ月間に、一連の急速な変化が、OpenAIの方向性に大きな変化が起きていることを示唆していた。最初の兆候は、GPT-2の性能を公表したにも関わらず、その公開を控えたという物議を醸した決定だった。次に発表されたのは、サム・アルトマンがYコンビネーター（YC）から退任し、CEOに就任するとともに、「上限付き利益」構造を創設するというものだった。こうした状況の中、OpenAIはマイクロソフトとの提携を発表し、マイクロソフトにOpenAIの技術の商業化における優先権を与え、Microsoft Azureクラウドサービスの独占的な使用を許可した。
これらの発表はそれぞれ、論争、憶測、そしてテクノロジー業界の枠を超えた関心の高まりを引き起こした。変化が次々と起こる中で、その重要性を完全に把握することは難しかった。しかし、OpenAIがAI研究、そして政策立案者がテクノロジーを理解する方法に、大きな影響を与え始めていることは明らかだった。部分的に営利企業に移行するという決定は、産業界と政府全体に広範な影響を与えることは間違いなかった。
ある晩、編集者の勧めで、私は以前話したことのあるOpenAIの政策担当ディレクター、ジャック・クラークに連絡を取った。私はOpenAIに関する記事を提案し、それが同社の歴史における極めて重要な瞬間であると感じていた。クラークは広報責任者と私を引き合わせ、幹部へのインタビューと3日間の会社への密着取材への招待を承諾してくれた。
OpenAIの内部：使命と野望
ブロックマンと私は、チーフサイエンティストのイリヤ・サツケヴァーとともに、ガラス張りの会議室に案内された。並んで座った彼らは、互いの役割を補完し合っているようだった。コーダーであり実行者であるブロックマンは、好印象を与えようと必死に見え、研究者であり哲学者であるサツケヴァーは、よりリラックスしていて、どこか超越しているようだった。
私はまず、OpenAIの使命である「有益なAGIを確保する」ことについて質問した。なぜ他の問題よりもこの問題に数十億ドルも投資するのか？
OpenAIの立場を守ることに慣れているブロックマンは、AGIは人間の能力を超える複雑な問題を解決するために不可欠だと述べた。彼は気候変動や医療を例に挙げ、AGIが大量のデータを分析し、これらの重要な分野の進歩を加速させる可能性を説明した。
彼は、友人が稀な疾患を患った経験を語り、AGIが専門家を効率的に繋げることで、診断と治療をいかに効率化できるかを強調した。
次に、AGIとAIの違いについて質問した。
かつてニッチな概念であったAGIは、主にOpenAIの影響により、支持を得るようになった。AGIとは、ほとんどの経済的に価値のあるタスクにおいて、人間の知能に匹敵するか、それを超える仮想のAIを指す。研究者たちは進歩を遂げてきた一方で、人間の意識をシミュレートできる可能性については議論が続いている。
一方、AIは現在の技術と近い将来の能力の両方を指し、気候変動の緩和や医療への応用を示している。
サツケヴァーは、AGIは、知的なコンピュータが人間よりも効率的にコミュニケーションを取り、協力して仕事ができるようにすることで、インセンティブの問題を回避し、地球規模の課題を解決できると付け加えた。
この発言から、私はAGIが人間を置き換えることを意図しているのかどうか疑問に思った。ブロックマンは、テクノロジーは人々に奉仕し、生活の質を維持しながら「経済的自由」を確保すべきだと答えた。
ブロックマンは、OpenAIの役割はAGIが構築されるかどうかを決定することではなく、AGIが作成される状況に影響を与えることだと主張した。彼は、AGIを構築し、その経済的利益を分配することで、AGIが人類全体に利益をもたらすようにすることが彼らの使命だと強調した。
私たちの会話は堂々巡りを続け、具体的な詳細を得ることはほとんどできなかった。そこで私は別のアプローチを試み、この技術の潜在的なマイナス面について質問した。
ブロックマンは、ディープフェイクを否定的な応用例として挙げた。
私はAI自体が環境に与える影響について指摘した。
サツケヴァーはこの問題を認識したが、AGIは環境コストを相殺できると主張した。彼はグリーンデータセンターの必要性を強調した。
「データセンターはエネルギー、電力の最大の消費者です」とサツケヴァーは続けた。
「世界全体で2パーセントです」と私は言った。
「ビットコインは1パーセントくらいではありませんか？」とブロックマンは言った。
サツケヴァーは後に、「地球の表面全体がデータセンターと発電所で覆われるまで、それほど長い時間はかからないだろうと思います」と語った。「コンピューティングの津波が起きるでしょう……ほとんど自然現象のように」。
私は、OpenAIが、地球温暖化を悪化させる可能性がある行為の前に、有益なAGIを達成し、地球温暖化を阻止できるというギャンブルをしているのではないかと彼らに問い詰めた。
ブロックマンは慌てて「私たちの考え方は次のとおりです。私たちはAIの進歩の坂道を上っています。これはOpenAIだけのことではありませんよね？業界全体のことです。そして、社会は実際にそれから利益を得ていると思います」と言った。
マイクロソフトの新たな10億ドルの投資に触れて「契約を発表した日、マイクロソフトの時価総額は100億ドル増加しました。人々は、短期的なテクノロジーだけでもプラスのROIがあると信じているのです」と彼は言った。
OpenAIの戦略は非常にシンプルだと彼は説明した。その進歩に遅れないようにすることだ。
その日の午後、ブロックマンは、AGIがどのようなものになるかは誰にも分からないと改めて述べ、彼らの仕事は前進し続け、段階的にテクノロジーの形を掘り起こすことだと付け加えた。
舞台裏：透明性と管理
私は当初、社員食堂で社員と昼食をとる予定だったが、オフィス外にいなければならないと言われた。ブロックマンが私の付き添いになることになった。
このパターンは、私の訪問中に繰り返された。特定のエリアへのアクセス制限、参加できない会議、そして研究者たちは広報責任者の顔色を伺い、何らかの情報公開ポリシーに違反していないか確認していた。私の訪問後、ジャック・クラークはSlackで社員に対し、許可された会話以外は私と話さないようにという厳しい警告を送った。警備員も私の写真を受け取っており、許可なく私が現れた場合に備えて見張ることができるようにした。これらの行動はOpenAIの透明性へのコミットメントとは対照的であり、何が隠されているのかという疑問を提起した。
昼食時、そしてその後数日間、私はブロックマンにOpenAIを共同設立した動機について質問した。彼は、アラン・チューリングの論文を読んだ後、人間の知能を再現するというアイデアに夢中になったと述べた。それが彼を触発したのだ。彼はチューリングテストのゲームを自作し、オンラインに公開したところ、約1,500件のアクセスがあった。それは彼を素晴らしい気分にさせた。「私はただ、それが自分が追求したい種類の事柄だと気づいたのです」と彼は言った。
彼は2015年にOpenAIの共同創設者として入社し、AGIを実現するためなら、用務員になることさえ厭わないと述べた。4年後に結婚した際、彼はOpenAIのオフィスで、研究所の六角形のロゴを模した特注のフラワーウォールを背景に、市民結婚式を挙げた。サツケヴァーが司式を務めた。
「根本的に、私は残りの人生をAGIに取り組みたいのです」とブロックマンは私に語った。
私は彼に、何が彼を動機づけているのか尋ねた。
ブロックマンは、自分の生涯で変革的なテクノロジーに取り組むことができる可能性について言及した。彼は、自分がその変革をもたらすことができるユニークな立場にいると信じていた。「私が本当に惹かれるのは、私が参加しなければ同じように進展しない問題なのです」と彼は言った。
彼はAGIを主導し、自分の業績が認められたいと思っていた。2022年、彼はOpenAIの社長に就任した。
利益、使命、そして競争
私たちの会話の中で、ブロックマンは、OpenAIの構造変化はその中核となる使命を変えるものではないと断言した。上限付き利益構造と新たな投資家は、それを強化するものだと彼は述べた。「私たちは、利益よりも使命を優先するミッションに沿った投資家を獲得することができました。それはクレイジーなことです」と彼は語った。
OpenAIは now モデルを拡大し、競争に打ち勝つためのリソースを手に入れた。それができなければ、使命が損なわれる可能性がある。この仮定が、OpenAIのすべての行動とその広範な結果を引き起こした。それは、慎重な審議の時間軸ではなく、誰よりも先にゴールラインを越えるために必要な、絶え間ないペースに基づいて、OpenAIの研究開発の進歩一つ一つにタイムリミットを課した。それは、OpenAIが途方もない量の資源を消費することを正当化した。
ブロックマンは、AGIの利益を再分配することの重要性を強調した。
私は、その利益を一般に分配することに成功したテクノロジーの歴史的な例について尋ねた。
「そうですね、インターネットを例にとってみると、実際に興味深いと思います」と彼は言った。「問題もありますよね？」と彼は注意書きとして言った。「何か超変革的なものがあるときはいつも、ポジティブな面を最大化し、ネガティブな面を最小化する方法を理解するのは簡単ではありません。
「火も良い例です」と彼は付け加えた。「火にも実際に欠点があります。ですから、制御し、共有基準を持つ方法を考えなければなりません。
「車も良い例です」と彼は続けた。「多くの人が車を持ち、多くの人が恩恵を受けています。しかし、車にも欠点があり、世界にとって必ずしも良いとは言えない外部性も存在します」と彼はためらいながら言った。
「私が思うに、私たちがAGIに望むものは、インターネットのポジティブな側面、車のポジティブな側面、火のポジティブな側面とそれほど変わらないということです。ただし、実装は非常に異なっています。なぜなら、これは非常に異なるタイプのテクノロジーだからです」
彼の目は新しいアイデアで輝いた。「公益事業を見てください。電力会社、電気会社は非常に集中化された組織であり、人々の生活を意味のある形で向上させる、低コストで高品質なものを提供しています」
ブロックマンは、OpenAIがどのようにして公益事業に生まれ変わるのか、再び不明確になったようだった。
彼は、自分が確信している唯一のことに戻った。OpenAIは、AGIの利益を再分配し、すべての人に経済的自由を与えることに尽力している。「私たちは本当にそう思っているのです」と彼は言った。
「私たちの考え方はこうです。これまでのテクノロジーは、すべての船を持ち上げるものですが、同時に、集中化効果ももたらします」と彼は言った。「AGIはもっと極端になる可能性があります。すべての価値が1か所に閉じ込められてしまったらどうなるでしょうか？それは私たちが社会として歩んでいる道です。そして、私たちはこれまでその極限を見たことがありません。私はそれが良い世界だとは思いません。私が築く手助けをしたい世界ではありません」
反響と反応
2020年2月、私は_MIT Technology Review_のために記事を発表し、OpenAIの世間的なイメージと内部の実践との間にずれがあることを明らかにした。私は、「時が経つにつれて、激しい競争と、増え続ける資金調達へのプレッシャーが、透明性、開放性、協力という創業の理想を蝕むことを許してしまった」と述べた。
イーロン・マスクは3つのツイートで反応した。
「OpenAIはもっとオープンであるべきだと思う imo」
「私はOpenAIをコントロールしておらず、ごく限られた洞察しか持っていません。ダリオの安全性に対する信頼は高くありません」と彼は研究ディレクターのダリオ・アモデイについて言及した。
「高度なAIを開発しているすべての組織は規制されるべきです。テスラを含めて」
アルトマンはOpenAIの従業員にメールを送った。
「破滅的なものではありませんでしたが、明らかに悪いものでした」と彼は_MIT Technology Review_の記事について書いた。
彼は、「正当な批判」であり、その記事はOpenAIの認識と現実との間の断絶を指摘したと書いた。彼は、アモデイとマスクが会って、マスクの批判を解決することを提案した。疑いの余地がないように、アモデイの仕事とAIの安全性はミッションにとって非常に重要だと彼は書いた。「私たちは将来のある時点で、私たちのチームを公に擁護する方法を見つけるべきだと思います（しかし、プレスは今、彼らが望む公の戦いを与えないように）」
記事の後、OpenAIは3年間私と話さなくなった。