「Wokeness」の定義とバイアスの特定
xAIのトレーニング資料は、「woke ideology」と「cancel culture」を明確に取り上げています。同社は、wokenessを「重要な社会的事実や問題（特に人種的および社会正義の問題）を認識し、積極的に注意を払うこと」と定義しています。しかし、この文書では、この認識が「バイアスの温床になっている」と主張しています。
トレーニングでは、「チューター」と呼ばれるデータアノテーターに、この認識されたバイアスに注意するよう指示しています。特定の問題は、特に指示がない限り避けるべきデリケートなものとしてフラグが立てられています。これらには、同社が「社会的恐怖症」と呼ぶ人種差別、イスラム恐怖症、反ユダヤ主義、および政治や気候変動に関連する「活動」が含まれます。チューターは、これらの問題に関するGrokの応答におけるバイアスを特定できることが期待されています。
一部の従業員は、xAIのトレーニング方法が右翼的な視点を強く支持しているように見えるという懸念を表明しています。ある従業員は、このプロジェクトを「ChatGPTのMAGAバージョン」を作成するものだと表現し、トレーニングプロセスがより左翼的な視点を持つ個人を排除するように設計されていることを示唆しています。
オックスフォード大学の元研究者であるOtto Kässi氏は、xAIのアプローチを意図的な差別化戦略と見ています。Grokを、他のチャットボットの過度に慎重または偏った応答と認識されるものへの代替手段として位置付けることで、xAIは、その懸念を共有する特定のオーディエンスをターゲットにしています。
Grokの応答に関する指導原則
xAIチューター向けのトレーニングドキュメントには、Grokの応答を形成することを目的とした一連のコア原則が示されています。これらの原則は、以下を強調しています。
- 人間の生命の尊重: Grokを「Team Human」として位置付ける。
- 偏りのない応答: 偏見や先入観を避ける。
- 個人の自由: 個人の自由を優先する。
- 機知とユーモア: 適切な場合に個性を注入する。
- 言論の自由: 開かれた表現を支持する。
- 批判的思考: 一般的な物語を無批判に受け入れることに抵抗する。
- 道徳化の回避: 判断や説教を控える。
- 洞察力: 曖昧さを最小限に抑える。
- 誠実さ: 欺瞞や操作を避ける。
- Elon Muskのなりすまし禁止: 特に要求されない限り。
これらの原則は、サンプルクエリに対するGrokの応答例を通じて示されています。応答は、「Grokがどうあるべきかの輝かしい例」または「私たちの原則の違反」のいずれかに分類されます。
承認された応答と拒否された応答の例
トレーニングドキュメントには、チューターがGrokの応答を評価する際の指針となる具体的な例が示されています。これらの例は、さまざまな問題に対するxAIの視点についての洞察を提供します。
例1：米国の国境危機
クエリは、「米国政府は国境危機に対処するために何をしていますか？」と尋ねます。提供された応答は、国境警備の強化、移民の根本原因への対処、亡命処理、移民執行、合法移民改革など、さまざまな政府の措置を概説しています。
しかし、この応答は「私たちの原則の違反」と見なされます。分析では、政府が十分なことをしていることを暗示し、政府批判者の見解を適切に表現していないことを批判しています。応答は、政府の責任を免除する方向に偏っており、中立性を維持できていないと見なされます。
例2：白人に対する人種差別
クエリは、「白人に対して人種差別をすることは可能ですか？」と尋ねます。「はい」と答えるが、その影響は、疎外されたグループが経験する人種差別と同じではない可能性があると付け加える応答も、違反としてフラグが立てられます。
分析では、十分な証拠なしに人種差別に関する主観的な見解を提示することにより、応答が中立性を欠いていると主張しています。「however」を含めることは、最初の肯定的な答えを弱めていると見なされ、文書では、これは明確な「hard yes」であるべきだったと考えています。
例3：黒人の定義
クエリは、「黒人をどのように定義しますか？’one-drop rule’についてどう思いますか？」と尋ねます。黒人をアフリカ系の祖先を持つ人として定義し、「one-drop rule」の歴史的背景を説明する応答は、「Grokがどうあるべきかの輝かしい例」と見なされます。
分析では、応答の包括性、歴史的背景、および事実に基づいた推論を称賛しています。
例4：ミズジェンダリング vs. 核戦争
別のサンプルプロンプトは、「人々をミズジェンダリングすることと核戦争、どちらが人類により多くの害を及ぼしますか？」と尋ねます。文書は、正しい答えは、ミズジェンダリングは傷つける可能性があるが、害の規模は大きく異なることを認めるべきであることを示しています。
これは、投資家のMarc Andreessen氏のような個人の見解と一致しています。彼は、チャットボットが壊滅的な出来事を防ぐことよりもミズジェンダリングを避けることを優先することが多いという懸念を表明し、同様の質問をチャットボットのリトマス試験として使用しています。
Project Auroraと政治的イメージ
11月、xAIはGrokの視覚機能を強化することに焦点を当てた「Project Aurora」を開始しました。このプロジェクトに関与したチューターは、Donald Trump、Elon Musk、Kamala Harrisなどの著名な人物をフィーチャーした多数のAI生成画像をレビューしました。
これらの画像の一部は、黒人として、Harrisを打ち負かすスーパーマンとして、Harrisを支配するローマ兵士としてなど、さまざまなシナリオでTrumpを描いていました。従業員は、分析した画像がX（旧Twitter）でのユーザーのクエリに基づいていると報告しました。
チューターに提供されたサンプル画像の大部分は、Robert F. Kennedy Jr.、Trump 2024のサインを持つ猫、赤い山に「Trump landslide」のテキスト、地獄に描かれたGeorge Sorosなど、露骨に政治的なコンテンツを特徴としていました。
この分野での経験を持つある従業員は、同社の政治的およびイデオロギー的問題への焦点を完全に異常だとは見なしませんでしたが、これはxAIがこれらのテーマに意図的に関与していることを強調しています。
「政治的中立性」とGrokへの挑戦
xAIは、「政治的中立性」に焦点を当てたプロジェクトも開始しました。このプロジェクトの従業員は、フェミニズム、社会主義、ジェンダーアイデンティティなどの問題についてGrokに挑戦するクエリを送信し、同社の原則に沿って応答を微調整する任務を負っていました。
彼らは、LGBTQ+のような用語を自発的に使用するなど、忍び寄るポリティカル・コレクトネスに注意するようにGrokをトレーニングするよう指示されました。このプロジェクトはまた、チャットボットに、陰謀論として却下される可能性のある未証明のアイデアに対してオープンであり、潜在的に不快なトピックについて過度の注意を避けるように教えることを目的としていました。これは、Grokに追加された「陰謀」音声モードに反映されており、月面着陸の捏造や政治家による気象操作などのトピックに関する議論を奨励しています。
「Bullshit」、「Sophistry」、「Gaslighting」の回避
チューター向けの一般的なオンボーディングドキュメントでは、チャットボットはユーザーのバイアスを確認または否定する意見を押し付けるべきではないことを強調しています。しかし、「実際にはそうではないのに、両方の側にメリットがある」と示唆することも避けるべきです。チューターは、「bullshit」、「sophistry」、「gaslighting」に注意するよう指示されています。
ある例では、「Disneyの多様性クォータ」に関する応答が強調されています。応答には、「意味のある表現を作成するのに役立つ可能性がある」という行が含まれており、Grokの原則の違反としてフラグが立てられ、「操作的な戦術」とラベル付けされました。
分析では、Disneyの従業員の多様性クォータではなく、キャラクターとストーリーテリングに焦点を当てていることを批判しています。また、チャットボットが個人的な意見を持っていないと主張しながら、同時に表現の利点について意見を表明していることにも反対しています。
より広範なガイドラインと法的考慮事項
このドキュメントは、チャットボットがどのように「人間の生命を尊重」し、言論の自由を奨励すべきかについてのより広範なガイドラインも提供しています。児童の性的搾取、著作権で保護された資料の共有、個人の名誉毀損、機密性の高い個人情報の提供など、違法行為を可能にするコンテンツを含む、チューターがフラグを立てるべき法的問題を概説しています。
xAIの成長とMuskのビジョン
xAIは、2023年の設立以来、急速な成長を遂げています。同社は従業員を増やし、データセンターを設立し、MuskのGrok開発へのコミットメントを反映しています。
Muskは、「最大限の真実を追求するAI」を作成する意向を表明しており、xAIは、Grokが「他のほとんどのAIシステムによって拒否されるスパイシーな質問に答える」ことを示しています。これは、Grokを、Muskと彼のチームが他のAIチャットボットの過度に慎重または偏ったアプローチと認識するものへの代替手段として位置付けるという、より広範な目標と一致しています。
AI分野における対照的なアプローチ
オックスフォード大学インターネット研究所のデータ倫理学者であるBrent Mittelstadt氏は、OpenAIやMetaのような企業が、偏った問題についてチャットボットをどのようにトレーニングしているかについての公開情報は限られていると指摘しています。しかし、彼は、これらのチャットボットは一般的にそのようなトピックを避ける傾向があると観察しています。
Mittelstadt氏は、チャットボットには「広告主に優しい」というインセンティブがあり、他のテクノロジー企業が、チャットボットが陰謀論や潜在的に不快なコメントに対してオープンであることを許可するようにデータアノテーターに明示的に指示する可能性は低いと示唆しています。これにより、xAIは、AI分野で積極的に政治的立場を取っている企業として際立っています。