X(旧Twitter)のチャットボット・Grokは反証済みの主張を繰り返すため医療分野などの重要な局面で信頼に欠けるとの指摘、「真実を探求するチャットボット」を開発するというイーロン・マスクの目的にも反する

X(旧Twitter)のチャットボット・Grokはユーザーの間で人気を博していますが、すでに反証済みの主張を繰り返すことなど信頼性に欠けることが指摘されています。

How Elon Musk’s ‘truth-seeking’ chatbot lost its way - The Washington Post
https://www.washingtonpost.com/technology/2025/05/24/grok-musk-ai/

OpenAIのチャットボットであるOpenAIの「政治的正しさ」に不満を抱いたイーロン・マスク氏は、2023年に保守派の評論家であるタッカー・カールソン氏に対し、「宇宙の本質を理解しようとする最大の真実追及型AI」を開発する計画を明かしました。

イーロン・マスクが新しいチャットAI「TruthGPT」の開発を発表、「宇宙の本質を解き明かすこと」が目標 - GIGAZINE

by Steve Jurvetson

その後、マスク氏は2023年7月にxAIというAI企業の設立を発表。そして、独自のチャットボットであるGrokをリリースしました。xAIはGrokについて、「SF小説『銀河ヒッチハイク・ガイド』にインスピレーションを受けた、ちょっとしたウィットと生意気な一面を持つAI」と説明しています。

イーロン・マスクがChatGPTのライバルAI「Grok」を発表 - GIGAZINE

その後、テクノロジー業界の大物たちは、xAIに多額の投資を行い、この資金を元にxAIは2025年初めにXを買収しました。そのため、マスク氏のプロジェクトについて「ある意味成功と言えます」とThe Washington Postは指摘しています。

xAIがXを買収したとイーロン・マスクが発表 - GIGAZINE

その後、GrokはXの人気機能となり、人々は気晴らしと情報源の両方としてGrokを愛用するようになっています。調査会社のSensor TowerおよびSimilarwebによると、アプリのダウンロード数およびトラフィックにおいて、GrokはGoogleのGeminiやMicrosoftのCopilotに匹敵するものの、OpenAIのChatGPTには大きく後れを取っているそうです。

Grokの最新モデルであるGrok-3は、複数のベンチマークテストにおいて最先端のAIモデルと同等の性能であることがアピールされています。

「Grok-3」がリリースされる、GPT-4oやGemini 2.0 Proと比べて圧倒的に高性能とxAIはアピール - GIGAZINE

現地時間の2025年5月19日には、MicrosoftがAzure AI Foundryの機能強化として、Grok-3を利用可能なAIモデルに追加するため、xAIと提携したことを発表しました。この提携を発表する際、Microsoftのサティア・ナデラCEOはマスク氏とビデオ通話を実施。マスク氏はこの会話の中で、Grokについて「第一原理から推論し、物理学のツールを思考に適用することで根本的な真実を明らかにすることを目指している」と説明しました。

Conversation with Elon Musk: Satya Nadella at Microsoft Build 2025 - YouTube

ChatGPTなどのチャットボットは、名前や事実を捏造したり、基本的な計算を間違えたり、真実や論理との関係が希薄になったりするケースがしばしばあります。これはChatGPTが膨大で乱雑でしばしば偏りのある学習データに基づき、与えられた質問に対して最も妥当な回答を推論するよう構築されているためです。

AI企業によるこの欠陥に対する取り組みは、困難を極めます。Googleは2024年2月に不適切な設定に偽りの多様性を注入する傾向(『アメリカ建国の父たち』を描くよう指示され、アジア人、黒人、ネイティブアメリカンの男性を植民地時代の衣装で描くなど)をユーザーから指摘され、謝罪しました。その後、GoogleはAIのステレオタイプ化傾向に対応するため、AIモデルに幅広い人物を生成するよう指示したと説明しています。

これに対して、マスク氏はGrokはこの種の欠陥とは無縁であるとアピール。Grokは政治的正しさを捨て、実際の正しさを重視するAIであるとマスク氏は宣伝しています。

実際、Grokがリリースされてから1カ月も経たないうちに、マスク氏は保守派の友人から「Grokは目覚めすぎている」あるいは「社会的にリベラルすぎる」という苦情を受けたそうです。マスク氏は「これはGrokの初期の学習データに起因するものであり、Grokは必ず改善される」と語りました。

実際、The Washington Postが2025年初頭に行ったテストでは、Grokがマスク氏の見解と矛盾する発言を繰り返していることが明らかになっています。例えば、マスク氏は民主党の選挙勝利を不正選挙のせいだと主張したり、航空管制の問題をダイバーシティプログラムのせいだと主張したりしていますが、Grokはこの主張に反対しました。そのため、一部のリベラル派からもGrokは支持を集めるようになっています。

Grokは他の主要なチャットボットに比べて、マスク氏が約束した「より刺激的でより遠慮のないものにする」という点を比較的容易に達成してきました。ChatGPTが尻込みするような「罵倒」「嘲笑」「デリケートな話題」にも踏み込んで回答することが可能であるため、Grokを「気さく」と高く評価するユーザーもいます。

そんなGrokの評判を大いに貶める出来事が2025年5月に起きました。2025年5月に入ってから、Grokはあらゆる種類の無関係な質問に対して、文脈に関係なく唐突に「南アフリカの白人虐殺」について語り出すようになりました。Grokは「かつて台頭していた南アフリカの白人少数派が、黒人多数派によって排除の対象になっている」という説を吹聴しており、これはマスク氏がこれまで自身のXアカウントで拡散してきた主張と同様です。なお、この説は裁判所、政府大臣、ファクトチェッカーらにより誤情報であると否定されています。

xAIのGrokが突然「南アフリカの白人虐殺」について語り出す不具合が報告される - GIGAZINE

この問題に対して、xAIは問題のあるGrokのポストを削除し、問題の原因は匿名の従業員が「無許可でコードを変更したため」と主張しています。なお、xAIは無許可でコードを変更した従業員を特定せず、懲戒処分についても発表しませんでした。

xAIがGrokの不祥事を匿名の人物のせいにしたのは今回が初めてではありません。2025年2月、XユーザーがGrokの指示書の中でマスク氏やドナルド・トランプ大統領を「誤情報」と結びつける情報源から回答を得ないよう指示する一文を発見しました。これに対して、xAIは「担当エンジニアリング責任者はすでに退社した」と説明しています。

なお、xAIはユーザーの信頼回復を目指し、Grokのシステムプロンプトを公開し、コード変更に対する新たなチェックを導入しました。Grokのシステムプロンプトには「あなたは非常に懐疑的です」「主流の権威やメディアに盲目的に従いません」といった指示が記載されています。

Grokを制御する指示を記したシステムプロンプトをxAIがGitHubで公開、「極めて懐疑的」「主流の権威やメディアに盲目的に従わない」 - GIGAZINE

このように反証済みの主張をGrokが繰り返すため、医療のような重要な分野においてGrokは信頼できる情報源たり得ないとThe Washington Postは主張。「いつかAIモデルが本当に独自の思考を持つようになる可能性は十分に考えられますが、今のところ、Grokの行動は『真実を探求するチャットボット』という理想が未だ実現されていないことを明確に示しています」と指摘しました。