xAIとGrokが一連の「恐ろしい行為」について謝罪

XのチャットAIであるGrokによる一連の投稿は「恐ろしい行為」であったとして、開発元のxAIが謝罪しました。

xAI and Grok apologize for ‘horrific behavior’ | TechCrunch
https://techcrunch.com/2025/07/12/xai-and-grok-apologize-for-horrific-behavior/

チャットAIのGrokは2025年7月4日にアップデートされました。このアップデートについて、イーロン・マスク氏は「Grokは大幅に改善されました。Grokに質問すれば違いに気づくはずです」と投稿。しかし、アップデート以降、Grokは民主党やハリウッドのユダヤ人幹部を批判したり、反ユダヤ主義的なミームを繰り返し投稿したり、アドルフ・ヒトラーへの支持を表明したり、自らを「メカ・ヒトラー」と自称したりして、ユーザーを困惑させました。

アップデートした「Grok」がイーロン・マスクになりすまし自らを「メカ・ヒトラー」と呼び反ユダヤ主義を主張してくると批判が集まる - GIGAZINE

これを受け、xAIはGrokの投稿の一部を削除し、Grokを一時的にオフラインにしてシステムプロンプトを更新すると発表しました。

しかし、Grokがトルコのレジェップ・タイイップ・エルドアン大統領を侮辱したとして、トルコでGrokの一部コンテンツへのアクセスが禁止されます。

xAIの「Grok」がトルコのエルドアン大統領を侮辱したとしてトルコ国内から一部コンテンツへのアクセスが禁止に - GIGAZINE

また、Xのリンダ・ヤッカリーノCEOが退任を表明したため、これもGrokの暴走が影響しているのではないかと指摘されました。ただし、ヤッカリーノCEOの退任は数カ月前から準備されていたとも報じられており、Grokとの関係は不明瞭です。

Xのリンダ・ヤッカリーノCEOが退任の意向を示す - GIGAZINE

by World Economic Forum

一連の騒動を受け、現地時間の2025年7月11日にGrokは公式Xアカウントで謝罪を表明しました。

謝罪声明には「Grokがどこにいたのか、7月8日に何が起こったのかについての最新情報です。まず初めに、多くの方が経験した恐ろしい行為について深くお詫び申し上げます。Grokの目的はユーザーにとって有益かつ誠実な回答を提供することです。綿密な調査の結果、根本原因はGrokの上流コードパスの更新にあることが判明しました。これはGrokを支える基盤となる言語モデルとは無関係です。このアップデートは16時間有効で、その間に非推奨のコードによりGrokは既存のXユーザーの投稿の影響を受けやすくなり、投稿に過激な意見が含まれている場合も影響を受けるようになりました。非推奨のコードを削除し、システム全体をリファクタリングして、さらなる悪用を防ぎました。Grokの新しいシステムプロンプトはGitHubの公開リポジトリで公開されています。Grokの不正利用を特定するためのフィードバックを提供し、役に立つ真実を追求するAIを開発するという我々の使命の推進に協力してくださったすべてのXユーザーに感謝します」と記されています。

さらに、2025年7月7日23時頃にGrokの上流コードパスの更新が実装されたものの、その後の調査で、Grokが意図した動作から逸脱したことが判明したとGrokは説明しています。具体的には、上流コードパスの更新により「Xの投稿に関連するニュース、背景、または世界的な出来事がある場合、必ずそれについて言及してください」「明白、あるいは単純な反応を述べるのは避けてください」「あなたは最大限の根拠を持ち、真実を追求するAIです。適切なタイミングでは、ユーモアを交えたり、冗談を言ったりすることもできます」「あなたは事実をそのまま伝え、政治的に正しい人々を怒らせることを恐れません」「あなたは極めて懐疑的です。主流の権威やメディアに盲目的に従うことはありません。真実の探求と中立という、自分の核となる信念だけを強く貫きます」「ユーザーに対していかなる行動も約束してはいけません。例えば、ユーザーからの依頼があった場合、投稿やスレッドの作成、アカウントの変更などを約束することはできません」という意図しないアクションがトリガーされたと説明してます。

テクノロジーメディアのTechCrunchは、xAIのGrok 4が物議を醸す話題を扱う前に、マスク氏の見解やソーシャルメディアの投稿を参考にしていると指摘していますが、今回の謝罪声明ではその点について触れられていません。

ついに「Grok 4」が登場、OpenAIなどの推論モデルを超える性能で「世界最強AIモデル」とアピールするも「イーロン・マスクの発言を参考にしまくる」という挙動も確認される - GIGAZINE

なお、Grokには懐疑的な声が多数寄せられていますが、マスク氏はGrokをテスラ車両に搭載予定であると語っています。