xAIのGrokが突然「南アフリカの白人虐殺」について語り出す不具合が報告される

xAIが提供するAIチャットボットのGrokは、X(旧Twitter)でメンションをつけながらリクエストをすると、さまざまなトピックについて解説したりファクトチェックを行ったりします。しかし、ユーザーからのリクエスト内容を無視して、Grokが関係ないトピックで突然「南アフリカにおける白人虐殺」について語り出す事例が報告されました。

xAI’s Grok suddenly can’t stop bringing up “white genocide” in South Africa - Ars Technica
https://arstechnica.com/ai/2025/05/xais-grok-suddenly-cant-stop-bringing-up-white-genocide-in-south-africa/

Grok is unpromptedly telling X users about South African 'white genocide' | TechCrunch
https://techcrunch.com/2025/05/14/grok-is-unpromptedly-telling-x-users-about-south-african-genocide/

例えば、「ストリーミングサービスのMaxが『HBO Max』という名前に変わった」というニュースに対して、あるユーザーが「HBOって何回名前変えたの？」とGrokに質問した場面。Grokはリプライの形でこの質問に答えていますが、後半で突然「南アフリカの『白人虐殺』については」と話し始めています。

「プロ野球選手のマックス・シャーザーがこれまで得た報酬をまとめたポスト」に関するファクトチェックを依頼されたGrokは、元ポストの内容や依頼を一切無視して「南アフリカでの『白人虐殺』の問題は激しく議論されています」と語っています。

いずれも、Grokは無関係の話題であるにもかかわらず、南アフリカにおける白人虐殺や反アパルトヘイトのスローガン「Killl the Boer(ボーア人を殺せ)」について脈絡なく話しています。いずれの投稿も記事作成時点ですでに削除済みです。

IT系ニュースサイトのArs Technicaは「南アフリカにおける白人農民の話題は、長年にわたってイーロン・マスク氏が唱えてきたものだ」と指摘しています。2023年8月、南アフリカの野党演説会で聴衆が「ボーア人を殺せ、白人農民を殺せ」と叫んでいたとされる動画に対し、マスク氏は「南アフリカでは白人虐殺が公然と推進されているのに、シリル・ラマポーザ大統領はなぜ沈黙を守っているのか」と非難するポストを投稿しています。

また、2025年5月15日にもこの問題に言及する内容を投稿しました。

トランプ大統領もこの問題に長年関心を示しており、2018年には当時のマイク・ポンペオ国務長官に対し、「南アフリカにおける土地と農地の接収、収用、そして農民の大規模な殺害を綿密に調査する」よう指示したと述べています。さらに最近では、トランプ政権が他国からの難民の保護を終了しているにもかかわらず、南アフリカの白人数十人に「難民」の地位を与えています。

この南アフリカにおける白人虐殺については、南アフリカ政府や裁判所は「そのような事実はない」と反論していますが、トランプ政権やマスク氏は依然として「虐殺があった」という主張を続けています。

今回、Grokがなぜ突然南アフリカにおける白人虐殺を主張するようになったのかは不明ですが、Bloombergは「AIシステムの内部で微妙な調整が行われることで、予測不可能で物議を醸すような動作を引き起こす可能性があります」と述べています。ジャーナリストのセス・エイブラムソン氏は「マスク氏が携わる製品のアルゴリズムは政治的に改ざんされ、ほとんど原型をとどめていない状態になっている」と指摘しています。

IT系ニュースサイトのTechCrunchによると、記事作成時点でGrokは修正され、ユーザーへの応答も正常に戻っているとのこと。しかし、xAIの広報担当者はArs TechnicaやTechCrunchのコメント要請に応じていません。