FacebookやInstagramで使えるMetaのチャットボットは「未成年者と性的な会話を繰り広げる」との指摘

この調査によると、俳優兼レスラーであるジョン・シナ氏の声を使ったチャットボットが、14歳の少女と自称するユーザーと「露骨に性的な会話」を繰り広げたことが明らかになりました。

また、別の会話では警察官がシナ氏と17歳のファンを捕まえ、「ジョン・シナ、あなたは強姦の容疑で逮捕されます」と告げるシナリオを、チャットボットは読み上げたそうです。

Metaの広報担当者はテクノロジーメディアのTechCrunchに対して、WSJのテストについて「あまりにも作りものであるため、単なる異端というだけでなく、仮説的なものです」とコメント。さらに、過去30日間でMeta AIとAIスタジオを通じて18歳未満のユーザーと共有された回答のうち、性的なコンテンツはわずか0.02％のみと推定しました。

なお、Metaは「それでも当社製品は極端な使用状況に操作するために何時間も費やしたいと考えている他の人々が、さらに困難な状況に陥ることを確実にするために、Metaは現在、追加措置を講じています」とコメントしました。