AI搭載のヌード化アプリ「Clothoff」の知られざる詳細を内部告発者が暴露、運営は旧ソ連圏に関係している可能性

実在の人物の画像から偽のヌード画像(フェイクヌード)を作ることができるアプリ「Clothoff」は、アメリカやスペインで男子生徒らが女子生徒のヌード画像を生成し共有するという事件が発生するなど、問題を引き起こしています。そんなClothoffの運営者はAIでCEOの顔を生成するなど匿名を守っていますが、社内情報にアクセスできたという元従業員が、Clothoffの体制やプロジェクトについて内部告発しています。

Using AI to Humiliate Women: The Men Behind Deepfake Pornography - DER SPIEGEL
https://www.spiegel.de/international/zeitgeist/using-ai-to-humiliate-women-the-men-behind-deepfake-pornography-a-0de338f9-9cec-4ae8-a5ef-9a356b0a5bd4

AIを使って実在する女性の写真から衣服を剥ぎ取って裸にするAIポルノアプリであるClothoffの運営者らは、メディアの電話インタビューに答える際も声を加工していたり、CEOを名乗る人物の顔写真をAIで生成していたりと、謎に包まれています。2024年3月にThe GuardianがClothOffの関係者を特定したと報じましたが、ClothOffはこの内容を否定しています。

少女の性的被害が相次ぐ写真から衣服を剥ぎ取るAIポルノアプリ「ClothOff」の背後にいる人物とは？ - GIGAZINE

新たに、ドイツの調査報道メディアであるDer Spiegelが、内部告発者から得たという情報をもとに、Clothoffの知られざる詳細について報道しています。内部告発者は当初Clothoffのアプリ開発に携わっており、「刺激的なスタートアップの一員になった気分でした」と語っています。時間がたつにつれて社員たちは利益にばかり執着するようになり、その一端を担ってClothoffによる被害者を多く生んだことに責任を感じるようになったため、内部告発者は情報を公開することにしたとのこと。

まずClothoff運営の事業について、Der Spiegelの過去の報道では、Clothoff以外にも10前後のヌード化サービスを所有しており、いずれも月間閲覧者数は数十万から数百万に及ぶことが確認されています。内部告発者によると、Clothoff運営は「ヌード化アプリのネットワーク全体を買収」しており、事業を広げているとのこと。

Clothoff単体の年間予算は300万ユーロ(約5億円)に上り、30人以上のプロジェクトです。社内には明確な計画とタイムラインがあり、プログラマーやソーシャルメディアチームがどのステップをいつまでに完了しなければならないかが具体的に示されています。

内部告発者が情報を提供することを決めた理由のひとつである「社内の利益重視傾向」について、Der SpiegelはClothoffのマーケティングを例に挙げています。ClothoffはTelegramやReddit、4chanといったSNSや掲示板において、著名なインフルエンサーや歌手、女優などのヌード画像を用いて「脱がせたい人を選んで下さい」というキャッチフレーズを使った広告を展開しており、Clothoffが知名度を獲得して他のヌード化アプリを抑えて主導権を握ったきっかけになっています。

Der Spiegelが入手したキャンペーン資料によると、広告キャンペーンのターゲット層は「16歳から35歳までの男性」で、関心事は「ビデオゲーム」「インターネットミーム」「右翼過激思想」「女性蔑視」など。Clothoffはドイツやスペイン、フランス、イギリスの市場でキャンペーンを展開しており、マーケティング予算として各国につき15万ユーロ(約2500万円)が割り当てられています。

Der Spiegelが過去の調査で所持しているClothoff運営の社内文書はすべてロシア語で書かれており、同社のメールサービスもロシアに拠点を置いています。内部告発者は、Clothoffの従業員全員が「旧ソ連圏に属していた国」で働いていることを明かしており、Der Spiegelのこれまでの調査結果と一致することが判明しました。