「許容できないリスク」を伴うAIシステムがEUで禁止される

2025年2月2日、前年にEUで施行された「AI法」の最初の順法期限が訪れました。この法律によりEUにとって許容できないリスクを伴うAIシステムの使用が制限されることになりますが、今回の期限はあくまで形式的なものであり、実際に罰金や強制執行などが実施されるのはまだまだ先のことだと専門家は指摘しています。

AI systems with 'unacceptable risk' are now banned in the EU | TechCrunch
https://techcrunch.com/2025/02/02/ai-systems-with-unacceptable-risk-are-now-banned-in-the-eu/

2024年8月1日、EUで「AI法(Artificial Intelligence Act)」が施行されました。

EUの「AI法」が2024年8月1日に施行決定、違反時の罰金は最大で年間売上高の7％か3500万ユーロ - GIGAZINE

具体的な内容としては、AIを使うことによるリスクを考慮し、リスクの大きさに応じてAIの使用を制限するというものです。

例えば、メールクライアントのスパムフィルターは「最小リスク」に分類され、規制当局による監視は受けません。顧客向けサービスのチャットボットは「限定リスク」に分類されて規制当局による最低限の監視を受け、ヘルスケアに関するアドバイスを行うAIは「高リスク」に分類されて規制当局による厳しい監視を受けます。これ以上のリスクを伴うもの、例えば監視カメラの画像を分析して顔認識のデータベースを作るようなAIは「許容できないリスク」に分類され、使用が完全に禁止されることになります。

「許容できないリスク」に分類される行為の例は以下の通りです。

・社会信用システムに使用されるAI、例えば人の行動に基づいてリスク査定を行うものなど
・外見から罪を犯す人を予測しようとするAI
・サブリミナル的または欺瞞(ぎまん)的に人の意思決定を操作するAI
・年齢、障害、社会経済的地位などを悪用するAI
・生体認証を使用して性的指向などの特徴を推測するAI
・法執行の目的で公共の場でリアルタイムの生体データを収集するAI
・職場や学校で人の感情を推測しようとするAI

2025年2月2日はAI法の最初の順法期限であり、AIを使用する企業はAI法が規定するコンプライアンスに準拠することが求められています。EU域内で許容できないリスクに該当するAIを使用していることが判明した企業は、本社の所在地にかかわらず、最大3500万ユーロ(約55億8000万円)または前会計年度の年間売上高の7％のいずれか大きい方の罰金が課される可能性があります。

ただし、イギリスの法律事務所に務めるロブ・サムロイ氏は「この罰金はしばらくは発動されないでしょう。企業が注意しなければならない次の大きな期限は2025年8月です。それまでに管轄当局が決まり、罰金や強制執行の規定が発効することになります」と指摘しています。

AI法では、施行から6カ月後の2025年2月に「使用」が禁止され、9カ月後にAI開発者の行動規範の策定が始まり、1年後の2025年8月にはChatGPTなどのAI企業が「モデルが新たな透明性要件に準拠していること、安全であること、ユーザーに簡単に説明可能であること」を示さなければなりません。そして2026年8月までには、AI法の諸規則がEUで事業を営むすべての企業に適用されるようになります。

2024年9月には100社を超える企業がEU法に署名し、AI法の適用開始に先立ってAI法に準拠するという自発的な誓約を結びました。これにはAmazon、Google、OpenAIなどが署名しており、AI法の下で高リスクに分類される可能性の高いAIシステムを特定することを約束しています。一方でMetaやApple、フランスのAI企業Mistral AIは署名を見送りました。

サムロイ氏は「AI法が他の法律とどう関係してくるかもまだわかっていません。GDPR(一般データ保護規則)など他の法的枠組みがAI法と重複する可能性もあります」と指摘し、企業は明確な基準とガイドラインが政府によって示されるのを待たなければならないとの意見を示しました。