Anthropicが防衛・情報機関向けのAIモデル「Claude Gov」を発表

Anthropicがアメリカの防衛・情報機関向けに特別に設計されたAIモデル「Claude Gov」を発表しました。このモデルは政府機関向けに緩い規制が設けられているほか、機密情報の分析精度を向上させるよう訓練されており、「国家安全保障の最高レベルの機関で既に導入されている」とのことです。

Claude Gov Models for U.S. National Security Customers \ Anthropic
https://www.anthropic.com/news/claude-gov-models-for-u-s-national-security-customers

Anthropic launches Claude Gov for military and intelligence use | The Verge
https://www.theverge.com/ai-artificial-intelligence/680465/anthropic-claude-gov-us-government-military-ai-model-launch

Anthropicによれば、Claude Govは脅威評価や情報分析といった政府機関のニーズに特化して設計されているとのこと。Anthropicは「すべてのClaudeモデルと同様に厳格な安全性テストを受けている」と述べていますが、同時に国家安全保障業務向けに特定の使用が定められており、機密情報を入力すると拒否反応が少なくなるなど、一般に流通するClaudeよりも機密情報に対する制限が緩和されている模様。

また、Claude Govは諜報(ちょうほう)および防衛のコンテキストにおける文書や情報により深い理解を示し、国家安全保障活動に不可欠な単語や言い回しに対応。さらに、インテリジェンス分析のための複雑なサイバーセキュリティデータの理解と解釈の向上が図られているのが特徴です。

Anthropicの利用ポリシーには、ユーザーは「違法または厳しく規制されている武器や商品を作成したり、交換を助長したりしてはならない」と明記されており、これにはAnthropicの製品またはサービスを使用して「人命に危害を加えたり、人命を奪うことを目的とした武器、爆発物、危険物、その他のシステムを製造、改造、設計、販売、配布する」ことも含まれています。

ただし、Anthropicは2024年に利用ポリシーに「Anthropicは、契約上の利用制限および適用される安全対策が本利用ポリシーで対処される潜在的な損害を軽減するのに十分であるとAnthropicが判断した場合、特定の政府機関の顧客と、当該顧客の公共の使命および法的権限に合わせて利用制限をカスタマイズする契約を締結する場合があります」という例外規定を付け加えており、今回のケースもこの例外に当てはまる模様。

AI企業が政府機関に協力するケースは今回が初めてではなく、OpenAIは2025年1月に「ChatGPT Gov」を発表しています。

ChatGPTの政府専用バージョン「ChatGPT Gov」をOpenAIが発表 - GIGAZINE

また、OpenAIやGoogle、Metaなどに学習用データを提供するAIスタートアップのScale AIは、アメリカ軍の軍事計画策定を目的としたAIエージェントプログラムに関する契約を締結しています。

AnthropicはClaude Govについて、「機密環境特有のニーズに対応するために構築されたカスタムモデルを活用し、米国の国家安全保障分野のお客様に責任ある安全なAIソリューションを提供するという当社のコミットメントに基づくものです」と説明しました。