アマゾンCEO、アンソロピック最新AIモデルの安全保障リスクに懸念

アマゾンCEOがアンソロピック最新AIモデルの安保リスクに懸念
関連ニュース

アマゾンCEOがアンソロピック最新AIモデルの安保リスクに懸念

アマゾン（Amazon）のアンディ・ジャシー（Andy Jassy）CEOは今週、アンソロピック（Anthropic）の最先端AIモデルにおける安全保障上のリスクについて、トランプ政権高官に懸念を示したテック業界幹部の一人だった。事情に詳しい人物がロイターに明らかにした。

ジャシー氏の関与により、アンソロピックが6月12日にトランプ政権の国家安全保障上の命令に応じ、最新モデルの提供を世界全体で停止するという異例の措置に踏み切った経緯の一端が明らかになった。

サンフランシスコ拠点のAIスタートアップで、米国での新規株式公開（IPO）申請書類を非公開で提出済みのアンソロピックは、以前から同社の「ミュトス（Mythos）」モデルのハッキング能力について警告し、広範な公開を見送っていた。しかし同社は今週初め、サイバーセキュリティ上の安全対策を備えたと説明する一般公開版「フェイブル（Fable）」を提供開始した。

この短期間の提供は、6月12日に終了した。アンソロピックはブログ投稿で、米政府から、同モデルを使ってサイバーセキュリティ上の欠陥を見つけることを防ぐ安全対策について、回避、すなわち「ジェイルブレイク」する手法が存在するとみていると伝えられたと明らかにした。

アンソロピックは同ブログ投稿で、この回避手法によって見つかったのは、他の一般公開モデルでも発見可能な「軽微な」セキュリティ上の欠陥にとどまると説明した。

同社によると、トランプ政権はアンソロピックに対し、米国内外を問わず、外国籍者が同社の最新モデル「クロード・フェイブル5（Claude Fable 5）」と「クロード・ミュトス5（Claude Mythos 5）」の双方を利用できないようにすることを命じた。これを受け、アンソロピックは両モデルへのアクセスを世界全体で停止するとした。

アマゾンは、アンソロピックのモデルについて政府当局者と協議したかどうかを確認しなかった。

アマゾンの広報担当者はロイターに対し、「多数の民間・公共部門の顧客にサービスを提供する主要クラウドプロバイダーとして、政府が潜在的な安全保障リスクについて当社に助言を求めることは珍しくない」と述べた。「そうした協議が行われた場合でも、当社はその詳細を明らかにしない」とした。

テクノロジーニュースメディア「ジ・インフォメーション（The Information）」は6月13日、ジャシーの懸念について先に報じていた。同メディアはその後、米政府当局者の話として、トランプ政権がアンソロピックに課したものと同様の制限を他のAI企業にも義務付ける可能性は低いと報じた。

ロイターは、他社に対する規制を巡るトランプ政権の計画を直ちに確認できなかった。

アンソロピックはブログ投稿で、米政府による制限は輸出管理の形で行われたと説明した。輸出管理を所管する米商務省産業安全保障局（BIS）は、コメント要請に直ちに応じなかった。

高度なAIモデルに対する輸出管理を支持する一部の専門家は、今回のトランプ政権の措置について、敵対国だけでなく同盟国にも影響するため不可解だと受け止めている。

カリフォルニア大学のグローバル紛争・協力研究所でシニアフェローを務めるジミー・グッドリッチ（Jimmy Goodrich）氏は、「これは十分に検討されたものではない」と述べた。「アンソロピックで働くカナダ人や英国人が研究開発に従事することさえ禁じる内容だ」と指摘した。

この命令は、トランプ政権当局者とアンソロピックの間で生じていた以前の対立が、米政府の一部で緩和の兆しを見せ始めた矢先に出された。

※この記事は「あたらしい経済」がロイターからライセンスを受けて編集加筆したものです。
Amazon voiced concerns about Anthropic AI models before US government’s crackdown, source says
（Reporting by Abu Sultan in Bengaluru, and Stephen Nellis and Greg Bensinger in San Francisco; Editing by Sergio Non and Matthew Lewis）
翻訳：大津賀新也（あたらしい経済）
画像：Reuters