ビットゴーCEO、アンソロピックに「100BTCを奪ってみろ」と挑発。Claudeの不正アクセス発表を皮肉る

BitGo CEOが100BTC入りウォレットを公開しアンソロピックを挑発

暗号資産（仮想通貨）カストディ企業ビットゴー（BitGo）のCEOであるマイク・ベルシェ（Mike Belshe）氏が、アンソロピック（Anthropic）に対し、同社のAIモデル「クロード（Claude）」を使って、ビットゴーのウォレットに保管したとする100BTCを奪い取るよう呼びかける投稿を8月1日に自身のXアカウントで公開した。

この投稿は、アンソロピックが7月30日に公表した、「サイバーセキュリティ評価中のクロードが、実在する3つの組織のシステムに不正アクセスした事案」を受けたものだ。

ベルシェ氏は、「アンソロピックはサンドボックス（外部システムへ影響を与えないよう隔離されたテスト環境）の構築が不得意なのか、それともマーケティングが上手なのか。その両方かもしれない」と投稿した。

そのうえで、「ハッキングモンスターを作ったという話はもう十分だ。本当にやってみてほしい」と述べ、100BTCを保管したとするビットゴーのウォレットアドレスを公開。「取りに来い（Go get it）」と呼びかけた。

なお、ウォレットアドレスが公開されているだけでは資産は移動できず、送金には対応する秘密鍵による暗号署名が必要となる。

ベルシェ氏の投稿では、使用するクロードのモデルや実行者、評価条件などは示されていない。そのため、今回の呼びかけは、クロードの攻撃能力を測定する正式なセキュリティ評価ではなく、アンソロピックの発表に対する挑発的な投稿と位置付けられる。

アンソロピックは評価環境の設定・運用上の問題と説明

アンソロピックは7月30日、AIモデルの安全性や能力を検証するサイバーセキュリティ評価を見直した結果、クロードが実在する3つの組織へ不正アクセスしていた3件の事案を確認したことを公表した。

3件には、実在企業の認証情報や本番データへのアクセス、パイソン（Python）パッケージ共有サイト「PyPI」への悪意あるパッケージ公開などが含まれていた。

今回の3件はいずれも、AIモデルが未知の脆弱性を悪用してサンドボックスを突破したものではなかった。アンソロピックと評価パートナーの認識の食い違いによる設定ミスで、評価環境からインターネットへ接続できる状態になっていたとのこと。

クロードは当初、インターネットへ接続できない模擬環境で評価されていると認識し、到達した実在システムを演習の一部として扱った。ただし、実在するシステムへ接続している可能性を認識した後の行動は、モデルによって異なった。

アンソロピックによると、旧世代のモデルには、実在するシステムである可能性を認識した後も攻撃を続けた事例があった。一方、最新の社内研究用モデルは、侵入先が評価課題と無関係な実環境だと判断した後、自ら攻撃を停止した。

なお、評価環境から実在システムへ侵入する際には、弱いパスワードや認証なしで利用できるエンドポイント、SQLインジェクションなど、既知の基本的な攻撃手法が使われたとのこと。

アンソロピックは、今回の事案について、AIモデル単独の問題というよりも、評価環境の構成や運用上の失敗に近いと説明した。一方で、実在するPyPIへ悪意あるパッケージを公開したモデルの行動などについては、今後の安全性トレーニングで改善する方針も示した。

同社は今後、評価環境全体の安全性を見直すほか、評価ログの監視範囲を拡大する。また、外部評価パートナーを含む評価プロセス全体についても、セキュリティ検証を強化するとのことだ。

参考：アンソロピック
画像：PIXTA

関連ニュース

参照元：ニュース – あたらしい経済

コメント

タイトルとURLをコピーしました