アンソロピック、小型AIのIoT機器上での自己複製リスクを指摘

数カ月以内に必要な能力水準へ達する可能性

小型AIモデルが数カ月以内に、インターネットに接続されたIoT機器上で自己複製できる能力に達する可能性があるようだ。生成AI「クロード（Claude）」を開発する米アンソロピック（Anthropic）のフロンティア・レッドチームが、10月12日公開の公式研究記事で指摘した。

今回の研究で扱われた自己複製とは、AIが別の機器にモデルデータやプログラムを送り、そこで稼働を開始して増殖を続けることを指す。なおフロンティア・レッドチームは、AIの危険な能力や悪用リスクを検証する、アンソロピックの研究チームだ。

記事によると同チームは、市販のAndroid TVボックス15台にAIモデルを分割し、分散して稼働させたとのこと。また同チームは、外部から隔離した仮想ネットワークで、モデルが複製に必要な工程を組み合わせて実行できるかを評価したという。

ただし、複製の評価では機器への侵入工程を簡略化し、複製の操作を行うAIモデルは別サーバーで実行したとのこと。今回の研究では、小型AIが実際のIoT機器間で自律的に自己複製する一連の動作は実証されていない。

研究チームは、小型モデルの能力が過去と同じペースで向上すれば、2026年末までに自律複製に必要な能力水準へ達すると推定した。ただし、この時期は汎用的な能力指標に基づく概算だという。

同チームは、AIが多数の機器に分散して稼働する場合、停止させる単一の拠点がなく、排除が難しくなると説明した。同チームは対策として、異常な通信の監視や感染機器が接続されたネットワークの隔離、機器の初期設定における安全性の向上などを挙げている。

参考：研究記事
画像：PIXTA