オープンAIとアンソロピック、AI重大事故後の反発への対応検討＝報道

事故後の社会的・政治的反発への備えを検討

AI開発を手がける米オープンAI（OpenAI）と米アンソロピック（Anthropic）の各社幹部が、AIによる重大事故後の社会的・政治的反発への対応を検討していると、米メディア「アクシオス（Axios）」が10月9日に報じた。

アクシオスによると、幹部らは金融サービスやインターネット、電力・水道を停止させる大規模なサイバー攻撃などを想定しているという。

同メディアは、準備には最悪の事態を想定した演習と、事故後の規制・政策形成を見据えた米議会議員への説明が含まれるとしている。

同メディアの取材に応じた業界関係者は、重大事故が6〜12カ月以内に起きると見込むという。

ただしオープンAIは、想定する事故を不可避とは扱っていないとアクシオスの取材に対し回答している。アンソロピックはコメントを辞退した。

なお、両社はAIの能力向上に伴うリスクへの対策を公式に公表している。

オープンAIは8月18日、AIの能力が高まるにつれ、社内での開発・検証に伴うリスクも増大すると説明した。同社は研究環境の安全性や監視体制を強化するため、公開予定モデルの強化学習を2週間一時停止したと明らかにしていた。

一方、アンソロピックは、AIモデルの重大リスクを管理する「責任あるスケーリングポリシー（Responsible Scaling Policy：RSP）」を公開している。同社は8月14日、モデルに伴うリスクや対策、今後の計画をまとめたリスク報告書を公表した。

参考：アクシオス
画像：PIXTA