アンソロピック、Claudeの利用ポリシー更新。選挙妨害・兵器開発・監視の禁止範囲を明確化

11月12日適用、選挙関連の一部制限は撤廃

生成AI「クロード（Claude）」を開発する米アンソロピック（Anthropic）が、利用ポリシーの改定を10月8日に発表した。選挙妨害や兵器開発、監視などへの利用制限を明確化する。改定版は11月12日に適用される。

同社によると、今回の変更の多くは既存ルールを明確にするものだ。クロードの自律的な作業能力の向上や、過去1年間に確認した悪用事例を踏まえ、禁止事項の具体例などを加えたという。

改定では、偽アカウントや架空のニュースサイトを用いた世論操作などの禁止規定が、新設の項目にまとめられた。政治・商業の双方が対象で、発信主体を隠す行為や、偽アカウントを使った組織的な拡散、こうした活動を支えるツール・基盤の構築などが禁止されている。

選挙に関する項目は、有権者をだます行為や選挙妨害に焦点が絞られた。候補者や投票方法に関する虚偽情報の拡散、候補者や選挙管理担当者へのなりすまし、欺瞞や脅迫による投票の抑制などが禁止対象となる。

一方、個人のプロフィールやデータに基づいて、投票や選挙運動の働きかけを個別に調整する行為への一律禁止は撤廃するという。非営利団体による他言語での有権者向け情報の作成など、正当な市民活動も対象になっていたためだ。ただし、有権者をだます行為や個人データの不正利用は引き続き禁止される。

兵器分野では、禁止対象に兵器を動かすソフトウェアや構成部品も含まれることが明記された。誘導・制御ソフトウェアの開発や、ドローンなどの無人・自律型機器への武器搭載などが該当する。

監視分野では、本人の同意なしに個人を追跡する行為について、リアルタイムの追跡に加え、過去に収集したデータの分析による追跡も禁止対象と明示された。禁止された監視用途のツールを構築・改良する行為や、捜査・逮捕・起訴の対象者をクロードに判断・提案させる行為も禁止される。

本人が同意した不正検知のための分析や追跡、投稿内容の審査・管理、報道、法律調査などは、禁止用途に該当しない限り認められる。アンソロピックは、兵器と監視に関する変更は従来の運用を明文化するものだと説明している。

医療や金融などの高リスク用途では、原則として、本人への提供や意思決定への利用に先立ち、専門知識を持つ人がAIの提案を確認することと、影響を受ける本人へのAI利用の通知が引き続き求められる。確認者には、提案を変更・修正する権限が必要となる。改定版では、要件の適用対象となる提案の種類を具体的に列挙された。

また、人にけがを負わせる可能性がある機器をクロードが自律的に操作する場合の要件も追加された。適格な操作者が動作を監視・停止できることに加え、クロードとの接続が切れても機器が安全な状態を保つことが求められる。

このほか、AIモデルに対する継続的かつ不必要な虐待的・残酷な行為を禁止する規定も新設された。同社によると、目的のない極端な行為が対象で、通常の不満表明や反論、モデルのテスト・研究などには適用しないとのことだ。

参考：アンソロピック・旧利用ポリシー（2025年9月15日適用）
画像：PIXTA

関連ニュース

参照元：ニュース – あたらしい経済

コメント

タイトルとURLをコピーしました