Anthropic、政府がAIモデルを止める線を「10億ドル・50人」とした連邦法案の草案を配布と報道
Anthropicが、政府がAIモデルを止められる線を10億ドル（約1,600億円）の損害または50人超の死傷リスクに絞った連邦法案の草案を配ったと報じられた。公開提案ではなく非公開の草案の報道で、開発企業の情報開示・評価・報告の義務はこの基準とは別だ。
Politicoは10月16日、Anthropicが議会側に配った非公開の連邦AI法案の草案を入手したと報じた。情報源は事情を知る3人だ。Anthropicの広報担当はPoliticoに「議会が進めるべき妥当な政策だ」と述べた。Politicoの記事も草案の本文も読めておらず、この記事はPoliticoを引用したBenzingaの記事に基づく。
10億ドルと50人は何の基準か
草案では、政府がフロンティアAI、つまり最も高性能なAIモデルの公開や利用を止められるのは、差し迫ったリスクがあるときに限られる。基準は10億ドル以上の損害、または50人を超える死亡・重傷だ。リスクの原因として挙がったのは、生物兵器、モデルが開発企業の制御を離れること、サイバー攻撃の3つだ。
これは「規制が始まる線」と言い換えて伝えられがちだが、報じられた内容は政府がモデルを止める最後の手段の敷居に近い。手続きも重い。商務省が請求し、ワシントンD.C.連邦地方裁判所の裁判官だけが停止を命じられる。ほかの省庁はモデルの開発や利用を止められない。
その前段に評価がある。商務省に登録した独立の評価機関が最先端モデルを調べる。開発企業が費用を払うことはできるが、結果で金額が変わってはならない。評価機関は差し迫ったリスクを見つけたら72時間以内に報告する。報道はこの部分がカリフォルニア州のAI法（SB 53など）に似ていると伝えた。
州法はどこまで置き換わるか
草案が一部の州法を連邦法で置き換えるという点は、複数の報道で一致している。Benzingaはリスクの開示、外部評価、事故報告を挙げたが、記事は「4分野」と書きながら3つしか挙げておらず、正確な範囲は確認できなかった。ほかの媒体はもっと広いと伝えている。
一部の報道は、Anthropic自身が公開した政策文書と食い違うと指摘している。この文書は、連邦法が提案する枠組みと同じ強さでない限り州法を置き換えないよう求め、置き換える場合も児童の安全や消費者保護などは州に残すよう求めている。BenzingaはAnthropicのAdvanced AI Frameworkと草案が結びついていると伝えたが、草案をその枠組みと照らし合わせてはおらず、置き換え条項がこの条件をどう満たすのかも分かっていない。
議会にはすでに別の案がある。下院ではトラハン、オーバーノルト両議員のFRONTIER Actが、危険なモデルの展開を政府が止められるようにする。上院ではジョン・スーン、エイミー・クロブシャー、テッド・クルーズの各議員が、壊滅的なAIリスクに関する法案を協議している。州法の置き換えには民主党が抵抗してきた。
今後の注目点
- 草案が実際に法案として提出されるか、本文が公開されて州法の置き換え範囲が確定するか
- 下院のFRONTIER Actと上院の協議案がこの基準を受け入れるか
- ほかのAI企業が似た草案や立場を出すか
為替は10月18日時点で1ドル＝約158円で換算した。
出典
出典: www.benzinga.com