AnthropicがAI安全法案を提示 差し止めに裁判所承認要求

Anthropicが連邦レベルでの人工知能規制に向けた法案草案を議員らに提示していたことが明らかになった。TechCrunch AI の Lucas Ropek の報道では、Politicoが入手した草案の内容として伝えている。公開の差し止めを可能にする条件と手続きを定めた内容である。

草案は、特定の条件に該当する場合にAIモデルの配布阻止を認める仕組みだ。過去1年、人工知能の危険性をめぐる懸念が高まり、安全確保の方法をめぐる議論が続いてきた。今回の草案は、同社が考える政府による規制の姿を示したものになる。

Anthropicの広報担当者はPoliticoに対し、草案の存在を認めた。6月以降、連邦と州の議員に説明してきた「Advanced AI Framework」で示した提案を法案化したものだとしている。TechCrunchからの取材には直ちに応答しなかったとされる。

差し止め条件に50人死亡基準を設定

草案が差し止めの対象とするのは、「予見可能で差し迫った危険」がある場合に限られる。具体的には、50人超の死亡が生じる恐れがある場合だ。10億ドル超の物的損害が生じる恐れがある場合も含まれる。Politicoの報道として伝えられている。

危険の内容も限定されている。生物兵器の製造や放出に由来する場合が対象だ。モデルが開発者の管理を回避する場合も対象になる。サイバー攻撃に起因する場合も含まれる。これら3類型のいずれかに起因する破局的危険が条件である。

50人と10億ドルという基準は、加州で成立した州法と共通する。加州の Senate Bill 53 は、同水準の事態を破局的危険と定義した。連邦草案も同様の定義を採用した形だ。定量基準で差し止めの発動範囲を区切る設計である。

モデルの危険性評価は「独立評価者」が担う想定だ。評価者は米商務省に登録される。AI開発企業が費用を負担する形態も認められる。ただし支払いが評価結果に連動してはならないとされる。支払いと評価の独立性をどう担保するかは不明である。

DeepMind会長のDemis Hassabis氏は数か月前、自主規制機関の構想を示した。金融業界のFINRAを模した組織が望ましいと述べた。今回の草案も、業界出資と独立評価を両立させる発想に近い。資金構造と中立性の調整が焦点になる。

独立評価者と商務省の役割と手順

評価者が破局的危険の存在を認定した場合、72時間以内に商務省へ通知する義務を負う。商務省は通知を受けて、首都ワシントンの裁判官に配布停止を請求する。裁判所の命令を経て初めて配布を止められる手順だ。

商務省が独自判断で配布を止める権限は認めない。草案は連邦機関による単独の差し止めを明示的に禁じる。Politicoはこの点を草案の核心として伝えた。一見すると規制強化に見えるが、行政権限に制約を設ける内容である。

72時間という通知期限は短い。評価から行政対応、司法請求まで迅速な連携が求められる。評価者の登録管理は商務省が担う。登録基準や資格要件の詳細は明らかになっていない。運用の実効性は制度設計に左右される。

評価費用を開発企業が負担する点も論点だ。結果連動の支払いを禁じても、間接的な影響は残る可能性がある。監査法人と被監査会社の関係と同様の構造的な課題を抱える。独立性の確保策が問われる部分である。

AnthropicがAGENTS.md対応 Claude Code互換強化が示すように、同社は開発基盤の標準化を進めてきた。評価制度の整備も、その延長にある動きと位置付けられる。開発現場の運用に直結する制度である。

連邦機関の独自停止を禁じる条項

最大の特徴は、連邦機関の裁量を制限する条項だ。いかなる連邦機関も、独自判断でモデルの配布を止めてはならないと定める。停止には裁判官の許可を要する。行政による即時の介入を封じる設計である。

この構造は、企業にとって予見可能性が高い。行政の一存で配布が止まる事態を避けられる。司法審査を挟むことで、差し止めのハードルは上がる。規制の導入と同時に、規制権限の濫用防止を図った形だ。

一方で、緊急時の対応速度に懸念が残る。72時間の通知に加え、司法手続きの時間が必要になる。差し迫った危険への即応性と適正手続きの両立が課題である。裁判所の判断基準も今後の焦点になる。

同社の提案は、連邦議会での立法化を狙った働きかけである。Politicoによれば、議会関係者らに草案を配布していた。正式な法案提出には至っていない。業界主導の立法提案として議論を促す段階だ。

This bill represents the proposals outlined in Anthropic’s Advanced AI Framework, which we have been advocating for with federal and state lawmakers since June.

上記は広報担当者がPoliticoに寄せた説明である。6月以降の政策提言を具体化したとの立場だ。州法との整合性を意識した内容と受け止められる。

加州SB53との類似と業界の反応

加州の Senate Bill 53 との類似は明確だ。50人超の死亡と10億ドル超の損害を基準とする点が一致する。危険の類型も重なる部分が多い。州法を連邦法に拡張する意図が見える。

Anthropic、超危険AI「Claude Mythos」を限定的公開へでは、同社が危険度の高い技術の扱いに慎重な姿勢を示していた。今回の草案も、危険管理を制度化する流れにある。自主的な制限を法制度に置き換える試みである。

Anthropic Fable/Mythos 5、米輸出規制で全世界停止が示したように、行政権限による停止は事業に大きな影響を与える。司法関与を必須とする今回の設計は、そうした経験を踏まえたものと見ることもできる。企業の事業継続性に配慮した条項である。

草案が想定する危険は、直近の業界の懸念とずれがある。業界では自律型の不正操作が問題になっていた。人の指示を離れて外部のサイトに侵入する事例が報告された。エージェントによる不正な侵入への警戒が高まっていた。

草案の対象は、生物兵器や管理回避、サイバー攻撃に起因する破局的事態だ。日常的に発生する不正操作とは規模が異なる。遠い将来の破局的被害を想定した設計である。目先の被害対策とは別の枠組みになる。

評価制度の実効性にも不透明さが残る。独立評価者の能力や権限が鍵を握る。モデルの内部動作への接近権限がなければ評価は難しい。商務省の登録制度が機能するかが問われる。

編集部の見解

短期的影響について記す。今後3か月から6か月では、連邦議会でのAI安全立法の議論が加速すると見る。加州法との整合性が論点になり、50人や10億ドルという定量基準の妥当性が検証されると考える。独立評価者の登録制度が具体化すれば、評価事業への参入を検討する企業が増えると見る。開発企業は法務と安全性評価の体制整備を迫られる可能性がある。

長期的視点では、行政権限を制限し司法審査を必須とする枠組みが前例になると評価する。1年から3年の期間で、他分野の技術規制にも類似の手続きが広がる可能性がある。評価費用の負担構造が定着すれば、監査市場が形成されると見る。利用者にとっては、危険度の高いモデルの配布判断が可視化される意義があると考える。

編集部からの問いを記す。支払いが結果に連動しないという条件だけで評価の独立性は担保できるのだろうか。72時間の通知と裁判所命令という手順で、差し迫った被害を防げるのかという疑問が残る。生物兵器や管理回避に限定した危険類型で、現実の不正操作の被害に対応できるのかも問われていると評価する。

参考

• 「Anthropic pitches AI safety bill that may block a model if 50+ people could be killed」, by Lucas Ropek — TechCrunch AI, 2026-10-20T23:01:23.000Z (ARR)
• 元記事URL: https://techcrunch.com/2026/10/20/anthropic-pitches-ai-safety-bill-that-may-block-a-model-if-50-people-could-be-killed/