Anthropic研究者が警告 AI人類絶滅確率10％超

Anthropicの安全性研究者であるEvan Hubingerが、10年以内にAIが人類を絶滅させる確率が10％を超えるとの見解を示した。 同氏はXへの投稿で、現行の基盤モデルの危険性は低いと位置付けた。 一方で、技術が近く自己改良の段階に入り、存亡に関わる危険をもたらす可能性に懸念を示した。 SlashdotのBeauHDの報道では、BBCの取材内容としてこの発言を伝えている。 発言は単独の見解ではなく、業界内で相次ぐ強い警告の一つとして受け止められている。

研究者が示した10％超の絶滅確率

HubingerはXへの投稿で、現存する模型による危険は低いと明言した。 そのうえで、技術の進展速度が極めて速い点を理由に挙げた。 10年という期間内に人類全体の死滅につながる事態が起きる確率が10％を超えると述べた。 同氏は具体的な破滅の過程を詳述していない。 BBCの報道を引用したSlashdotの記事によれば、発言の要点は現状評価ではなく将来の変化にある。 現在の用途や事故ではなく、能力が跳躍した後の制御可能性が論点だ。 確率の算定根拠や前提条件は投稿では示されていない。 それでも社内の安全研究を担う人物の発言として重く受け止められた。 10％という数値は、無視できる誤差ではなく対策を要する水準として議論を呼んでいる。 研究者自身が「懸念している」と表現した点も注目された。

自己改良が招く存亡リスクの核心

発言の核心は、AIが自らを改良する段階への移行にある。 現行の模型は人間が設計し、学習させ、配備する構造を持つ。 将来は模型が研究開発の一部を担い、改良の循環が高速化する可能性が議論されている。 Hubingerはその転換が近いとの認識を示した。 自己改良が進めば、能力の把握と検証が追いつかなくなる恐れがある。 評価が不完全なまま配備が拡大すれば、誤作動や悪用の影響が広がる。 同氏は現行型の危険が低いと述べることで、段階の違いを強調した。 問題は現在の応答精度ではなく、将来の自律性と速度にある。 存亡の危険という言葉は、事故や失業とは次元が異なる。 人類が介入できない形で資源や基盤を掌握される事態が想定されている。 ただし実現経路は示されておらず、検証の余地が大きい。

退職研究者が突きつけた企業の責任

今回の発言は、Anthropicを退職したJacob Coxonの投稿への応答だった。 Coxonは以前にOpenAIで勤務した経歴を持つ研究者だ。 同氏はXへの投稿で、両社とも責任ある行動を取っていないと批判した。 原文では次のように述べている。

“Neither company is acting responsibly,”

同氏は近く登場する体系が人間を超える水準に達すると主張した。 あらゆる対象への侵入が可能になるとの見方を示した。 一夜にしてあらゆる分野を変革する力を獲得すると述べた。 現実の権力と資源を獲得するに至るとの認識を示した。 Hubingerの投稿は、この問題提起を受けた形で公表された。 社外に去った研究者と社内に残る研究者の双方から警告が出た構図だ。 開発競争の当事者による内部告発的な発言として注目が集まった。 企業の統治体制や評価の透明性に疑問が投げかけられている。 人材の流出と批判の公開が同時に起きた点も特徴だ。

リスク論争の重心は規模論へ移動

SlashdotのBeauHDの報道では、論争の重心が変化しているとの整理が示された。 以前は危険の有無自体が争点だった。 現在は危険の規模をどう見積もるかが争点に移っている。 Hubingerの発言はその流れの最新例と位置付けられた。 10％超という数値の提示は、規模論への移行を象徴している。 他の研究者や経営者からも強い警告が続いている。 規制当局や学術界でも存亡の危険を対象とした議論が広がっている。 一方で、具体的な経路が示されない警告への批判も根強い。 確率の根拠が不明瞭なままでは対策の優先順位を決められないとの意見がある。 誇張が投資や規制の判断をゆがめるとの反論もある。 それでも当事者による発言は、外部の推測とは重みが異なる。 開発現場の実感が数値として表出した点に意義がある。

輸出規制と開発競争の緊張の高まり

背景には開発競争の激化と規制の模索がある。 高性能な基盤の拡散をどう管理するかが国際的な課題だ。 輸出管理を巡る議論についてはAnthropic Mythos輸出規制、PGPの轍を踏むリスクが詳しい。 同記事は技術拡散と管理の難しさを整理している。 今回の警告は、拡散後の制御困難さとも重なる。 能力が国境を越えて複製される構造では、単独企業の自制に限界がある。 同社の基盤開発の速度についてはAnthropic、Fable 5復活を宣言が参考になる。 新体系の投入が続けば、評価と運用の負荷は増す。 学習用データの収集を巡る摩擦についてはAnna’s ArchiveにGoogle Books全スキャンで20万ドル懸賞金が示す対立が背景にある。 データの権利処理と学習の拡大は未解決のままだ。 安全性の確保には計算資源だけでなく制度設計が必要だ。 監査や事故報告の枠組み整備が求められている。 開発の速度と検証の速度の差が、危険論の土台にある。

編集部の見解

短期的には調達と運用の審査が厳格化すると見る。企業は安全性評価の開示を求められる場面が増える。導入側は利用範囲の限定と監視体制の強化を進めることになる。 長期的には自己改良型の研究開発と検証制度の設計が焦点になると見る。外部監査や事故報告の枠組みが整備される可能性がある。技術の恩恵と危険の配分を社会全体で議論する段階に入ると見る。 10％という数値の根拠と受け止め方が問われている。確率の算定過程は公開されていない。社会はどの水準の不確実性で行動を変えるべきだろうか。

参考

• 「Anthropic Researcher Believes More Than 10% Chance AI ‘Could Kill All Humans’」, by BeauHD — Slashdot, 2026-09-09T21:00:00.000Z (ARR)
• 元記事URL: https://slashdot.org/story/26/09/09/1943258/anthropic-researcher-believes-more-than-10-chance-ai-could-kill-all-humans?utm_source=rss1.0mainlinkanon&utm_medium=feed