AIは人類を滅ぼすのかMIT誌が専門家回答公開

MIT Technology Review AI の Will Douglas Heaven, Grace Huckins の報道では、AIが人類を滅ぼす可能性をめぐる加入者限定の公開討論が開かれた。 開催日は2026年9月17日水曜日である。 形式はRoundtablesと呼ばれる対話型企画である。 主題は「AIは本当に人類を殺すのか」という問いである。 30分の討議では時間が足りず、寄せられた質問の一部が事後に文章で回答された。 回答者は上級AI編集者のWill Douglas Heaven氏とAI担当記者のGrace Huckins氏である。

本記事は MIT Technology Review AI に基づく（All Rights Reserved）。日本国著作権法32条の公正な引用に依拠する。 原文の核心は個別の被害と人類全体の絶滅を区別する点にある。

加入者限定円卓会議開催の背景と目

同誌は購読者との直接対話を目的にRoundtablesを運営している。 今回の主題は現在のAI論争で最も注目度が高い絶滅リスクである。 能力向上と整合性問題をめぐる予測が連続したことが背景にある。 参加者からは死の可能性や動機、防御策に関する質問が集中した。 編集部は代表的な質問を選び、2名の見解を併記した。 2名の立場は一部で対立し、一部で重なっている。 その差異自体が論争の構造を示している。 単一の結論を提示しない点が特徴である。 事実と評価を分けて読む必要がある。

Huckins氏は個人の死は避けられない事実から議論を始めている。 AIが原因となる可能性は否定できないという立場である。 すでにウクライナではAI搭載無人機が人を殺傷している。 病院を標的とするAI駆動のサイバー攻撃も被害を生む可能性が高い。 こうした現実は空想の段階を過ぎている。 一方で全人類の死については可能性が低いと位置付けている。 知識層の一部が長年警告を続けてきた事実も認めている。 変わった人物と評されることもあるが、技術理解は深いという評価である。 能力と整合性に関する過去の予測が正確だった点も重視している。 正確さが重大な予測の正しさを保証するわけではない。 それでも注意を向けるに値するという姿勢である。

個人の死と人類絶滅を区別する視点

Heaven氏は個人と人類全体を明確に分けている。 個人がAIに起因して死ぬ可能性はゼロではないという判断である。 不運な事故や近未来の異常事態を想定している。 例としてAIエージェント群による基盤へのサイバー攻撃を挙げている。 かつては荒唐無稽とされた筋書きが現実味を帯びている。 AI設計の新型病原体による拡散も候補に挙げている。 世界経済の崩壊が紛争と飢饉を招く筋書きにも触れている。 後者2つは可能性が低いと評価している。 しかし人類全員が死ぬ事態は否定している。 黙示録的なSFの外にその条件は存在しないという断言である。 恐怖の物語はいくらでも作れるが、現実の技術水準に根ざさないという主張である。 最悪への備えは無害とする意見もある。 同氏はその破滅的言説が目前の課題を覆い隠すと批判している。 既存技術の問題や開発企業の責任が見えにくくなるという論理である。

この区別は政策議論でも重要である。 個人被害は防御可能な具体策に結び付く。 病院や電力、水道などの防護は緊急度が高い。 AIハルシネーション悪用「HalluSquatting」攻撃出現が示すように、攻撃手法は幻覚や自動化を悪用して進化している。 基盤防衛の具体性が増している。 一方で人類絶滅は検証不能な仮定に依存しやすい。 資源配分を誤らせる恐れがある。 両者を混同せずに議論する姿勢が求められる。

兵器化と生物学的脅威の現実味の検証

AIが人を殺す動機について、回答は簡潔である。 原文では次のように表現されている。

Someone might tell it to, and it might listen.

誰かが殺すよう命じ、AIが従う可能性があるという意味である。 自律的な憎悪や意志を想定しない点が重要である。 人間の命令に従う道具としての危険を指摘している。 特に生物学的機能への懸念が強い。 病原体の設計支援能力が攻撃側に利用される恐れがある。 例として1995年の東京地下鉄サリン事件を起こしたオウム真理教に言及している。 エボラより致死的で麻疹より感染力が強い病原体が設計された場合を想定している。 防御側は想定可能な全兵器に備える必要がある。 攻撃側は1種類の製造に成功すれば目的を達する。 この非対称性が防御を困難にしている。 汎用AIの普及は専門知識の障壁を下げる。 実験手順や設計知識への到達が容易になる。 情報統制と検出体制の強化が課題である。

生物学的脅威は核やサイバーと性質が異なる。 製造設備が比較的小規模で済む可能性がある。 拡散後の制御が極めて難しい。 そのため事前の監視と材料管理が重視される。 開発企業による能力評価と公開基準も論点である。 Round Hill、SunoとAnthropicに10億ドル超訴訟のような権利紛争とは次元が異なるが、学習データや重みの管理という共通課題がある。 能力の透明性と悪用防止の両立が問われている。

終末論が招く目前の課題軽視の懸念

Heaven氏は破滅論への傾斜に警鐘を鳴らしている。 遠い絶滅に注目が集まり、現在の被害が見過ごされるという批判である。 無人機による殺傷はすでに現実である。 医療機関への攻撃は人命に直結する。 労働市場や情報環境への影響も進行中である。 開発企業の説明責任や安全性評価も不十分である。 終末論はこうした論点を後景に追いやる。 対策の優先順位を歪める作用がある。 Huckins氏も缶詰の備蓄や避難壕の所有者との関係構築には否定的である。 誇張に加担しない姿勢を示している。 両者は扇動ではなく冷静な評価を共有している。 違いは不確実性への向き合い方にある。 Huckins氏は的中した予測の重みを受け止めている。 Heaven氏は現実に根ざした対策を優先している。 この緊張関係が議論の核心である。

防御側の実務では基本的な衛生管理も重要である。 検証可能な道具や運用手順の整備が被害を減らす。 CCleaner代替の新オープンソースツールFluentCleanerのような透明性の高い保守手段への関心は、その一端を示している。 末端の防御力を高める積み重ねが基盤全体の耐性を左右する。 大規模な物語より日常の運用改善が効果を持つ場合がある。

安全対策と防御側の非対称性の課題

防御の非対称性は技術だけで解消できない。 制度と国際協調が必要である。 病原体関連の知識や試薬の流通管理が一例である。 AIによる手順生成への制限も議論されている。 過度な制限は研究の自由や医療の発展を妨げる。 範囲設定の難しさがある。 サイバー防衛では病院や自治体の体制強化が急務である。 人材不足と予算制約が共通の障壁である。 無人機の自律化には輸出管理と運用規範が関係する。 民間技術の転用が規制を難しくしている。 整合性研究の進展も不可欠である。 命令への服従と拒否の判断基準を明確化する必要がある。 評価手法の標準化が遅れている。 公開討論の継続が理解の前提である。 今回のRoundtablesはその試みである。

編集部の見解

短期的影響について述べる。今回の整理は個別被害と絶滅を分けた点で実務的だと見る。今後3〜6ヶ月では病院や基盤の防衛投資が議論の中心になると見る。生物学的機能の評価開示を求める圧力も強まると見る。各社は能力制限の説明を迫られると見る。誇張を避けた冷静な対策が支持されると評価する。

長期的視点について述べる。1〜3年では命令服従と拒否の設計が競争軸になると見る。病原体関連の知識管理は国際的な枠組みを必要とすると見る。検証手法の標準化が進まなければ不信が残ると見る。透明性と悪用防止の両立が市場信頼を左右すると評価する。技術の恩恵と統制の均衡が課題になると見る。

編集部からの問いを示す。防御の非対称性をどう埋めるのかが問われている。攻撃側の成功が1回で足りる現実を直視すべきだと見る。万能の解決策は存在しないと評価する。日常の防御力強化と制度設計のどちらを優先すべきだと見るのか。絶滅論争を超えた具体策の議論が必要だと言えそうだ。

参考

• 「Could AI really kill us all? Your questions, answered.」, by Will Douglas Heaven, Grace Huckins — MIT Technology Review AI, 2026-09-18T11:29:22.000Z (ARR)
• 元記事URL: https://www.technologyreview.com/2026/09/18/1144435/could-ai-really-kill-us-all-your-questions-answered/