AI終末論争の正体 5氏が演じる利益の駆け引き

AIの終末をめぐる論争は、人類の存亡や技術倫理の議論に見える。 実態は、開発競争の主導権と資金調達をめぐる利益の駆け引きである。 減速を唱える者にも、加速を求める者にも、それぞれ明確な立場がある。 虎嗅網 の 商隠社 の報道では、この対立を5人の男による芝居と位置づけている。 安全の看板の裏にある商業と政治の計算を整理する必要がある。

ロサンゼルス会場での電話応酬の内幕

現地時間9月14日、ロサンゼルスでAll-Inサミットが開かれた。 登壇中のNVIDIAのジェンスン・フアン氏の電話が鳴った。 発信者はアメリカ大統領だった。 フアン氏は通話をスピーカーに切り替え、会場に公開した。

トランプ大統領は、ロボットが世界を乗っ取ることはないと述べた。 人工知能が世界を支配することも絶対に起きないと断じた。 近頃の制御不能をめぐる言説はすべて詐欺だとの認識を示した。 データセンターは地域に富をもたらすとも述べた。 アメリカが懸念から足を緩めれば、最も喜ぶのは中国だと指摘した。

「ロボットが世界を乗っ取ることはないし、人工知能が世界を支配することもない。そんなことは絶対に起きない」

フアン氏は、減速は起こさせないと応じた。 会場には直ちに拍手が広がった。 この応酬は、AI終末論への正面からの反論だった。 背景には、減速論の高まりと政治日程がある。

アモデイ氏が示した減速案の全容

論争の発端は9月12日のAnthropicの動きだった。 CEOのダリオ・アモデイ氏が長文を公開した。 題名は最前線の歩みを緩めなければならないという趣旨である。 現状の速度では、6〜12か月以内に危険が生じると警告した。

「今の速度では、6〜12か月以内に、自律型AIエージェントの群れがボットネットを通じて支配力を獲得しかねない」

損失は数千億ドル規模に上りうるとの見立てを示した。 そのうえで、最先端モデルの高度化を遅らせるよう求めた。 安全研究を追いつかせる必要があると主張した。 具体策は三つである。 組み込み型の第三者評価、業界共通の安全基準、世界規模の協調だ。

同日夜、OpenAIのサム・アルトマン氏が同調した。 最前線開発の速度を管理する必要があると述べた。 続いてxAIのイーロン・マスク氏も転載して同意を示した。 直接の競合や長年の対立関係にある3氏が同列に並んだ。 この構図が注目を集めた。

安全看板と防護撤廃の矛盾の構造

AnthropicとOpenAIは、安全を看板に掲げてきた。 一方で、防護策の撤廃を進めてきた経緯がある。 言葉と行動の落差が、今回の疑念を招いている。

OpenAIは設立当初、安全で人類に貢献する汎用人工知能を使命とした。 財務的利益の要請に縛られない点も明記していた。 ところが2025年末の会社文書では、その肝心の文言が削除されていた。 2024年1月には、ChatGPTの軍事や戦争利用の禁止を撤廃したと伝えられた。 米軍のAI需要が高まる中で、従来の立場を弱めた形だ。 透明性の原則も廃止し、外部からの検証は困難になった。 2024年5月には安全担当の社員5人が辞職した。 退職者の一人は、派手な製品偏重を公に警告した。

Anthropicも創業時は安全を中核に据えた。 アモデイ氏はOpenAIの研究担当副社長を務めていた。 価値観への疑念から2021年に中核社員と集団で退社した。 人類を意味する社名を掲げ、Claudeを生み出した。 憲法的な原則で出力を修正する手法を発表した。 2023年9月には責任ある拡大政策を打ち出した。 破局的危険の基準に達したら訓練を止める仕組みだった。 ところが今年2月の同政策3.0版では、その約束が取り下げられた。 事前の緩和策なき訓練停止の条件は消えた。 工程表や危険報告、外部審査中心の穏やかな仕組みに置き換えられた。

減速派3氏にみる商業的思惑の核心

減速派の主張には、それぞれ商業的な背景があるとされる。 Anthropicは上場を控えた重要時期にある。 今年6月の報告書の数日前、ひそかに新規株式公開を申請していた。 評価額は1兆ドルに近いと伝えられた。 創業以来の安全の看板は、競合との差別化の中核だ。 上場局面では物語の訴求力が問われる。 安全の物語の強化は、評価額の上乗せに直結する。

アルトマン氏はかつてAnthropicの演出を批判していた。 爆弾を作りつつ防空壕を売る手法だと皮肉った。 それでも今回は減速陣営に加わった。 背景には業績の差がある。 OpenAIは2025年に385億ドルの純損失を計上した。 Anthropicの通年の純損失は約42億ドルだった。 2026年上半期にはAnthropicの増収速度がOpenAIを大きく上回った。 第2四半期には四半期売上高で初めて相手を上回った。 Anthropicは黒字転換を実現し、OpenAIは赤字と成長鈍化が続いた。 今はOpenAIにとって良い上場の時期ではない。 延期の説明として、安全優先は都合が良い。 加速論から減速への転換は、その文脈にある。

マスク氏はかねてAIの危険に警鐘を鳴らしてきた。 追う立場のxAIにとって、減速は有利に働く。 相互試験の提案には、先行者を足止めする意図があるとされる。 仇敵同士の同調は、倫理の一致ではなく利害の一致だ。

加速派2氏の立場と政治的背景を解く

加速派にも明確な立場がある。 フアン氏はAI基盤の指数関数的成長に依存する。 NVIDIAはAI向け計算基盤の供給者である。 減速は直接の打撃になる。 そのため減速への反対は一貫している。

トランプ大統領の発言には二つの背景がある。 一つは対中競争の優位維持である。 減速は中国の利益になると位置づけた。 もう一つは国内の生活直結の争点である。 データセンターが電気料金を押し上げているとの不満がある。 中間選挙を前に、その批判を誤情報と断じる必要があった。 データセンターは富をもたらすとの主張も、その一環だ。

検証不能な終末リスクの構造問題

AIの発展が安全問題を伴う点は事実だ。 しかし現在のAIは長い行程の初期段階にある。 危険が人類滅亡級なのかは抽象的で疑わしさが残る。 反証も検証もできない主張が多い。 間近に迫る危機の具体的な筋書きは示されていない。 危機を強調しつつ解決策は乏しい。 むしろ防護策を外して開発を進めてきた。 終末危険は、市場の発言権を争う道具に近い。 今年6月のAnthropic報告書も同様の構造を持つ。 AIが自らを構築し始めると警告した。 2年以内に再帰的自己改善が進むとの内容だ。 最前線モデルの遅延や停止を呼びかけた。 一方で事業拡大と上場準備は並行していた。 言葉と行動の整合性が問われている。

編集部の見解

短期的には、最前線モデルの開発競争は減速せず、評価と安全基準の整備が並走すると見る。第三者評価の常駐や共通基準の議論は、調達や提携の条件に組み込まれる可能性がある。データセンターの電力料金問題は、中間選挙を控えて政治争点化すると評価する。企業は安全の物語を使い、資金調達や上場時期の調整を続けると見る。

長期的には、安全を差別化の看板にする戦略が定着し、透明性より審査体制が重視されると見る。相互試験や国際協調の枠組みは、大手に有利な参入障壁になるとの見方もある。検証不能な終末危険が語られ続ければ、政策判断の根拠が曖昧になると評価する。利用者と開発現場は、実害対策と抽象的懸念を区別する必要があると見る。

編集部からの問いは、減速の主張が誰の費用で実行されるのかという点だ。開発停止や遅延のコストは、新興企業や研究機関に偏りかねないと見る。安全の定義と評価権限を誰が握るのかも不透明だと評価する。利益の計算を排して、検証可能な危険と対策だけを議論できるのかが問われている。

参考

• 「 五个男人的一台“AI末日”戏 」, by 商隐社 — 虎嗅网, 2026-09-17T13:28:42.000Z (ARR)
• 元記事URL: https://www.huxiu.com/article/4892111.html?f=rss