米軍がAI誤情報で中国船攻撃寸前と報道

米軍が人工知能（AI）によって生成された誤った情報評価に基づき、中東海域で中国の船舶に対する攻撃寸前に至っていたことが明らかになった。CNNが2026年9月18日に伝えた内容を、Engadget の staff@engadget.com (Ian Carlos Campbell) の報道では詳細に紹介している。情報の真偽確認が間に合わなければ武力衝突に発展する可能性があった事案であり、国防総省におけるAI導入の危険性を示す事例として注目を集めている。

Engadgetによると、米軍は当該船舶を拿捕（だほ）する直前まで進んでいたとされる。関係者の証言として、事態を指す次の言葉が引用されている。

“almost started a war”

国防総省はEngadgetの取材に対し、現時点で公式な見解を示していない。Engadgetは国防総省に説明を求めており、回答が得られ次第記事を更新するとしている。

AI生成報告が引き起こした危機

問題の評価書を作成したのは、特殊作戦軍団に所属する分析官であったとされる。分析官は当該中国船舶の積荷目録についてAIチャットボットに問い合わせ、その出力を基に評価をまとめたという。CNNの取材に応じた関係者によれば、チャットボットは公開情報と秘密の信号情報を組み合わせ、当該船舶が核兵器計画の構成要素を運んでいると結論付けた。

原文で示された判断は次の内容であったとされる。

“components of a nuclear weapons program”

“open-source intelligence with secret signals intelligence”

この評価に基づき、米軍は船舶の拿捕に向けた手続きを進めた。ところが検証過程で当該評価の一部がAIによって生成されたものであることが判明し、行動は直前で停止されたという。CNNは船舶が実際に何を積載していたのかを特定できていない。また分析官が使用したAI基盤が商用製品であったのか、政府向けに設計された仕組みであったのかも不明のままである。

評価書の作成過程で公開情報と秘密情報が区別されずに混合された点が、事態を深刻化させた。AIの出力は文体が整い、典拠があるように見える場合が多い。そのため多忙な現場では一次資料の確認が省略されやすい構造がある。今回の事例は、その構造的な弱点が軍事判断に直接影響したことを示した。

国防総省のAI優先方針とその背景

今回の事案は、国防総省が全組織的なAI導入を推進する最中に発生した。国防総省のピート・ヘグセス長官は2026年1月、国防総省をAI優先組織へ転換するよう指示する覚書を公表した。米国の主要AI企業が提供する基盤を積極的に試験し、任務への適用を加速させる内容であったとされる。

この方針は情報分析や作戦計画、後方支援など幅広い領域を対象としている。大量の文書や信号、画像を短時間で整理する能力は、要員不足と情報量の増大に直面する国防組織にとって魅力が大きい。一方で、出力の正確性を担保する検証体制や責任の所在に関する制度整備は追いついていないとの見方が強い。

使用された具体的なAI基盤が特定されていない点も議論を呼んでいる。商用対話型AIであれば学習資料や引用の不正確さが問題となる。政府向けに調整された仕組みであっても、検索拡張や要約処理の段階で誤りが混入する可能性は残る。いずれの場合であっても、最終判断を人間が担う体制の実効性が問われることになった。

商用モデルの軍事利用を巡る対立

国防総省のAI優先方針を巡っては、民間AI企業との関係も緊張を含んでいる。Anthropicは自社の基盤が自律型兵器の開発に使われることを拒否し、政府との対立が表面化した。一時は政府による利用禁止の対象となったとされる。安全性と軍事利用の境界を巡る意見の相違が背景にある。

その一方で他の企業は国防総省との連携を拡大している。2026年2月にはSpaceXAIが対話型AIであるGrokを軍が利用できるようにする契約を結んだとされる。2026年5月にはNVIDIAとMicrosoft、AmazonがAI技術を国防総省に提供するための提携を結んだとされる。政府契約は規模が大きく、長期の収益が見込めるため、主要企業にとって戦略的な意味を持つ。

Engadget の staff@engadget.com (Ian Carlos Campbell) の報道では、こうした契約の誘因と危険性の落差が指摘されている。政府向け取引は利益が大きいため企業は参入を急ぐ。しかし軍事分野での誤作動は通常の業務用ソフトウエアの不具合とは比較にならない被害をもたらす。利便性と安全性の均衡をどう確保するかが、供給側にも問われている。

軍事分野におけるAI利用の危険性

軍事情報の分野では、わずかな誤りが武力行使の判断に直結する。今回のように核関連物資の存在が示唆されれば、指揮系統は迅速な対応を求められる。検証に要する時間と即応の要請が衝突する状況では、整った体裁のAI出力が誤った確信を与える危険がある。

特に問題なのは、公開情報と秘密情報の混同である。本来であれば秘密の信号情報は収集手段や信頼度とともに厳格に管理される。AIが両者を区別せずに結合した場合、出典の重み付けが崩れる。利用者はもっともらしい結論だけを受け取り、根拠の階層を見失う可能性がある。

開発現場でもAIによる出力の検証は共通の課題となっている。例えばGitLab、AIエージェント向け高速Git「Project Switch」が示すように、自動化の速度を高めるほど変更履歴の追跡と検証の仕組みが重要になる。軍事情報も同様であり、生成過程の記録と人間による再確認を制度として組み込む必要があると見る向きが多い。

今回の事案では幸いにも実行前にAI生成であることが判明した。しかし判明の経緯や検証を担ったデプロイの役割は詳しく伝えられていない。再発防止には、AI利用の明示義務や引用の保存、独立した二重検証などの具体策が不可欠である。技術の性能向上だけでは解決しない運用面の課題が浮き彫りになったと言えそうだ。

編集部の見解

短期的影響について述べる。今後3か月から6か月の間に、国防総省は情報分析での生成AI利用に関する暫定指針を設けると見る。出力へのAI関与の明示や秘密情報との混合禁止など、運用規則の明確化が進む可能性がある。供給企業側も軍事向け機能の利用条件を見直し、契約内容の説明責任が増すと評価する。

長期的視点では、1年から3年の単位で軍事用AIの検証基盤が整備されると見る。生成過程の記録や引用の追跡を前提とした設計が調達要件に組み込まれる可能性がある。民間の基盤改良だけに依存せず、誤りを検出する独立した評価体制の構築が市場の焦点になると評価する。

編集部からの問いを示す。問題はAIの性能なのか、それとも人間側の運用なのかという点が問われている。現場の多忙さを理由に確認作業が省略される構造は、技術だけでは解消しないのではないだろうか。誤りを前提とした制度をどう設計するかが、今後の議論の核心になると見る。

参考

• 「AI almost led the US military to start a war with China, report says」, by staff@engadget.com (Ian Carlos Campbell) — Engadget, 2026-09-18T22:44:45.000Z (ARR)
• 元記事URL: https://www.engadget.com/2263043/ai-almost-led-the-us-military-to-attack-china-report-says/