サンフランシスコ市、Metaに児童虐待AI広告停止命令

サンフランシスコ市法務局は2026年9月9日までに、Metaに対して差止命令書を送付した。 人工知能で生成した児童性的虐待表現を含む有料広告の掲載を止めるよう求めたものである。 同局は広告が繰り返し配信された経緯について説明も要求した。 Wired の Matt Burgess の報道では、一連の広告が350件を超えたと伝えた。

対象はFacebookとInstagram、Threadsに配信された広告群である。 静止画の未成年者を短い動画に変換する内容が含まれていた。 性的行為を想起させる描写に加工された事例があったとされる。 実在の人物が被害に遭った事例も確認されている。 欧州王室の構成員が含まれたとされる点も注目を集めた。 広告を押すと画像生成や動画生成の応用 software の入手先に誘導された。 人物の衣服を除去する用途に悪用できるものもあったとされる。 同意のない親密な画像の生成に使えるものもあったとされる。 広告審査と児童保護の実効性が厳しく問われる事態である。

350件超の有害広告と掲載の経緯

問題を発見したのはTech Transparency Projectの研究者である。 同団体はMetaの広告保管庫を調査して広告群を特定した。 同一内容の広告が複数回投稿された事例もあった。 合計で350件を超える広告が数か月間に配信された。 欧州連合域内では2万9000超のアカウントに到達した。 米国や豪州、インドのアカウントも配信対象に含まれた。 Wiredは8月初旬に53件の広告群を最初に伝えた。 その後も配信は止まらず、250件超が追加で出稿された。 最初の指摘後に是正されなかった点が重く見られている。 広告は実在の児童の画像を素材に加工したとされる。 被害者の尊厳と安全を直接損なう行為である。 広告出稿の仕組みが悪用された可能性が指摘された。 生成AI応用の宣伝を名目に有害な加工例を示した。 利用者の好奇心を刺激して導入に誘導する手法である。 審査をすり抜けた量と期間の長さが異常である。 組織的な出稿運用があった可能性も否定できないと見る。

市法務局が突きつけた停止命令書

差止命令書は4ページにわたりMeta側弁護士に送付された。 送付主はサンフランシスコ市法務局長のDavid Chiuである。 同氏は広告の掲載継続を容認しない姿勢を明確にした。 広告収入を得ながら既知の問題を放置したと批判した。 実在の児童に害を与えた点を深刻に受け止めた。 容認度ゼロの公約と実態の乖離を指摘した。 現状の対策は著しく不十分だとの認識を示した。

“Meta has failed to address a known issue of AI-generated child sexually explicit ads, while profiting from them,”

同氏は広告制度の前提にも言及した。 Metaは全広告を事前に審査して承認すると説明してきた。 対価を受け取って配信する以上、責任は重いとした。

“No company—particularly one that claims all advertisements are reviewed and approved prior to distribution and then accepts payment for that distribution—should permit its advertising systems to be used in this manner,”

書面は広告指針と安全機構の運用に疑問を投げた。 法務や児童保護、広告担当者との速やかな協議を求めた。 単発の失策ではなく構造的な欠陥だと位置づけた。 最初の警告後に是正されなかった点を重視した。 再発防止策と被害救済の説明が求められる局面である。

審査体制の不備と管轄権を巡る争点

Metaは管轄権を理由に反論した。 広告が市内で表示された形跡はないと主張した。 そのため市法務局の管轄外だとの立場を示した。 広告保管庫は米国内の配信記録を一部含む仕組みである。 米国内のどの地域で表示されたかは細分化されない。 地域別の表示実態を外部から検証しにくい構造である。 市側報道官のAlex Barrett-Shorterは反論を退けた。 市内の消費者がMetaの online 空間で広告に接し得ると述べた。 その接点自体が市の関与の根拠になると主張した。 広告審査が機能しなかった原因は依然として不明である。 入稿時の画像判定が甘かった可能性が指摘される。 動画化後の危険性を評価できなかった可能性もある。 同一広告の再投稿を検出できなかった点も課題である。 審査が人手と自動処理のどちらに依存したかは不明である。 広告保管庫の透明性が不十分だとの見方も出ている。 出稿者情報や決済経路の開示が鍵になると見る。

プラットフォーム責任と今後の焦点

Metaは児童搾取に容認度ゼロを掲げてきた。 それでも有害広告が長期にわたり審査をを通じてした。 事前審査の公約と結果の落差が批判を招いた。 広告事業の規模拡大が審査負荷を高めたと評価できる。 生成AIの悪用が審査基準の想定を超えたと見る。 静止画と生成動画の境界が判定を難しくした可能性がある。 被害者の特定と画像の削除支援も課題になる。 欧州連合域内の到達規模が国際対応を迫る要因である。 米国や豪州、インドへの配信も越境対応を要求する。 Metaは対話基盤の拡張も進めている。 Discord、Meta Questでネイティブアプリ提供開始 が示すように生活空間への浸透が進む。 接点の拡大は安全確保の責任も拡大させると評価できる。 広告主の審査強化と決済停止の連動が焦点になる。 外部研究者との情報共有の枠組みも問われると見る。 再発時の制裁と監査の在り方が議論になると見る。

編集部の見解

短期的影響について記す。市法務局との協議要請は広告審査の開示圧力を高めると見る。同一広告の再投稿対策と事後削除の迅速化が3か月から6か月で進むと見る。外部研究者の指摘を受けた緊急停止手順が整備されると見る。広告保管庫の地域別表示や出稿者情報の開示も議論されると見る。 長期的視点について記す。生成AI応用の広告基準は動画変換や脱衣用途を明示して厳格化されると見る。児童保護と広告事業の両立には独立監査の導入が必要になると見る。越境配信を前提に各国当局との情報共有が常態化すると見る。利用者の信頼回復には被害者支援と再発防止の実績が欠かせないと見る。 編集部からの問いについて記す。事前審査の公約は大量出稿の現実に耐え得るのかが問われていると見る。管轄権の主張は越境型被害の救済を遅らせるのではないかと見る。透明性の不足は外部検証を妨げていないかと見る。安全性と事業速度のどちらを優先すべきかが問われていると見る。

参考

• 「San Francisco Orders Meta to Stop ‘Allowing’ AI Child Abuse Ads」, by Matt Burgess — Wired, 2026-09-09T21:15:27.000Z (ARR)
• 元記事URL: https://www.wired.com/story/san-francisco-orders-meta-to-stop-allowing-ai-child-abuse-ads/