Meta、児童虐待AI広告350件を見逃し

Metaが自社の審査体制をすり抜けた児童性的虐待素材を含む広告を大量に掲載していたことが判明した。 Wired の Matt Burgess の報道では、非営利団体Tech Transparency Projectの調査に基づき、350件を超える動画広告が確認されたと伝えている。 一部には実在する子どもの画像を加工したものが含まれ、欧州の王室関係者の未成年者も被害に遭った。 広告はFacebookやInstagram、Threadsに掲載され、Metaの広告審査をを通じてしていた。 同社はすべての広告を事前に審査すると説明しているが、仕組みが機能しなかった形だ。

8月初旬には約50件の広告が削除された。 同社は新たなAI検出手段を導入し、検出と遮断を強化したと説明していた。 しかし8月以降も250件以上の追加掲載が確認され、対策の実効性に疑問が生じている。 議員らは調査に乗り出す姿勢を示している。 プラットフォームの広告審査と児童保護の在り方が改めて問われている。

審査をすり抜けた350件の広告

Tech Transparency Projectは、昨年末以降にMetaの媒体で掲載された abusive な動画広告が350件を超えたとしている。 最初の調査では53件が発見され、8月初旬に約50件が削除された。 その後も8月以降だけで250件以上の追加掲載が確認された。 削除済みと同一内容の広告が再び掲載された事例もあった。 研究者は発見のたびに米国の児童保護当局とMetaの報告手段に通報した。

Wiredは独自の確認として、成人を対象とする露骨な脱衣広告が数百件規模で存在したことも突き止めた。 これらは同じ系列の宣伝手法を用いていた。 児童を対象とする広告はすでに削除された。 Metaは児童の搾取や成人の搾取、裸体に関する方針への違反を理由とした。 それでも掲載時点で審査をを通じてしていた事実は残る。

広告は短い動画形式で配信された。 利用者が閲覧中に表示される仕組みだった。 研究者が通報した時点で実際に表示されていた。 審査体制が事後対応に依存していた可能性が高い。 掲載前の遮断が機能しなかった点が核心である。

実在児童の画像を悪用した手口の実態

今回の調査で特筆されるのは、実在する子どもの画像が使われた点である。 当初の53件では実在児童の特定に至らなかった。 8月以降の広告では複数の実在児童の画像が確認された。 欧州の王室に属する未成年者の公式写真が無断で転用された。 公式サイトで公開された写真が性的な動画に加工されていた。

研究者は被害者保護のため王室名を公表していない。 関係国の当局には連絡を取ったとしている。 Wiredも画像の出所が王室の公式サイトであることを確認した。 AI生成のみの問題ではなく、実在児童の写真を素材とする悪用が含まれる。 被害の深刻さは従来の議論とは異なる段階にある。

ここで問題になっているのは単なるAI生成の児童性的虐待素材ではない

Tech Transparency ProjectのディレクターであるKatie Paul氏はこう述べた。 同氏は画像の一部が網路から取得されたとみられると説明した。 広告収入を得ながら被害が拡大した点を問題視した。 AIによる生成と実写の悪用が混在する構造が浮かんだ。 AI生成物の定義についてはAI用語集 Opaque recurrenceやAGIを解説でも用語の整理が行われている。

AI検出導入後も続いた掲載と遅延

Metaは8月初旬の削除時、新たなAI手段で有害広告の検出と遮断を強化したと説明した。 大半の広告は新手段の導入前に掲載されたものだとしていた。 しかし研究者によれば、その後も同様の広告が大量に掲載された。 AI検出の導入後も掲載が続いたことになる。 同一内容の再掲載を防ぐ仕組みも十分に働かなかった。

報告から削除までの遅延も明らかになった。 研究者がMetaの手段で通報した広告の審査に1週間を要した事例があった。 その間も広告は表示を重ねた。 画面記録によれば数百回規模の表示が積み上がった。 通報があっても即時停止に至らない運用が被害を広げた。

広告審査は自動処理と人手の組み合わせで運用されるのが一般的だ。 Metaもすべての広告を審査すると方針で述べている。 それでも児童性的虐待素材を含む広告がを通じてした。 検出モデルの学習対象や審査基準の運用に欠陥があった可能性がある。 再発防止には事前遮断の精度向上が不可欠である。

中国系開発者とつながる脱衣アプリ

多くの広告は脱衣アプリと呼ばれる用途の宣伝と結び付いていた。 衣服を除去したように見せかける加工を行う応用である。 研究者は中国系の開発者と関係する複数の応用との関連を指摘した。 広告内の接続先がそれらの応用に誘導する構造だった。 Metaの広告経由で有害な応用への流入が生じていた。

成人を対象とする露骨な広告も同じ宣伝網に含まれた。 Wiredは数百件の関連広告を独自に確認した。 手口は類似し、動画と外部への誘導を組み合わせていた。 児童を対象とする広告だけが孤立して存在したわけではない。 有害広告全体の審査に構造的な弱さがあったとみられる。

脱衣応用の拡散は各国で問題化している。 実在人物の画像を無断で加工する被害が報告されている。 未成年者が対象になれば児童性的虐待素材に該当する。 広告配信基盤が加害の経路として使われた点が重い。 応用配布側と広告配信側の双方で対策が求められる。

立法府の調査とプラットフォーム責任

議員らは今回の事態を受けて調査を行う意向を示した。 広告審査の実態とAI検出手段の効果が焦点になる。 Metaが広告収入を得ていた点も論点になる。 プラットフォームの責任範囲をめぐる議論が拡大する見通しだ。 欧州でも児童保護の規制強化が進んでいる。

Metaの広告事業は厳格な審査を前提に成り立っている。 児童の搾取は明確に禁止されている。 それでも350件超の掲載を防げなかった。 方針と運用の乖離が露呈した。 信頼回復には透明性の確保が欠かせない。

発信者の特定や証拠保全では事業者間の連携が鍵になる。 過去にはTake-Two、GTA VIリーカー特定へDiscordとMicrosoftに召喚で示されたように、裁判手続きを通じた情報開示が使われた事例がある。 今回も広告主や開発者の特定が課題になる。 当局への通報情報の共有が重要だ。 再掲載防止には広告主単位の遮断が求められる。

編集部の見解

短期的影響について述べる。今回の発覚は今後3か月から6か月でMetaの広告審査運用の見直しを促すと見る。AI検出の精度検証と人手審査の増強が進む可能性がある。議員による調査が始まれば、広告主の身元確認や再掲載防止の開示要求が強まると評価する。

長期的視点について述べる。1年から3年の単位では、実在児童の画像悪用への規制が生成AI全体に波及すると見る。脱衣応用への広告出稿や決済の遮断が業界標準になると評価する。年齢確認や出所表示の技術導入がプラットフォームの競争条件になると見る。

編集部からの問いを示す。事前審査を掲げながら350件超の掲載を防げなかった原因は何だったのか。通報から削除まで1週間を要した運用は許容できるのか。実在児童の被害拡大を防ぐため、広告基盤と応用配布のどちらに重点を置くべきなのか。これらの検証が問われていると評価する。

参考

• 「Meta Failed to Catch Hundreds of AI Child Abuse Ads. Some Included Images of Real Kids」, by Matt Burgess — Wired, 2026-09-08T12:00:00.000Z (ARR)
• 元記事URL: https://www.wired.com/story/meta-failed-to-catch-hundreds-of-ai-child-abuse-ads-some-included-images-of-real-kids/