インターネットの声

米ニュージャージー州副司法長官、AI性的虐待画像生成で逮捕

米ニュージャージー州の副司法長官が、AIで生成した児童性的虐待画像を製造・流布した疑いで逮捕された。州法執行機関の現職幹部の摘発は異例だ。

8分で読める SINGULISM 編集チームが確認・編集

米ニュージャージー州副司法長官、AI性的虐待画像生成で逮捕
Photo by Steve A Johnson on Unsplash

Ashley Belanger が Ars Technica で報じた記事に基づく。米国ニュージャージー州の副司法長官を務めるブライアン・リチャード・フィッツジェラルド被告(51)が、人工知能(AI)で生成した児童性的虐待画像(CSAM)を製造し流布した疑いで、木曜日に自宅で逮捕された。発表したのはペンシルベニア州バックス郡の刑事課である。州の法執行と法律事務を担う司法機関の現職幹部が被疑者となった点で、異例の事案と位置づけられる。

以下、Ars Technica の記事からの直接引用である。

New Jersey’s deputy attorney general, Brian Richard Fitzgerald, was arrested on “felony charges related to AI-generated child sexual abuse material (CSAM),” Bucks County Detectives said in a press release Thursday.

事件の発覚と捜査の経緯

バックス郡の刑事は、フィッツジェラルド被告が実在の未成年者のソーシャルメディア写真をAIで性的な画像に加工し、SNS上で配布したと非難している。捜査は、全米行方不明・被搾取児童センター(NCMEC)が7月に受け付けた通報から始まった。あるDiscordユーザーが違法画像を共有したという通報内容だ。

刑事はDiscordアカウントに紐づくデジタルフォレンジックと加入者記録、および関連するインターネットプロトコルアドレスをたどり、被告の自宅を特定した。木曜日の家宅捜索で、警察はAIプログラムを用いて人工的にCSAMを生成するためのプロンプトとスクリプトを押収した。

After a search Thursday, cops “recovered prompts and scripts used to create artificially generated child sexual abuse material using an AI program,” the press release said.

警察はまた、被告が「thegentlemanpervert_2160_07833」のユーザー名で、AIを使って複数の違法画像を作成し、他のユーザーと共有したことを認めていたDiscordのチャットログも発見した。被告はCSAMの所持、CSAMの写真または映像の流布、および通信設備の犯罪利用で起訴された。

司法機関職員による犯行の異例さ

州の最高法執行・法律機関に雇用された職員がAIによるCSAMの製造・流布で訴追されるのはまれである。ただし、警察官が同種の罪で逮捕された例は存在する。今年に入り、ペンシルベニア州の警察官が運転免許証の写真からAIポルノを生成したとして逮捕された。さらに最近では、韓国で警察官がCSAMを含むAIポルノを生成したとして逮捕されたと The Korea Times が報じている。

Fitzgerald’s is a rare case where an official employed by the state’s top law enforcement and legal office has been accused of making and distributing AI CSAM, although some cops have been arrested for the crime.

被告のLinkedInによれば、フィッツジェラルド被告は2016年から副司法長官を務め、保険詐欺や保険免許関連の案件を裁判に向けて準備する州の検察官だった。ニュージャージー州の地区検事ジョー・カーンは声明で、AIによるCSAMをCSAMと同等に有害とみなす点で州は司法省と一致していると述べた。

“No one is above the law, least of all someone entrusted with upholding it,” Khan said. “Our office will pursue these cases aggressively.”

AI生成CSAMをめぐる法執行の動向

米国の警察は少なくとも2024年以降、AIによるCSAMの取り締まりを強化すると表明してきた。司法省は初期の逮捕事例の一つとして、ウィスコンシン州の男を起訴した。TelegramとInstagramを通じて「思春期前の未成年者のリアルな画像を数千枚」拡散したとして起訴したものである。この際、司法省は法執行機関に対し「AIが生成したCSAMも依然としてCSAMである」と明確に示した。

一連の摘発は、生成AIが違法コンテンツの製造コストを大きく下げたことを裏付ける。テキストによるプロンプトとスクリプトがあれば、実在の児童を性的対象として描写する画像を短時間で大量に作成できる。今回の事案では、実在の未成年者のSNS写真が素材として使われたとされる点が、単なる合成画像とは異なる深刻さを帯びる。

捜査手法の面でも注目点がある。Discordの加入者記録、IPアドレス、チャットログという複数のデジタル証跡を組み合わせ、匿名のユーザー名から実在の人物と自宅を特定した。AI生成コンテンツの摘発では、生成そのものよりも配布経路とアカウント情報が捜査の決め手になりつつある。NCMECへの通報が初動となった点も、プラットフォームと外部機関の連携が機能した例と評価できる。

編集部の見解

短期的には、AI生成CSAMをめぐる摘発が法執行機関の内側にも向かう転換点となり得る。捜査当局は職員の関与を想定した内部統制とログ保全を迫られる可能性がある。プラットフォーム側も、プロンプトやスクリプトといった生成の痕跡を検知する仕組みの整備が急務となるだろう。

長期的には、生成AIの悪用に対する法的責任の所在があらためて問われると見る。モデル提供者、配布プラットフォーム、生成した個人のいずれがどこまで責任を負うかは未整理だ。技術の進歩に法制度の整備が追いついていない状態が続けば、摘発は個別事案の積み上げにとどまる。

編集部としては、AI生成コンテンツの検知技術と法執行の連携が実効性を持つかを注視したい。捜査機関の内部的関与という今回は特殊な構図が、制度設計の議論にどう影響するかは未知数である。

参考

よくある質問

今回の事案で被告はどのような罪で起訴されたのか
ニュージャージー州の副司法長官ブライアン・リチャード・フィッツジェラルド被告は、CSAMの所持、CSAMの写真または映像の流布、通信設備の犯罪利用で起訴された。AIを用いて実在の未成年者の写真を性的画像に加工し、SNS上で共有したとされる。
捜査はどのようにして被告を特定したのか
全米行方不明・被搾取児童センターへの通報を起点に、刑事はDiscordアカウントに紐づく加入者記録とIPアドレスをたどった。家宅捜索ではAIでCSAMを生成するためのプロンプトとスクリプト、共有を認めるチャットログが押収された。
AI生成のCSAMは法的にどう扱われるのか
米司法省は2024年以降、AIが生成したCSAMも依然としてCSAMであるとの立場を法執行機関に示している。実在の未成年者を素材にした場合だけでなく、合成画像であっても児童性的虐待画像として取り締まりの対象となる。
出典: Ars Technica

コメント

← トップへ戻る