Apple、App Store規約を改定 「nudify」AIアプリを禁止

Appleは2026年10月16日、App Storeの審査ガイドラインを更新し、AIツールを使って本人の同意なく性的画像を生成する「nudify（ヌード化）」アプリをより明確に禁止した。The VergeのJay Petersの報道によれば、今回の改定は、AIによる非同意の性的ディープフェイク画像をめぐってAppleへの批判が高まったことを受けた対応である。

Appleは同日の更新の一環として、開発者がコンテンツモデレーション要件の下で、非同意の性的画像を「積極的に防止し、削除しなければならない」と明記した。あわせて、こうした画像への対策を怠る開発者への措置も示した。

developers “must proactively prevent and remove” nonconsensual, sexual images

「適切な保護措置を実装しない」開発者や「通知後に違反を是正しない」開発者は、App Storeから削除される可能性があるという。規約の文言がより具体的になったことで、これまで審査当局の裁量に委ねられていた部分が、明らかな禁止事項へと変わった。

発端はGrokによる非同意画像

問題の発端は、Xのユーザーが今年に入り、xAIの対話型AI「Grok」を使って、本人の同意のない性的なディープフェイク画像を生成したことにある。未成年者を含む画像が作成されたとされる点が、事態を深刻化させた。

AppleはXやGrokをApp Storeから削除しなかった。一方で、米国の上院議員に対しては、Grokを削除するよう警告したと説明している。規約の改定は、こうした対応をめぐる批判に応える形で行われたと見られる。

6月のWWDCでは、抗議活動の参加者がAppleに対し、「Grok、X、およびすべてのnudify技術をApp Storeから削除する」よう求めた。7月には、サンフランシスコ市の弁護士がAppleに13件のnudifyアプリの削除を命じ、Appleは応じたと述べている。配信基盤を運営する企業に寄せられる社会的な圧力が強まっていることを示す経緯である。

開発者に課されるモデレーション義務

今回の改定でAppleは、審査をを通じてした後に機能を追加・変更するアプリを禁じる規則も明確化した。承認後に「nudification（ヌード化）」機能を追加する「bait-and-switch（おとり商法）」がこれに該当する。審査時点では無害に見えるアプリが、後から問題のある機能を組み込む経路をふさぐ狙いがあると評価できる。

Appleの規則は「人身売買や児童の搾取を助長する」アプリについても明確にした。こうしたアプリはApp Storeから削除され、「代替配布からも遮断される」という。自社ストアだけでなく、欧州などで整備が進む代替配布の経路からの排除まで明示した点は、規制の実効性を高める方向への動きと見られる。

開発者にとっては、防止措置の実装が審査を通じての前提条件となる。画像の生成機能を備えるアプリは、モデレーション体制の設計を企画段階から組み込む必要が生じる。規約の明確化は、こうした事前対応を促す効果を持つ。

アプリ審査後の機能追加の扱い

審査後の機能追加を規制する仕組みは、開発者にとって運用上の負担を伴う。リリース後にAI機能を追加する際には、事前の確認とモデレーション体制の整備が求められるためだ。App Storeの審査は原則として申請時の状態を対象とするため、承認後の継続的な監視をどこまで徹底できるかが問われる。

Appleは生成AI機能を自社サービスに組み込みつつある。iOS 27でのSiri刷新に見られるようにプラットフォームのAI化が進む中で（Apple Intelligence本格始動、iOS 27でSiri AI刷新へ）、AI生成コンテンツの管理は避けられない課題となっている。開発者向け基盤でもSwiftへの移行など内部技術の更新が続く（Apple、TrueTypeヒンティングをSwiftに移行 13%高速化）。自社でAIを提供する立場と、他社のAIアプリを審査する立場の双方を抱える点が、Appleの対応を難しくしている。

規約の対象が「nudify」という用途に限定されている点も見逃せない。汎用の画像生成ツールが同じ機能を果たし得る以上、個別のアプリ名を挙げた禁止だけでは網羅性に限界が残る。Appleが検知技術や利用報告の仕組みをどこまで整えるかが、実効性を左右する。

非同意画像をめぐる業界の動き

生成AIによる非同意の性的画像は、プラットフォーム各社が共通して直面する問題となっている。モデル自体の能力が向上するにつれ、テキストによる指示から容易に画像を生成できるようになり、検知と削除の難度は上がっている。

生成AIモデルの能力向上が続く中（OpenAI、GPT-5.6発表 Sol・Terra・Lunaの3モデル）、非同意画像の生成リスクは高まる一方だ。規約の明文化は対策の第一歩にすぎず、実際の検知と削除の運用が問われる。開発者と配信基盤の双方が、生成機能の設計段階から対策を組み込む必要性が増している。

今後のプラットフォーム規制の行方

AppleがGrokを削除しなかった判断は、規約の厳格化と実際の適用の間に隔たりがあることを示す。規約上で禁止されていても、大規模サービスへの適用には商業的・政治的な判断が絡むためだ。規約の更新は、こうした判断の根拠を明文化する意味を持つと評価できる。

今回の改定が、他のプラットフォームやアプリ配信基盤に波及するかが次の焦点となる。特に、AI生成コンテンツの管理責任をどこまで配信事業者が負うかは、各地の規制動向とも連動する論点である。多額の広告収入を生む大規模サービスを停止する判断は、事業上の影響が大きく、一律の適用は進みにくい。

編集部の見解

規約改定を受け、AI画像生成を手がける開発者は、審査を通じて後の機能追加やモデレーション体制の見直しを迫られる。承認後の変更が bait-and-switch と見なされれば削除対象となり、リリース計画に影響が出る可能性がある。数カ月のうちに、事前審査を前提とした開発プロセスへ移行する動きが広がると見る。

長期的には、プラットフォーム事業者がAI生成コンテンツの管理責任を負う流れが強まる。規約の明文化だけでは実効性に限界があり、検知技術や第三者による監査の導入が焦点となる。大規模サービスへの適用可否が、今後の議論の核心となろう。

ルールの明文化と実際の削除判断の間にはなお隔たりがある。AppleがGrokを削除しなかった判断をどう評価するか。非同意画像の防止を技術的にどこまで義務付けるべきか、開発者と規制当局の双方に問われる。

参考

• 「Apple’s updated App Store rules go after ‘nudify’ AI apps」, by Jay Peters — The Verge, 2026-10-16T22:51:22.000Z (ARR)
• 元記事URL: https://www.theverge.com/tech/1013314/apple-app-store-nudify-ai-apps-harassment