IT之家 10月17日の報道によると、アップル社は昨日（10月16日）に「App審査ガイドライン」を更新し、最新の1.2条項において、AIコンテンツ作成関連アプリに対する管理を強化した。本人の同意がないAIで生成されたプライベート画像を明確に禁止範囲に含めることになった。
IT之家の修正内容は以下の通りです：
1.2 ユーザー生成コンテンツ
ユーザーが生成したコンテンツを含むアプリには、知的財産権の侵害、同意なくプライベートな画像を配布すること、匿名でのいじめ行為など、特別な課題があります。乱用を防ぐため、ユーザー生成コンテンツやソーシャルネットワークサービスを含むアプリは、以下の条件を満たさなければなりません：
不快な内容がアプリ内で公開されるのを防ぐために、適切な方法でフィルタリングを行う
攻撃的なコンテンツを報告し、問題が発生した際に迅速に対応できる仕組みを設ける
ユーザーが攻撃的な内容を投稿した場合、そのサービス利用資格を取り消すことができます
連絡先を公開して、ユーザーがあなたと連絡できるようにする
科技メディアの9to5Macによると、この調整の直接的な背景は、過去1年間にApp Storeをめぐって起きた数多くの論争である。科技透明度プロジェクトは、数十種類のAI「裸体化」アプリを発見し、App Storeの検索提案や広告がユーザーをそのようなアプリへ誘導すると指摘した。その後、サンフランキス市の当局者はアップルに対し、同意なしで個人画像を生成する8種類のアプリの削除を要求した。
また、ユーザーはxAIのGrokチャットボットが露出したり性的な深層フィクション画像を作成に使われていると苦情を申し立てました。今年初めには、アップルがxAIに対して、このような内容を続けるならGrokをApp Storeから削除すると警告しました。その後xAIは防御機構を追加し、バージョンを更新することで承認を得ました。
Appleはまた、2.5.19条のガイドラインを新たに追加し、審査時に実際の機能を隠したり、審査通過後に「ヌード化」などの有害な機能を追加することを禁止しました。このような「先に審査を通過し、その後でアプリを解除する」手法は「誘引型マーケティング」と呼ばれ、今後はアプリの削除や、開発者のApple Developer Program資格の剥奪につながる可能性があります。
さらに、アップルは人身売買や児童搾取を助長するアプリケーションの利用範囲を、代替アプリケーションの配布チャネルに拡大することを禁止し、違反するアプリケーションや開発者に対しては、アプリの廃止や協力の終了などの措置を「ためらわない」と述べている。