《WIRED》によると、Metaは現在は削除されたアプリを宣伝していた。このアプリは、ユーザーが実在の人物を基にしたAI生成のポルノディープフェイク画像を作成できるもので、ある広告ではアメリカの著名な女性政治家に似た女性が登場していた。以下は詳細である。
MetaとAppleがポルノディープフェイク画像のアプリに対処
Appleは、このアプリが審査後に禁止機能を追加したと述べている。《WIRED》の報道によれば、Metaは「男性が実際に使用するAI」と名乗るアプリの宣伝キャンペーンを展開しており、その中の広告ではアメリカの著名な女性政治家に非常に似た女性のAI生成ポルノディープフェイク画像が紹介されている。このツールはKromixと呼ばれ、「AI画像スタイライザー」と自称している。《WIRED》が視聴した広告の一つでは、ナレーションがこのツールには「制限がない」と宣伝し、「すべてのキャラクターは実在の人物である」と述べ、「男性が実際に使用するAI」と形容している。
ある広告では、著名な女性政治家に似た女性がアメリカの国旗と大統領旗の前に立ち、「もし彼女が動いたら？」というタイトルが付けられている。続いて彼女が瞬きをし、広告は似た顔の女性がポルノ映像で演技しているシーンに切り替わる。
報道によれば、両社は《WIRED》が連絡した後すぐに行動を起こした。Appleはアプリをアプリストアから削除し、Metaは男性ユーザー向けの32件の広告を撤回した。Appleは《WIRED》に対し、Kromixがアプリストアの初期審査を通過した後に禁止されたコンテンツと機能を追加したようだと強調した。同社は「私たちは、ポルノコンテンツを生成、配布、消費するために設計されたアプリを厳しく禁止しています。[…]『脱衣』アプリは私たちのアプリ審査ガイドラインに違反しており、私たちはプロセスやポリシーを回避しようとするアプリやその開発者アカウントを特定し、削除するために積極的に取り組んでいます。」と述べている。
Appleの見解は、先月サンフランシスコ市検察官のDavid Chiuが同社に対し、アプリストアから8つの「脱衣」アプリを削除するよう求めた際のコメントと似ている。《WIRED》の報道に戻ると、KromixはAppleが最近この出版物に連絡した後に削除した唯一のアプリではないことが指摘されている。別の調査では、《WIRED》はMetaにいくつかの問題のある広告がMaskAIに関連していることを発見した。このアプリはユーザーが写真をアップロードし、人物を性的な状況に置くことを可能にするものである。Appleは《WIRED》が連絡した後、このアプリも削除した。