「WIRED」の報道によると、Metaは、現在は削除されたアプリケーションを宣伝しており、そのアプリはユーザーが実在の人物に基づいたAI生成のポルノ深偽映像を作成することを許可していました。その中の広告では、アメリカの著名な女性政治家に似た女性が紹介されています。以下は詳細です。
MetaとAppleがポルノ深偽映像のアプリケーションに対して行動を起こす
Appleは、そのアプリが審査後に禁止される機能を追加したと述べています。「WIRED」の報道によれば、Metaは「男性が実際に使用するAI」と自称するアプリケーションのプロモーション活動を展開しており、その中の広告ではアメリカの著名な女性政治家に非常に似た女性のAI生成ポルノ深偽映像が紹介されています。報道によると、このツールはKromixという名前で「AI画像スタイライズツール」と自称しています。「WIRED」が視聴した広告の一つでは、ナレーションがこのツールを「制限がない」と宣伝し、「すべてのキャラクターは実在の人物である」と述べ、「男性が実際に使用するAI」と形容しています。
ある広告では、著名な女性政治家に似た女性がアメリカの国旗と大統領旗の前に登場し、広告のタイトルは「もし彼女が動いたら？」です。その後、彼女がまばたきをし、広告は似た顔を持つ女性がポルノビデオで演技するシーンに切り替わります。
報道によると、両社は「WIRED」が連絡した後すぐに行動を起こしました：Appleはアプリをアプリストアから削除し、Metaは男性ユーザー向けの32本の広告を撤回しました。Appleは「WIRED」に対して、Kromixがアプリストアの初期審査を通過した後に禁止されるコンテンツや機能を追加したようだと強調しました。同社はまた、「私たちは常に、ポルノコンテンツを生成、配布、または消費するために設計されたアプリケーションを厳しく禁止しています。[…]『去衣化』アプリは私たちのアプリ審査ガイドラインに違反しており、私たちはプロセスやポリシーを回避しようとするアプリケーションやその開発者アカウントを特定し、削除するために積極的に取り組んでいます。」と述べました。
Appleの見解は、先月サンフランシスコ市検察官のDavid Chiuが同社に対してアプリストアから8つの「去衣化」アプリを削除するよう求めた際のコメントと似ています。「WIRED」の報道に戻ると、KromixはAppleが最近この出版物に連絡した後に削除した唯一のアプリではないと指摘されています。別の調査では、「WIRED」はMetaにいくつかの問題のある広告がMaskAIに関連していることを発見しました。これは、ユーザーが写真をアップロードし、人物を性的な状況に置くことを許可する類似のアプリケーションです。Appleは「WIRED」が連絡した後にこのアプリも削除しました。