サンフランシスコ市検察官のDavid Chiuは、AppleとGoogleに対して停止および撤回の通知を送り、それぞれのアプリストアから複数の「ヌード化」アプリを削除するよう求めました。以下は関連の詳細です。
アプリストアは「ヌード化」アプリの掲載を阻止するために努力を続けています。『Wired』の報道によれば、AppleとGoogleは再びそのアプリストアおよびPlayストアにおける「ヌード化」または「脱衣」アプリの可用性について疑問を持たれています。報道によると、市検察官事務所が調査した13のアプリのうち、8つがApp Storeに、5つがPlay Storeに掲載されており、これらのアプリは広く「顔交換」ツールを自称し、ユーザーが使用した後に性別の深層偽造画像を生成することができるとしています。
サンフランシスコ市検察官が複数の「ヌード化」アプリの削除を要求
その中の1つは100万回以上ダウンロードされており、ウェブサイトには「ビキニ女王カーブ」、「穏やかな豊満」、「映画のような親密さ」など、10種類以上の異なるスタイルのAI画像が表示されています。多くのスタイルは性別化された女性のイメージとその説明を示しています。別のターゲットとなったアプリのホームページでは、「無料で検閲なし」の動画を生成できると主張しています。Chiuは手紙の中で、AppleとGoogleが「この有害な技術から利益を得ている」と述べ、Wiredのインタビューでこの2社が「ヌード化サービスを提供するアプリから数百万ドルを稼いでいる可能性がある」と語りました。
報道によると、Chiuは「これらの企業は、自社のプラットフォーム上のアプリが性虐待を助長しないことを確保する責任がある」と述べています。市の法律文書では、カリフォルニア州の法律が深層偽造ポルノコンテンツの作成を支援するサービスを禁止していることが指摘されています。これらのアプリはアプリ内課金を使用しており、テクノロジー企業もそこから手数料を得ています。文書では「世界で最も大きく成熟したテクノロジー企業のいくつかがこの状況を助長することは停止しなければならない」と述べられています。『Wired』は、報道にアプリの名前が含まれていないのは、これらのアプリの使用を促進しないためだと指摘しています。同時に、Googleの広報担当者は、同社がポリシーに違反するアプリに対して措置を講じると主張していますが、Appleは報道発表前にコメントを出していません。
今日のニュースは、テクノロジー透明性プロジェクト（Tech Transparency Project, TTP）が報告書を発表してから約6ヶ月後に発表されたもので、この報告書はApp Storeに数十の「ヌード化」アプリが存在することを明らかにしました。その後、4月の調査で、Apple自身の検索提案と広告がユーザーをこれらのアプリに接触させていることが発見されました。当時、同社は9to5Macに対し、「ヌード化」アプリがアプリ審査ガイドラインに違反していると述べ、これらのアプリを積極的に拒否し、削除する意向を示しました。これにはユーザー報告ツール（reportaproblem.apple.comなど）を通じてマークされたアプリも含まれます。