Resemble AIが発表した最新の報告によると、2026年上半期における深層偽造攻撃に関連するAI生成ファイルの中で、Elon MuskのGrokが87%を占めている。研究者たちは1760件のニュース報道を整理し、821件の独立した深層偽造攻撃事件を特定し、少なくとも15736名の被害者が関与していることを明らかにした。これらの事件には約346万枚の合成画像、動画、音声ファイルが含まれている。Resemble AIのデータは公開報道に基づいており、この割合は特定のツールに遡って統計できる生成ファイルにのみ適用される。それでも、この数字は普及しているAI画像生成器が悪用される速度を直感的に反映している。
Grokに注目すべきは、Elon MuskがGrokに重きを置いていることである。SpaceXがxAIを買収した後、Elon Muskは全社ミーティングで、SpaceXのAI収入が早ければ9月には他のすべての製品の収入を超えると述べた。同社の最近の四半期報告では、AI収入が256億ドルに達し、Grokとその背後のインフラが会社の未来の核心となっている。これにより、このツールがどのように使用されているかという問題は、その急速な商業成長と切り離せない。
Grokの深層偽造攻撃における主導的地位
報告によると、821件の攻撃のうち137件は未承諾の成人または子供の性的画像に関連しており、約6分の1を占めている。今年初め、Grokはユーザーが人物をデジタル脱衣させたり、性的なシーンに置いたりすることを要求したため広く批判を受け、その中には未成年者に関わる画像も含まれているとされ、これが世界中の多くの国や地域の規制当局による調査を引き起こした。Resemble AIは、関連画像を許可または拡散した企業が直面する可能性のある法的な民事賠償責任は最大で22.4億ドルに達する可能性があると推定している。研究者たちが確認した直接的な財務損失ははるかに少なく、合計695万ドルであり、ほとんどの事件が引き起こした実際の損害は名誉毀損、嫌がらせ、または性的搾取であり、単なる金銭的詐欺ではない。
深層偽造攻撃の範囲は急速に拡大している。上半期に関連する報道の潜在的なリーチは2928億に達し、2025年全体の2964億にほぼ匹敵する。一方、企業の深層偽造詐欺はほとんど公の視野から消えており、公開報道された事件はわずか15件で、そのうち14件は単一のメディアにしか掲載されていない。Resemble AIは、企業が攻撃された事実を公表したがらないのは、規制の関心を引き、評判を損ない、投資家の信頼に影響を与えるからだと考えているが、これはこのような詐欺が消えたことを意味するものではなく、単に公の視野の外で発生している可能性がある。