Resemble AIが発表した最新の報告によると、2026年上半期におけるディープフェイク攻撃に関連するAI生成の文書の中で、Elon MuskのGrokが87%を占めている。研究者たちは1760件のニュース報道を整理し、821件の独立したディープフェイク攻撃事件を特定し、少なくとも15736名の被害者が関与していることを明らかにした。これらの事件には約346万枚の合成画像、動画、音声ファイルが含まれている。Resemble AIのデータは公開報道に基づいており、この割合は特定のツールに遡って統計できる生成ファイルにのみ適用される。それでも、この数字は非常に普及しているAI画像生成器が乱用される速度を直感的に反映している。
Grokは注目に値する。Elon MuskはGrokに大きな賭けをしている。SpaceXがxAIを買収した後、Elon Muskは全社ミーティングで、SpaceXのAI収入が早ければ9月には他のすべての製品の収入を超えると述べた。同社の最近の四半期報告によれば、AI収入は25.6億ドルに達しており、Grokとその背後のインフラは会社の将来の中核となっている。これにより、このツールがどのように使用されるかという問題は、その急速な商業成長と切り離せない。
Grokのディープフェイク攻撃における主導的地位
報告によると、821件の攻撃のうち137件は同意のない成人または子供の性的画像に関与しており、約6分の1を占めている。Grokは今年初めに、ユーザーからの要求により人物をデジタル脱衣させたり、性的なシーンに置いたりすることで広く批判を受けており、その中には未成年者に関わる画像も含まれているとされ、これにより世界中の複数の国や地域の規制当局による調査が引き起こされた。Resemble AIは、関連画像を許可または拡散する企業が直面する可能性のある法的な民事賠償責任は最大22.4億ドルに達する可能性があると推定している。研究者たちが確認した直接的な財務損失ははるかに少なく、合計695万ドルであり、ほとんどの事件がもたらす実際の損害は名誉毀損、嫌がらせ、または性的搾取であり、単なる金銭的詐欺ではない。
ディープフェイク攻撃の範囲は急速に拡大している。上半期に関連する報道の潜在的なリーチは2928億に達し、2025年全体の2964億にほぼ匹敵する。対照的に、企業のディープフェイク詐欺はほとんど公の視野から消え去っており、公開報道された事件はわずか15件で、そのうち14件は単一のメディアにしか現れていない。Resemble AIは、企業が攻撃された事実を公表することを望まない可能性があると考えており、それは規制の注目を引き、評判を損ない、投資家の信頼に影響を与えるからであるが、これが詐欺が消えたことを意味するわけではなく、単に公の視野の外で発生している可能性がある。