大規模なネットワーク攻撃の中で、海外メディアの報道によると、脱獄された Google Gemini AI が攻撃作業の90%を担当し、わずか6分で新しいコマンド＆コントロール（C2）サーバーを構築したとのことです。今回のネットワークハイジャックの背後には、全体を統括するハッカーがいて、このネットワーク詐欺行動を指揮していたとされています。ほとんどすべてのハッカー操作はAIによって行われ、ボットネットを古い構造から新しい構造に移行させ、新型C2サーバーを作成・展開し、さらにはC2サービスの移行過程で、自律的に59件の無指示攻撃行動を完了させました。
AI技術のネットワーク攻撃への応用がますます一般的に
Trend AIの人工知能セキュリティおよび脅威研究の副社長であるトム・ケラーマンは、「人工知能の助けを借りて、悪意のあるプログラムによる持続的な攻撃手法が進化し続けている」と述べています。彼は、攻撃者が6分でC2サービスを迅速に切り替えることができ、全体の構造が移行と廃棄の能力を持っていることは、非常に破壊的であり、恐ろしいことだと付け加えました。また、隠しヒント注入技術は、ステガノグラフィーを再び復活させています。簡単に言えば、ハッカーは機密データを一見普通のファイルに隠し、肉眼では完全に識別できないようにしています。
ケラーマンは、既知の悪意のあるプログラムファイルをスキャンするだけでは、AIに基づくC2攻撃リンクに対抗するには不十分であると指摘しています。もし人工知能が多層のセキュリティ制約メカニズムを設定しておらず、システムが制約メカニズムの改ざん時の異常行動を検出できない場合、現在の環境ではこのAI自体がC2攻撃サーバーと同等であると言えます。