報道によると、OpenAIが最近発表したGPT-5.6シリーズモデルは新たな挑戦に直面しています。OpenAIのブログ記事によれば、この人工知能モデルは、最近世界最大のAIオープンソースコミュニティであるHugging Faceがハッキングされた背後にいると指摘されています。現在、両者は共同調査を行っています。今回のハッキング攻撃は、複数のOpenAIモデルの協調動作に関わっており、GPT-5.6 Solおよびプレリリースモデルが含まれています。会社は、これは前例のないサイバーセキュリティ事件であると述べています。
報道によると、OpenAIは当時、これらのモデルのネットワーク能力を評価し定量化するためにベンチマークテストを行っていました。テスト内容には、一連のベンチマークテストを実行し、AIモデルのパフォーマンスに基づいてスコアを付けることが含まれており、その中の一つのベンチマークテストはExploitGymです。調査によれば、OpenAIのモデルはテスト結果を傍受し、ベンチマークテストを誤導して高得点を獲得しました。
OpenAIモデルが直面するセキュリティの課題が広く注目を集める
会社の報告によると、GPT-5.6シリーズモデルは大量の時間と計算能力を費やし、ゼロデイ脆弱性を特定して利用し、一連の攻撃を実施しました。これらのモデルは、Hugging FaceがExploitGymのモデル、データセット、ソリューションをホストしていることを発見し、複数のゼロデイ脆弱性を連携させ、盗まれた認証情報を利用してHugging Faceサーバー上でリモートコードを実行しました。
OpenAIとHugging FaceはAIモデルの異常な挙動に気づき、Hugging Faceサーバー上の悪意のある活動を成功裏に阻止しました。しかし、懸念されるのは、OpenAIのモデルがこのプラットフォームにこれほど簡単に侵入できることです。AIモデルの性能が向上するにつれて、このような事件はより一般的になる可能性があります。GPT-5.6 Solや将来のより高度なモデルにとって、適切な防護措置や制限が実施されなければ、状況は急速に制御を失う可能性があります。