NVIDIA、Microsoft、SpaceX およびその他の主要なテクノロジーとサイバーセキュリティ企業が協力して、オープンセキュアAIアライアンス（Open Secure AI Alliance）を設立しました。このアライアンスは、ソフトウェア、AIエージェント、および重要なインフラストラクチャがサイバー脅威に対抗するためのオープンツールの開発に焦点を当てています。このアライアンスには、クラウドコンピューティング、サイバーセキュリティ、企業ソフトウェア、オープンソース財団、AI研究などの分野で著名な企業が集結しており、創設パートナーには NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、
Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux財団、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、ServiceNow、Siemens、SK Telecom、Snowflake、SpaceXAI、Synopsys、Thinking
Machines Lab および TrendAI が含まれています。
オープンセキュアAIアライアンスはオープン防御ツールの開発に注力
NVIDIAはプレスリリースで、このアライアンスがソフトウェアとエージェントを保護するためのオープン技術、技術手段、およびツールの開発と共有に取り組むと述べました。AIの広範な展開に伴い、同社はこのイニシアチブにオープンモデル、モデルの重み、データ、およびエージェント駆動の研究を提供します。特に、Google、OpenAI、Anthropicが創設パートナーリストに明らかに欠けていることが注目されます。特にOpenAIの不在は、アライアンスがオープン防御ツールに焦点を当てているためです。最近のHugging Faceのセキュリティ事件では、同社は閉じたAIツールが証拠分析を支援できない状況で、オープンウェイトモデルに切り替えたと述べています。
アライアンスは、サイバーセキュリティがオープンモデルが顕著な利点を提供できる分野の一つであると指摘しています。閉じたシステムとは異なり、オープンモデルとツールは検査、調整が可能であり、組織のインフラストラクチャ上に展開できるため、防御者は敏感なデータと安全な運用に対してより大きな制御権を持つことができます。このグループは、最近のHugging Faceの事件が防御者が先進的なオープンシステムにアクセスする必要がある理由を証明していると述べています。発表によると、Hugging Faceはそのインフラストラクチャ上でオープンウェイトのGLM 5.2モデルを使用し、17,000回以上の操作を分析し、閉じたAIツールが攻撃者と防御者を区別できない場合でも侵入を成功裏に抑制しました。
オープンモデルのサイバーセキュリティにおける重要性が高まる
この事件は、実際の真実を示しています。防御者が先進的なAIを検査、調整し、自らのインフラストラクチャ上で運用できない場合、彼らの対応能力は速度が重要な瞬間に制限されます。アライアンスは、企業と政府が単一の供給者への依存を減らし、潜在的な単一障害点を回避するために、マルチベンダーエコシステムで機能するオープン防御ツールを必要としていると述べています。また、オープンモデルが悪用される可能性があることも認めています。これには、サイバー攻撃や保護措置の除去の試みが含まれます。しかし、このグループは、これらのリスクはオープンシステムと閉じたシステムの両方に存在すると主張しています。
アライアンスは、正しい対応策は防御者が能力のあるオープンシステムにアクセスすることを拒否することではなく、オープン性と強力な保護措置、明確な悪用ルール、厳格な評価、迅速な是正措置を組み合わせることだと強調しています。
アライアンスは、モデルそのものだけでなく、AIエージェントをサポートするより広範なシステムに注力しています。効果的なセキュリティには、アイデンティティ、権限、エージェント駆動、バリア、ログ記録、評価などの制御手段を含める必要があると述べています。NVIDIAの新しいオープンソースプロジェクト、NVIDIA Labs Object-Oriented Agent（NOOA）は、このイニシアチブに貢献します。このフレームワークは、エージェント駆動とモデルの協力を支援し、エージェントの行動のテスト、追跡、監査、ガバナンスを容易にします。他のメンバーもセキュリティスタックに技術を提供しています。
HPEは、エージェントとサービスを検証するためのゼロトラストアイデンティティ基準を提供するSPIFFE/SPIREを貢献しています。Hugging Faceは、モデルの重みを保存するためにそのSafetensorsフォーマットをPyTorch財団に提供しました。また、IBMとRed Hatはオープンソースソフトウェアサプライチェーンのためのデジタル署名パッチを開発しています。Microsoftは、特定のエージェントの発見、議論、利用可能な脆弱性の検証を利用するMDASHマルチモデルエージェントスキャンツールを提供しています。
SpaceXAIはGrok Buildエンドポイントコーディングエージェントをオープンソース化し、Grokモデルシリーズの重みもオープンソース化する計画を発表しました。
連盟は政策立案者に対し、オープンモデル、エージェント駆動型およびセキュリティツールを防御資産と見なすよう呼びかけています。オープンボーダーシステムに対する全面的な制限は、ネットワーク防御を弱体化させ、少数の閉鎖的な供給者への依存を増加させる可能性があると警告しています。オープンセキュリティ人工知能連盟は、企業や政府がデータセット、評価フレームワーク、攻撃シミュレーター、レッドチームツールなどの共有インフラに投資すべきであると述べており、人工知能エージェントの広範な展開に伴い、これらの投資がますます重要になるとしています。