Anthropic の公式発表によると、アメリカ政府が国家安全保障上の理由から輸出管理命令を発表し、Fable 5 と Mythos 5 へのすべての外国籍の個人のアクセスを一時停止したため、アメリカ国内外の外国籍の Anthropic 従業員も含まれます。したがって、Anthropic はこの命令に従うために Fable 5 と Mythos 5 を直ちに無効化しなければなりませんでしたが、他のモデルへのアクセスには影響がありません。
政府命令の背景と影響
発表によれば、Anthropic は現地時間の午後 5:21 にこの命令を受け取りましたが、手紙には具体的な国家安全保障上の懸念の詳細は記載されていませんでした。Anthropic の理解によれば、政府は Fable 5 を回避または「脱獄」する方法が発見されたと考えています。同社はこの技術を使用したデモを検証したところ、わずかな既知の軽微な脆弱性しか特定できず、これらの脆弱性は比較的単純に見え、他の公開されているモデルでも回避することなく発見できることがわかりました。
「私たちは強力な保障措置を構築しており、Fable がネットワークセキュリティ関連のタスクに悪用される可能性を大幅に低下させています。」
Anthropic
Anthropic は、Fable の発表前の数週間にわたり、アメリカ政府、イギリスの AISI、複数の民間第三者組織、および内部チームと協力して Fable の保障措置を数千時間にわたりテストした結果、Fable の保障措置が以前に展開されたモデルよりも効果的であることが示されたと述べています。
脱獄抵抗に関する見解
Anthropic は、これまでにテスターがモデルの保障措置を広範に回避できる普遍的な脱獄方法を見つけたことはないと指摘しています。同社は、どのモデル供給者にとっても完璧な脱獄抵抗は現時点では実現不可能であると疑問を呈しています。業界で使用されているすべての保障措置は、特定の状況下でいくつかのネットワーク情報の漏洩を引き起こす可能性がある非普遍的な脱獄攻撃の影響を受ける可能性がありますが、普遍的な脱獄は最終的に将来的に発見される可能性があります。
「私たちはこの深層防御戦略を堅持しており、Fable に伴うリスクを低下させ、業界で展開されている既存モデルのリスクと同等にしています。」
Anthropic
Anthropic は、政府が潜在的な非普遍的脱獄の口頭証拠を提示したにもかかわらず、これが商業モデルを撤回する理由になるべきではないと考えており、この基準が業界全体に適用されると、すべての新しいモデルの展開が実質的に阻止されると述べています。
顧客への影響と今後の計画
Anthropic は、今回の顧客への影響について謝罪し、これは誤解であると考えており、できるだけ早くアクセスを回復するために努力していると述べています。同社は、今後 24 時間以内にさらなる詳細を共有することを強調しています。
資料出典：Anthropic 公式発表
