前Anthropic研究員のJacob Coxonは、安全上の懸念から、彼の事前訓練された人工知能モデルの職を辞しました。彼は、規制のない企業間競争が人工知能を発展させることが人類に前例のない脅威をもたらすと主張しています。この27歳の事前訓練研究員の劇的な辞職は、ソーシャルメディアプラットフォームX上で挑発的な警告を発し、すぐにテクノロジー界の注目を集めました。Coxonは、現在の人類活動の中で「自己改善型超知能」を構築するための終わりのない企業競争ほど文明に脅威を与えるものはないと述べています。彼はX上で「人工知能を構築している人々は、本気でそれが10年以内に私たち全員を殺す可能性があると信じています。」と書いています。
これはマーケティングのための話題ではありません。実際、多くの幹部や上級研究者は、メディアで合理的に聞こえる言葉を使って表現しますが、私は同じ人々が私的に恐怖を表明するのを聞いてきました。他のどの人類活動も、これほど高いレベルの危険をもたらすことはありません。」
企業競争が人工知能の安全に与える影響
Coxonはツイートで「私は今日、Anthropicを辞職しました。私はOpenAIとAnthropicで事前訓練研究を3年間行ってきました。この2社は責任を持って行動していません。彼らは自己改善型超知能を全力で追求しており、私たちの命を危険にさらしています。」と書いています。
彼は、企業競争が実験室を傲慢な競争に陥らせ、危険なシステムを最初に構築するように迫っていると考えています。この勢いを打破するために、彼は同業者に声を上げるよう呼びかけ、国際的な調整と安全管理を促進するために能力向上の一時的な禁止を要求しています。彼はツイートで「私たちは世界的な競争を防ぐ方向に進んでいないと感じています。これは、モデルの能力を向上させることを一時的に禁止するなどの高コストな措置を必要とするかもしれません。」と付け加えました。
Gizmodoの報道によれば、AnthropicのCEO Dario Amodeiも彼の元従業員と同様の人工知能の安全に関する懸念を共有しており、業界では「終末論者」としてラベル付けされています。彼の長文のブログ記事もこれを裏付けています。この共通の生存への不安は、注目すべき矛盾を浮き彫りにしています：トップ人工知能企業の責任者が、彼が全力で推進している技術に対して深い恐怖を抱いているということです。