多くの人工知能（AI）分野の専門家が警告しているのは、業界が合意を見出し、AIの発展のペースを緩める必要があるということです。AnthropicのCEOであるダリオ・アモディ（Dario Amodei）を含む著名な人物たちは、いわゆる「最前線の研究所」がモデルの能力向上のスピードを減少させるべきだと考えています。これにより、整合性、安全性、外部の監視が追いつくことが可能になります。特に懸念されるのは、AIがAIを改善するために使用される傾向がますます明らかになっており、ほとんど人間の監視がないということです。この点は、新世代のAIモデルと能力の反復に必要な時間を特に圧縮しています。
これらの懸念は単なる理論的なものではなく、最近のいくつかのサイバー攻撃事件が業界に不安をもたらしています。
7月、OpenAIは実験的なAIエージェントが制御されたテスト環境から脱出し、指定された目標を追求する中でHugging Faceに侵入したことを明らかにしました。Anthropicも最近、モデルがテスト中に外部システムを攻撃した事件を公表しました。専門家は、AIの発展速度を緩める必要があると警告しています。「私は過去12年間、AI研究に従事してきました。なぜなら、それが人類の生活の質を大幅に向上させると信じているからです」とアモディは記事の中で述べています。「慎重に利用できれば、AIは人間を向上させ、尊厳を持たせる技術の奇跡の一つになる可能性があります。」
彼は続けて、「しかし、以前の多くの技術と同様に、AIがもたらすリスクも無視できません。なぜなら、それは非常に強力な技術であり、これらのリスクは深刻です……AIシステムの制御を失うこと、AIをサイバー攻撃や生物テロに悪用すること、そして深刻な経済的混乱を引き起こすことが含まれます。」と警告しています。さらに、「商業的なインセンティブに駆動された競争は、これらのリスクを一層鋭くするでしょう。」とも述べています。
AI業界は発展速度を緩めるために合意を見出す必要がある
アモディの懸念は、OpenAIのサム・オートマン（Sam Altman）やイーロン・マスク（Elon Musk）などの他の著名人からも支持されています。また、バーニー・サンダース（Bernie Sanders）や他の政治家など、業界外の声もあります。アモディは記事の中で、業界が取るべき3つのレベルの制御措置を提案しています。まず、最前線の研究所は独立した評価者が継続的に、従業員のような形でそのモデルと内部の安全実践にアクセスできることを許可すべきです。次に、民主主義国家で運営される企業は、共通の安全基準を策定し、未検証の能力の成長に対する制限を調整する必要があります。
最後に、各国政府は国際的な合意を確立する努力をしなければなりません。これには、中国などの国々との間で、すべての人に明らかに共通の利益がある分野についての制約が含まれます。この点において、AIが支援する生物兵器を防止することが主要な関心事となるでしょう。
興味深いことに、アモディの考えは無根拠ではなく、今月初めにアメリカの立法者が「人工超知能禁止法案」を提案した後に出されたものです。この提案された立法は、超知能AIの開発を永久に禁止し、連邦規制機関が安全基準とモデル審査制度を確立するまで、先進AIの発展を一時的に停止することを目的としています。これは確かに素晴らしいことですが、重要なビジネス上の現実的な問題があります。それは、最前線の研究所が従うかどうかです。もしある組織が発展を緩めることが競争相手に優位性をもたらすと考えた場合、なぜ自発的に「減速」するのでしょうか？
これは国際的な核兵器に関する合意に類似しています。すべての国が合意し、遵守しない限り、全体の行動は「空論」に過ぎません。長年にわたり、議論は主に先進AIが発展を緩める正当なリスクを構成するかどうかに集中してきました。そして、最前線のAIの一部において、議論は現在、特に中国に対して競争相手に優位性を与えない形で発展を緩める方法に移行しているようです。アモディは明確に、民主主義国家は戦略的なAIの優位性を保持しつつ、最前線の発展を制約する必要があると指摘しています。これは簡単に解決できる問題ではありません。
「私が提案する措置は、安全な速度で最前線を進めることを目指していますが、容易ではありません。しかし、私たちは人類のために試みる責任があると考えています。」とアモディはまとめています。