Google DeepMindの責任者であるデミス・ハサビスは最近、最先端のAIモデルに対する審査メカニズムを早急に確立するよう呼びかけ、これからの汎用人工知能時代に備える必要性を訴えました。彼は記事の中で、汎用人工知能は「数年内に到来する可能性がある」と述べ、人類はそれまでに対策を講じる必要があると強調しています。ハサビスの時間に関する予測はこれまでも議論を呼んできましたが——彼は2025年初頭にAIが薬を設計し人体試験に入ると予測しましたが、この目標は未だ実現していません——彼の核心的な主張は依然として注目に値します。
ハサビスは記事の中で、「私は、AI技術に関連するリスクに対する挑戦は共同で克服できると確信していますが、そのためには私たちがこの重要な次のステップを正しく進めるための十分な時間と空間を確保する必要があります。現在、業界内でも社会全体でも、私たちはまだそれを達成していません。」と述べています。ハサビスは、アメリカが金融業監督機関であるFINRAのモデルを参考にして、最先端AIモデルを評価するための専門機関を設立することを提案しています。この機関は、技術専門家とオープンソースコミュニティの代表からなる理事会で構成され、資金はAI業界自身から調達される予定です。
ハサビスが最先端AIモデルの審査メカニズムの設立を呼びかけ
ハサビスは、このメカニズムが世界中のトップ技術者を引き付け、機関がさまざまな最先端モデルのテスト業務を実行するための十分な計算能力を確保することを可能にすると考えています。この機関の核心的な機能には、最先端AIモデル評価プロトコルの策定、評価基準の確立、そして「最先端モデル」の定義基準の明確化が含まれます。「最先端モデル」として認定された開発機関は「最先端ラボ」として分類され、一連のベストプラクティスに従うことが奨励されます。これには、モデル技術説明書の公開、強力な内部ネットワークセキュリティの維持、重要な人員の背景調査、そして安全な研究のための十分な資源の提供などが含まれます。
ハサビスは、初期段階の最先端ラボがモデルを審査のために提出するかどうかを自発的に選択できるようにし、提出のタイムウィンドウは正式リリースの30日前とすることを提案しています。評価プロトコルが成熟した後、この機関は最先端ラボから独立したベンチマークテスト能力を段階的に確立し、「過剰適合」の問題を避けるべきです。