Google のDeepMindの責任者であるデミス・ハサビスは最近、最先端のAIモデルに対する審査メカニズムを早急に確立する必要があると呼びかけ、間もなく訪れる汎用人工知能の時代に備えるべきだと述べました。彼は記事の中で、汎用人工知能は「数年以内に到来する可能性がある」とし、人類はその前に対策を講じる必要があると強調しました。ハサビスのタイムラインに関する予測はこれが初めての論争ではなく、彼は2025年初頭にAIによる薬剤設計が人体試験段階に入ると予測しましたが、この目標は未だに達成されていません。しかし、彼の今回の核心的な主張は依然として注目に値します。
ハサビスは記事の中で、「私は、AI技術のリスクに関連する課題は共同で克服できると確信していますが、そのためには私たち自身に十分な時間と空間を与え、この重要な次のステップを正しく進める必要があります。現在、業界内でも社会全体でも、私たちはまだそれを達成していません」と述べています。ハサビスは、アメリカが金融業監督機関であるFINRAのモデルを参考に、最先端のAIモデルを評価するための標準化機関を設立することを提案しました。この機関は、技術専門家とオープンソースコミュニティの代表で構成される理事会によって運営され、資金はAI業界自体から調達される予定です。
ハサビスが最先端AIモデルの審査メカニズムの設立を呼びかけ
ハサビスは、このメカニズムが世界のトップ技術者を引き付けるだけでなく、機関が様々な最先端モデルのテスト業務を実行するために十分な計算能力を持つことを保証すると考えています。この機関の核心的な機能には、最先端AIモデル評価プロトコルの策定、評価基準の確立、および「最先端モデル」の定義基準の明確化が含まれます。「最先端モデル」として認定された開発機関は「最先端ラボ」として分類され、一連のベストプラクティスに従うことが奨励されます。これには、モデル技術説明書の公開、強力な内部ネットワークセキュリティの維持、重要な人員のバックグラウンドチェック、そして安全研究のための十分なリソースの提供などが含まれます。
ハサビスは、初期段階の最先端ラボはモデルを審査に提出するかどうかを自発的に選択できるようにし、提出のタイムウィンドウは正式リリースの30日前とすることを提案しました。評価プロトコルが成熟した後、この機関は最先端ラボから独立したベンチマーク能力を段階的に確立し、「過剰適合」の問題を避けるべきです。