カリフォルニア州知事ギャビン・ニューサムは9月10日に2つの人工知能規制法案に署名し、カリフォルニア州の人工知能分野における法規フレームワークをさらに整備しました。特に注目すべきは、これらの法案が発表される前に主要な人工知能企業からの承認と支持を得ていたことです。
法案署名のタイミングは、人工知能の安全性に関する話題が広く注目を集めている時期と重なります。以前、Anthropicに勤務していた研究者ジェイコブ・コークソンが退職を発表し、人工知能業界が災害的リスクを加速させる可能性について警告を発しました。これに対し、ニューサムは最近の出来事が引き起こした懸念は、人工知能が巨大な潜在能力を秘めているというカリフォルニア州の長年の判断を裏付けるものであり、その開発と展開には実質的な安全保障措置が必要であると述べました。また、ニューサムは連邦政府に対し、現在の緊急事態に見合った全国的な人工知能規制法を早急に策定するよう呼びかけました。
カリフォルニアの人工知能規制法案は業界の安全基準を向上させる
この2つの法案の中で、州上院議員ジェリー・マクナマラが提案したSB 813法案は、カリフォルニア人工知能基準および安全委員会を設立し、任意の人工知能安全基準を策定する責任を負います。一方、議員リベッカ・パウエル-カハンが提案したAB 1405法案は、人工知能リスク監査機関の登録制度を創設し、監査人の資格認証を規制します。
業界の観点から見ると、AnthropicとOpenAIは法案署名前に公開で支持を表明しました。OpenAIの公共事務責任者クリス・ライハンは、現在の人工知能の能力が新たな段階に入っており、それに応じた政策フレームワークもこの歩みに追いつく必要があると述べました。Anthropicは、長期にわたる安全対策への投資が、業界全体が合法的かつ検証可能な方法で協力し、強力なモデルのリリースペースを共に把握することを促進したと指摘しました。両社は、能力の測定、リスクの管理、人間の制御権の保持に関する問題で合意を形成し、互換性のある国際基準の確立を推進すると述べています。