Anthropic の公式発表によると、人類の福祉を促進する人工知能システムを構築するために、同社は異なる視点を持つ団体との対話を行うことになりました。この対話の第一ラウンドは、15以上の宗教および異文化団体の学者、神職者、哲学者、倫理学者と始まり、今後も参加者の範囲を拡大していく予定です。
多様な視点の重要性を強調
Anthropic は、安全で有益な人工知能モデルを構築するには、整合性、解釈可能性、安全対策、評価などの深い技術的作業が必要であると述べています。しかし、これらの作業は真空の中で行われるものではなく、人工知能は多くの人々に影響を与えており、引き起こされる問題には多様な視点の参加が必要です。
「私たちは、強力な人工知能の世界において繁栄する未来の姿を慎重に考慮しており、数百万人と対話する人工知能システムにとって何が良いのかを考えています。」
Anthropic
倫理形成の初期探求
Claude の憲法を作成する際、Anthropic は異なる分野や伝統からのフィードバックを求めており、これらの初期の交流は人工知能システムの倫理形成に関する広範な研究ワークフローへと発展しています。第一ラウンドの対話は、美徳、品格、良い生活の意味について長期的に考えてきた宗教、哲学、文化コミュニティとのものでした。
「私たちは、Claude が宗教的、世俗的、政治的なさまざまな視点からインスピレーションを得て、同等の深さと厳密さで進めることを望んでいます。」
Anthropic
継続的な対話と今後の計画
これらの対話は始まりに過ぎず、Anthropic は今後数ヶ月の間に、法学者、心理学者、作家、市民機関など、さらに多くの団体と交流を行う予定です。多くの対話は倫理形成を超えて、人工知能が仕事、機関、権力配分をどのように再構築するかというより広範な問題を探求します。
Anthropic は、既存の関係を深め、聞いた意見と研究の対応性をテストし、学んだ知識を共有していくと述べています。
資料出典：Anthropic 公式発表
