Anthropic の公式発表によると、人類の福祉を推進する人工知能システムを構築するために、同社は異なる視点を持つ団体との対話を積極的に展開しています。これらの対話の第一弾の参加者には、15以上の宗教や異文化団体からの学者、神職者、哲学者、倫理学者が含まれています。
多様な視点の重要性を強調
Anthropic は、安全で有益な人工知能モデルを構築するには深い技術的作業が必要であるが、これらの作業は真空の中で行われるものではないと述べています。同社は、人工知能が多くの人々に影響を与えており、提起された問題には多様な視点からの探求が必要であると指摘しています。公式は次のように強調しています。「私たちは、強力な人工知能の世界における繁栄した未来の姿、そして数百万人と対話する人工知能システムが持つべき良い特性について慎重に考えています。」（”We are thinking carefully about what a flourishing future could look like in a world of powerful AI, what it means for an AI system that interacts with millions of people to be good.”）Anthropic
倫理形成の初期探求
Claude の憲法を作成する際、Anthropic は異なる分野や伝統からのフィードバックを求めており、これらの初期の交流は人工知能システムの倫理形成に関する広範な研究作業へと発展しています。同社は宗教、哲学、文化コミュニティの専門家との初回対話を行い、美徳、品格、良い生活とは何かという問題を探求しました。Anthropic は次のように述べています。「この作業は、私たちのモデルを特定の伝統の世界観に合わせることを目的としたものではありません。私たちは Claude がさまざまな視点からインスピレーションを得ることを望んでいます。」（”This work isn’t about aligning our models with any one tradition’s worldview; we want Claude to draw from a full range of viewpoints.”）Anthropic
未来の対話計画
Anthropic は今後数ヶ月で、法律学者、心理学者、作家、市民機関など、さらに多くの団体との交流を計画しています。これらの対話は倫理形成に限らず、人工知能が仕事、機関、権力分配をどのように再構築するかというより広範な問題についても探求される予定です。公式は次のように述べています。「私たちはすでに形成した関係を深め続け、聞いたことを研究と照らし合わせ、学んだことを共有します。」（”We’ll keep deepening the relationships we’ve already formed, testing what we’ve heard against our research, and sharing what we learn.”）Anthropic
資料來源：Anthropic 公式発表
