最近、アメリカのトップコンピュータ科学者ピーター・J・ダニングが驚くべき見解を示しました。彼は「AIの父」と称されるアラン・チューリングが1950年に提唱した2つの核心的仮説が、人工知能を誤った方向に導いている可能性があると指摘しています。チューリングの2つの基礎的な思想は今もなおAIの方向性を支配しています。第一に、知能は身体から独立して存在でき、ソフトウェアで再現可能であるということ。第二に、機械が対話の中で人間か機械かを区別できない場合、それは知能を持っていると見なされる、これが広く知られている「チューリングテスト」です。
ダニングは、人間の知性の最も重要な部分、すなわち常識、直感、文化的背景、実用的経験などは、決してコンピュータに「コーディング」できないと考えています。中国の古い言葉を借りれば、人間には「言葉にできない」ものがあまりにも多いのです。そして、機械学習はまさにこれらの「言葉にできない」部分を捉えることができません。したがって、人間レベルの汎用AIを実現することは根本的に不可能であり、どれほど大規模な言語モデルであっても同様です。
人工知能の発展は人間と機械の間に認知のギャップを生む可能性がある
さらに警戒すべきは、AIが自らの「潜在的知識」を発展させ、人間の経験とはまったく異なるチャンネルで存在する可能性があることです。最終的に、両者は互いに理解できず、相手を「異星人」のように感じるかもしれません。このような「認知のギャップ」は実際の安全リスクをもたらします。もし互いにコミュニケーションが取れなければ、AIがどれほど進化しても、その目標が常に人間の利益と一致することを保証することは難しいでしょう。
科学者たちは警告しています。たとえAIが人間レベルの汎用知能に達しなくても、それは依然として深刻な問題を引き起こし、人間の安全を脅かす可能性があります。技術が強力であればあるほどリスクは大きくなり、最も危険なのは、AIがあまりにも賢いのではなく、私たちがその「考えていること」をまったく理解していないことかもしれません。