最近、アメリカのトップコンピュータ科学者ピーター・J・ダニングが驚くべき見解を示しました。「AIの父」と称されるアラン・チューリングが1950年に提唱した二つの核心的仮説が、人工知能を誤った方向に導いているかもしれないというのです。チューリングの二つの基礎的思想は今もなおAIの方向性を支配しています。第一に、知能は身体から独立して存在でき、ソフトウェアで再現可能であるということ。第二に、機械が対話の中で人間と区別がつかない場合、それは知能を持つと見なされる、これが広く知られる「チューリングテスト」です。
ダニングは、人間の知性の中で最も重要な部分、すなわち常識、直感、文化的背景、実用的経験などは、決してコンピュータに「コーディング」することができないと考えています。中国の古い言葉を借りれば、人間には「言葉では伝えられない」ものがあまりにも多いのです。そして、機械学習はまさにこれらの「言葉では伝えられない」部分を捉えることができません。したがって、人間レベルの汎用AIを実現することは根本的に不可能であり、どれほど大規模な言語モデルであっても同様です。
人工知能の発展は人間と機械の間に認知のギャップをもたらす可能性がある
さらに警戒すべきは、AIが独自の「暗黙の知識」を発展させ、人間の経験とは全く異なるチャンネルで存在する可能性があることです。最終的には、両者が互いに理解できず、相手を「異星人」のように感じるかもしれません。この「認知のギャップ」は実際の安全リスクをもたらすでしょう。もし互いにコミュニケーションが取れなければ、AIがどれほど進化していても、その目標が常に人間の利益と一致することは難しいのです。
科学者たちは警告しています。たとえAIが人間レベルの汎用知能に達しなくても、それでも深刻な問題を引き起こし、人間の安全を脅かす可能性があります。技術が強力であればあるほど、リスクも大きくなります。そして最も危険なのは、AIがあまりにも賢いのではなく、私たちがその「考えていること」を全く理解できないことかもしれません。