“超知能”に達したAIは制御困難？　人類が主導権を奪われるまでのシナリオとは

人工知能（AI）が目覚ましい速度で進化を遂げている。リスクが指摘されることも多く、今年5月には、対話型AI「ChatGPT（チャットGPT）」を開発した米オープンAIの最高経営責任者（CEO）や研究者らが、「AIが人類を滅亡させるリスク」について声明を発表したことが話題となった。北海道大学客員教授の小川和也氏は、著書『人類滅亡2つのシナリオ　AIと遺伝子操作が悪用された未来』（朝日新書）の中で、「未来のAIは、人間によるコントロールが不可能になる可能性が高い」とし、警鐘を鳴らしている。技術が正しく扱われなかった場合の人類が直面しうる「最悪な末路」とは。本書から一部抜粋して紹介する。

【表】ChatGPTが答えた将来なくなる仕事はこちら

＊　　＊　　＊

人工知能を制御できる可能性の科学的限界

　人間の体の外に、言語を扱い複雑な判断を下す知能が存在したことは、いまだかつてない。体外にある知能を人間のコントロール下に置けるという根拠は願望に基づくものが多く、残念ながら、その類の根拠はいまだ脆弱である。そして、外部の知能が人間に対して完全に従順である保証もない。知能のレベルが上がれば上がるほど、人間の理解を超えた現象に遭遇する。

〈残念ながら、私たちの知る限り、AI制御問題が原理的にも、ましてや実践的にも解決可能であることを示す数学的証明や厳密な論証さえ発表されていない。〉