“超知能”に達したAIは制御困難？　人類が主導権を奪われるまでのシナリオとは

人工知能（AI）が目覚ましい速度で進化を遂げている。リスクが指摘されることも多く、今年5月には、対話型AI「ChatGPT（チャットGPT）」を開発した米オープンAIの最高経営責任者（CEO）や研究者らが、「AIが人類を滅亡させるリスク」について声明を発表したことが話題となった。北海道大学客員教授の小川和也氏は、著書『人類滅亡2つのシナリオ　AIと遺伝子操作が悪用された未来』（朝日新書）の中で、「未来のAIは、人間によるコントロールが不可能になる可能性が高い」とし、警鐘を鳴らしている。技術が正しく扱われなかった場合の人類が直面しうる「最悪な末路」とは。本書から一部抜粋して紹介する。

【表】ChatGPTが答えた将来なくなる仕事はこちら

＊　　＊　　＊

人工知能を制御できる可能性の科学的限界

　人間の体の外に、言語を扱い複雑な判断を下す知能が存在したことは、いまだかつてない。体外にある知能を人間のコントロール下に置けるという根拠は願望に基づくものが多く、残念ながら、その類の根拠はいまだ脆弱である。そして、外部の知能が人間に対して完全に従順である保証もない。知能のレベルが上がれば上がるほど、人間の理解を超えた現象に遭遇する。

〈残念ながら、私たちの知る限り、AI制御問題が原理的にも、ましてや実践的にも解決可能であることを示す数学的証明や厳密な論証さえ発表されていない。〉

著者プロフィールを見る

小川和也

北海道大学産学・地域協働推進機構客員教授。グランドデザイン株式会社CEO。専門は人工知能を用いた社会システムデザイン。人工知能関連特許多数。フューチャリストとしてテクノロジーを基点に未来のあり方を提唱。著書『デジタルは人間を奪うのか』（講談社現代新書）は教科書や入試問題に数多く採用され、テクノロジー教育を担っている。

小川和也の記事一覧はこちら