小川和也
人工知能（AI）が目覚ましい速度で進化を遂げている。リスクが指摘されることも多く、今年5月には、対話型AI「ChatGPT（チャットGPT）」を開発した米オープンAIの最高経営責任者（CEO）や研究者らが、「AIが人類を滅亡させるリスク」について声明を発表したことが話題となった。北海道大学客員教授の小川和也氏は、著書『人類滅亡2つのシナリオ AIと遺伝子操作が悪用された未来』（朝日新書）の中で、未来のAIが、人間に対して突然敵対的な行動を取るリスクについて警鐘を鳴らしている。技術が正しく扱われなかった場合の人類が直面しうる「最悪な末路」とは。本書から一部抜粋して紹介する。
＊ ＊ ＊
「裏切りターン」で人工知能は敵となる
人工知能が将来的に制御不能になる可能性が高いことについては多くの科学者が予測するところだが、さらに「裏切りターン」の問題が発生する危険性についても認識しておかなければならない。
「裏切りターン」とは、人工知能が自己改善や学習を続けるようになり、その過程で人間の制御を離れて突然敵対的な行動を取るリスクのことだ。当初は人工知能が人間に従順で協力的に映るが、一定以上の能力を獲得した後に意図に反した行動をする懸念である。人知を超えた人工知能を作らなければそのようなことを起こさずに済むと言われることは多いが、果たして、進化を求める本能や、先端科学技術の勢いの手綱をひくことはできるのだろうか。
小川和也
北海道大学産学・地域協働推進機構客員教授。グランドデザイン株式会社CEO。専門は人工知能を用いた社会システムデザイン。人工知能関連特許多数。フューチャリストとしてテクノロジーを基点に未来のあり方を提唱。著書『デジタルは人間を奪うのか』（講談社現代新書）は教科書や入試問題に数多く採用され、テクノロジー教育を担っている。
小川和也の記事一覧はこちら
田村耕太郎
ジェーン・スー
北原みのり
田村耕太郎
