未来のAIは「人類滅亡」を引き起こすのか　人間がガバナンスを放棄する「最悪なシナリオ」とは

　人類は長きにわたり、進化を続けてきた。単細胞生物が他の生物を巻き込んで新たな生命体が誕生し、それから途方もなく長い年数を経て、最初の人類が生まれることとなった。人類は二足歩行ができるようになり、道具を作って使い、脳が大きくなり、地球上で最高の知能を持つ存在となった。

　しかし、人工知能の進化により、地球上で最高の知能を持つ存在がいよいよ入れ替わろうとしている。

　人工知能の進化のプロセスは、まるで単細胞生物からホモ・サピエンスへと進化したプロセスのようだ。人工知能は、間違いや役に立たない結果も出しながら、大量の情報をもとに無数のシミュレーションと修正を繰り返す。どの解が生き残るべきかを判断し、学習と改善を重ねて知能レベルは上がり続ける。こうして人工知能は、長い年月をかけた人類の進化とは比較にならないほど速いスピードで進化し、人間の知能を超えるようになる。やがて進化のプロセスも複雑化し、人間には理解困難となる。

　論理的思考、抽象的思考、言語機能、学習機能、問題解決能力、創造性など、様々な知能の要素が人間の標準レベルに届き、やがて最も天才的な人間をも上回る超知能にまで達した「人工超知能」は、ホモ・サピエンスから最高知能の座を引き継ぎ、「知能」の世界を支配する。