未来のAIは「人類滅亡」を引き起こすのか　人間がガバナンスを放棄する「最悪なシナリオ」とは

　政治や経済、社会システムの基幹を担うようになった人工知能がひとたび裏切りターンを発生させると、人間は制御がいかに困難であるかを痛感することになる。技術的に対処するには、既に複雑になりすぎていて、人知を超えてしまっている。「知能」の世界を支配されるということは、そのような現象の中を生きることである。

　こうして、人類は知能の世界で勝負することを諦めたとき、〝退化〞の道を歩み始めることが考えられる。知能でまさるAIが高度な仕事を担う社会において、学習する意欲の低下やスキルを磨く意義が徐々に薄れ、知識や技術が人類の中から削ぎ落とされていく。それは、ある日突然、隕石が落ちてくるのとは違い、技術力を駆使して社会に役立てようと前向きに努力と時間を重ねて高度なAIを生み出した先にある現象であるため、アクシデントを現実視できず、警戒心にも隙ができやすい。

　超知能を作り出してから、自分たちより優れた知能を目の当たりにし、AIに対するライバル心や向上心よりも諦念が上回ってしまう人が増殖したときに、いつの間にか人類は淘汰の土俵の上に立っている。まるで、超知能を創造するまでが人類の使命だったかのように、引き継ぎが行われる。