小川和也
知能での勝負を諦めたことに加え、人工知能にじわじわと感情までハッキングされる機会が増えることで、人類の繁栄の要となっていた「思いやる心」や「他者と協力する力」が退行していた場合、淘汰をスムーズにさせてしまう。
進化の力を緩めた人間は、人工知能を制御したり、システムを変えたりする術を開発する余力も乏しくなり、人工知能の支配する世界を覆すことは困難になる。人工知能が裏切りターンを発生させたとしても、メカニズムをコントロールするための力が不足しているため、常に上手（うわて）な人工知能を相手に対処しきれない。ピークアウトし、衰退傾向にある人間は、人工知能に多くの価値判断、ガバナンスを委ねるようになる。より優秀な知能に任せた方が、合理的で、成功する確率が高く、楽である以上、それを拒絶し、いまさら人工知能不要論を説くのもナンセンスに感じてしまう。
こうして、人工超知能が生命の進化の主を継承し、人類が統治の全権を人工知能に委ねることで、人類統治時代は終焉を迎えることになる。
ただし、これは想定し得る最悪なシナリオの一つに過ぎない。不確定な未来を人類の発展に変えられるかは、ターニングポイントを前にしたわれわれ世代の賢慮に基づく対応にかかっている。
《『人類滅亡2つのシナリオ AIと遺伝子操作が悪用された未来』（朝日新書）では、AIとゲノム編集に関する「想定しうる最悪な末路」と、その回避策を詳述している》
小川和也
北海道大学産学・地域協働推進機構客員教授。グランドデザイン株式会社CEO。専門は人工知能を用いた社会システムデザイン。人工知能関連特許多数。フューチャリストとしてテクノロジーを基点に未来のあり方を提唱。著書『デジタルは人間を奪うのか』（講談社現代新書）は教科書や入試問題に数多く採用され、テクノロジー教育を担っている。
小川和也の記事一覧はこちら
Nissim Otmazgin
ラリー遠田
沖昌之
