「アシロマAI原則」も、やはり公開書簡の形で公表し、テグマーク氏、タリン氏、マスク氏、ラッセル氏、ベンジオ氏のほか故スティーブン・ホーキング氏ら5千を超す署名を集めている。今回の未来生命研究所が出した公開書簡の実質的な宛て先となるオープンAIのCEO、サム・アルトマン氏も「アシロマAI原則」の署名者の一人だ。

「この数カ月、AIの研究機関は、誰も（その開発者でさえ）理解できず、予測できず、確実に制御できない、より強力なデジタル知能を開発し展開する、制御不能な競争に陥っている」

　今回の公開書簡は、そう指摘している。

　一方でウォールストリート・ジャーナルは4月14日、署名者に名を連ねるマスク氏が、AI開発のための新会社「X.AI」を設立した、と報じている。オープンAIへの対抗の狙いがあると言い、複雑な思惑もうかがわせる。

　また、米NPO「AI・デジタル政策センター（CAIDP）」は3月30日、米連邦取引委員会（FTC）に対し、オープンAIが「商取引における不公正、欺瞞的行為」を禁じたFTC法に違反しているなどとして、同社への調査を行い、必要な安全対策が行われるまで、新たなモデルの公開を防ぐよう求める申し立てを行った。同センターも、AIが制御不能になることへの懸念を指摘し、FTCにルール策定を求めている。

■ワイゼンバウム氏の警告

「AIは病気や気候変動のような非常に難しい課題への対処に役立つが、我々の社会、経済、国家安全保障に対する潜在的なリスクにも対処しなければならない」

　米国のバイデン大統領は4月4日、専門家グループとの会合でこう述べたという。米商務省国家電気通信情報庁（NTIA）も11日から、「AIのアカウンタビリティー（説明責任）」を担保するための規制策について、パブリックコメント募集を開始した。

　来日したオープンAIのアルトマン氏は10日、岸田首相と面会し、チャットGPTの「利点と、欠点を軽減する方法」について説明したという。

次のページ
「人間であることが必要だ」