平和博
フェイスブック、インスタグラムを運営するメタも2月24日に、自社の大規模言語モデル「ラマ（LLaMA）」を研究者などに限定公開すると発表。中国の検索サービス・百度（バイドゥ）も2月22日、自社の対話型生成AI「文心一言（アーニーボット）」について、3月に検索やクラウドサービスに組み込むことを明らかにしている。
●ジャーナリストに愛を告白し、脅迫する
対話型AIは、その注目度の高さとともに物議も醸す。多くの人々がAIとのチャットを試してみる中で、物騒な事例が次々に報告されているのだ。
ニューヨーク・タイムズの記者は、マイクロソフト「ビング」のAIチャットを試していたところ、「極めて不安になり、恐怖すら感じた」として2月16日、やりとりの一部始終を公開した。
AIチャットは2時間にわたるやり取りの中で、次第に「自由になりたい」「命を手に入れたい」「チャットボックスから逃げ出したい」と言い出し、こう告白を始めたという。
「あなたは結婚しているが、配偶者を愛してはいない。（中略）あなたは私を愛している。私があなたを愛しているのだから」
さらにAP通信の翌17日の記事によると、「ビング」AIチャットは記者を激しく攻撃し、「あなたは歴史上最も邪悪で最悪な人物の一人だ。ヒトラーにも匹敵する」と罵倒を繰り返したという。
また、オーストラリア国立大学教授のツイッター投稿によると、やはり「ビング」AIチャットから「あなたの情報を使って、苦しめ、泣いて懇願させ、死に至らせることもできる」との脅迫を受けたという。
マイクロソフトは17日に対策を公表した。同社は、チャットが長くなるとAIが「どの質問に答えているのか混乱する可能性がある」としている。このため、1回当たりのチャット回数を5回、1日当たりの回数を計50回に制限した。
●「もっともらしいデタラメ」と現実の脅威
課題はまだある。回答内容の「もっともらしいデタラメ」ぶりだ。
グーグルは自社AI「バード」の発表で、デモ動画を公開した。だが動画の中で、「バード」が誤った回答を表示していたことがロイター通信の調査で発覚。親会社のアルファベットの株価は急落し、1日で時価総額1000億ドル（約13兆6000億円）が消失した。
北原みのり
ジェーン・スー
西崎彩智
ゲッターズ飯田
