山口氏は、「『withフェイク2・0時代』では、日本でもフェイクニュースによる混乱がもたらされる可能性が増している」と言う。
「欧米諸国と比較するとフェイクニュースの影響が相対的に少なかった日本ですが、生成AIの出現により被害を受ける可能性が高くなったと考えます」
米大統領選で世論工作
16年に行われたアメリカ大統領選では、ロシアが偽情報や感情的な反応を引き起こす情報を大量にSNSに投稿するなどして、組織的な世論工作を行ったとされる。フェイクニュースによる政治介入などの深刻な被害を、日本がこれまであまり受けずに済んだ要因の一つに、山口氏は日本語という“言語の壁”を挙げる。
「もちろん、政治状況の違いもありますが、自然な日本語でニュースを作ることは難易度が高く、また、世界共通語の英語と比べると広がりも小さい。そのため、世論工作をする費用対効果が低かった。けれども現在は、チャットGPTを使えば違和感のない文章も簡単に作成できます。今後、日本でもフェイクニュースにより、深刻な被害を受ける恐れがあると思います」
生成AIの出現により、フェイクニュースを取り巻く環境は更に悪化しているように見える。山口氏は「これまでは、人間が見れば『怪しいな』と疑うことも可能でしたが、いまは人の目で検証できる範囲を超えてきている」とし、「この問題に対しては技術による対抗が必要」と話す。
「AIを使ってAIが作ったフェイクニュースを判断する技術を発展させていくというのが一つあると思います。これは、例えばNBLAS（ナブラス）というベンチャー企業が開発しています」
ラリー遠田
春風亭一之輔
鈴木おさむ
