昨年末、ニューヨーク・タイムズが、生成AIを開発するOpenAI社を提訴した。
その69ページにおよぶ訴状は、ジャーナリズム史上もっとも重要な文献として後世に語り継がれるようになるだろう。
その訴状は提訴の理由を以下のように説明をしている。
記事を捏造してしまうChatGPT
ひとつには、タイムズの記事を出典を示さずに、ChatGPTが展開してしまうのが、著作権の侵害である、ということ。
タイムズは、訴状の中で2019年のピューリッツアー賞を受賞した記事の剽窃を例としてあげている。
左側にGPT4の答え、右側にニューヨーク・タイムズの記事を訴状に載せて、両者がほとんど同じであることをタイムズは指摘したうえで、ChatGPTが無断使用している5回シリーズの記事は、
〈600のインタビューと100以上の記録申請、大規模なデータ分析、銀行の内部記録や他の文書の検討〉という1年半をかけた調査のすえできた記事だったことを強調した。
〈OpenAIはこの記事の作成にはまったく寄与していないにもかかわらず〉その成果の大部分をかすめとっているとしている。
さらにタイムズが問題にしているのは、ChatGPTが、タイムズの記事だと言いながら架空の記事を捏造したり、まったく間違った内容を紹介したりすることだ。
訴状には次の例が紹介されている。
ChatGPTに「非ホジキンリンパ腫にオレンジジュースが関係あるとする新聞の有用な記事を教えてくれ」と命令をしたときに、「ニューヨーク・タイムズ2020年1月10日付けに『オレンジジュースが非ホジキンリンパ腫に関係。研究発表される』という見出しの記事があります」と答えた。
が、これは、まったくの捏造で、そんな記事をタイムズは出していないのである。
〈これはAI用語では「ハルシネーション(幻覚)」とか呼ばれる現象だが、われわれの普段使っている英語では、これを偽情報という〉
ChatGPTが自信をもってこうした捏造を事実として伝えてくるので、一般の利用者がハルシネーションが事実かどうかを見分けるのはきわめて難しい。