チャットボットは意味を理解しない

　チャットボットは、文や文章の意味を人間のように「理解」させる設計ではないことを述べてきました。その限界は、簡単な文の理解を試すだけで示せます。

　たとえば、「太郎が花子に自分の写真を撮らせた」という文には、「太郎自身の写真を撮らせた」と「花子自身の写真を撮らせた」という二つの意味が生じます。ところが現状のチャットGPTは前者しか認識できず、関係ない「文脈」を持ち出したり、「通常、人は自分自身の写真を撮るために他人に頼むことはありません」と決めつけたりします。

　人間の言葉に曖昧(あいまい)さは付きものです。たとえば、「土曜と日曜の午後」と文字で書いただけでは、「土曜と日曜、両方の午後」なのか、「土曜の終日と、日曜の午後」を意味するのか曖昧です。

酒井邦嘉『デジタル脳クライシス』（朝日新書）
図版作成：上泉隆

　この例では、「土曜・日曜・午後」において隣り合うどちらを先に結びつけるか、という文節の作り方が2通りあるわけです。図2では、単語間の結びつきを線で表しており、木の枝分かれのようになっているので、木構造（きこうぞう）と呼びます。このように文や文節の構造に基づく曖昧性のことを構造的曖昧性と言います。

　ちなみに、「橋の端（はし）を渡る」や「端の橋を渡る」のように、同音異義語などによって生じる曖昧性は、語彙（ごい）的曖昧性と言います。日本語は特に同音異義語が多いため、かな漢字変換の学習機能にも明らかな限界があります。

　もし「対話型」のAIを目指すなら、曖昧な表現を正しく解釈できるよう、発話者に対して確認の質問をするようにしなくてはなりません。そうした対策の積み重ねがない限り、文や文章の意味を正しく理解することはできないはずです。

　言葉を軽んじ、相手への配慮を怠れば、人の心というものは簡単にすさんでしまいます。次世代のために美しい言葉を守り続けることは、大人の責任ではないでしょうか。

次のページ
言語モデルから考えるAIの弱点