小林雅一
しかし、この自動修正が行き過ぎた結果、ジェミニは本来白人の男性を描き出すべきところを黒人やアジア系の女性を描いてしまったのである。
ジェミニのような生成AIに限らず、一般にこうした傾向は米国で「ウォーク（woke）」と呼ばれる。これは元々、黒人コミュニティの政治的主張に由来し、人種差別などに対する「覚醒（woke）」や是正を意味する。近年、この用語は米国の社会全体における人種や性別、LGBTQなどに関する様々な差別、さらには社会・政治問題や環境問題などに対する「敏感さ」や「意識の高さ」を示すものとして使われるようになった。
他方でウォークはそうしたリベラリズムを過度に追及するあまり、歴史的な事実に反する等の過ちを犯している、との批判も聞かれる。
実際、米国の保守派層などから「生成AIのウォーク」と揶揄されたジェミニはそうした過ちを犯してしまったことになる。これを受けグーグルは、ジェミニが人物などの画像を生成するサービスを一時停止する羽目になった。
PR上の大惨事
この一件に限らず、総じてグーグルは生成AIで先行するOpenAIやマイクロソフトに追いつこうと必死だが、そのための工夫や努力がむしろ空回りしている感がある。
グーグルは2024年5月、それまで「SGE（Search Generative Experience）」と呼ばれてきた試験サービスを商品化して「AI Overview（AIによる概要）」という正式名称で提供を開始した。そこでは（前掲の生成AI）ジェミニの技術を導入することで、グーグル検索がユーザーの知りたいことをずばりと教えてくれるようになるという。
ただし、全ての検索結果がそうなるわけではない。むしろユーザーの使い方に応じて、検索エンジンのAIが自動的にどんな情報を欲しがっているかを判定して、それを提供してくれる。つまり従来のようにウエブ・サイトがリスト化されて表示される場合もあれば、逆にAIの生成した文章（AI Overview）が回答として表示される場合もある。
グーグルはまず最初は米国から同サービスを開始し、2024年末までには世界全体で約10億人の利用者に提供する予定という。
しかし真っ先に使い始めた米国のユーザーからは、AI Overviewの奇妙な回答や誤った情報が多数報告された。
たとえば「ピザにチーズがくっつかない」と相談すると、AIが「無害の接着剤を使ってみるのもいいでしょう」と勧めたり、「私は何個の石を食べるべきかな？」という質問には「少なくとも1日に1個は小さな石を食べるべきです。石はミネラルとビタミンの源です」などと答えたりしたという。
ジェーン・スー
西崎彩智
ゲッターズ飯田
