「ディープフェイク」にどう立ち向かえばいいのか? 政治的陰謀からフェイクポルノまで

2022/06/10 20:00

『ディープフェイク ニセ情報の拡散者たち』ニーナ・シック,ナショナル ジオグラフィック,片山 美佳子 日経ナショナルジオグラフィック社
『ディープフェイク ニセ情報の拡散者たち』ニーナ・シック,ナショナル ジオグラフィック,片山 美佳子 日経ナショナルジオグラフィック社


 「エイズは、アメリカ軍が黒人とゲイを殺害するために開発したウイルス」。これは1983年にロシア(旧ソ連)が流したニセ情報だ。現在は世界で数百万人、アフリカ系米国人においては48%がエイズは人工のウイルスだと信じている――。
 今回ご紹介する書籍は、『ディープフェイク ニセ情報の拡散者たち』(日経ナショナルジオグラフィック)。現代のディープフェイク(同書では悪意を持ってAIで生成・改ざんされた合成メディアと限定)の脅威について警鐘を鳴らす1冊である。ロシアによるエイズウイルスのニセ情報は冷戦時代の話だが、現在でもその噂は広がり続けているという。この時代にディープフェイクが存在していたら、一体どうなっていたのだろう?
「未来世界へようこそ。AIが進化を遂げ、人々が言っていないことを言ったかのように、やっていないことをやったかのように、仕立て上げることができる時代に突入したのだ。誰もが標的になり、誰もが万事を否定できる」(同書より)
 著者のニーナ・シックは、NATO前事務総長のアナス・フォー・ラスムセンの顧問に就任した経験を持つ女性だ。2020年の米大統領選の事前協議において、ジョー・バイデン(当時は副大統領)を含む要人たちへAIがどのように利用され脅威となるかを強く進言した人物でもある。
 著者は歴史上、前例のないレベルでニセ情報と誤情報が溢れる混乱した現代を「インフォカリプス(情報の終焉)」という造語で表した。著者がインフォカリプスの始まりとしているのが、昨今のロシアの情報操作だ。第2章「ロシアが見せる匠の技」で詳しく語っている。ロシアはウクライナ侵攻当初、西側諸国が不当に中傷しているだけだと真っ向から否定。マレーシア航空17便撃墜への関与が明らかになったあとも知らぬふりを通した。
 2016年の米大統領選におけるロシアの干渉は明らかだが、こちらも認めてはいない。2016年の選挙戦の3年前から綿密に仕組まれていたのが、「ラフタ計画」という作戦。米国人になりすまして「LGBTQ(性的マイノリティ)」などを対象に、複数のオンラインコミュニティを立ち上げた。
 最初は前向きなメッセージを送って同族意識を持たせたあと、ほかの属性のグループの否定的な意見を投稿して疎外感を植え付けコントロールする――。「自由の国アメリカ」のデリケートな課題である、人種・差別問題の弱点を突いた作戦だ。
「米国国防総省が指摘した通り、ロシアの戦術は、『標的にされた国の分極化が進んでいる場合や、ロシアの攻撃に対して抵抗する力がなく効果的な対応が取れない場合に、最も効果を発揮』する。ロシアは米国を分断させて内部から崩壊させることで機能不全に陥らせようとしていながら、何食わぬ顔をしている」(同書より)
 政治の話ばかりではない。本書のあらゆる章で、著者はディープフェイクを用いたポルノの脅威について述べている。自分の妻や娘、姉妹などがいつ標的になるとも限らないが、今のところ私たちになす術はない。
 服を着ている女性の写真をアップロードするだけで、裸になったフェイク画像が作成できるアプリもあるという。SNSにあげられた画像さえあれば、容易にポルノ画像が作成できる時代がきているのだ。ディープフェイクサイトを相手に訴訟を起こした臨床心理学者、ジョーダン・ピーターソンは語る。
「近い将来、私たちはあらゆる電子的なメディアを信用できなくなる時代が来るのではないだろうか(中略)目を覚ませ。あなたの声や姿の尊厳が深刻な危機に瀕しているのだ」(同書より)
 進化するディープフェイクの対応に世の中が追いついていない。まず私たちがすべきことはディープフェイクの仕組みを知ること、そして個人や企業が協力して守備を固めることだ。
 著者は基準の設置やファクトチェック団体の支援などを提唱している。最近はアルゴリズムではなく、訓練を受けたジャーナリストが選別した質の良いニュースサイト配信もあるそうだ。アルゴリズムからアナログに逆行しているという事実は興味深い。
「人間は心理学者が『幻想の真実』と呼ぶ、勘違いを起こしやすい。長い時間、何かを見聞きしていると、たとえそれが嘘であっても真実だと錯覚してしまうのだ。従って、誤った思い込みを避けるためには、間違いや嘘を速やかに排除し続ける必要がある」(同書より)
 私たちは溢れる情報に頼りすぎていないだろうか? インフォカリプスの真っ只中にいる現代、自身が被害者にも加害者にもなり得る危険性をはらんでいる。ディープフェイクによって、どんな恐ろしい事態が起こるのかを想像する力を持たなければならない。

あわせて読みたい

  • 世界最大・最悪の嘘「原爆神話」 大学教授、新聞記者の二人の民間人が生み出したものだった!

    世界最大・最悪の嘘「原爆神話」 大学教授、新聞記者の二人の民間人が生み出したものだった!

    dot.

    8/6

    津田大介「『ディープフェイク』に注意せよ」
    筆者の顔写真

    津田大介

    津田大介「『ディープフェイク』に注意せよ」

    週刊朝日

    12/28

  • もはや動画は信用できない ディープフェイク「画像1枚」で本物そっくり偽造も可能

    もはや動画は信用できない ディープフェイク「画像1枚」で本物そっくり偽造も可能

    AERA

    10/21

    ディープフェイク精度向上で新問題 動画は本物でも「本人成りすまし」言い訳の材料に

    ディープフェイク精度向上で新問題 動画は本物でも「本人成りすまし」言い訳の材料に

    AERA

    10/22

  • テロはISの指令だったのか 真の脅威は「実行犯の組織力」

    テロはISの指令だったのか 真の脅威は「実行犯の組織力」

    AERA

    11/23

別の視点で考える

特集をすべて見る

この人と一緒に考える

コラムをすべて見る

カテゴリから探す