ディープフェイク精度向上で新問題 動画は本物でも「本人成りすまし」言い訳の材料に

2020/10/22 08:00

BuzzFeedVideoが公開したオバマ前米大統領のディープフェイク動画。オバマ氏自身が語っているかのように見える/YouTubeから
BuzzFeedVideoが公開したオバマ前米大統領のディープフェイク動画。オバマ氏自身が語っているかのように見える/YouTubeから

 今や動画は真実を語るものではない――。本物と区別がつきにくいディープフェイクが、今後より判別できないほどのリアルさに近づいている。政治的な悪用も懸念されるため、米IT大手が本格的な対応に乗り出した。AERA 2020年10月26日号の記事を紹介。

【画像】ディープフェイク「画像1枚」で本物そっくり偽造も可能

*  *  *
 ディープフェイクの悪用を防ごうとする動きも米巨大IT企業で広がりつつある。

 SNSを運営するフェイスブックは、昨年9月にディープフェイク動画の識別コンテストを開催すると発表した。識別システムの研究への助成金と賞金として、計1千万ドル(約10億5千万円)以上を拠出する。マイクロソフトは今年9月、動画などのメディアが人為的に操作されたことを示す確率が表示されるツールの提供を開始した。

 両社とも、米大統領選を控え、候補者になりすまして対立候補を非難したり、候補者のイメージを悪化させるような発言をしたりする動画が拡散することを懸念して、こうした対応を急ピッチで進めたとみられる。

 ディープフェイクかどうかの識別は、ある程度のレベルまでなら個人でも可能だ。ディープフェイクは、元画像が目を見開いたものが多いため、まばたきをしていなかったり、歯に当たる光の加減が元の画像ごとに異なるために、歯が不自然な光り方をしたりするケースがあるという。ただ、こうした識別のための特徴は悪用する側も認識しているため、より識別しにくい精度の高い動画を作り出してくる可能性も高い。

 ディープフェイクの動画の精度向上は、さらに別の問題も生み出している。トランプ米大統領は16年の選挙戦の前に女性蔑視発言をした動画が流出したことがあったが、いったん動画の中の問題発言を認めた後で、当選後に側近らに対して「流出した動画はディープフェイク動画だった」などと述べたという。ディープフェイク動画が精度が高く本物と見間違うほどだからこそ、「自分自身が発言した動画ではない」という言い訳の材料に使うことができてしまうというわけだ。

1 2

あわせて読みたい

  • もはや動画は信用できない ディープフェイク「画像1枚」で本物そっくり偽造も可能

    もはや動画は信用できない ディープフェイク「画像1枚」で本物そっくり偽造も可能

    AERA

    10/21

    津田大介「『ディープフェイク』に注意せよ」
    筆者の顔写真

    津田大介

    津田大介「『ディープフェイク』に注意せよ」

    週刊朝日

    12/28

  • ディープフェイク問題の今後 パロディや風刺、二次創作への影響は?

    ディープフェイク問題の今後 パロディや風刺、二次創作への影響は?

    dot.

    10/15

    「ディープフェイク」にどう立ち向かえばいいのか? 政治的陰謀からフェイクポルノまで

    「ディープフェイク」にどう立ち向かえばいいのか? 政治的陰謀からフェイクポルノまで

    BOOKSTAND

    6/10

  • AIは中立ではなく「女性嫌い」 検証結果で見えてきた負の側面

    AIは中立ではなく「女性嫌い」 検証結果で見えてきた負の側面

    AERA

    2/20

別の視点で考える

特集をすべて見る

この人と一緒に考える

コラムをすべて見る

カテゴリから探す