動画やヘイトスピーチ、AIでは防ぎきれない? FBが対応迫られる「白人至上主義」

尾形聡彦AERA
FB副社長のモニカ・ビッカート。「白人至上主義をヘイトグループの定義に含めると発表した」と強調した (c)朝日新聞社
拡大写真

FB副社長のモニカ・ビッカート。「白...

 クライストチャーチの銃乱射から2カ月余り、米フェイスブックによる暴力コンテンツ対策がさらに強化されている。ヘイトスピーチや白人至上主義への取り締まりも課題となっているが、判断するには投稿内容のニュアンスや文脈を理解しなければならない。全ての課題にAIだけでは対策しきれないのが現状だ。

【写真】FB副社長のモニカ・ビッカート

*  *  *
 問題のあるコンテンツのなかで、特に課題になっているのは、ヘイトスピーチへの対策だ。

 AIによる検知率は今年1~3月期に65%。52%だった半年前よりは向上したものの、改善の余地が大きい。

 なぜか。

「ヘイトスピーチと判断するには、ニュアンスや文脈を理解する必要があり、人間が読む必要があるためだ」とビッカートは言う。

 例えばテロ関連の投稿やテロ組織のプロパガンダであれば、過激派組織の「イスラム国(IS)」といった文言が入っていたり、背後に特徴的な旗が掲げられていたりして、白黒がはっきりしているので機械にも選別が容易だという。

 ところが、ヘイトスピーチの場合には、特別な用語は使っていなかったり、冗談めかしたあいまいな言い方ながら、その地域では伝わるような独特な表現があるのだという。

 ビッカートは、元米連邦検察官で、タイの米国大使館にも駐在した経験があり、アジア諸国の事情にも精通している。「日本についても、他の国同様、ヘイトスピーチがある一方、政治的に重要な話題についての意見表明もある。私たちは日本の中の動きに目を向けており、政治の動きだけでなく、人々がどのような言葉を(他人を)中傷するために使っているかについても目を向けている」と話した。

 ただ、FBに対しては、世界的に広がりを見せる白人至上主義への取り締まりが弱いという批判もある。クライストチャーチでの銃乱射も、白人至上主義の容疑者による犯行だったとみられている。専門家の間からは、FBの利用者は白人の男性が多いため、白人至上主義への取り組みが遅れているとの指摘がある。

続きを読む

TwitterでAERA dot.をフォロー

@dot_asahi_pubさんをフォロー

FacebookでAERA dot.の記事をチェック