津田大介「グーグルの混乱が示すAIと政治の関係」

　ウェブを使った新しいジャーナリズムの実践者として知られるジャーナリストでメディア・アクティビストの津田大介氏。グーグルのある外部諮問委員会が解散したニュースを解説する。

【写真】グーグルの社員食堂。従業員は経営陣の方針に反対することも…

＊　　＊　　＊

　グーグルは3月26日、同社の人工知能（AI）開発を倫理面から指導する外部諮問委員会「ATEAC」を設置すると発表した。しかし、この委員会は発足から10日足らずで、一度の会合も開かれずに解散することとなった。なぜこの混乱は起きたのだろうか。

　AI技術は非常に有用な技術として期待される一方で、懸念もまた強い。人種や性別にもとづいて差別的判断を下してしまうこともあれば、軍事利用されれば強力な兵器が作られることにもなりかねない。それゆえに、大きな倫理問題を抱えているのだ。

　この問題はグーグルにとっても例外ではない。2018年3月、同社が米国防総省の「プロジェクト・メイヴン」という軍事用ドローン開発に転用可能なプロジェクトに参加し、AIを用いた画像解析を行うソフトウェアを開発していたことが明らかになった。4千人を超える従業員が抗議の声を上げ、経営陣に方針の撤回を迫った。社内の反発を受け、グーグルはこのプロジェクトの契約更新を断念した。

　同年6月、グーグルは社内外からの批判をうけてAIの利用・開発に関する原則を発表。「社会に貢献すること」「不公正な偏見を生まないこと」「プライバシーを保護すること」など7つの目標を掲げた。それとともに、社会に不利益をもたらす技術、国際規範に反する監視技術、人に危害を与えることを目的とした軍事兵器、国際法や人権の原則に反する目的を持った技術の開発は行わないことを明言した。

　ただし、この原則は厳格な規則ではなく、あくまでも「目標」であった。そこでグーグルはAI開発・利用が原則に則して行われていることを確認するために冒頭の委員会を設置したのだ。委員には行動経済学者や自然言語処理学者、無人機システムのスペシャリストら8人の外部専門家を招き、19年末までに4回の会合を経て報告書を取りまとめることになっていた。