●情報の偏りをなくす

　背景にはいわゆるビッグデータ、システムが学ぶデータの量が爆発的に増えたこともある。

「従来の機械学習では、人間がルールを教えていましたが、ディープラーニングではシステムがデータからルールや特徴を発見します」（古明地さん）

　判断過程の失敗ではどうか。

　最終的に物事を判断するのは人間だが、リスクを減らし失敗を防ぐための助言、提案という点で、AIにできることは増えている。注目を集めるのは、経営判断を支援するAIだ。

　日立製作所が開発しているのは、テキストデータの解析から論理的対話を目指すディベート型の判断支援AI。経営課題を投げかけると、新聞記事など約120万本の文章を分析し、賛成の根拠、反対の根拠を示してくれる。例えば、「再生可能エネルギーを導入すべきか」と問いかけると、経済、コスト、産業、環境、政治など複数の観点を洗い出した。

「新聞記事や調査報告、SNSでの反応など、日々さまざまなテキスト情報が生み出されていますが、経営判断にいたるまでには、多くの情報がそぎ落とされてしまう。このAIは、膨大なテキストデータから根拠を抽出するので、情報の偏りがなくなります」（研究開発グループの柳井孝介さん）

●心の障壁と結果責任

　NECも、経営判断にかかわるさまざまな予測を行うAIを開発中。重視するのは、「中身が見えるAI」であることだ。

　通常の機械学習では、AIは自動でルールを見つけるが、そのルールを説明できず、ブラックボックスだと言われてきた。囲碁AIはプロ棋士に勝つ手を打つことはできたが、「なぜその手を打ったか」は説明できない。経営判断を下そうという場合、「根拠はわからないがAIがそう言うから」では採用に踏み切れない。

　NECデータサイエンス研究所の渡辺純子さんは言う。

「本当に信じていいのか、人間には心の障壁もあるし結果への責任もある。AIと人間が協調して解かなければいけない問題では、予測の根拠がわかることが大事なのです」

次のページ