一方、多くのケアマネが抵抗感を覚えたのは、AIのプラン作成の過程が見えないこと。介護プランを作る場合、ケアマネは身体の状態や細かなニーズを本人や家族から聞き取って、短期・長期の目標を設定。そこから介護サービスの利用プランを作る。対するAIはいきなり、利用するサービスの種別と頻度という「結論」を提示するため「なぜそのプランを出してくるのか理由がわからない。それを読み取る力がないと使いづらい」（実験に参加したケアマネ）。

　現状でAIが「要介護度の軽減」を目標にしていることにも、異論が出た。「利用者にとっては、残された力を最大限使いながら、その人らしく生活することが最優先なのではないか」（同）

　岡本さんはそうした課題を認識しつつ、こう話す。

「使ってもらい意見を出してもらうことで、AIはどんどん賢くなる。今は生まれたてだが1年後には20歳になれる可能性がある。みんなで育ててほしい」

（編集部・石臥薫子）

※AERA　6月4日号