社説／「説明できるＡＩ」 ＮＥＤＯの開発事業に期待

新エネルギー・産業技術総合開発機構（ＮＥＤＯ）は２０１９年度から、人工知能（ＡＩ）の信頼性に関する技術開発事業に取り組んでいる。７月、新たに８テーマを採択した。思考過程が不透明なＡＩの学習結果や判断根拠を理解しやすい形で可視化する「説明できるＡＩ」が７件。ＡＩの有効性や信頼性を評価し、性能を保証するためのツールや評価方法を確立する「ＡＩ品質」が１件だ。

ＡＩは演算能力や思考プロセスの速度が速く、ビジネスの効率化や質の向上などに優れ、人間の負担を軽減すると期待されている。半面、人間が判断の根拠を知ることができないなどの問題点も指摘されている。ＮＥＤＯはこうした点を踏まえ、推論結果や判断根拠を理解できるＡＩに取り組む。

「説明できるＡＩ」の一例として、東京医科大学とキユーピー、横浜国立大学による「生体データを用いて発がんリスクを説明できる“高信頼性進化的機械学習”の研究開発」がある。

キユーピーは、食を通じてがんを予防することを目的に、２０１３年から東京医科大の落合孝弘教授と共同研究を実施してきた。血液中に含まれる小さなリボ核酸「マイクロＲＮＡ」という微量成分の発現量と将来がんになるリスクとの関係や、マイクロＲＮＡの発現変動に対して特定の食が与える影響の究明に取り組んでいる。

今回、採択されたのはマイクロＲＮＡのデータ解析に必要な「説明できるＡＩ」の研究だ。既存のＡＩ解析では膨大なデータが必要なうえ、処理過程を人間が理解するのは難しく、判定の根拠を示すことが困難だった。この課題の解決に、横国大を加えた３者で取り組む。

ＡＩは人間にとって便利なツールだが、推論結果や判断根拠がブラックボックスになっている。これを人が理解できる形で提示しようというのが、ＮＥＤＯの狙いだ。

「説明できるＡＩ」が実用化されれば、信頼性を高めることができ、ＡＩの適正な普及につながるものになるだろう。ぜひ成果をあげてほしい。