【電子版】論説室から／ＡＩの「ブラックボックス」問題とは

• 

　人工知能（ＡＩ）のビジネス活用が広がる中で、ＡＩの「ブラックボックス」（中身が見えない）問題が取り沙汰されている。企業などからは「説明責任が求められる基幹業務にはブラックボックスは馴染まない」との指摘も多い。こうした課題を技術力で克服し、今回のＡＩブームが地に足のついたものとして発展していくことを期待したい。

「ホワイトボックス」型ＡＩの実現へ

　ＡＩに革新をもたらしたのは、人間の神経回路網をモデルとしたディープラーニング（深層学習）の技術進化だ。大量なデータを学習するだけで、自動的に未知の入力データを分類・推定する機能を獲得できる。その用途は幅広く、すでに人間を凌駕する成果が多数報告されている。

　しかし、ディープラーニングはアルゴリズムが決め手であり、難解な算式を見ても「どのような根拠で答えを出したのか」は分からない。これがブラックボックス型ＡＩとも呼ばれる由縁だ。

　これに対して、「なぜそのような答えになったのか」という根拠や理由が分かるのが「ホワイトボックス」型のＡＩだ。その代表ともいえるのは、技術的に成熟している「機械学習」だ。産業界で相次ぐＡＩ活用の実証実験は一部の先進事例を除くと、機械学習が中心となっている。

　一方、企業にとって一番大事な顧客データや製造・販売データは使い慣れた社内のリレーショナル・データベース（ＲＤＢ）に格納されている。これらを「機械学習で分析したい」とするニーズは強いが、ＲＤＢに格納されているデータ形式はそのままでは機械学習には使えない。

　このためＡＩの利活用の舞台裏では、専門知識を備えたデータサイエンティスト（分析官）らがデータの整理整頓に奮闘するなど、人手による力業で乗り切っていることが少なくない。

　こうした課題を解決しようと、ＩＴ各社が動き出している。ＮＥＣは複数のＲＤＢから人手を介さずに、必要なデータ項目を抽出して予測モデルを完全自動で作り出す「予測分析自動化技術」を開発した。データサイエンティストと同等以上の予測分析をユーザー自身が短時間で実現することが可能。しかも「予測結果がどういう根拠で、変数をどう判断したかまで提示できる」（ＮＥＣ）という。　開発したのはＮＥＣの北米研究所。ホワイトボックス型ＡＩの汎用プラットフォームとして、まずはＡＩの本場である米国市場に投入する。

ブラックボックス問題に挑む

　ブラックボックス型ＡＩに対して、説明機能を持たせる新技術の開発も進展している。富士通研究所はディープラーニングのブラックボックス問題に対して、どのように学習・推定し、なぜその答えを出したかを説明できる仕組みを開発し、実用化のめどを付けた。

　同社の発表資料によると、グラフ構造のデータを学習する独自のＡＩ技術「ディープ・テンソル」と、学術文献など専門的な知識を蓄積した「ナレッジグラフ」と呼ばれるグラフ構造の知識ベースを関連付けることで実現したという。「個々の入力データについて、ディープラーニングの出力結果から、逆に探索して、推定結果に大きく影響した複数の因子を入力データの部分グラフとして特定できる」（富士通研）としている。

　発表の文面だけでは分かりにくいが、平たく言えば、ディープラーニングが出す答えについて、学習する前の入力データに着目し、アウトプット（答え）との関係性を導き出すことで根拠を探ろうという試み。こういったアプローチは他にはなく、２０１８年度には実用化する計画だ。

　国産ＩＴ各社がこうした課題に果敢に挑んでいることは頼もしく、今後の取り組みに期待したい。

　かつてのＡＩ研究は、人間のイミテーション（模倣）を作って置き換えるような発想で取り組んでいたため、世間に受け入れらなかった。「第３次」となる昨今のＡＩブームは人間を中心に据えて、人間とマシン（ＡＩ）が協調して社会課題を解決することに焦点が当たっている。

　米ＩＢＭの研究者も「よりよい意思決定をサポートすることがＡＩ研究のゴールだ。医療でいえばＡＩが医者に代わることはなく、医者のいない世界はあり得ない」と断言する。ブラックボックス問題への取り組みも同様で、人間中心の考え方が根底にある。

ＡＩの技術進化の可能性

　もとよりＡＩは万能ではなく、ブラックボックス問題をはじめ技術課題を一つひとつクリアしていくことで、新しい世界が拓けてくるのは言うまでもない。

　もちろん、ＡＩ研究に関する夢も大いに語るべきだ。ユビキタスエンターテインメント（東京都文京区）の清水亮社長は「ＡＩに足りない要素は、新しいものを見たときに『面白そうだ』と思う好奇心だ」と指摘する。“新しもの好きなＡＩ”が実現できれば、人間が指示せずとも子供のように自分から学ぶ。ＡＩが好奇心のままに学習を繰り返すうちに「世紀の大発見をして、論文まで生成するかもしれない」（清水氏）というわけだ。

　同氏は講演で「分類できないものを見たときに興奮する回路を作れば、２０３０年までにＡＩがノーベル賞を受賞するかもしれない」と冗談交じりに語る。こうした夢のある話を語れるのもＡＩの妙味といえる。

　個人的には、ＡＩへの過剰な期待には違和感を感じるが、このままブームが続けば、いつかＡＩがノーベル賞を受賞する日が来るかもしれないと、ふと思うことがある。ＡＩ研究のさらなる発展に夢を託したい。

（斎藤実）