Google最新技術「BERT」と「東ロボ」との比較から見えてくるAIの課題

鳥谷健史

ではどうしたらいいのか?

 東ロボチームが指摘した『意味を理解しない』というのは今のAIブームを支えている機械学習全体が抱える課題であり、重要な論点であると筆者は考えます。この課題に対して私たちはどう対応していけばいいのでしょうか? 筆者の考えを記します。  まず、誤解無きように言っておくと東ロボチームの『意味を理解しない』という言葉は「意味とは何だ?」という哲学的な問題を指しているのではありません。これは人間も結論出せていない哲学的に大きな課題で、非常に面白い分野ですが今日はここには立ち入りません。ご興味持たれた方はこちらの書籍をご参照ください[*4]  東ロボチームの『意味を理解しない』は前述の通り“多くの場合予測が導かれた理由を論理的に説明することができず、人間から見ると「素っ頓狂な間違い」をする”機械学習の特性を指しています。  では、これに対して私たちがどんな対応をしていけるかを記します。  この課題を完全に回避しようと思ったら「演繹的アプローチに切り替える」のが最も効果的です。AIブームでなんでもかんでも機械学習でやったほうが偉いような錯覚に陥ってしまいがちですが、課題を解くための手順を説明できる(=プログラムに落とし込める)場合は従来の演繹的な手法を取るほうがはるかに簡単・確実です。一見演繹的手法では難しいと思えるものも、何とかやり方がないか?考えてみる価値はあると思います。東ロボプロジェクトの数学はこのアプローチを取った好例と言えます。  しかし世の中全ての事柄を演繹的に解けるわけではありません、その場合は機械学習という帰納的アプローチが一つの適切な選択肢になります。機械学習を使うにあたっては「演繹的ではない事象の説明手法を理解しておく」ことが重要です。私たちが活用できる確立した手法として確率・統計があります。機械学習でも確率・統計は使われており、これを理解することは機械学習を正しく理解し活用するための必須項目と言えると思います。確率・統計の視点から見ることで機械学習の構造が見えてきます。  それでも演繹的アプローチと比べるとグレイな部分は残ります、一昔前は「帰納的手法は演繹的手法が発見されるまでの一時しのぎ」という考え方がありましたが、今は演繹的手法だけでは決して解けない領域があることが共通認識となっています。このグレイな部分を開拓してくれる可能性を秘めているのが複雑系・非線形科学と呼ばれているアプローチです。今日はこの詳細には立ち入りません、ご興味持たれた方はこちらの書籍をご参照ください[*5]。  機械学習を使うと、論理的に説明できない部分、素っ頓狂な間違いをする可能性はどうしても残ります。「この欠点を無くすのではなく、いかに補うか」という視点を持つことは非常に重要です。これはまさに現在のAIにとって喫緊の課題であり、AIブームをブームで終わらせないためには、ここが大きなポイントになると思います。機械学習のような帰納的アプローチと演繹的なアプローチを融合して「おそらくだいたい正しい」答えしか出ない部分を補う仕組みを構築する方法、理論的に説明することが難しい機械学習の出す予測に、差別的な要素など不適切な選択基準が含まれていないかをチェックする方法など、機械学習の適用範囲を広げるために様々な方法が検討されています。
次のページ 
AIが人類を超える日が近づいているという誤解
1
2
3
4
5
PC_middleRec_left
PC_middleRec_right
関連記事
PC_fotterRec_left
PC_foterRec_right