Google最新技術「BERT」と「東ロボ」との比較から見えてくるAIの課題

BERTを使うと東大に合格できる?

「東ロボは東大に合格できてないけど、BERTなら合格できるんじゃ無い?」という質問です。  やってみないとわかりません。(当たり前の答えですみません)  東ロボは教科・設問ごとに異なる様々な手法を使って作られています。一方でBERTは自然言語処理に特化した実装です。BERT単独で東ロボを上回る結果を出すのは不可能でしょう。  ただ、東ロボが苦戦していた英語のテストでBERTを活用すれば、いい結果を出す可能性はあると思います。ベースの高い汎用性能に加え、少ないデータで高い性能を得ることができるBERTの実装が「精度をあげるために必要なデータが少ない」という東ロボ英語の課題を乗り越える可能性があります。  一方BERTが高い性能を出したベンチマークと入試の英語とは大きく特徴が異なるので、BERTが受験英語をカバー出来る汎用性を持つことができるかは大きな懸念材料です。  この懸念を和らげる結果がちょうど先月発表されています、RACE[*2]と呼ばれる中国の中高生の英語試験を使ったベンチマーク(東ロボの問題と似ている)で、BERTと同じくディープラーニングを使った手法[*3]が高い精度を実現したのです。これらの状況からBERTが良い成績を出せる可能性は高いと筆者は考えています。  ちなみにディープラーニング、RACEに期待が持てることは東ロボチームが出した本『ロボットは東大に入れるか』(東京大学出版会)でも言及されており、この進化は東ロボチームにとってもある程度想定の範囲内だろうと思います。

BERTは東ロボが示したAI技術の限界を越えた?

「BERTはテストで人間を上回る記録を出している、これは東ロボチームが示した現状のAI技術の限界を越えたということか?」という質問です。  BERTも東ロボチームが示した現状のAI技術の限界を越えてはいません。  東ロボチームが提示した現状のAI技術の限界とは具体的に何を指しているのでしょう? 東ロボチームは自然言語に機械学習という『帰納的アプローチ』を使った場合『意味を理解しない』実装になってしまうので、英語、国語など言語のテストに適用するには限界があると指摘しています。これは現在のAI技術が抱えている大きな課題の一つで、BERTも例外ではありません。  この課題を紐解いていくために、『帰納的アプローチ』とは何か?『意味を理解しない』とはどう言うことか?順番にみていきます。
次のページ
AIの課題、意思決定のアプローチ
1
2
3
4
5
バナー 日本を壊した安倍政権
新着記事

ハーバービジネスオンライン編集部からのお知らせ

政治・経済

コロナ禍でむしろ沁みる「全員悪人」の祭典。映画『ジェントルメン』の魅力

カルチャー・スポーツ

頻発する「検索汚染」とキーワードによる検索の限界

社会

ロンドン再封鎖16週目。最終回・英国社会は「新たな段階」に。<入江敦彦の『足止め喰らい日記』嫌々乍らReturns>

国際

仮想通貨は“仮想”な存在なのか? 拡大する現実世界への影響

政治・経済

漫画『進撃の巨人』で政治のエッセンスを。 良質なエンターテイメントは「政治離れ」の処方箋

カルチャー・スポーツ

上司の「応援」なんて部下には響かない!? 今すぐ職場に導入するべきモチベーションアップの方法

社会

64bitへのWindowsの流れ。そして、32bit版Windowsの終焉

社会

再び訪れる「就職氷河期」。縁故優遇政権を終わらせるのは今

政治・経済

微表情研究の世界的権威に聞いた、AI表情分析技術の展望

社会

PDFの生みの親、チャールズ・ゲシキ氏死去。その技術と歴史を振り返る

社会

新年度で登場した「どうしてもソリが合わない同僚」と付き合う方法

社会

マンガでわかる「ウイルスの変異」ってなに?

社会

アンソニー・ホプキンスのオスカー受賞は「番狂わせ」なんかじゃない! 映画『ファーザー』のここが凄い

カルチャー・スポーツ

ネットで話題の「陰謀論チャート」を徹底解説&日本語訳してみた

社会

ロンドン再封鎖15週目。肥満やペットに現れ出したニューノーマル社会の歪み<入江敦彦の『足止め喰らい日記』嫌々乍らReturns>

社会

「ケーキの出前」に「高級ブランドのサブスク」も――コロナ禍のなか「進化」する百貨店

政治・経済

「高度外国人材」という言葉に潜む欺瞞と、日本が搾取し依存する圧倒的多数の外国人労働者の実像とは?

社会