AIは暴走して人類を襲うのか? AI都市伝説が生まれる理由

AI黒魔術伝説 ~専門用語が生む誤解~

 専門家が業界用語的に使っている言葉を、真に受けてしまって生まれる誤解です。 『ディープラーニングは黒魔術』と聞くと 「AIの行うディープな思考は人類の理解を超え、すでに魔術の領域に入ってしまったのか。。。」とか思ってしまう人が出てきて、その人がそれに尾ひれつけて拡散、こうして『AI黒魔術伝説』が生まれます。  “ディープラーニング”、“黒魔術”ともにAI業界の業界用語です。 ディープラーニング : 先ほどちょっと説明した機械学習という仕組みが多層構造になってるからついた名前です。色気のない言葉で言うと「多層式選択装置」深く考えてる訳じゃないです。 黒魔術 : ノウハウがあるけど理論が無い状態を、ちょっと気の利いた表現として“黒魔術”と呼んでるだけです。人知を超えた魔術があるわけじゃないです。 『ディープラーニングは黒魔術』を素っ気ない言葉に置き換えると、『多層式選択装置は使い方のノウハウあるけど理論が無い』となります。  違和感を感じる表現に出会ったら「これって業界用語かもしれない」という視点で見てみましょう。

シンギュラリティ伝説 ~専門家への盲信が生む誤解~

 ある分野の専門家の意見を100%真に受けてしまって生まれる誤解です。  この代表がシンギュラリティ、ざっくり言うとAIが加速的に成長して、人間の知能を超える時が早晩来ると言う見解です。これに対してIT業界、科学界の第一人者と呼ばれる人たちが肯定的な見解を表明しています。  第一人者がいうんだから本当だ、と無条件で信じてしまいがちですよね。ここからシンギュラリティは必ず来ると思い込む『シンギュラリティ伝説』が生まれます。

未来を予測出来る万能の天才なんていない

 まず、大前提として知っておくべきなのは“誰にも未来の正確な予測なんて出来ない”という事実です。ノーベル賞受賞者であろうが、一流企業のビジネスリーターであろうが誤る時は未来予測を誤ります。人工知能の父と言われノーベル経済学賞を受賞しているハーバート・サイモンは1965年に「20年以内に人間ができることは何でも機械でできるようになるだろう」と予測しています(※Simon, H. A.; Newell, Allen (1958), “Heuristic Problem Solving: The Next Advance in Operations Research”, Operations Research)。この予測からすでに半世紀が経過しようとしていますがまだそんな機械はできてません。  また、AIの議論は複数の分野の専門分野にまたがったものになる場合が多いです。シンギュラリティの妥当性を評価しようとすれば、AIの専門家に加えて、脳科学、科学哲学、数理工学、などなど多くの分野にまたがる学際的なアプローチが必要になります。現在のシンギュラリティ議論の多くは、この文脈で語られているとは言えない状態です。特定の分野の特定の人があくまで個人の見解として語っているのだと受け止めるのが妥当です。一つの見解として受け取る分には良いですが、鵜呑みにしてはいけません。
次のページ 
暴走するのはAIじゃない
1
2
3