Geralt via pixabay(CC0 Public Domain)
巷に溢れるAI都市伝説、その多くは誤解から生まれています。誤解を生む原因は大きく3つに分類できます。
●AI暴走伝説 ~擬人化が生む誤解~
●AI黒魔術伝説 ~専門用語が生む誤解~
●シンギュラリティ伝説 ~専門家への盲信が生む誤解~
擬人化した表現を真に受けてしまって生まれる誤解です。
『囲碁というゲームの中で、“自ら考え”、“独創的な手を生み出す”AIには「暴走」への懸念がつきまとう』
これ読むと、AIって怖いなあ、と思いますよね。ここから『AI暴走伝説』が生まれます。
今度はおんなじ様な文書で、AIをイワシに変えてみましょう。
『つみれ汁の中で、“自ら主張し”、“独自の風味を生み出す”イワシには「暴走」への懸念がつきまとう』
これ読んでイワシって怖いなあ、とは思わないですよね。そのかわり、「変な文章、書いた人は大丈夫か?」と思いますよね。
イワシの場合、“自ら主張し”、“独自の風味を生み出す”という言い回しが、
味を擬人化して表現してる、と誰でもわかるので、それに続いて『暴走』とくると変な文章だと感じます。
AIの、“自ら考え”、“独創的な手を生み出す”も
擬人化した表現なのですが、まだ認知度が低いため、額面通りに受け取られ、誤解が生じがちです。
まず、
“自ら考え”から説明します。初期のコンピューター囲碁では「この局面だと次の一手はこれ」という判断基準は、人間がプログラムにコードとして記述していました。
これに対して今のAI囲碁では、過去の膨大な対戦データから抽出された傾向を元に次の一手を選択しています(この手法を
機械学習と言います)。
判断基準を人がプログラムにコードするのでなく、データを元に決めるという機械学習の手法を“自ら考え”と擬人化して表現しています。鉄腕アトムみたいな頭脳を持ったロボットが、囲碁をやってる訳ではありません。
続いて
“独創的な手を生み出す”という表現ですが、AIが選択する手に、人間の棋士の常識では選択しなかった妙手がある事を
擬人化してこう表現しています。独創的と言ってもデータの傾向を元に、あらかじめ決められた選択肢(囲碁の場合19×19=361の碁盤の目)から1つ選択しているだけです。
決められた選択肢の枠をはみ出す事は無いので“暴走”しようがありませんね。
AIの話題では擬人化した表現がよく出てきて、誤解を生む原因となっています。“考える”、“理解する”などの表現に出会ったら「これはどんな動きを擬人化してるんだろう?」という視点で見てみましょう、AIのからくりが見えてきます。