AIは暴走して人類を襲うのか? AI都市伝説が生まれる理由

鳥谷健史

Geralt via pixabay(CC0 Public Domain)

 巷に溢れるAI都市伝説、その多くは誤解から生まれています。誤解を生む原因は大きく3つに分類できます。

●AI暴走伝説 ~擬人化が生む誤解~
●AI黒魔術伝説 ~専門用語が生む誤解~
●シンギュラリティ伝説 ~専門家への盲信が生む誤解~

AI暴走伝説 ~擬人化が生む誤解~

 擬人化した表現を真に受けてしまって生まれる誤解です。

『囲碁というゲームの中で、“自ら考え”、“独創的な手を生み出す”AIには「暴走」への懸念がつきまとう』

 これ読むと、AIって怖いなあ、と思いますよね。ここから『AI暴走伝説』が生まれます。

 今度はおんなじ様な文書で、AIをイワシに変えてみましょう。

『つみれ汁の中で、“自ら主張し”、“独自の風味を生み出す”イワシには「暴走」への懸念がつきまとう』

 これ読んでイワシって怖いなあ、とは思わないですよね。そのかわり、「変な文章、書いた人は大丈夫か?」と思いますよね。

 イワシの場合、“自ら主張し”、“独自の風味を生み出す”という言い回しが、味を擬人化して表現してる、と誰でもわかるので、それに続いて『暴走』とくると変な文章だと感じます。

 AIの、“自ら考え”、“独創的な手を生み出す”も擬人化した表現なのですが、まだ認知度が低いため、額面通りに受け取られ、誤解が生じがちです。

 まず、“自ら考え”から説明します。初期のコンピューター囲碁では「この局面だと次の一手はこれ」という判断基準は、人間がプログラムにコードとして記述していました。

 これに対して今のAI囲碁では、過去の膨大な対戦データから抽出された傾向を元に次の一手を選択しています(この手法を機械学習と言います)。

 判断基準を人がプログラムにコードするのでなく、データを元に決めるという機械学習の手法を“自ら考え”と擬人化して表現しています。鉄腕アトムみたいな頭脳を持ったロボットが、囲碁をやってる訳ではありません。

 続いて“独創的な手を生み出す”という表現ですが、AIが選択する手に、人間の棋士の常識では選択しなかった妙手がある事を擬人化してこう表現しています。独創的と言ってもデータの傾向を元に、あらかじめ決められた選択肢(囲碁の場合19×19=361の碁盤の目)から1つ選択しているだけです。決められた選択肢の枠をはみ出す事は無いので“暴走”しようがありませんね。

 AIの話題では擬人化した表現がよく出てきて、誤解を生む原因となっています。“考える”、“理解する”などの表現に出会ったら「これはどんな動きを擬人化してるんだろう?」という視点で見てみましょう、AIのからくりが見えてきます。

次のページ 
業界用語に尾ひれがついて……

1
2
3
4
5
関連記事
鳥谷健史は、他にもこんな記事を書いています
6
7