「AIがこういう結果出したんだから、これが正しいのだろう、だってAIはブラックボックスだもん」と鵜呑みにして従う。これでは氏神様のお告げに従うのと大差ないですね。AIの導き出した結果に対する「誤った姿勢」だと言えます。 　では、「正しい姿勢」とはどういうものでしょうか？ 「過去の傾向を元にするとこういう採用結果になるのか、参考にしよう。あれ、でもちょっと待てよ、この結果は差別的なものになっているな。これはそもそも採用に気づかないうちに差別的傾向が入り込んでいたのか、使用するデータもしくは予測モデルが不適切だっため生じたものか、検証してみよう。」 　と、参考にしつつ、常にチェックを怠らず、必要に応じて修正を行い、最終判断は自分で行う。これが「AIが出した結果」に対する「正しい姿勢」なのです。 　ちなみに、今回ニュースになっているケースも、使用したデータの偏りから生じた結果のようです。 　AIの出した結果を確認し、必要に応じて修正（使用をやめる）という手順を踏んでいるのは正しい姿勢だと筆者は考えます。 「AIはブラックボックスで人間に理解できない」と、はなから理解不能のものとして扱う風潮がありますが、これではAIの正しい活用はできません。 　新しいテクノロジーは出現した時、その新規さゆえに、正しく理解されず、都市伝説的なものが生まれることがあります。それを乗り越えてテクノロジーは人口に膾炙していきます。 　例えば、テレビも普及当初は色んな誤解や迷信が存在しました。 　今でもテレビの仕組みを隅々まで理解している人は少ないですが「中に人が入ってるんじゃ無い」ことはみんな常識として知ってますよね。 　これと同じような常識がAIで形成された時、AIの活用はさらに進化すると筆者は考えます。 ＜文／鳥谷健史＞ とりたにけんし●日本アイ・ビー・エムに入社し、システムエンジニアとして活動。退社後はフリーのITコンサルタントとして活動中。企業へのコンサルティング活動を行う傍、技術コミュニティー技術コミュニティー”越境するテクノロジー”やセミナー”ゼロから始める機械学習”を主催