「AIによる差別」の可能性とどう向き合うべきか。Apple Cardと東大特任准教授発言問題から考える

AIによる差別?

sujin soman via Pixabay

Apple Cardの利用限度額決定アルゴリズムが男女差別との疑惑

 今年の3月25日、アップルは自社の新製品発表会で Apple Card を発表した。iPhone ユーザー向けの新しいクレジットカードで、Goldman Sachs および Mastercard と提携したものだ。  普通のクレジットカードにあるカード番号や有効期限、セキュリティコードといったものは記載されていない。チタン製の優美な外観は、さすがアップルというものだ(参照:ITmedia Mobile)。  8月にアメリカで一般提供が開始されたこのカードは、11月に炎上した。それは、Apple Card が性差別をおこなっているというものだった。  嚆矢となったのは、実業家のデイヴィッド・ハインマイヤー・ハンソン氏のツイートだ。Apple Card で、自分に妻の20倍の利用限度額が設定されている、これは性差別だと発言した。  その後、スティーヴ・ウォズニアック氏も、同じことが起きているとツイートした。  この件はニュースになって瞬く間に広がった。そしてネット上の炎上では終わらず、ニューヨーク州金融監督局が調査をおこなうことになった(参照:BBCニュースWIRED.jpCNET Japan)。  アップルはこの事態に対して、明快な説明をしなかった。Goldman Sachs は、利用限度額に関する決定において、性別が要素となっていることを否定した。しかし性別を直接参照しなくても、性別の代わりになる要素はいくらでもある。それらの情報を元に、結果的に差別が発生したのであれば、それは問題だ。  AIやアルゴリズム、プログラムは、その作り手や入力したデータによって出力が変わる。差別の存在する社会が入力データになれば、現実社会を反映したり、より誇張した結果が出力される可能性がある

AIを隠れ蓑にした統計的差別

 この1~2週間、日本でもAIと差別についての話題に事欠かなかった。東大特任准教授による差別発言である。小さな炎上を繰り返したあと、国籍・人種についての差別で大炎上した(参照:篠原修司氏のYahoo!ニュース個人)。  この一連の発言に対して、多くの人が問題だと考えた。なぜ問題なのにかについては、東京大学大学院特任助教の、明戸隆浩氏のブログ記事で丁寧に解説されている。  この文章の中に「統計的差別」についての説明がある。少し引用しよう。「差別かどうかを判断するにあたって重要なのは個人ではなくカテゴリーで判断するということであり、そこでの判断材料が事実であるかどうかは関係がありません」。  他人に何らかのラベルを貼り、そのラベルをもとに個人を分類して、不利益をこうむらせる。  人間は放っておくと、過去の体験を元に、物事を類型として判断する。その方が、物事を高速に判断して、素早く結果を出せるからだ。  自分より頭のよい人たちが、驚くほど素早く、過去の経験から、それとは無関係な他人を判断している様子を、何度も見たことがある。自分自身も、おそらくそうしたことを無意識のうちにしてしまっているだろう。  自分が生涯で出会う全ての人を、何の分類もせずに個別に処理することは難しい。そういう意味で人間の脳は、日々の生活の中で、差別をおこなってしまう仕組みを持っている。だからこそ社会としては法律で規制したり、新しい社会規範を啓蒙したりしなければならない。また個人としては常に学習し、自己を律していく必要がある。そして不当な不利益を社会から減らしていかなければならない。  AIやアルゴリズム、プログラムが、人間の判断の代わりになる時代が来ている。こうした思考装置による人の分類は、人間の脳がおこなっている処理の低コスト化を、機械に置き換えている危険がある。現実社会の差別を、人間よりも高速に再現する危うさを孕んでいる
次のページ
ビッグデータとAIによって社会の差別を固定化させないために
1
2
バナー 日本を壊した安倍政権
新着記事

ハーバービジネスオンライン編集部からのお知らせ

政治・経済

コロナ禍でむしろ沁みる「全員悪人」の祭典。映画『ジェントルメン』の魅力

カルチャー・スポーツ

頻発する「検索汚染」とキーワードによる検索の限界

社会

ロンドン再封鎖16週目。最終回・英国社会は「新たな段階」に。<入江敦彦の『足止め喰らい日記』嫌々乍らReturns>

国際

仮想通貨は“仮想”な存在なのか? 拡大する現実世界への影響

政治・経済

漫画『進撃の巨人』で政治のエッセンスを。 良質なエンターテイメントは「政治離れ」の処方箋

カルチャー・スポーツ

上司の「応援」なんて部下には響かない!? 今すぐ職場に導入するべきモチベーションアップの方法

社会

64bitへのWindowsの流れ。そして、32bit版Windowsの終焉

社会

再び訪れる「就職氷河期」。縁故優遇政権を終わらせるのは今

政治・経済

微表情研究の世界的権威に聞いた、AI表情分析技術の展望

社会

PDFの生みの親、チャールズ・ゲシキ氏死去。その技術と歴史を振り返る

社会

新年度で登場した「どうしてもソリが合わない同僚」と付き合う方法

社会

マンガでわかる「ウイルスの変異」ってなに?

社会

アンソニー・ホプキンスのオスカー受賞は「番狂わせ」なんかじゃない! 映画『ファーザー』のここが凄い

カルチャー・スポーツ

ネットで話題の「陰謀論チャート」を徹底解説&日本語訳してみた

社会

ロンドン再封鎖15週目。肥満やペットに現れ出したニューノーマル社会の歪み<入江敦彦の『足止め喰らい日記』嫌々乍らReturns>

社会

「ケーキの出前」に「高級ブランドのサブスク」も――コロナ禍のなか「進化」する百貨店

政治・経済

「高度外国人材」という言葉に潜む欺瞞と、日本が搾取し依存する圧倒的多数の外国人労働者の実像とは?

社会