shutterstock
黒人男性ジョージ・フロイド氏が白人警官によって殺された事件は、大きな潮流となっている。この事件のあと、2014年以来広がっている「
BLACK LIVES MATTER」(黒人の命は大切だ)というフレーズが大きく拡散した(参照:
THE RIVER)。また、全米で抗議デモが発生している。そうした流れの一つとして、
IBM は6月8日に顔認識ソフトウエアの提供をやめると表明した(参照:
BBCニュース)。
IBM のアーヴィンド・クリシュナCEOは、「IBM は他社の顔認識技術も含めたあらゆるテクノロジーが、
大衆監視や人種によるプロファイリング、基本的人権や自由の侵害に使われることに強く反対し、今後は許容しない」と述べた。
アーヴィンド・クリシュナ氏はインド出身で、インド工科大学とイリノイ大学を出たエンジニアでもある。Red Hat の買収で手腕を振るい、今年の1月に IBM の CEO に就任した(参照:
IT Leaders)。それ以前の IBM の動きはどうだっただろうか。
昨年の11月の段階で IBM は、米政府に対し、顔認識技術を全面的に禁止するのではなく、規制を求めていた。害を及ぼす恐れがある使用事例を取り締まりながら、イノベーションを促すことが可能だと主張していた(参照:
CNET Japan)。
また、昨年1月の段階では、顔認識向けに100万人分の顔データを提供するなど積極的な活動をおこなっていた(参照:
CNET Japan、
GIGAZINE)。そこから一転しての顔認識ソフトウエア提供の中止だ。今回の「
BLACK LIVES MATTER」の流れの大きさを感じる。
今回の IBM の顔認識技術からの撤退の動きは、同社だけに留まらず、
Amazon や
Microsoft にも影響を及ぼしている(参照:
Forbes JAPAN)。Amazon は、
警察による同社の顔認識ソフトウエアの使用を1年間、禁止した(参照:
BBCニュース)。Microsoft は、
警察への顔認識テクノロジーの販売を、適切な法律が整備されるまでの間、停止すると宣言した。
顔認識技術は、
プライバシーの侵害や、性別や人種などの分別による差別の助長、誤認逮捕で冤罪を産むなど、様々な問題を抱えている。監視社会の到来は、個人の行動をいちじるしく制限することになる。また、性別や人種などの属性と、犯罪や暴力行為などの行動を結びつければ、現在存在する差別を強化することに繋がる。そして、
安易な個人の認識と、行動履歴の記録は、誤認識が発生した際に冤罪を産む原因となる。
また、現在の顔認識技術は、技術的な問題も抱えている。明らかになっている範囲では、男性より女性、白人より黒人で誤認識率が高い(参照:
MIT News、
Medium)。仮に誤認逮捕があるとすれば、男性より女性、白人より黒人で起きやすいということになる。
撤退や停止が、「BLACK LIVES MATTER」の流れで出てきたということは、こうした技術的な問題が大きく炎上する前に、いったん退いたのではないかという、うがった見方をすることもできる。