アカウント凍結、検索結果の偏向……。アルゴリズムに人生や思考が支配されることの危険性

サイバーイメージ

pixel2013 via Pixabay

Twitterアカウントを凍結され、人間関係が寸断された人

 6月の初めに、楠正憲氏の「Twitterアカウントを凍結されて考えたこと」というnoteの投稿が話題になった。12年以上使っているTwitterのアカウントが凍結されたという内容だ。楠正憲氏のTwitterアカウントは、この記事執筆時点でフォロワーが35,000人ほどで、比較的大きな規模のアカウントだ。  規約違反といった凍結の心当たりはなく、凍結理由のメールも届いていなかったそうだ。Twitterは「凍結する際はメールで理由を知らせる」と公表していたが、実際には何の連絡も送らなかったようだ。  同投稿には、Twitterのアカウント凍結により、ネット上の人間関係が一気に失われる様子が綴られていた。人的ネットワークの多くがネット経由になった現代では、その心理的打撃は恐ろしいものだろう。凍結は最終的に半日ほどで解除されたそうだが、その間の精神的な疲労の大きさは想像に難くない。  こうした誤った凍結はなぜ起きるのか。Twitterには大量のアカウントがある。その中にはスパム的アカウントや、問題発言を繰り返すアカウントもある。それらを人の目で調べて対処していくのは現実的ではない。そのためにプログラムやAIを使い、機械的に対処することになる。  その際、凍結対象となるアカウントは、何らかの指標で分類される。しかし指標は明らかにされない。明らかにすれば、その網の目を縫うようにスパムアカウントは行動する。またAIを使っていれば、正直なところ何を理由に判定しているのか利用者自身も分からなかったりするだろう。  人間のネット上の人間関係は、挙動の明らかではないアルゴリズムにより、このようにある日急に崩壊することがある。

Googleの検索結果は、個人情報により偏向している

 現代の人間は、多くの調べ物をネットでおこなう。そうした人のほとんどはGoogleを利用しているだろう。  Googleを代表とする検索エンジンの仕組みはこうだ。ユーザーが入力した単語を元に、データベースから関連するWebページのリストを作り、その内の上位数件をユーザーに返す。データベースの大きさと、結果の選定方法によって検索エンジンの質は決まる。Googleはこの質の高さで覇権を取った。  しかし近年、Googleの検索結果が歪められていることが問題視されている。Googleは、スマホやメール、地図、動画、広告などのサービスを通して、大量の個人情報を収集している。この個人情報を利用して検索結果を変えている。  プライバシー保護を旨とする検索エンジン「DuckDuckGo」のCEOは、こうしたGoogleの手法を批判している(参照:GIGAZINE)。  検索結果が個人情報で歪められるとどういったことが起きるのか。ひとつのシナリオを考えてみよう。  疑似科学にはまっている人がいるとする。その人は、疑似科学に肯定的なWebページの滞在時間が長い。そうするとアルゴリズムは、類似した情報がその人にとって重要度が高いと判断する。その結果、検索エンジンで調べ物をした際に、疑似科学に肯定的な検索結果を優先的に返すようになる。  こうしたことが繰り返されることで、人の知識は偏り、一定の内容を強固に信じるようになる。こうした悪循環が容易に発生する現象は「フィルターバブル」と呼ばれる。  検索していて「あれ、おかしい」と思ったら、すぐさまプライベートブラウジングに切り替えて比較する習慣を持っていた方がよい。かなり検索結果が変わっていることがある。Google以外の検索エンジンと比較する習慣を身に付けるのもよい。これは、ネット以前の時代に、複数の新聞を読み比べるのと同じ方法だ。  こうした検索結果の偏向は、アルゴリズムによっておこなわれる。人間がネットから仕入れる知識は、アルゴリズムによって容易に偏らされる。
次のページ 
アルゴリズムの持つ危険性
1
2
PC_middleRec_left
PC_middleRec_right
関連記事
PC_fotterRec_left
PC_foterRec_right