アカウント凍結、検索結果の偏向……。アルゴリズムに人生や思考が支配されることの危険性

サイバーイメージ

pixel2013 via Pixabay

Twitterアカウントを凍結され、人間関係が寸断された人

 6月の初めに、楠正憲氏の「Twitterアカウントを凍結されて考えたこと」というnoteの投稿が話題になった。12年以上使っているTwitterのアカウントが凍結されたという内容だ。楠正憲氏のTwitterアカウントは、この記事執筆時点でフォロワーが35,000人ほどで、比較的大きな規模のアカウントだ。  規約違反といった凍結の心当たりはなく、凍結理由のメールも届いていなかったそうだ。Twitterは「凍結する際はメールで理由を知らせる」と公表していたが、実際には何の連絡も送らなかったようだ。  同投稿には、Twitterのアカウント凍結により、ネット上の人間関係が一気に失われる様子が綴られていた。人的ネットワークの多くがネット経由になった現代では、その心理的打撃は恐ろしいものだろう。凍結は最終的に半日ほどで解除されたそうだが、その間の精神的な疲労の大きさは想像に難くない。  こうした誤った凍結はなぜ起きるのか。Twitterには大量のアカウントがある。その中にはスパム的アカウントや、問題発言を繰り返すアカウントもある。それらを人の目で調べて対処していくのは現実的ではない。そのためにプログラムやAIを使い、機械的に対処することになる。  その際、凍結対象となるアカウントは、何らかの指標で分類される。しかし指標は明らかにされない。明らかにすれば、その網の目を縫うようにスパムアカウントは行動する。またAIを使っていれば、正直なところ何を理由に判定しているのか利用者自身も分からなかったりするだろう。  人間のネット上の人間関係は、挙動の明らかではないアルゴリズムにより、このようにある日急に崩壊することがある。

Googleの検索結果は、個人情報により偏向している

 現代の人間は、多くの調べ物をネットでおこなう。そうした人のほとんどはGoogleを利用しているだろう。  Googleを代表とする検索エンジンの仕組みはこうだ。ユーザーが入力した単語を元に、データベースから関連するWebページのリストを作り、その内の上位数件をユーザーに返す。データベースの大きさと、結果の選定方法によって検索エンジンの質は決まる。Googleはこの質の高さで覇権を取った。  しかし近年、Googleの検索結果が歪められていることが問題視されている。Googleは、スマホやメール、地図、動画、広告などのサービスを通して、大量の個人情報を収集している。この個人情報を利用して検索結果を変えている。  プライバシー保護を旨とする検索エンジン「DuckDuckGo」のCEOは、こうしたGoogleの手法を批判している(参照:GIGAZINE)。  検索結果が個人情報で歪められるとどういったことが起きるのか。ひとつのシナリオを考えてみよう。  疑似科学にはまっている人がいるとする。その人は、疑似科学に肯定的なWebページの滞在時間が長い。そうするとアルゴリズムは、類似した情報がその人にとって重要度が高いと判断する。その結果、検索エンジンで調べ物をした際に、疑似科学に肯定的な検索結果を優先的に返すようになる。  こうしたことが繰り返されることで、人の知識は偏り、一定の内容を強固に信じるようになる。こうした悪循環が容易に発生する現象は「フィルターバブル」と呼ばれる。  検索していて「あれ、おかしい」と思ったら、すぐさまプライベートブラウジングに切り替えて比較する習慣を持っていた方がよい。かなり検索結果が変わっていることがある。Google以外の検索エンジンと比較する習慣を身に付けるのもよい。これは、ネット以前の時代に、複数の新聞を読み比べるのと同じ方法だ。  こうした検索結果の偏向は、アルゴリズムによっておこなわれる。人間がネットから仕入れる知識は、アルゴリズムによって容易に偏らされる。
次のページ
アルゴリズムの持つ危険性
1
2
バナー 日本を壊した安倍政権
新着記事

ハーバービジネスオンライン編集部からのお知らせ

政治・経済

コロナ禍でむしろ沁みる「全員悪人」の祭典。映画『ジェントルメン』の魅力

カルチャー・スポーツ

頻発する「検索汚染」とキーワードによる検索の限界

社会

ロンドン再封鎖16週目。最終回・英国社会は「新たな段階」に。<入江敦彦の『足止め喰らい日記』嫌々乍らReturns>

国際

仮想通貨は“仮想”な存在なのか? 拡大する現実世界への影響

政治・経済

漫画『進撃の巨人』で政治のエッセンスを。 良質なエンターテイメントは「政治離れ」の処方箋

カルチャー・スポーツ

上司の「応援」なんて部下には響かない!? 今すぐ職場に導入するべきモチベーションアップの方法

社会

64bitへのWindowsの流れ。そして、32bit版Windowsの終焉

社会

再び訪れる「就職氷河期」。縁故優遇政権を終わらせるのは今

政治・経済

微表情研究の世界的権威に聞いた、AI表情分析技術の展望

社会

PDFの生みの親、チャールズ・ゲシキ氏死去。その技術と歴史を振り返る

社会

新年度で登場した「どうしてもソリが合わない同僚」と付き合う方法

社会

マンガでわかる「ウイルスの変異」ってなに?

社会

アンソニー・ホプキンスのオスカー受賞は「番狂わせ」なんかじゃない! 映画『ファーザー』のここが凄い

カルチャー・スポーツ

ネットで話題の「陰謀論チャート」を徹底解説&日本語訳してみた

社会

ロンドン再封鎖15週目。肥満やペットに現れ出したニューノーマル社会の歪み<入江敦彦の『足止め喰らい日記』嫌々乍らReturns>

社会

「ケーキの出前」に「高級ブランドのサブスク」も――コロナ禍のなか「進化」する百貨店

政治・経済

「高度外国人材」という言葉に潜む欺瞞と、日本が搾取し依存する圧倒的多数の外国人労働者の実像とは?

社会