フェイスブックがポリシーを変えるとアジアで政権が倒れる!? SNSに左右される社会と言論

geralt via pixabay(CC0 Public Domain)

大手SNS企業のポリシーとその運用のインパクト

「フェイスブックがポリシーを変えるとアジアで政権が倒れる」--。  こう言ったら誇張しているあるいはホラと思うかもしれないが、ミャンマーではフェイスブックの普及によって少数民族への差別と虐待が激化し70万人が国外脱出を余儀なくされ、インドでは複数の男性がフェイスブックで流布したデマを信じた人々によりリンチで殺された。フェイスブックもしくは同社の系列サービス(WhatsAppなど)によって暴動や犯罪が起きたケースは多数ある。これにツイッターやグーグルなど他のSNS事業者を加えるとさらに影響は深刻となる。インド、インドネシア、フィリピンなどではSNSを政権獲得、維持の道具として活用している。  フェイクニュースやネット世論操作はSNSが主戦場だ。私が自著『フェイクニュース 新しい戦略的戦争兵器』(角川新書)で触れたように、ハイブリッド戦という新しい戦争において、大手SNS事業者は大きな役割を果たしている。  そのため大手SNS事業者、特にフェイスブックは責任ある対応を各国から求められている。言葉を換えると、フェイスブックのポリシーと運用が変わればその国の社会不安は収まるとさえ考えられている。ふだん意識することはないが、ポリシーと運用の変更はそれだけの影響力があるのだ。  11月14日に公開されたデータアンドソサエティ研究所のロビン・キャプランによる「CONTENT OR CONTEXT MODERATION?」(データアンドソサエティ研究所、2018年11月14日)は、これらの事実の本当の意味を教えてくれる。このレポートは、30を超えるSNS事業者へのインタビューにより、コンテンツポリシーの違いを明らかにし、そのメリットデメリット、問題点を明らかにしているのだ。

3種類のポリシー「職人型、コミュニティ型、産業型」

 キャプランはSNS事業者のポリシーにはミッションやビジネスモデル、規模によって職人型(artisanal)、コミュニティ型(community-reliant)、工業型(industrial)の3つのアプローチがあるとしている。  ポリシーは状況により柔軟に対応する側面(CONTEXT)と、一貫性を維持する側面(CONTENT)があり、そのバランスが重要だ。職人型は状況による柔軟な判断を優先し、工業型は一貫性を優先する。  多くのコンテンツモデレーションチームは職人型アプローチを取っている。このアプローチでは自動化は制限される。  初期の小規模のSNSでは職人型のようなアプローチを取ることもある。レポートではフェイスブックも初期においては職人型に近いアプローチを取っていた例を紹介している。職人型アプローチを取る企業はプライドを持って仕事をしていることが多い。小規模のため対応できる言語など制限もあり、ディスカッションなどにかかる手間も多い。そのため規模を大きくするには、このアプローチは向かない。  コミュニティ型アプローチでは少数の社員のチームとボランティアたちがコンテンツモデレーションに当たる。このアプローチでは社員は中心となる方針を設定し、ボランティアたちは個別詳細の状況に応じたルールを作り、対応することになる。モデレーターの数が工業型アプローチを上回ることもある。Redditの社員は400人くらいだが、2015年に9万を超えるモデレータアカウントがあることが判明している。  大手SNS企業は工業型アプローチをとっているため、多くの人が関心を持つのもこのアプローチとなっている。このアプローチは、議論を尽くす裁判よりも判決を生産する工場に近い。問題を定型的なものにブレイクダウンして判断をくだすのだ。官僚的とも言える。莫大なコンテンツをモデレートするために自動化も必須となる。  2017年、ユーチューブは2,800万の動画から820万の動画を削除した。このうち650万は自動的に削除フラグが立てられ、110万は信頼できる利用者からの通報、40万は一般利用者からの通報だった。  一方で、大手SNS企業は規模を拡大するにあたって、地域の独自性や社会状況をなおざりにすることが多い。これがミャンマーでWhatsAppによって少数民族への差別や虐待を助長することにつながった。
次のページ
SNSポリシーと運用が握る「ネット上の生死」
1
2
バナー 日本を壊した安倍政権
新着記事

ハーバービジネスオンライン編集部からのお知らせ

政治・経済

コロナ禍でむしろ沁みる「全員悪人」の祭典。映画『ジェントルメン』の魅力

カルチャー・スポーツ

頻発する「検索汚染」とキーワードによる検索の限界

社会

ロンドン再封鎖16週目。最終回・英国社会は「新たな段階」に。<入江敦彦の『足止め喰らい日記』嫌々乍らReturns>

国際

仮想通貨は“仮想”な存在なのか? 拡大する現実世界への影響

政治・経済

漫画『進撃の巨人』で政治のエッセンスを。 良質なエンターテイメントは「政治離れ」の処方箋

カルチャー・スポーツ

上司の「応援」なんて部下には響かない!? 今すぐ職場に導入するべきモチベーションアップの方法

社会

64bitへのWindowsの流れ。そして、32bit版Windowsの終焉

社会

再び訪れる「就職氷河期」。縁故優遇政権を終わらせるのは今

政治・経済

微表情研究の世界的権威に聞いた、AI表情分析技術の展望

社会

PDFの生みの親、チャールズ・ゲシキ氏死去。その技術と歴史を振り返る

社会

新年度で登場した「どうしてもソリが合わない同僚」と付き合う方法

社会

マンガでわかる「ウイルスの変異」ってなに?

社会

アンソニー・ホプキンスのオスカー受賞は「番狂わせ」なんかじゃない! 映画『ファーザー』のここが凄い

カルチャー・スポーツ

ネットで話題の「陰謀論チャート」を徹底解説&日本語訳してみた

社会

ロンドン再封鎖15週目。肥満やペットに現れ出したニューノーマル社会の歪み<入江敦彦の『足止め喰らい日記』嫌々乍らReturns>

社会

「ケーキの出前」に「高級ブランドのサブスク」も――コロナ禍のなか「進化」する百貨店

政治・経済

「高度外国人材」という言葉に潜む欺瞞と、日本が搾取し依存する圧倒的多数の外国人労働者の実像とは?

社会