5.Facebook社は問題に真剣に取り組まなかった
履行基準について不満を持っているコンテンツ・モデレーターに対して、Facebook社は特にこれといった対応はしていません。Facebook社の正社員は自社の政策に疑問を抱いたとしてもかなりの報酬が得られています。しかし、その疑問は自分の内面にとどめておかなければなりません。WorkplaceというFacebook社の従業員のみがアクセスできるネットワーク上のサイトがあります。そこでは、率直な不満が書かれていますし、会社に反抗的な内容も散見されます。前述したダブリンで中東関連のコンテンツ・モデレーターをしていた者は、Facebook社の経営幹部は社内での不満には寛容的でしたが、それは不満が社外に漏れ伝わることを防ぎたいからだろうと認識していました。メンロパークのトッドセンターなどで働いていたら、IT系男子(女子)としてそれなりの収入もあり自分の能力を生かせていると常々それなりに満足していることでしょう。したがって、Facebook社が自社についての批判に気付いた時は、その批判を吸い上げるための手段が準備されていて吸い上げられます。そうして社内の批判の声は対処されますが、結果として何も変わらないことがほとのどでした。何も変わらないことは問題ですが、対処しておくことが重要なのです。
2017年12月18日、Workplace上の掲示板”Community Standards Feedback”にFacebook社のロンドンの採用担当がガーヂィアン誌に載っていた記事を転載しました。その記事はブリテン・ファーストがまさしくヘイトグループであることを示していました。彼は、ユーチューブやツイッターはブリテン・ファーストを締め出しているのにどうしてFacebookはそうしないだろうという質問をしていました。
Facebook社の広報担当役員のニール・ポッツは、その投稿に対して、教えてくれてありがとうとう、そうした状況についてはこちらでも注意深くモニターしているので心配無用ですと返答しました。しかし、ブリテン・ファーストはオルタナ右翼団体と同じ超国家主義的な信条を保持していますが、ヘイトグループだと認定はされていません、とポッツは続けて記していました。なぜ認定していないかというと、Facebook社がヘイトグループと認定するのは、嫌悪・暴力を増進することを一番の目的とする団体かヘイトな犯罪を犯して有罪判決を受けたリーダーがいる団体だけだからです。
別のFacebook社の従業員が、イスラム教徒の女性ですが、ブリテン・ファーストのリーダーであるジェイダ・フランセンが英国のイスラム教徒に対するヘイトクライムで有罪判決を受けたとWorkplaceに投稿しました。また、彼女は、ポッツが言うようにFacebookが状況を注意深くモニターしているということであれば、どうして、この件が見逃されているのか疑問であると記しました。
ポッツは、教えてくれてありがとうと返しました。そして、ジェイダが有罪になったという記事については、社内のヘイトグループに関する分析をする専門家チームであるSMEs(subject-matter experts)に気付いているか確認するということを記しました。
1か月後、2018年1月のことですが、ジェイダの件を投稿したイスラム教徒の女性はWorkplaceの掲示板に再び投稿しました。内容は次の通りです。明けましておめでとうございます。以前投稿した通り、明らかにFacebookのルールに違反しているにもかかわらず、ブリテン・ファーストのアカウントはいまだに削除されていません。この件ってどうなってます?
ポッツは、返しました、「再びの投稿ありがとう。SEMsチームは状況をモニターしており、評価中で次のステップについて検討中です。」と。しかし、その後、そのスレッドは閉鎖状態にされてしまいました。
数週間後、英国人で白人のダレン・オズボーンなる人物が殺人罪で有罪判決を受けました。オズボーンは、ワゴン車を運転しロンドンのモスク近くのイスラム教徒の集団に突っ込み、マクラム・アリというイスラム教徒の男性を死亡させ、他に9人を負傷させました。検察は、オズボーンはソーシャルメディア上のブリテン・ファーストとトミー・ロビンソンの投稿を見て触発されて今回の殺人に思い至ったとする証拠を示しました。裁判官は、この殺人は、インターネットの影響で急激に過激になってしまった男によるテロ行為であると見なしました。6週間経って、ブリテン・ファーストとトミー・ロビンソンはFacebookから排除されました。(Facebook社のスポークスマンのプサテリは、250を超える白人至上主義組織を排除したとの声明を出した)
Facebook社の元データサイエンティストのソフィー・チャンが最近次のように述べました、「これは公然の秘密ですが、Facebook社は短期的な決定をする際には、PRになるか否かということと、マイナスイメージが生まれないようにすることを重視している」と。チャンは2020年9月にFacebook社を退職していますが、退職する前に、Workplaceに痛烈な内容を投稿しました。その投稿は、BuzzFeed Newsが入手したものですが、次のように書かれています、「私は、いくつもの米国以外の国の政府がFacebookのプラットフォームを大々的に悪用しようとする露骨な悪巧みを目撃してきました。しかし、度々あったことですが、Facebook社はそういった企てをあまり注視せず排除しないことが多々あったのです。」と。彼女は、米国の報道機関が報道する可能性が低い国々の企てについてはFacebook社は特に注意を払っていなかったと推測しています。
Facebook社が特に内容が酷いコンテンツに関して批判を大量に受けている場合に、それを社内では”press fire”とか”♯PRFire”と呼んでいます。問題のありそうなコンテンツは、何度も注意喚起するよう印がつけられますが、大概それだけでは誰も注目しないし何の対処もされることはありません。しかし、”press fire”というフラグがコンテンツに立つと話は別です。すぐさま誰もが注目することとなります。現在ヨーロッパのとある都市で働いているFacebook社コンテンツ・モデレーターの1人が、社内ソフトウェアシステムの全ての記録を私に見せてくれました。つい最近の1日分のデータでした。”press fire”のフラグのある仕掛中の案件は数十件ありました。Facebook社は、多くのユーザーから、アスペルガー症候群を患っている10代の気候活動家であるグレタ・サンバーグが大々的に攻撃されているのを放置しているとして批判されていました。このコンテンツ・モデレーターは、その場限り対応として例外的な対応をするよう指示されていました。具体的には、グレタ・サンバーグを攻撃する目的で”gretarded”、”Retard”、”Gretarded”といった単語やそれを含むハッシュタグのある投稿は削除するということでした。指示されたコンテンツ・モデレーターが言うには、グレタ以外の若い活動家に対してそういう対応が拡大して適用されることは無かったし、攻撃を受けやすそうな他の活動家に対してもそうでした。米国でかつてコンテンツ・モデレーターを監督する立場にいたことがある女性は語ってくれました、「上司に、ミーティングをするよう依頼したり、証拠を箇条書きにして示したり、精神を病んで自殺したチームメンバーがいることを伝えたりすることはできます。でも、何もしてもらうことはできません。Facebook社は、問題を真剣にとらえることが出来ていませんでした」と。