3.Facebookの元コンテンツ・モデレータ―らに聞く内情
2017年5月にFacebook社は世界中から悪意ある者たちがFacebookのプラットフォームを使用して米国大統領選挙に介入したことが確認されたとする報告書を発表しました。その直後にザッカーバーグは全世界でコンテンツ監視の従業員を67％増やすと発表しました。当時ダブリンでFacebook社の契約社員だったミルドカ・グレイはコンテンツ・モデレーターの正社員になりました。彼女の夫のクリスも採用試験を受けてすぐに正社員として採用されました。クリスは、誰でも受ければ受かる状況だったのではないかと推測しています。ミルドカやクリスや同僚はFacebook社のダブリンの質素なオフィスに閉じ込められて働いています。そこで働いていた人たちに印象を聞いたのですが、Facebook社の正社員でいたいのなら静かにしていなさい（仕事で異議を唱えるな）という空気が流れていました。
コンテンツ・モデレーターとして採用されてから最初の数日間は、1人のトレーナーが履行基準や手順書（Known Questions）や他の資料を使って指導をします。それらのドキュメントは技術的な専門用語でいっぱいです。しかし、論理的な記述ではないので分かりにくいようです。クリスが勤務していた部署では、周りのほとんどの人は英語が得意ではありませんでした。クリスは、一体どうやって機能させるのだろうかと心配になりました。彼の妻のミルドカはインドネシア出身で母国語はマレー語でしたので、やはりクリスと同じ心配をしました。実際、トレーニング室で指導を受けている際には、うなずきながらイエスという者がほとんどでした。しかし、その人たちは室外に出ると、さっきの説明分かった？とか、さっきの説明をマレー語で教えて、とか話している状態でした。Facebook社の初期にコンテンツ・モデレーターになった人たちが研修をされた時とは大違いです。彼らは自分自身の思慮分別や道徳的直観を元に判断しなさいと言われていました。グレイ夫妻は、投稿の中の文脈は無視するよう勧められました。Facebook社の履行基準には、記されています、Facebook社はコンテンツに寛容な態度をとるべきであり、特に大きな利点がないのであれば削除等は差し控えるべきである、と。
コンテンツ・モデレーター個人に裁量を過度にゆだねべきでないという主張は一理あります。クリス・グレイが言いました、「モデレーターは何でもかんでも規約違反にしたいわけではないのです。誰かが膝の上丈のスカートをはいていたら何でもかんでもポルノ画像として対処するのはどうかと思いませんか？ラファエルの描いたケルビム（智天使）の絵画が児童ポルノガイドラインに違反するとしてFacebookがモザイクを掛けることって意味があるんでしょうか？バランスの問題なんです。コンテンツ・モデレーターの自由裁量に任せっきりではダメですし、かといって、何も考えずガイドライン通りやれというわけにもいかないんです」と。
グレイ夫妻は2018年にFacebook社を辞めました。その後まもなく、英国のテレビ局チャンネル4は、コンテンツ・モデレーターを装った潜入記者が撮影したドキュメンタリーを放映しました。その中で、トレーナーは、ヘイトスピーチに関する履行基準の解釈についてパワーポイントを使って説明していました。1つのスライドは、最近よくインターネット上で流布している画像でした。ノーマン・ロックウエルの画風のイラストです。白人の母親と思われる人物が娘の頭を掴んでバスタブに沈めて溺死させようとしている場面です。そのイラストには「小さな娘が黒人の坊やにぞっこんだなんて言われた時」と吹き出しに書かれています。けれどもトレーナーは、このイラストには多くのことが暗示されているが、誰も攻撃していないし、黒人を攻撃しているわけでもないので、コンテンツとしては問題ないものとして扱うべきだと説明しました。ちょっとした静寂が訪れましたが、しばらくしてトレーナーは、「理解できましたか？」と聞きました。コンテンツ・モデレーターの内の1人が、「全然、理解できないです」と答えましたが、他の者は不安そうな笑みを浮かべるだけでした。そこでドキュメンタリーの映像は終わりました。 その映像が公開された後、Facebook社の広報担当執行役員が該当のトレーナーは間違った説明をしていたという声明を出しました。クリス・グレイは、その声明は実際と異なっていると言います。クリスは、あの職場に居た時、何度も何度もあのイラストを見せられています。その都度、これは無視すべきイラストであると理解するように教え込まれました。そして、決して個人の価値基準で判断してはいけないということを叩き込まれました。
以前、フェニックスでコンテンツ・モデレーターをしていた者に話を聞いたことがあります。彼がトレーナーから言われたのは、Facebook社のプラットフォームを安全なものにするために、誇りを持って取り組んでほしいということでした。しかし、実際にコンテンツ・モデレーターの仕事を始めると、ヘイトスピーチに対処することを期待されていないことはすぐに分かりました。彼は、ヘイトスピーチと思われる数十事例を教えてくれました。その内のいくつかはあからさまなものではなく問題ある内容が暗示的に含んでいるものでした。他は明確なヘイトスピーチでした。ヒトラーを明快に称賛するものなどでした。トレーナーはそれらをチェックして、問題ないので削除しなくてよいと説明しました。削除しない理由は、ヘイトスピーチだと見なすことができないということでした。また、判断が難しいコンテンツは削除せずそのままにしておくことが上司に怒られないための最適な方法であると認識していたことも理由の一つのようです。
最近、私は2人の現役コンテンツ・モデレーターと話をしました。匿名が条件ですので、ここではケイトとジョンと呼ぶこととします。2人はヨーロッパの英語圏でない国で働いています。どちらもきちんとした英語をしゃべれます。「あなたがマーク・ザッカーバーグなら、世界中のどこにでも最小限の1つの基準を適用する方が良いと思います。いわゆるユニバーサリズム（普遍主義）的な対応が必要です。きちんとした基準を定めて、それを厳格に運用しない限り、多くの人々から苦情の声が出る状況がなくなることはありません。」とケイトは言いました。
コンテンツ・モデレーターの監督者のFacebookの履行基準に関する解釈が、世間の常識や基本的な礼節と矛盾していた事例を2人はいくつか教えてくれました。インスタグラムのKillAllFagsというユーザーネームのアカウントについて、ケイトが気付いたことがありました。そのアカウントの写真は虹色の旗（レインボーフラッグ、LGBT運動を象徴している）に✕印がされているものでした。その写真は明らかに問題があるとケイトには思えましたが、削除することはできませんでした。
ジョンは監督者から、LGBTというのは単なる概念だから問題ないと説明されました。それ以降、ケイトは、「LGBTを殺せ」という文言を見つけても、個人名が書かれておらず誰を殺すか特定出来ないのであれば、投稿を削除すべきでないと推測するようになりました。
「Facebook社はいつでも基準を変更することが出来ます。そうすれば、もっと誰もが住みやすい世界になるはずです。しかし、実際に変更することはないでしょう。」とジョンは言いました。私はジョンに聞きました、「どうしてですか？」と。ジョンは言いました、「たかがコンテンツ・モデレーターが基準を変更してほしいと頼んだところで、何も変わりません。コンテンツ・モデレーターは指示されたことだけをするしかないんです」と。