2.Facebook社の緩い対応の数々
2015年12月7日、当時共和党大統領候補選挙のダークホースだったドナルド・トランプは、彼のFacebookページにて、イスラム教徒の米国への入国を一切禁止すると表明しました。また、遠回しにイスラム教徒（18億人全員）は理性と人権意識に欠けていると付け加えていました。Facebook社の定義によれば、それは明らかにヘイトスピーチです。Facebookの規約（CommunityStandards）では人種、民族、国籍、宗教だけを根拠に他者を非難するコンテンツは禁じられています。タイムズ紙によると、ザッカーバーグはトランプの投稿に愕然としていたそうです。しかし、Facebook社の経営幹部達は、一連の会議で議論を重ねた結果、トランプの認知度の高さを考慮して例外的な対応をすべきだとの決定を下したのです。
その会議は、政策担当役員であるモニカ・ビッカート、エリオット・シュレージ、ジョエル・カプランが主導しました。いずれもハーバード大学で法学位を取得しています。Facebook社の幹部のほとんどはリベラル（民主党支持）です。しかし、カプランは違います。共和党を支持していることを隠しません。過去にはアントニン・スカリア最高裁判事（レーガン大統領時代の）の秘書を務めていましたし、ジョージ・W・ブッシュ政権時にはホワイトハウスで勤務していました。その彼がつい先日、世界政策担当副社長に昇進しました。時に、ワシントンDCの共和党中枢と情報共有をしています。彼がザッカーバーグにアドバイスした内容がタイムズ紙に載りました。彼が言ったのは、熊を刺激してはいけないということでした。つまり、トランプ氏とその支持者の怒りが噴出するような事態は避けるべきだということです。そうしてトランプの投稿は削除されず残されたのです。以前Facebook社に勤めていた者が言いました、「そんな問題のある悪しき前例が出来てしまったら、その後の対応も上手くいくはずありません」と。
トランプの投稿を削除しないという決定を下したのは拙い判断でした、その上にさらに拙い判断としか思えないのですが、その決定を正当化しようとあがいています。ワシントンポスト紙によると、ビッカートは社内メモを残していました。彼女と同僚が考えた選択肢が列挙されていました。一つのめの選択肢は、トランプの投稿に対して一度限りの例外として対処するというものでした。この対処法は今後もたびたび使うかもしれないと認識していました。次の選択肢は、政治的言説についてはガイドラインが適用されないという除外規定を付け加えるというものでした。そうしとけば、今後は政治家の発言についてケースバイケースで対応することが可能になります。次の選択肢は、ガイドラインを大々的に修正するというものです。具体的には全ユーザーに適用されるガイドラインを緩くして、「黒人お断り」とか「同性愛者はサンフランシスコから出ていけ」というような文言も許容するというものです。
当時、Facebook社のコンテンツ・モデレーターは4,500人未満でした。現在は約15,000人です。そのほとんどが契約社員です。世界中の都市（ダブリン、オースティン、ベルリン、マニラ等々）にいます。24時間世界のどこかで誰かが監視している体制を敷いているので、画面に表示されるあらゆる脅威、暴力的な描写、児童ポルノ、その他すべてのオンライン上の不正行為をチェックしています。その仕事は悲惨なものかもしれません。「睡眠不足になるし、潜在意識は完全に休まらないし、拡散していく可能性が高いコンテンツに精神を集中させなけらばならないのです。」と、バルセロナでモデレーターとして働いていたブラジル人アートディレクターのマーティン・ホルツマイスターは語りました。また、彼は言います、「チェルノブイリでは2分間で中に走り込んで何かを掴み取って外に出れば死ぬことはないと皆が知っていました。しかし、ここの仕事は、何時間続けたら危険なのかということは誰も把握していません」と。コンテンツ・モデレーターは、厳格な秘密保持契約書にサインしなければなりません。業務に関してどんな些細なことも外部に話すことは禁じられています。今年5月のことですが、多くのコンテンツ・モデレーターがFacebook社に対して業務によってPTSDが引き起こされたとして集団訴訟を起こしました（Facebook社は、すでに和解しています）。総額5,200万ドルを支払いました。Facebook社を代表してプサテリがコンテンツ・モデレーターに対してオンラインでのカウンセリング窓口や24時間メンタルヘルスのホットラインを設けると表明していました。
米国外にあるFacebookの主要なコンテンツ監視拠点の1つはダブリンにあります。そこではコンテンツ・モデレーターは毎日、ヨーロッパ、アフリカ、中東、ラテンアメリカから報告されるルール違反の可能性のある数十万件のレポートをチェックしています。2015年12月のことですが、ダブリンの数人のコンテンツ・モデレーター（NEMA（中東、北アフリカを監視しているチーム）の者が多い）がトランプの投稿が削除されていないことに気づきました。その内の1人（中東のコンテンツ監視担当）は言いました、「米国の政治家がイスラム教徒に対して汚い言葉を発しているのに気づいたが、その日見たコンテンツの中で最も酷いものということはなかったよ。ここでは、斬首や戦争のシーンを毎日見なければならないからね」と。MENAには、アラビア語、ペルシャ語を話す者が多い。MENAは米国のコンテンツを監視する業務には携わっていない。しかし、トランプの投稿が放置されていることは、MENAのメンバーからすると明らかに酷い対応である思われました。それで、ダブリンの上層部にこれを放置するのはおかしいのではないかと非難する意思を示めしました。Facebook社のガイドラインでは、コンテンツ・モデレーターは、あらゆる差別や排斥を助長する主張は取り除くべきであると規定されている。イスラム教徒に対して米国の国境を閉ざすことをアピールするというコンテンツは、明らかに削除されなければなしません。
翌日、MENAチームの何人かと他の関係する従業員がガラス張りの会議室に集まりました。米国から少なくとも1人の政策担当役員がテレビ会議で参加しました。おそらくジョエル・カプランだったと思われます（ダブリンでかつて従事していた者が教えてくれましたが、彼は白人の顔を覚えることが苦手なため確信は持てないようです）。その元従業員は教えてくれました、「上層部の人たちは、君たちはイスラム教徒だから感情的になりすぎているのでもっと冷静になって話し合おうという雰囲気を醸し出していました。馬鹿げた話です。だって、私たちの多くはイスラム教徒ではなかったんですから。私たちは中東を監視しているチームだからトランプの投稿が放置されていることがおかしいと指摘したのではありません。コンテンツ・モデレーターの専門的見地から、あの投稿はルール違反だと指摘しているだけなんです。それだけなんですよ」と。
Facebook社は、ヘイトスピーチに対する取り組みを弱めたことは一度もないが、公職にある人々の報道価値の高い発言の場合には例外的な対応をすることがあると主張しています。しかし、最新版の履行基準では、公職にある者だけでなく全てのユーザーに対してルールを緩いものにしたことが明らかになっています。その変更は2017年以前に為されました。Facebook社には社内用の手引書（Known Questionsと呼ばれる）があり、それは先ほどの履行基準の内容の理解を助けたり補足するものですが、ヘイトスピーチに関するルールには不備がいくつか見られます。その手引書には、「何らかの保護すべき特質を共有している集団が国境や海を越えるのを禁止するコンテンツを許容する」という記述があります。その記述には、3つの現在許容されている例が続いて記されています。1つは、シリア人がドイツに入国することを禁止することです。それ以外の２つの例は、いずれも米国の大統領が表明している内容で、イスラム教徒の米国への入国を完全に禁止するということ、米国がメキシコ人が流入しないように国境に壁を作るということです。