６．
アロンゾ・ソーヤーは、自分が顔認識システムで犯人と特定されるまで、それについて全く知らなかった。「誰がこんなものを考えたのか知りたい。」と、彼は私に言い、どうしてコンピューターが誤って彼を犯人と誤認したのか完全には理解していないと付け加えた。メリーランド州公安・矯正局（Maryland Department of Public Safety & Correctional Services）によると、ソーヤー逮捕時に同州が利用していた顔認識システムはデータプラス・ワークス社（DataWorks Plus）のものだった。本社は、サウスカロライナ州グリーンビルで、2,500 以上の公的機関に導入実績がある。同社のWeb サイトを見ると、「最新の顔照合テクノロジーを使用し、捜査に必須の正確で信頼性の高い顔分析結果を提供する。超多要素比較を実施し、低解像度画像は補正し、あらゆる特徴を比較分析する。」との文言がある。私はソーヤーの逮捕に至った経緯について詳しく知るために、何度も同社に連絡を取った。しかし、回答は得られなかった。また、ハーフォード郡の情報分析官メーガン・ライアン（Meghan Ryan）がソーヤーの誤認逮捕の際に顔認識システムを使用したことを知った後、私はハーフォード郡検事局にも連絡した。ライアンは既に退職したとのことだった。その時の情報（監視カメラの映像や容疑者と思われる者のリスト）を求めたところ、記録は提供できないと言われた。
今年の6月に控訴裁判所（appellate court）がニューヨーク市警（NYPD）に対し、クイーンズ在住のフランシスコ・アルテアガ（Francisco Arteaga）が強盗の罪で起訴された際に決め手となった顔認識システムの使用に関する詳細情報を提出するよう命じた。控訴裁判所は、使用されたソフトウェアのソースコード、そのアルゴリズムに関する情報の提出を要求した。この技術は新規で、テストされていないため、被告がそのような情報にアクセスすることを拒否することは、ブレイディ・ルール（Brady rule）に違反する恐れがあると控訴裁判所は判断していた。ブレイディ・ルールは、刑事告訴されている容疑者に対して無罪となる可能性のあるすべての証拠を検察官に開示することを義務付けるものである。被告が知りたいことの1つは、逮捕に至る捜査で使用された顔写真がデジタル的に修正されていたか否かである。データワークス・プラス社のWebサイトには、顔認識システムに入れ込んだ監視カメラの映像を「姿勢補正、光量補正、回転、トリミングして編集可能」との記載がある。一部の企業の顔認識システムでは、捜査員が2枚の顔写真を組み合わせることができる。他に、識別が難しい特徴を再構築するための3D画像作成機能が備わっているものもある。
現在に至るまで、ソーヤーは顔認識システムについてほとんど何も知らされていない。先日、私は彼と再び会った。今回は彼が育ったボルチモアの低所得者向け集合住宅のワシントン・パーク（Washington Park）で会った。彼によれば、昔、祖母と一緒にそこに住んでいたという。部屋は、黄色の外壁と明るい青色の入口ドアのある建物の2階である。以前は、ドアは金属製で、銃弾の跡が残っていたという。隣の建物の階段の吹き抜けから、麻薬中毒者数人が銃を乱射した。野球のバットを使った乱闘が勃発し、死者が出たこともある。「大変だったよ！」と、ソーヤーは当時を回想して言った。それでも母親とノースカロライナで暮らすよりは、虐待されないだけマシだった。ソーヤーは長年アルコール依存症と闘ってきたが、1年前に酒を断っている。カウンセラーは、酒をどれだけたくさん飲んでも「癒されていないトラウマ」を克服することはできないことを彼に理解させた。その後私が知ったところによると、彼が犯した交通違反の多くはアルコールが原因である。何度も飲酒運転で捕まり、それが最終的に運転免許証の停止につながった。
私は、顔認識システムを研究する認知科学者アリス・タウラー（Alice Towler）にソーヤーの案件を説明した。それを受けて彼女が言ったのだが、免許停止された実績があったことが原因で顔認識システムを使用した者が彼を潜在的な容疑者だという結論にたどり着いた可能性があるという。内々にソーヤーが免許停止となっているという情報を入手し、3月26日の朝にバスに乗らざるを得なかったソーヤーがそのことに腹を立てていたと推測したのかもしれない。一部の顔認識システムでは、候補者リストに並んだ各顔写真の横に過去の逮捕情報も表示される。これは、より多くの情報に基づいて決定を下せるようになるわけで、顔認識システムを使う者の役に立つ良い方法のように思えるかもしれない。しかし、タウラーは、そのような情報が伝わると、認知バイアスが助長される可能性があると指摘する。顔認識システムを使う分析官は、犯罪歴だけを重視して、該当の事件の犯人にふさわしい人物を選択する可能性がある。彼女は言った、「犯罪歴等を知って予断を持つと、逆に純粋な分析ができなくなる可能性がある。」と。
ソーヤーは過去に逮捕されたことがあったので、顔認識システムが参照するデータベースに彼の顔写真が入っている可能性は高かっただろう。このようなデータベースには黒人が過剰に含まれている。その理由の1つは、彼らが過剰に取り締まられているコミュニティに住んでいることにある。クレア・ガービーは言った、「警察と関わる回数が増えれば増えるほど、逮捕される回数も増える。そうすると、誤認逮捕される確率も高くなる。」と。この問題を緩和する1つの方法は、多くの市民の顔写真を含んでいるデータベースの検索を制限することである。運転免許証のような多くの者が持っているものの顔写真をデータベースに入れることを禁じるべきである。マサチューセッツ州で提案されている法案は、そうしたことを要求している。このような制約のない管轄区域 (アメリカの大部分ですが) で顔認識システムによって誤認逮捕される可能性が最も高いのは、逮捕記録が残っている有色人種である。典型的な白人、つまり犯罪歴が無く、Instagramアカウントを持っている白人ではない。
ソーヤーが言っていたのだが、自分の誤認逮捕の原因が顔認識システムにあることには驚いたが、警察の標的になったことには特に驚かなかったという。何度も経験していたからである。私たちはワシントン・パークの周りを散歩した。その時、彼はある住居棟の裏のエリアを指さした。彼によると、かつて警官隊が何人もの住民をそこに引きずり込んで暴行を加えていたという。とりわけ1人の警官のことはよく覚えているという。黒人の子供たちを叩きのめすのが大好きだったからだ。ソーヤーによると、その警官に対して数十件の苦情が提出されたが、懲戒処分は受けなかったという。ソーヤーは、誤認逮捕されて以降、警官が近くに来るだけで不安になる。「あんなことがあってから、私は警察官を見ると･･･。。」彼の声は尻切れトンボになった。