犯罪捜査での顔認識システムの使用は危険! 他のAIツールと同様、メリットもあるがデメリットが大きい!

3.

 メリーランドの捜査当局は、アロンゾ・ソーヤーとバス運転手暴行犯を結びつける他の証拠を見つけ出そうとした。彼が逮捕された日、2人の捜査員、アシュリー・タラント(Ashleigh Tarrant)刑事とライアン・ナグリエリ(Ryan Naglieri)刑事は、彼のアリバイを調べるためにアビンドンに車を走らせた。彼らはドナ・オガラ(Donna Ogala)の家を訪ねた。オガラは、ソーヤーの妻キャロン・ジョーンズ・ソーヤー(Carronne Jones Sawyer)の姉である。家宅捜索の同意を求めた。オガラは2人を中に招き入れた。リビングの灰色のソファーの周りに毛布や衣類が散乱していた。それは、そのソファをソーヤーとその妻がベッド代わりに使ったことを示していた。後にタラントが家宅捜査記録に記しているのだが、彼とナグリエリは犯罪につながるものは何も見つけられなかった。「容疑者情報に記されていた容疑者が身に着けていたとされる衣類は、どこにも見当たらなかった」。

 その場を立ち去る前に、2人は公立学校の元教師であるオガラに、バス運転手暴行事件が起きた朝のことを質問した。彼女は答えた。午前7時45分に、いつもと同じように糖尿病の薬を飲みに階下のキッチンに降りた。その際に、ソーヤーが妻と2人でソファで寝ているのを見た。9時半頃に、ティモニアムで事件があった時間よりかなり後になるわけだが、ウォルマートに買い物に出かけたが、ソーヤーたちはまだソファで眠っていた。

 タラントとナグリエリは、その事件の被害者の運転手ラドナ・ウィルソン(LaDonna Wilson)にも連絡を取った。オガラの家を捜索した日の翌日、2人はウィルソンに6人の顔写真が並んだリストを見せた。彼女がソーヤーを特定できるかどうか確かめた。私は、公文書公開請求をしてその資料のコピーを入手した。その資料では、左から3番目の顔写真がソーヤーのものであった。彼の頭はスキンヘッドで、眉間にしわを寄せ、きれいに整えられたあごひげの一部がグレーだった。6枚の顔写真の下には、”yes “か no “をチェックする欄が設けられていた。ウィルソンは、ソーヤーの写真を見た後、”no “にチェックを入れた。そして、「私を暴行した人物ではない 」と書いた(ウィルソンにこの件に関して取材を申し込んだが、拒否された)。

 拘置所にいたソーヤーには、こうした情報は何も伝えられなかった。1つだけ伝えられたのは、警察が顔認識システムを使って容疑者情報の資料にあった顔写真と一致する人物を特定したということである。それがソーヤーであったわけである。さて、ソーヤーがバス運転手襲撃犯であると特定した人物は、彼の保護監察官のアロン・ドーガティ(Arron Daugherty)であった。ソーヤーが逮捕される2日前の3月29日、容疑者情報のコピーがドーガティにEメールで送られた。彼は、襲撃犯はソーヤーに似ていると答えた。彼は犯行の際の監視カメラの映像を見せてほしいと依頼した。その日の内に、タラントはヘーガーズタウン(Hagerstown)にあるドーガティの事務所を訪れ、映像を見せた。それを見た後、ドーガティはソーヤーが犯人であると確認したことを証明する書類に署名した。

 ドーガティが誤認したわけで、捜査当局はそれがソーヤーを誤認逮捕した原因であると説明している。しかし、そもそも捜査当局が犯人を特定する際にドーガティに頼りすぎたことが問題であった。ソーヤーによれば、2人が直接顔を合わせたのは2回だけだという。2回とも新型コロナのパンデミックの頃だったので、ソーヤーはマスクをしていた。それにも関わらずドーガティは短時間であっさりとソーヤーを犯人であると特定した。それは、顔認識システムによってソーヤーが犯人と特定されたと知らされていたからである。AIツールは、AI研究者たちが言うところの「自動化バイアス(automation bias)」 の恩恵を受けてきた。それは、ITテクノロジーを利用する者たちが、特に自分では理解できない機能が実行される場合に、ITツールが教えてくれることを無条件で受け入れようとする傾向のことである。全米刑事被告人弁護人協会(the National Association of Criminal Defense Lawyers)の顧問のクレア・ガービー(Clare Garvie)は、顔認識システムを重用することは、合衆国憲法にある何人 (なんびと) も法の適正な手続きによることなく生命・自由もしくは財産を奪われることはないとする規定を脅かすと指摘する。彼女は私に言った、「認識システムには一種の謎がある。私たちはそれがどのように機能しているのかよく理解していない。しかし、私たちよりもずっと頭の良いコンピューターがそれを作ったことは知っている。人間は完全に理解していないシステムに信頼を置く傾向がある。」と。

 昨年、ガービーは論文を発表した。その中で、犯罪捜査において、顔認識システムを完全無欠のものとして頼り過ぎることにはリスクが伴うと主張していた。理由は、顔認識システムは主観的な人間の判断に大きく依存するツールであるからである。通常、顔認識システムを使う捜査では、候補者リスト(candidate list)が生成される。可能性がありそうな者のリストであるが、それは1人や2人の顔写真ではなく、何十、時には何百もの顔写真が載っている。つまり、顔認識システムが返してくる候補者のほとんどは、誤検出(false positives)されたものなのだ。候補者リスト(この中に正犯人がいない可能性だってある)を見て、その中からどの候補者が正犯人であるかを決めるのは、アルゴリズムではなく、あくまで人である。つまり、法執行機関で顔認識システムを使う権限を付与されているごく一部の役人に委ねられているのである。しかし、彼らのすべてが顔認識システムを使いこなすための十分なスキルを身に付けているわけではない。アメリカ行政活動検査院(the Government Accountability Office:略号GAO)が9月に発表した報告書によると、国土安全保障省(the Department of Homeland Security)と司法省(the Department of Justice)配下の7つの法執行機関は、以前は、何の訓練も受けさせずに捜査員に顔認識システムの使用を許可していた。連邦捜査局(The Federal Bureau of Investigation:略号FBI)は、24時間の講習を義務付けていたが、GAOが調べた限りでは、そのシステムにアクセスできる1,009人のスタッフの中で講習を修了した者はわずか10人であったという。

 もし、見慣れない多くの顔を比較して識別することが、誰もが簡単にマスターできるタスクであれば、顔認識システムを使うための訓練の不足は心配の種にならないかもしれない。しかし、被験者にたくさんの容疑者の顔写真から1人を特定するよう求めたある実験では、誤認識率は30%にも上った。この実験では、画質が良く、認識しやすい正面から撮った顔写真が使われていた。通常、捜査当局が顔認識システムで使う顔写真は監視カメラから抽出されたものであるわけで、このような高画質のものが提供されることはない。低画質の顔写真を使った実験を繰り返したところ、誤認識率はさらに高くなった。法医学的顔面鑑定(forensic face examinations)の経験がある専門家なら、人物を誤認する可能性は低いと思われるかもしれない。しかし、そんなことはない。入国審査官と大学生の顔を認識する能力を比較した実験が行われたのだが、入国審査官の成績は学生と同じくらい低かった。

 誤認識のリスクを高めるもう1つの要因は、異人種間効果(cross-race effect)である。これは、人は誰もが自分と異なる人種や民族に属する者の顔を認識するのが苦手であるという傾向のことである。その研究のために行った14の実験の結果を分析したところ、白人の被験者も黒人の被験者も、約80%は自分の人種に属する者の顔を見分けるのが得意であった。「白人が黒人の顔認識をする場合、あるいはその逆の場合、認識結果の正確性は非常に低くなる可能性がある。」との記述がガービーの論文にはあった。

 顔認識システムから手がかりを得る捜査官は、そうした欠点があることを十分に認識していないことも少なくない。顔認識システムがアルゴリズムで特定した人物は絶対に正しいと勘違いする可能性もある。実際には、ソーシャルメディア等から取得した不鮮明で現在の風貌とは大きく異なっている顔写真を参照して分析している可能性もあるわけで、誤認識することは決して珍しいことではない。ロバート・ウィリアムズがデトロイトの窃盗犯として誤認逮捕されるきっかけとなった顔写真は、古い運転免許証のものだった。ミシガン州警察本部で顔認識システムを使った分析官は、免許証の有効期限が切れているか否かの確認を怠った。期限はとっくに切れていた。また、その分析官は、ウィリアムズのもっと直近の写真があるか否かを調べることもしなかった。おそらく、データベースにはあったはずである。あまり深く調べなかったのには理由がある。その顔認識システムでは、ウィリアムズは犯人の可能性がある者のリストの下位の方に載っていたからである。データベースにあったウィリアムズの顔写真は、窃盗現場の監視カメラ映像から得られた犯人の顔写真に似てる点があった。しかし、順位で言えば9番目に過ぎず、他の8人の顔写真が一致する可能性がより高いとされていた。しかし、その時に顔認識システムを使った分析官は、ウィリアムズの顔の形態学的評価を行った。特に鼻筋を中心にチュックし、彼の顔が窃盗犯の顔に最も似ていると結論付けた。ちなみに、その後、他の別の2つの顔認識システムを使って同様の分析が行われた。その内の1つは243人の顔写真を結果として返したが、ウィリアムズは含まれていなかった。もう1つのFBIの顔認識システムでは、顔写真は1つも返されなかった(該当者無しとなった)。

 ACLU(アメリカ自由人権協会)の法務職員のネイサン・フリード・ウェスラー(Nathan Freed Wessler)弁護士は、現在ウィリアムズの代理人として訴訟を提起している。彼は、FBIの顔認識システムが犯人の可能性のある者の顔写真を1枚も返せなかったのは、犯行現場の監視カメラの映像の質が極めて悪かったからではないかと疑っている。ウィリアムズの顔写真が3種の顔認識システムの内の2種で犯人の可能性があるとされなかったという事実は、つい最近明らかにされたことである。ACLUがミシガン州警察本部に結果についてより詳細な情報を求めた結果、裁判前の証拠開示の過程でようやく明らかになったのだ。訴訟を提起していなければ、ウィリアムズと彼の家族はこの事実を知ることはなかっただろう。