Ačkoli se nejedná o úplný zákaz této technologie, soudní dohled nad dodržováním dohody bude trvat čtyři roky. Podle nových omezení, která ACLU označuje za nejsilnější politiky svého druhu v zemi, policie nemůže provádět zatýkání pouze na základě výsledků rozpoznávání obličeje ani provádět identifikační řady pouze na základě těchto výsledků.

Williams byl zatčen poté, co technologie rozpoznávání obličeje označila jeho fotku z prošlého řidičského průkazu jako možnou shodu s údajnou identitou zloděje. Policie následně použila tuto fotku k sestavení identifikační řady. Williams byl zatčen doma, před svou rodinou, což podle jeho slov "zcela narušilo jeho život." Tento incident nebyl ojedinělý; detroitská policie je známa tím, že učinila nejméně dvě další nesprávná zatčení na základě výsledků technologie rozpoznávání obličeje, a v obou případech byli oběti černé, jak poznamenala ACLU při oznámení dohody. Studie ukazují, že technologie rozpoznávání obličeje má větší pravděpodobnost chybného určení u lidí barevné pleti.

Zdroj: Shutterstock

Nová pravidla stanoví, že "rozpoznávání obličeje, v kombinaci s identifikací v řadě, nikdy nemůže být dostatečným základem pro vydání zatykače," podle shrnutí dohody. Musí být také "další nezávislé a spolehlivé důkazy spojující podezřelého s trestným činem." Policie v Detroitu bude muset podstoupit školení o technologii, které se zabývá rasovou předpojatostí v jejích přesnostních mírách, a všechny případy od roku 2017, ve kterých bylo rozpoznávání obličeje použito k získání zatykače, budou přezkoumány.

Williams ve svém komentáři pro TIME uvedl, že dohoda v podstatě znamená, že "DPD již nemůže nahradit základní vyšetřovací policejní práci technologií rozpoznávání obličeje." Tento případ a následná dohoda přináší důležitý precedens pro budoucí používání této technologie v rámci policejního vyšetřování, zdůrazňující nutnost kombinace moderních technologií s tradičními vyšetřovacími metodami, aby byla zajištěna spravedlnost a přesnost v právním systému.

Tato dohoda také představuje významný krok vpřed v boji proti rasové nespravedlnosti v rámci používání technologie vymáhání práva. Podle odborníků by mohla sloužit jako vzor pro další města a státy, které hledají rovnováhu mezi využíváním technologických inovací a ochranou práv jednotlivců.