A New Jersey-i rendőrség helytelenül egy ártatlan férfit vett őrizetbe és tartóztatott le, mivel egy elavult algoritmusra épülő arcfelismerő szoftvert alkalmaztak, ezért az érintett be is perelte őket.

Nijeer Parks döbbenten vette tudomásul 2019 januárjában, hogy a Woodbridge-i rendőrség letartóztatási parancsot adott ki ellene bolti lopás és súlyos testi sértés miatt. Parks a NJ Advance Media hírportálnak adott interjúban elmondta, életében egyszer sem járt a városban, azonban amikor a felszólításnak eleget téve ellátogatott a rendőrkapitányságra, azonnal őrizetbe vették.

Később kiderült, hogy a rendőrök a Clearview mesterséges intelligenciájával működő, ellentmondásos hatékonysági mutatókkal rendelkező arcfelismerő szoftverrel azonosították, amely bizonyítottan képes a pontatlan algoritmussal detektálni olyan személyeket is, akiknek közük sincs a bűncselekményekhez.

Mivel a rendszer hibás és megbízhatatlan, ezért New Jersey állam főügyésze, Gurbir Grewal 2020. január 24-én elrendelte a szoftver használatának leállítását pontosan egy évvel Parks letartóztatása után.

A nyomozóknak mindössze az arcfelismerő szoftverből származó hamis adatok szolgáltak bizonyítékul, a férfit mégis tíz napig börtönben tartották, majd egy egy évig tartó harc kezdődött meg a bíróságon, amelynek következtében elfogyott Parks összes megspórolt pénze.

A sértett most egy polgári jogi pert indítványozott a Woodbridge-i rendőrigazgató és polgármester, valamint a Middlesex megyei ügyészség és börtön ellen. Parks ügyvédje, Daniel Sexton közölte, az ügyben illegálisan és törvénysértő módon jártak el, ezzel veszélyeztetve védence anyagi biztonságát és jó hírnevét:

„Egyetlen kézzel fogható, egyértelmű bizonyítékuk sem volt ellene az algoritmus hamis adatain kívül. Sem ujjlenyomatokat, sem DNS-t, sem vérmintát nem tudtak felmutatni, ami egészen felháborító.”