Policijski pilot za masovnu AI nadzor izaziva kritiku stručnjaka za privatnost

Kontroverzno policijsko suđenje koje koristi tehnologiju prepoznavanja lica u stvarnom vremenu izazvalo je zabrinutost zbog privatnosti i točnosti, prema izvještajima australijskih medija. Zapadna australijska policija pokrenula je pilot program u lipnju, čime je postala prva agencija za provedbu zakona u zemlji koja je rasporedila uživo AI prepoznavanje lica na javnosti.

Tijekom početne faze ispitivanja, koja se održala u Perthu i Fremantlu, sustav je obradio više od 130.000 lica u prvom tjednu. Od toga je generirano 33 upozorenja, što je dovelo do 18 uhićenja. Prema policijskim izjavama, slike pojedinaca koji nisu na popisu za praćenje automatski su izbrisane i prikazane kao pikselizirane kako bi se zaštitila privatnost. Međutim, sustav je pogrešno označio jednu osobu kao osobu na popisu, što je malo bolje od ispitivanja iste tehnologije u Velikoj Britaniji 2023.

Profesor Jake Goldenfein iz Melbourne Law School istaknuo je da sistemi prepoznavanja lica često loše rade za određene demografske skupine. Napomenuo je da povijesni podaci pokazuju da ti sustavi imaju tendenciju pogrešno identificirati ljude boje i žene, osobito žene boje, zbog skupova podataka o treningu koji se uglavnom sastoje od bijelih i muških lica.

Te pogreške mogu imati ozbiljne posljedice, uključujući pogrešne uhićenja ili propuštenu priliku za pronalaženje nestalih osoba. Dok je Zapadna australska policija citirala studiju iz 2023. koju je proveo Nacionalni fizički laboratorij Ujedinjenog Kraljevstva, koja je sugerirala da nema značajne razlike u lažno pozitivnim rezultatima na temelju spola ili etničke pripadnosti pod kontrolisanim uvjetima, studija je također otkrila da se točnost smanjuje kada stvarni faktori kao što su osvjetljenje, ton kože i starost utječu na kvalitetu slike.

Suđenje je izazvalo kritike zagovornika privatnosti i pravnih stručnjaka, koji dovode u pitanje transparentnost popisa promatrača i odabir mjesta ispitivanja. Neki su izrazili zabrinutost da bi ciljana područja mogla neproporcionalno utjecati na zajednice Prvih naroda.