Policijski pilot za množično nadzorovanje z umetno inteligenco je bil kritikiran s strani strokovnjakov za zasebnost

Po poročilih avstralskih medijev je sporno policijsko sojenje, ki uporablja tehnologijo prepoznavanja obraza v živo, sprožilo pomisleke glede zasebnosti in natančnosti. Zahodna avstralska policija je junija začela pilotni program, s čimer je postala prva agencija za izvajanje zakona v državi, ki je na javnost uporabila tehnologijo prepoznavanja obraza v živo. Sistem, ki ga je razvil japonski tehnološki podjetje NEC, uporablja izdelek Neoface m40, da skenira obraze v realnem času in jih primerja s seznamom, ki vsebuje približno 4.000 posameznikov, vključno s tistimi, ki so obtoženi resnih kaznivih dejanj, pogrešanimi osebami in posamezniki, ki so potencialno nevarni.

Med začetno fazo preskušanja, ki je potekalo v Perthu in Fremantlu, je sistem v prvem tednu obdelal več kot 130.000 obrazov. Od teh je bilo ustvarjenih 33 opozoril, kar je privedlo do 18 aretacij. Po poročilih policije so bile slike posameznikov, ki niso bili na seznamu, samodejno izbrisane in prikazane s pikseli, da bi zaščitili zasebnost.

Profesor Jake Goldenfein iz Melbourne Law School je poudaril, da sistemi za prepoznavanje obraza pogosto slabo delujejo za določene demografske skupine. Opozoril je, da zgodovinski podatki kažejo, da ti sistemi napačno prepoznavajo ljudi barve in ženske, zlasti ženske barve, zaradi usposabljanja podatkovnih zbirk, ki so v veliki meri sestavljene iz belih in moških obrazov.

Te napake lahko povzročijo resne posledice, vključno z napačnimi aretacijami ali zamudnimi priložnostmi za iskanje pogrešanih oseb. Medtem ko je zahodna avstralska policija navedla študijo iz leta 2023 britanskega nacionalnega fizikalnega laboratorija, ki ni pokazala nobene pomembne razlike v napačnih pozitivnih rezultatih na podlagi spola ali etnične pripadnosti v nadzorovanih pogojih, je študija tudi razkrila, da se natančnost zmanjšuje, ko dejavniki iz resničnega sveta, kot so osvetlitev, ton kože in starost, vplivajo na kakovost slike. To kaže, da se zanesljivost sistema lahko znatno razlikuje v praktičnih aplikacijah.

Poskus je privlekel kritike zagovornikov zasebnosti in pravnih strokovnjakov, ki so postavili pod vprašaj preglednost seznama opazovalcev in izbiro lokacij za preskušanje. Nekateri so izrazili zaskrbljenost, da bi ciljna območja lahko nesorazmerno vplivala na skupnosti prvih narodov.