AI u upravljanju migracijama: "Razgovara se o odlukama koje utječu na ljudske živote"

Njemačka savezna vlada postigla je dogovor o predloženom zakonu čiji je cilj integracija umjetne inteligencije u svoju migracijsku administraciju, potez za koji kritičari kažu da bi mogao imati duboke posljedice za ljudska prava i privatnost podataka. Zakonodavstvo, dovršeno krajem srpnja, proširilo bi upotrebu umjetne inteligencije u postupcima azila i boravka, što bi utjecalo ne samo na tražitelje azila, već i na pojedince koji podnose zahtjev za vize ili imaju privremene dozvole kao što su tolerancije ili odobrenja boravka.

Prema nacrtu, tijelima koja se bave tim pitanjima bit će dopušteno koristiti osobne podatke za obučavanje i testiranje sustava umjetne inteligencije, provoditi automatizirano praćenje procesa i unakrsno provjeravati informacije od podnositelja zahtjeva s online izvorima. Zakon uvodi tri ključne promjene. Prvo, omogućuje agencijama za imigraciju da koriste osobne podatke za razvoj i testiranje alata umjetne inteligencije. Drugo, omogućuje stvaranje mehanizama za "automatizirano praćenje procesa", sustava namijenjenih otkrivanju uzoraka koji ukazuju na to jesu li određene skupine podnositelja zahtjeva nerazmjerno odbijene na temelju sličnih značajki.

Treće, daje saveznom uredu za migracije i izbjeglice (BAMF) i lokalnim uredima za vanjske poslove pravo da automatski provjere izjave podnositelja zahtjeva u odnosu na internetske izvore kada se pojave sumnje. U usporedbi s ranijim nacrtima, revidirana verzija uključuje manje izmjene, kao što je izričita zabrana upotrebe biometrijskih podataka u automatiziranim provjerama koje provode BAMF i lokalne vlasti. Međutim, ova promjena ne rješava u potpunosti zabrinutosti koje su izrazile grupe za zagovaranje i savezni ombudsmani. Na primjer, Ferda Ataman, savezna povjerenica za borbu protiv diskriminacije u Njemačkoj, izrazila je jasne rezerve tijekom rasprava o zakonu.

Ataman je pozvala na godišnja izvješća o transparentnosti koja detaljno opisuju AI sustave koji se razvijaju i primjenjuju. Slično tome, nekoliko organizacija, uključujući AlgorithmWatch, izrazilo je zabrinutost zbog adekvatnosti zaštitnih mjera protiv diskriminacije. Nora Oppermann, predstavnica AlgorithmWatch, upozorila je na izlaganje pojedinaca nezrelim AI sustavima i korištenje njihovih životnih okolnosti za istraživanje bez empirijskih dokaza.

Pro Asyl, istaknuta grupa za zagovaranje, u svom je dokumentu izjavila da su odredbe o sljedivosti sustava, zaštiti osjetljivih osobnih podataka i sprečavanju diskriminatornih odluka nedovoljne.

Louisa Specht-Riemenschneider, savezna povjerenica za zaštitu podataka i slobodu informacija (BfDI), također je pozvala na revizije nacrta. org da, iako priznaju potencijalnu dobit učinkovitosti korištenja AI-a u administrativnim procesima, te koristi ne smiju doći na štetu ustavnih načela.