AI v upravljanju migracij: "To so odločitve o življenjih ljudi"

Nemška zvezna vlada je dosegla dogovor o predlogu zakona, katerega namen je vključiti umetno inteligenco v svojo migracijsko administracijo, kar bi po mnenju kritikov lahko imelo globoke posledice za človekove pravice in zasebnost podatkov. Zakonodaja, dokončana konec julija, bi razširila uporabo umetne inteligence v postopkih za azil in dovoljenja za prebivanje, kar ne bi vplivalo le na prosilce za azil, temveč tudi na posameznike, ki zaprosijo za vizume ali imajo začasna dovoljenja, kot so tolerance ali dovoljenja za prebivanje.

V skladu z osnutkom bi lahko organi, ki obravnavajo te zadeve, uporabljali osebne podatke za usposabljanje in testiranje sistemov AI, izvajali avtomatizirano spremljanje procesov in navzkrižno preverjali informacije prosilcev z spletnih viri. Zakon uvaja tri ključne spremembe. Prvič, dovoljuje agencijam, povezanim z priseljevanjem, da uporabljajo osebne podatke za razvoj in testiranje orodij AI. Drugič, omogoča ustvarjanje mehanizmov za "avtomatizirano spremljanje procesov", sistemov, namenjenih za odkrivanje vzorcev, ki kažejo, ali so določene skupine prosilcev nesorazmerno zavrnjene na podlagi podobnih značilnosti.

Tretjič, Zveznemu uradu za migracije in begunce (BAMF) in lokalnim uradom za zunanje zadeve daje pravico, da samodejno preveri izjave prosilcev glede na internetne vire, ko se pojavijo dvomi. V primerjavi s prejšnjimi osnutki, revidirana različica vključuje manjše spremembe, kot je izrecna prepoved uporabe biometričnih podatkov pri avtomatiziranih pregledih, ki jih izvajajo BAMF in lokalne oblasti. Vendar ta sprememba ne obravnava v celoti pomislekov, ki so jih izrazile zagovorniške skupine in zvezni varuha človekovih pravic.

Ataman je pozvala k letnim poročilom o preglednosti, ki podrobno opisujejo razvoj in uporabo sistemov AI. Podobno je več organizacij, vključno z AlgorithmWatch, izražalo zaskrbljenost zaradi ustreznosti zaščitnih ukrepov proti diskriminaciji. Nora Oppermann, predstavnica AlgorithmWatch, je opozarjala na izpostavljanje posameznikov nezrelim sistemom AI in uporabo njihovih življenjskih okoliščin za raziskave, ki nimajo empiričnih dokazov.

Pro Asyl, pomembna zagovorniška skupina, je v svojem stališču navedla, da so določbe o sledljivosti sistema, zaščiti občutljivih osebnih podatkov in preprečevanju diskriminatornih odločitev neustrezne. Wiebke Judith, predstavnica pravne politike organizacije, je v sporočilu za javnost poudarila, da predlagani zakon predstavlja "črno potrdilo" za uporabo AI v številnih vladnih organih. Skupina je pozvala nemški parlament, naj bodisi opusti predlog ali ga bistveno revidira.

Zvezna komisarka za varstvo podatkov in svobodo informacij (BfDI) Louisa Specht-Riemenschneider je prav tako pozvala k revizijam osnutka. org, da čeprav priznavajo potencialne koristi učinkovitosti uporabe AI v upravnih procesih, te koristi ne smejo biti na račun ustavnih načel. BfDI je poudaril potrebo po jasnejših predpisih, ki določajo, kateri podatki se lahko uporabljajo pri razvoju in uvajanju sistemov AI.