L'intelligenza artificiale nella gestione della migrazione: "Si tratta di decisioni che riguardano la vita delle persone"

Il governo federale tedesco ha raggiunto un accordo su una proposta di legge volta a integrare l'intelligenza artificiale nella sua amministrazione della migrazione, una mossa che secondo i critici potrebbe avere profonde implicazioni per i diritti umani e la privacy dei dati.

Secondo il progetto, le autorità che gestiscono queste questioni sarebbero autorizzate a utilizzare i dati personali per addestrare e testare i sistemi di IA, implementare il monitoraggio automatizzato dei processi e controllare le informazioni dei richiedenti con fonti online. La legge introduce tre cambiamenti chiave. In primo luogo, consente alle agenzie legate all'immigrazione di utilizzare i dati personali per sviluppare e testare strumenti di IA. In secondo luogo, consente la creazione di meccanismi di "monitoraggio automatizzato dei processi", sistemi progettati per rilevare modelli che indicano se determinati gruppi di richiedenti sono sproporzionatamente respinti in base a caratteristiche simili.

In terzo luogo, concede all'Ufficio federale per le migrazioni e i rifugiati (BAMF) e agli uffici locali per gli affari esteri il diritto di verificare automaticamente le dichiarazioni dei richiedenti rispetto alle fonti di Internet quando sorgono dubbi. Rispetto alle bozze precedenti, la versione riveduta include emendamenti minori, come il divieto esplicito dell'uso di dati biometrici nei controlli automatizzati condotti da BAMF e dalle autorità locali. Tuttavia, questo cambiamento non affronta pienamente le preoccupazioni sollevate da gruppi di difesa e difensori civici federali. Per esempio, Ferda Ataman, il commissario federale tedesco per l'antidiscriminazione, ha espresso chiare riserve durante le discussioni sul disegno di legge.

Ataman ha chiesto rapporti annuali di trasparenza che dettagliassero i sistemi di intelligenza artificiale in fase di sviluppo e distribuzione. Allo stesso modo, diverse organizzazioni, tra cui AlgorithmWatch, hanno espresso preoccupazioni sull'adeguatezza delle salvaguardie contro la discriminazione. Nora Oppermann, rappresentante di AlgorithmWatch, ha messo in guardia contro l'esposizione di individui a sistemi di intelligenza artificiale immaturi e l'utilizzo delle loro circostanze di vita per la ricerca che manca di prove empiriche.

Pro Asyl, un importante gruppo di difesa, ha dichiarato nel suo documento di posizione che le disposizioni relative alla tracciabilità del sistema, alla protezione dei dati personali sensibili e alla prevenzione delle decisioni discriminatorie sono inadeguate. Wiebke Judith, portavoce della politica legale dell'organizzazione, ha sottolineato in un comunicato stampa che la legge proposta rappresenta un "controllo in bianco" per l'applicazione dell'IA in numerosi organismi governativi. Il gruppo ha esortato il parlamento tedesco ad abbandonare la proposta o a rivederla sostanzialmente.

Il BfDI ha sottolineato la necessità di regolamenti più chiari che specificino quali dati possono essere utilizzati nello sviluppo e nella distribuzione di sistemi di IA. Dove i dati anonimi sono sufficienti, l'uso di informazioni personali dovrebbe essere evitato.