AI en la gestión de la migración: "Se trata de decisiones sobre vidas humanas"

El gobierno federal de Alemania ha llegado a un acuerdo sobre una propuesta de ley destinada a integrar la inteligencia artificial en su administración de migración, una medida que los críticos dicen que podría tener profundas implicaciones para los derechos humanos y la privacidad de los datos. La legislación, finalizada a fines de julio, ampliaría el uso de la inteligencia artificial en los procedimientos de asilo y permiso de residencia, afectando no solo a los solicitantes de asilo, sino también a las personas que solicitan visas o que tienen permisos temporales como tolerancias o autorizaciones de residencia.

Según el proyecto, las autoridades que manejan estos asuntos tendrían permitido utilizar datos personales para entrenar y probar sistemas de IA, implementar un monitoreo automatizado de los procesos y cruzar la información de los solicitantes con fuentes en línea. La ley introduce tres cambios clave. En primer lugar, permite a las agencias relacionadas con la inmigración utilizar datos personales para desarrollar y probar herramientas de IA. En segundo lugar, permite la creación de mecanismos de "monitoreo automatizado de procesos", sistemas diseñados para detectar patrones que indiquen si ciertos grupos de solicitantes son rechazados de manera desproporcionada en función de características similares.

En tercer lugar, otorga a la Oficina Federal de Migración y Refugiados (BAMF) y a las oficinas locales de asuntos exteriores el derecho de verificar automáticamente las declaraciones de los solicitantes con fuentes de Internet cuando surjan dudas. En comparación con los borradores anteriores, la versión revisada incluye enmiendas menores, como prohibir explícitamente el uso de datos biométricos en los controles automatizados realizados por la BAMF y las autoridades locales. Sin embargo, este cambio no aborda completamente las preocupaciones planteadas por grupos de defensa y defensores del pueblo federales. Por ejemplo, Ferda Ataman, comisionada federal antidiscriminación de Alemania, expresó claras reservas durante las discusiones sobre el proyecto de ley.

Esto se debe lograr a través de medidas técnicas y organizativas, que argumentó que eran insuficientes. Ataman pidió informes anuales de transparencia que detallan los sistemas de IA que se están desarrollando y desplegando. Del mismo modo, varias organizaciones, incluida AlgorithmWatch, han expresado su preocupación por la adecuación de las salvaguardas contra la discriminación. Nora Oppermann, representante de AlgorithmWatch, advirtió contra la exposición de individuos a sistemas de IA inmaduros y el uso de sus circunstancias de vida para la investigación que carecen de evidencia empírica.

Pro Asyl, un prominente grupo de defensa, declaró en su documento de posición que las disposiciones relativas a la trazabilidad del sistema, la protección de datos personales sensibles y la prevención de decisiones discriminatorias son inadecuadas. Wiebke Judith, portavoz de política legal de la organización, enfatizó en un comunicado de prensa que la ley propuesta representa un "cheque en blanco" para la aplicación de la IA en numerosos organismos gubernamentales. El grupo instó al parlamento alemán a abandonar la propuesta o revisarla sustancialmente. Los debates parlamentarios sobre el proyecto se reanudarán después del receso de verano.

Louisa Specht-Riemenschneider, la comisionada federal para la protección de datos y la libertad de información (BfDI), también pidió revisiones al proyecto. org que, si bien reconocen las ganancias potenciales de eficiencia del uso de IA en los procesos administrativos, estos beneficios no deben ser a expensas de los principios constitucionales. El BfDI destacó la necesidad de regulaciones más claras que especifiquen qué datos se pueden usar en el desarrollo y despliegue de sistemas de IA.