KI in der Migrationsverwaltung: „Es geht um Entscheidungen über Menschenleben“

Die deutsche Bundesregierung hat eine Einigung über einen Gesetzesvorschlag erzielt, der darauf abzielt, künstliche Intelligenz in ihre Migrationsverwaltung zu integrieren, ein Schritt, der laut Kritikern tiefgreifende Auswirkungen auf die Menschenrechte und den Datenschutz haben könnte.

Gemäß dem Entwurf könnten Behörden, die diese Angelegenheiten behandeln, personenbezogene Daten verwenden, um KI-Systeme zu trainieren und zu testen, eine automatisierte Überwachung von Prozessen zu implementieren und Informationen von Antragstellern mit Online-Quellen zu überprüfen. Das Gesetz führt drei wichtige Änderungen ein. Erstens erlaubt es Einwanderungsbehörden, personenbezogene Daten zu verwenden, um KI-Tools zu entwickeln und zu testen. Zweitens ermöglicht es die Schaffung von "automatischen Prozessüberwachungsmechanismen", Systemen, die darauf hinweisen, Muster zu erkennen, ob bestimmte Gruppen von Antragstellern aufgrund ähnlicher Merkmale unverhältnismäßig abgelehnt werden.

Drittens wird dem Bundesamt für Migration und Flüchtlinge (BAMF) und den örtlichen Auswärtigen Ämtern das Recht eingeräumt, bei Zweifeln die Aussagen der Antragsteller automatisch anhand von Internetquellen zu überprüfen. Im Vergleich zu früheren Entwürfen enthält die überarbeitete Fassung geringfügige Änderungen, wie z. B. das ausdrückliche Verbot der Verwendung biometrischer Daten bei automatisierten Kontrollen durch den BAMF und die lokalen Behörden. Diese Änderung befasst sich jedoch nicht vollständig mit den Bedenken von Interessengruppen und Bundesombudsmännern.

Dies soll durch technische und organisatorische Maßnahmen erreicht werden, die sie als unzureichend bezeichnete. Ataman forderte jährliche Transparenzberichte, in denen die entwickelten und eingesetzten KI-Systeme detailliert beschrieben werden. In ähnlicher Weise haben mehrere Organisationen, darunter AlgorithmWatch, Bedenken hinsichtlich der Angemessenheit der Schutzmaßnahmen gegen Diskriminierung geäußert. Nora Oppermann, eine Vertreterin von AlgorithmWatch, warnte davor, Personen unreifen KI-Systemen auszusetzen und ihre Lebensumstände für Forschung zu nutzen, für die es an empirischen Beweisen mangelt.

Pro Asyl, eine prominente Interessengruppe, erklärte in ihrem Positionspapier, dass die Bestimmungen über die Rückverfolgbarkeit des Systems, den Schutz sensibler personenbezogener Daten und die Verhinderung diskriminierender Entscheidungen unzureichend seien. Wiebke Judith, eine Sprecherin für Rechtspolitik der Organisation, betonte in einer Pressemitteilung, dass der vorgeschlagene Gesetzentwurf einen "Blank Check" für die Anwendung von KI in zahlreichen Regierungsbehörden darstelle. Die Gruppe forderte das deutsche Parlament auf, entweder den Vorschlag aufzugeben oder ihn wesentlich zu überarbeiten. Die parlamentarischen Debatten über den Entwurf sollen nach der Sommerpause fortgesetzt werden.

Louisa Specht-Riemenschneider, Bundesbeauftragte für Datenschutz und Informationsfreiheit (BfDI), forderte ebenfalls Revisionen des Entwurfs. org, dass sie zwar die potenziellen Effizienzgewinne durch die Nutzung von KI in Verwaltungsprozessen anerkennen, diese Vorteile jedoch nicht auf Kosten der verfassungsrechtlichen Prinzipien kommen dürfen. Das BfDI hob die Notwendigkeit klarerer Vorschriften hervor, die spezifizieren, welche Daten bei der Entwicklung und Bereitstellung von KI-Systemen verwendet werden können.