Massenüberwachung durch KI-Pilot der Polizei zieht Vorwürfe von Datenschutz-Experten

Ein umstrittener Polizeiprozess mit Live-Gesichtserkennungstechnologie hat laut australischen Medienberichten Bedenken hinsichtlich der Privatsphäre und Genauigkeit geweckt. Die Polizei von Western Australia startete im Juni ein Pilotprogramm und war damit die erste Strafverfolgungsbehörde in der Nation, die Live-AI-Gesichtserkennung für die Öffentlichkeit einsetzte. Das System, das von der japanischen Technologiefirma NEC entwickelt wurde, verwendet das Neoface m40-Produkt, um Gesichter in Echtzeit zu scannen und sie mit einer Beobachtungsliste zu vergleichen, die etwa 4.000 Personen enthält, darunter Personen, die wegen schwerer Straftaten, vermissten Personen und potenziell gefährlichen Personen beschuldigt werden.

Während der Anfangsphase der Studie, die in Perth und Fremantle stattfand, verarbeitete das System innerhalb der ersten Woche über 130.000 Gesichter. Davon wurden 33 Warnungen generiert, was zu 18 Verhaftungen führte. Laut Polizeiberichten wurden Bilder von Personen, die nicht auf der Beobachtungsliste standen, automatisch gelöscht und zum Schutz der Privatsphäre pixeliert. Das System kennzeichnete jedoch eine Person falsch als auf der Liste, eine Leistung, die etwas besser ist als die britische Studie 2023 mit der gleichen Technologie. Trotz dieser Behauptungen argumentieren Kritiker, dass die Technologie immer noch erhebliche Risiken birgt.

Der Associate Professor der Melbourne Law School, Jake Goldenfein, betonte, dass Gesichtserkennungssysteme für bestimmte demografische Gruppen oft schlechte Leistungen erbringen. Er stellte fest, dass historische Daten zeigen, dass diese Systeme dazu neigen, farbige Menschen und Frauen, insbesondere farbige Frauen, aufgrund von Trainingsdatensätzen, die weitgehend aus weißen und männlichen Gesichtern bestehen, falsch zu identifizieren. Dieser Mangel an Vielfalt in den Trainingsdaten führt zu höheren Fehlerraten bei unterrepräsentierten Gruppen. Goldenfein erklärte weiter, dass sich solche Ungenauigkeiten entweder als Falschpositive manifestieren können, bei denen Personen fälschlicherweise als auf der Beobachtungsliste identifiziert werden, oder als Falschnegative, bei denen das System jemanden nicht erkennt, der identifiziert werden sollte.

Diese Fehler können schwerwiegende Folgen haben, einschließlich falscher Verhaftungen oder verpasster Möglichkeiten, vermisste Personen zu lokalisieren. Während die westliche australische Polizei eine Studie des National Physical Laboratory aus dem Jahr 2023 zitierte, die unter kontrollierten Bedingungen keinen signifikanten Unterschied bei Falschpositiven aufgrund von Geschlecht oder Ethnizität zeigte, zeigte die Studie auch, dass die Genauigkeit sinkt, wenn Faktoren der realen Welt wie Beleuchtung, Hautton und Alter die Bildqualität beeinflussen. Dies deutet darauf hin, dass die Zuverlässigkeit des Systems in praktischen Anwendungen erheblich variieren kann.

Der Prozess hat Kritik von Datenschutz-Befürwortern und Rechtsexperten hervorgerufen, die die Transparenz der Beobachtungsliste und die Auswahl der Versuchsorte in Frage stellen. Einige haben Bedenken geäußert, dass die Zielgebiete die Gemeinschaften der First Nations überproportional beeinflussen könnten. "Während der Pilotversuch an mehreren Standorten fortgesetzt wird, wird sich die laufende Prüfung darauf konzentrieren, wie die Technologie in verschiedenen Umgebungen funktioniert und ob das Potenzial für Vorurteile besteht. Mit den breiteren Auswirkungen der KI-Überwachung wird sich die Debatte über ihre ethische Nutzung und Wirksamkeit in den kommenden Monaten wahrscheinlich intensivieren.