Un scanner comportemental à Berlin: une critique sévère de la surveillance de l'IA

À Berlin, une ville aux prises avec des inquiétudes croissantes concernant la technologie de surveillance et ses implications pour la vie privée et la sécurité publique, une nouvelle controverse a émergé autour de l'installation de systèmes de surveillance vidéo avancés au Kottbusser Tor. Le système, qui comprend des caméras équipées d'une analyse du comportement basée sur l'IA, marque un élargissement significatif des capacités de surveillance de l'État. Selon les rapports, le projet a commencé cette semaine avec le déploiement de caméras dans l'un des espaces publics les plus fréquentés de Berlin, suscitant des alarmes parmi les résidents locaux, les personnalités politiques et les experts juridiques.

Le Kottbusser Tor, situé au cœur de Berlin-Mitte, a longtemps été un point focal pour les débats sur la sécurité urbaine et le bien-être social. Maintenant, l'introduction de l'analyse vidéo en temps réel ajoute une autre couche de complexité à ces discussions. Le système est conçu pour détecter des modèles de mouvement spécifiques, bien que les critères exacts utilisés par le logiciel restent non divulgués. Ce manque de transparence a alimenté les critiques des groupes de la société civile et des élus qui soutiennent que de telles mesures risquent de porter atteinte aux droits fondamentaux.

Elle a déclaré que, bien que le projet coûte plusieurs millions d'euros, les fonds auraient pu être mieux dépensés pour améliorer les infrastructures communautaires et soutenir les programmes sociaux. Herrmann a souligné que la dépendance accrue à la surveillance fait peu pour résoudre les problèmes sous-jacents tels que la criminalité liée à la drogue ou l'exclusion sociale.

Schrader a souligné que, bien que de grandes sommes soient allouées à ces technologies, les services essentiels comme le traitement de la toxicomanie et le travail de sensibilisation souffrent en raison de contraintes budgétaires. Felix Ruppert, professeur de droit spécialisé dans la justice pénale et la numérisation, a averti que le nouveau système représente plus qu'un simple renforcement des méthodes de surveillance traditionnelles. Il a décrit l'analyse du comportement comme une forme supplémentaire d'infraction constitutionnelle, notant que les individus ne sont pas seulement enregistrés, mais que leurs actions sont continuellement évaluées. Ruppert a fait valoir que cette approche est en conflit avec le principe selon lequel les citoyens ne devraient pas être soumis à une surveillance constante ou à un enregistrement arbitraire.

Le système soulève également des questions sur la manière dont les données personnelles sont traitées. Alors que l'IA convertit les images en représentations abstraites, transformant essentiellement les personnes en figurines, les images réelles sont stockées jusqu'à un mois. En cas d'activation de l'alarme, la police peut accéder à ces enregistrements et extraire les traits du visage pour les comparer avec des bases de données en ligne. Les critiques soutiennent que ce processus porte atteinte à la protection de la vie privée et crée un potentiel d'utilisation abusive.

Ils soulignent que les critères de déclenchement des alertes ne sont ni définis légalement ni divulgués publiquement, laissant la place à une interprétation subjective par les autorités. Cette ambiguïté a conduit à craindre que le système puisse être utilisé de manière disproportionnée ou sélective, renforçant les déséquilibres de pouvoir existants plutôt que de promouvoir une véritable sécurité publique.

Ce qui reste clair, c'est que les implications de cette décision vont bien au-delà du voisinage immédiat du Kottbusser Tor, influençant les conversations nationales sur l'avenir de la gouvernance et des droits à l'ère numérique.