CHEine Studie zeigt, dass KI-Systeme wie Gemini und andere Large Language Models (LLMs) stereotypische Reaktionen auf Anfragen mit bestimmten Nationalitäten liefern können. In Tests wurde festgestellt, dass bei der Eingabe der Nationalität "Algerier" oft alarmistische Antworten gegeben werden, während bei anderen Nationalitäten neutrale oder positive Vorschläge gemacht wurden. Die Forscherin Magalie Ochs erklärt, dass dies auf die Trainingsdaten zurückzuführen sei, die Stereotype enthalten. Google hat auf die Kritik reagiert und bestätigt, dass die Ergebnisse nicht ihren Erwartungen entsprachen, wobei keine konkrete Lösung präsentiert wurde. Zudem wird diskutiert, obmechanismen Schutz der KI, die Risiken erkennen sollen, selbst stereotypische Assoziationen reproduzieren können.
Tendenz-Einschätzung (Progressiv): Der Artikel betont die kritische Haltung gegenüber KI-Systemen, insbesondere im Hinblick auf Rassismus und Stereotype. Der Fokus liegt auf der Verantwortung von Tech-Unternehmen wie Google und der Diskussion über ethische Implikationen.
