CHEine Studie zeigt, dass KI-Systeme wie Gemini und andere Large Language Models (LLMs) stereotipische Reaktionen auf Anfragen mit bestimmten Nationalitäten liefern können. In Tests wurde festgestellt, dass bei der Eingabe der Nationalität 'Algerier' oft alarmistische Antworten gegeben werden, während bei anderen Nationalitäten neutrale oder positive Vorschläge gemacht werden. Die Forscherin Magalie Ochs erklärt, dass dies auf die Trainingsdaten zurückzuführen sei, die Stereotype enthalten. Google hat auf die Kritik reagiert und bestätigt, dass die Ergebnisse nicht ihren Erwartungen entsprachen, wobei keine konkrete Lösung präsentiert wurde. Zudem wird diskutiert, ob Schutzmechanismen der KI, die Risiken erkennen sollen, selbst stereotypische Assoziationen reproduzieren können.
Bias read (Progressive): Der Artikel betont die kritische Haltung gegenüber KI-Systemen, insbesondere im Hinblick auf Rassismus und Stereotype. Der Fokus liegt auf der Verantwortung von Tech-Unternehmen wie Google und der Diskussion über ethische Implikationen. Die Sprache und das Framing der Geschichte neigen dazu, die KI-
