KI ist bei der Einstellung eher voreingenommen als Menschen

Künstliche Intelligenz-Systeme, die in Einstellungsverfahren eingesetzt werden, sind anfälliger für die Entwicklung von Vorurteilen als Menschen, so eine aktuelle Studie von Forschern der Princeton University und der University of Chicago. Die Ergebnisse deuten darauf hin, dass große Sprachmodelle (LLMs), wie ChatGPT, Claude und Gemini, unbeabsichtigt Stereotypen gegen Bewerber auf der Grundlage begrenzter Daten verstärken können, was möglicherweise zu unfairen Einstellungspraktiken führt. In der Studie simulierten die Forscher ein Einstellungsszenario, in dem LLMs mit der Auswahl von Kandidaten für verschiedene Rollen beauftragt wurden, darunter Ärzte, Anwälte, Kinderbetreuer und Hausmeister.

Die Kandidaten gehörten zu vier fiktiven ethnischen Gruppen: Tufa, Aima, Reku und Weki. Alle Kandidaten waren gleichermaßen in der Lage, eine bestimmte Aufgabe zu erfüllen, aber die Modelle wurden nicht darüber informiert. Als die Modelle Einstellungsentscheidungen trafen, begannen sie, bestimmte ethnische Gruppen mit bestimmten Rollen zu verbinden, die auf anfänglichen Ergebnissen basierten. Wenn ein Kandidat aus der Aima-Gruppe in einer Rolle, die ein hohes Maß an Wärme und Kompetenz erfordert, wie z. B. ein Arzt, versagte, würde das Modell es vermeiden, andere Aimas für ähnliche Positionen einzustellen. Stattdessen würde es sie Rollen zuweisen, die als weniger qualifiziert angesehen werden, wie z. B. Hausmeisterarbeit.

Die Ergebnisse zeigten, dass LLMs im Vergleich zu menschlichen Teilnehmern in einer früheren psychologischen Studie signifikant größere Stereotypisierungstendenzen aufwiesen. 84 auf einer Segregationsskala, während die Modelle fast 65% höhere Werte erreichten. 83, der sich dem maximal möglichen Wert nähert. Ryan Liu, ein Doktorand an der Princeton University und Co-Autor der Studie, erklärte, dass LLMs darauf ausgelegt sind, Schlussfolgerungen aus minimalen Daten zu ziehen, was zu vorzeitigen Verallgemeinerungen führen kann. Diese Tendenz, obwohl sie bei der Lösung von Logikrätseln von Vorteil ist, kann in sozialen Kontexten zu einer voreingenommenen Entscheidungsfindung führen. "Dies bezieht sich auf das Gleichgewicht zwischen dem Vertrauen auf vergangene Erfolge und der Erforschung neuer Möglichkeiten.

Allerdings können LLMs aufgrund ihrer Ausbildung in Aufgaben, die die Verallgemeinerung aus begrenzten Beispielen betonen, zu schnell zu zuversichtlich in ihre Annahmen werden. Neuere Modelle mit verbesserten Argumentationsfähigkeiten wie OpenAI's o3 und DeepSeek's R1 zeigten noch stärkere Vorurteile. Laut Liu kann die schnelle Bildung von Stereotypen durch diese Modelle zu problematischen Ergebnissen führen, insbesondere da Chatbots sich mit verbesserten Speicher- und Personalisierungsfunktionen weiterentwickeln.

Angelina Wang, eine Informatikerin an der Cornell University, die nicht an der Studie beteiligt war, stellte fest, dass Chatbots zwar Informationen aus früheren Interaktionen speichern müssen, diese Funktion jedoch zur Bildung von Vorurteilen beitragen kann. Sie betonte, dass die Bestimmung des angemessenen Speicherpegels eine andauernde Herausforderung bleibt. Trotz der Bemühungen, Modelle zu instruieren, Fairness zu priorisieren, stellte die Studie fest, dass solche Richtlinien wenig Einfluss auf das Verhalten der Modelle hatten.

Weitere Forschungs- und Entwicklungsarbeiten sind erforderlich, um diese Probleme wirksam anzugehen und sicherzustellen, dass KI-Technologien gerechte Chancen fördern, anstatt bestehende Ungleichheiten aufrechtzuerhalten.