L'IA est plus susceptible que les humains de former des biais lors de l'embauche

Les systèmes d'intelligence artificielle utilisés dans les processus d'embauche sont plus enclins à développer des préjugés que les humains, selon une étude récente menée par des chercheurs de l'Université de Princeton et de l'Université de Chicago. Les résultats suggèrent que les grands modèles de langage (LLM), tels que ChatGPT, Claude et Gemini, peuvent renforcer par inadvertance les stéréotypes contre les demandeurs d'emploi sur la base de données limitées, conduisant potentiellement à des pratiques d'embauche injustes. Dans l'étude, les chercheurs ont simulé un scénario d'embauche dans lequel les LLM étaient chargés de sélectionner des candidats pour divers rôles, notamment des médecins, des avocats, des aides à la garde des enfants et des concierges.

Les candidats appartenaient à quatre groupes ethniques fictifs: Tufa, Aima, Reku et Weki. Tous les candidats étaient également capables d'exécuter un travail donné, mais les modèles n'étaient pas informés de ce fait. Au fur et à mesure que les modèles prenaient des décisions d'embauche, ils ont commencé à associer des groupes ethniques spécifiques à certains rôles en fonction des résultats initiaux. Si un candidat du groupe Aima échouait dans un rôle jugé nécessitant des niveaux élevés de chaleur et de compétence, comme un médecin, le modèle éviterait d'embaucher d'autres Aimas pour des postes similaires. Au lieu de cela, il les affecterait à des rôles perçus comme nécessitant moins de compétences, comme le travail de conciergerie.

Ryan Liu, doctorant à l'Université de Princeton et co-auteur de l'étude, a expliqué que les LLM sont conçus pour tirer des conclusions à partir de données minimales, ce qui peut conduire à des généralisations prématurées.

Cependant, les LLM, en raison de leur formation sur des tâches qui mettent l'accent sur la généralisation à partir d'exemples limités, peuvent devenir trop confiants dans leurs hypothèses trop rapidement. Des modèles plus récents avec des capacités de raisonnement améliorées, tels que OpenAI's o3 et DeepSeek's R1, ont démontré des biais encore plus forts. Selon Liu, la formation rapide de stéréotypes par ces modèles peut conduire à des résultats problématiques, d'autant plus que les chatbots continuent d'évoluer avec des fonctions de mémoire et de personnalisation améliorées.

Angelina Wang, une informaticienne de l'Université Cornell qui n'était pas impliquée dans l'étude, a noté que si les chatbots ont besoin de retenir des informations provenant d'interactions précédentes, cette fonctionnalité peut contribuer à la formation de biais. Elle a souligné que la détermination du niveau approprié de rétention de mémoire reste un défi permanent. Malgré les efforts pour instruire les modèles à prioriser l'équité, l'étude a révélé que de telles directives avaient peu d'impact sur le comportement des modèles.

Des recherches et des développements supplémentaires sont nécessaires pour résoudre efficacement ces problèmes, en veillant à ce que les technologies de l'IA favorisent l'égalité des chances plutôt que de perpétuer les inégalités existantes.