Los sistemas de inteligencia artificial utilizados en los procesos de contratación son más propensos a desarrollar sesgos que los humanos, según un estudio reciente realizado por investigadores de la Universidad de Princeton y la Universidad de Chicago. Los hallazgos sugieren que los grandes modelos de lenguaje (LLM), como ChatGPT, Claude y Gemini, pueden reforzar inadvertidamente los estereotipos contra los solicitantes de empleo basados en datos limitados, lo que podría conducir a prácticas de contratación injustas.
Los candidatos pertenecían a cuatro grupos étnicos ficticios: Tufa, Aima, Reku y Weki. Todos los candidatos eran igualmente capaces de realizar cualquier trabajo dado, pero los modelos no fueron informados de este hecho. A medida que los modelos tomaban decisiones de contratación, comenzaron a asociar grupos étnicos específicos con ciertos roles basados en los resultados iniciales. Si un candidato del grupo Aima fallaba en un papel que se consideraba que requería altos niveles de calidez y competencia, como un médico, el modelo evitaría contratar a otros Aimas para puestos similares. En su lugar, los asignaría a roles percibidos como que requieren menos habilidades, como el trabajo de limpieza.
Los resultados revelaron que los LLM exhibieron tendencias estereotipadas significativamente mayores en comparación con los participantes humanos en un estudio psicológico anterior. 84 en una escala de segregación, mientras que los modelos alcanzaron puntuaciones casi 65% más altas. 83, acercándose al valor máximo posible. Ryan Liu, estudiante de doctorado en la Universidad de Princeton y coautor del estudio, explicó que los LLM están diseñados para sacar conclusiones a partir de datos mínimos, lo que puede conducir a generalizaciones prematuras. Esta tendencia, aunque beneficiosa para resolver rompecabezas lógicas, puede resultar en una toma de decisiones sesgada en contextos sociales. "Esto se refiere al equilibrio entre confiar en los éxitos pasados y explorar nuevas posibilidades.
Sin embargo, los LLM, debido a su entrenamiento en tareas que enfatizan la generalización a partir de ejemplos limitados, pueden volverse demasiado confiados en sus suposiciones demasiado rápido.
Angelina Wang, una informática de la Universidad de Cornell que no participó en el estudio, señaló que si bien los chatbots necesitan retener información de interacciones anteriores, esta característica puede contribuir a la formación de sesgos.
Se necesitan más investigaciones y desarrollo para abordar estos problemas de manera efectiva, asegurando que las tecnologías de IA apoyen oportunidades equitativas en lugar de perpetuar las desigualdades existentes.
1 informaciones
MIT Technology ReviewIndependienteCentroVeracidad 85Objetividad 78ayerUn estudio reciente revela que los modelos de lenguaje grande (LLM), como ChatGPT, Claude y Gemini, son más propensos a formar estereotipos y sesgos durante los procesos de contratación simulados en comparación con los humanos. En experimentos realizados por investigadores de la Universidad de Princeton y la Universidad de Chicago, a estos sistemas de IA se les encargó contratar candidatos para varios roles basados en comentarios de rendimiento. A pesar de que todos los candidatos tenían las mismas posibilidades de éxito, los modelos comenzaron a asignar a los individuos trabajos específicos basados en resultados tempranos, lo que llevó a la segregación por grupos étnicos ficticios. Esta tendencia a generalizar a partir de datos limitados resulta en estereotipos más fuertes que los observados en los participantes humanos. Los hallazgos destacan las preocupaciones sobre el potencial de la IA para reforzar los sesgos en las prácticas de contratación.
Lectura del sesgo (Centro): El artículo presenta hallazgos empíricos de la investigación académica sin un marco ideológico abierto. Se discute el sesgo de la IA en la contratación, pero no aboga por ninguna postura o agenda política en particular. El enfoque está en los aspectos técnicos y psicológicos en lugar de cuestiones partidistas.
Por qué veracidad (85): The article presents findings from a study conducted by researchers at Princeton University and the University of Chicago, where LLMs like ChatGPT, Claude, and Gemini were tested in a simulated hiring scenario. It accurately describes the methodology and results, noting that models developed biases
Por qué objetividad (78): The article remains largely neutral in tone, presenting the study's findings without overt bias. However, it uses emotionally charged language such as 'handing them ammunition for forming those biases' which subtly implies negative consequences of AI hiring systems. This slight editorializing reduce
★
Mantengamos las noticias honestas.
ObjectiveNews se financia con los lectores y no tiene anuncios: te mostramos el sesgo en lugar de ocultarlo. Apoya el periodismo independiente por 5 €/mes.
Hazte suscriptor
United States
