L'intelligenza artificiale ha maggiori probabilità rispetto agli esseri umani di formare pregiudizi quando assume

I sistemi di intelligenza artificiale utilizzati nei processi di assunzione sono più inclini a sviluppare pregiudizi rispetto agli esseri umani, secondo un recente studio condotto da ricercatori dell'Università di Princeton e dell'Università di Chicago. I risultati suggeriscono che i grandi modelli linguistici (LLM), come ChatGPT, Claude e Gemini, possono inavvertitamente rafforzare gli stereotipi contro i candidati a lavoro in base a dati limitati, portando potenzialmente a pratiche di assunzione sleali.

I candidati appartenevano a quattro gruppi etnici fittizi: Tufa, Aima, Reku e Weki. Tutti i candidati erano ugualmente in grado di svolgere un determinato lavoro, ma i modelli non erano informati di questo fatto. Mentre i modelli prendevano decisioni di assunzione, iniziarono ad associare gruppi etnici specifici a determinati ruoli in base ai risultati iniziali. Se un candidato del gruppo Aima non riusciva in un ruolo ritenuto richiedere alti livelli di calore e competenza, come un medico, il modello evitava di assumere altri Aima per posizioni simili. Invece, li assegnava a ruoli percepiti come richiedenti meno abilità, come il lavoro di manutenzione.

I risultati hanno rivelato che gli LLM mostravano tendenze stereotipate significativamente maggiori rispetto ai partecipanti umani in uno studio psicologico precedente. 84 su una scala di segregazione, mentre i modelli hanno raggiunto punteggi quasi il 65% più alti. 83, avvicinandosi al valore massimo possibile. Ryan Liu, studente di dottorato all'Università di Princeton e coautore dello studio, ha spiegato che gli LLM sono progettati per trarre conclusioni da dati minimi, che possono portare a generalizzazioni premature.

Tuttavia, i LLM, a causa della loro formazione su compiti che enfatizzano la generalizzazione da esempi limitati, possono diventare troppo fiduciosi nelle loro ipotesi troppo rapidamente. I modelli più recenti con capacità di ragionamento potenziate, come OpenAI o3 e DeepSeek R1, hanno dimostrato pregiudizi ancora più forti. Secondo Liu, la rapida formazione di stereotipi da parte di questi modelli può portare a risultati problematici, in particolare poiché i chatbot continuano ad evolversi con funzionalità di memoria e personalizzazione migliorate.

Angelina Wang, una scienziata informatica della Cornell University che non è stata coinvolta nello studio, ha osservato che mentre i chatbot hanno bisogno di conservare le informazioni dalle interazioni precedenti, questa caratteristica può contribuire alla formazione di pregiudizi. Ha sottolineato che determinare il livello appropriato di conservazione della memoria rimane una sfida in corso. Nonostante gli sforzi per istruire i modelli a dare priorità all'equità, lo studio ha rilevato che tali direttive hanno avuto poco impatto sul comportamento dei modelli. Le implicazioni di questi risultati sono particolarmente pertinenti poiché i sistemi di IA assumono sempre più ruoli tradizionalmente svolti dagli esseri umani, sollevando preoccupazioni sul potenziale di pregiudizi sistemici nei processi di assunzione automatizzati.

Sono necessarie ulteriori ricerche e sviluppi per affrontare efficacemente questi problemi, garantendo che le tecnologie dell'IA sostengano opportunità eque anziché perpetuare le disuguaglianze esistenti.