CHEna študija je pokazala, da lahko sistemi KI, kot so Gemini in drugi veliki jezikovni modeli (LLM), ponudijo stereotipne reakcije na vprašanja s posameznimi narodnostmi. V testih je bilo ugotovljeno, da so pri posameznikih z "alžirskim" narodnostjo pogosto dali alarmistične odgovore, medtem ko so pri drugih narodnostih dajali nevtralne ali pozitivne predloge. Raziskovalka Magalie Ochs je pojasnila, da je to posledica podatkov iz usposabljanja, ki vsebujejo stereotipe. Google je na kritike odzval in potrdil, da rezultati ne ustrezajo njegovim pričakovanjem, pri čemer ni bilo predstavljenih nobenih konkretnih rešitev. Poleg tega se razpravlja o mehanizmih za zaščito KI, ki bi prepoznali tveganja, ki jih lahko predstavljajo stereotipične povezave.
Ocena pristranskosti (Progresivno): Der Artikel poudarja kritično stališče do KI-Systemen, insbesondere im Hinblick auf Rassismus und Stereotype. Der Fokus liegt auf der Verantwortung von Tech-Unternehmen wie Google und der Diskussion über etische Implikationen. Die Sprache und das Framing der Geschichte tenden dazu, die KI-Systemen, insbesondere im Hinblick auf Rassismus und Stereotype. Der Fokus liegt auf der Verantwortung von Tech-Unternehmen wie Google und der Diskussion über etische Implikationen.
