Istraživač je izazvao kontroverzu izmišljanjem izmišljene bolesti zvane bixonimanija i objavljivanjem dva preprinta u kojima se opisuju simptomi i liječenje. Eksperiment je imao za cilj testirati mogu li veliki jezički modeli koji se koriste u umjetnoj inteligenciji razlikovati između činjeničnog znanstvenog sadržaja i fikcije.
Osmanović Thunström nije skrivala svoje namjere iza eksperimenta. Površinsko čitanje radova odmah je pokazalo da to nisu bili pravi znanstveni radovi.
Ovaj eksperiment je privukao pozornost nakon što je nekoliko velikih jezičnih modela počelo uključivati bixonimanija u svoje razgovore, tretirajući ga kao da je to legitimno medicinsko stanje. Neki sustavi umjetne inteligencije čak su predložili potencijalne tretmane temeljene na izmišljenim opisima.
Iako se alati umjetne inteligencije sve više koriste u područjima kao što su medicina, pravo i akademska zajednica, njihova sposobnost razlikovanja istine od laži ostaje ograničena. Incident naglašava potrebu za većim pregledom informacija koje ovi sustavi troše i stvaraju.
Istraživači i znanstvenici koji su naišli na reference na bixonimanija u tekstovima generiranim umjetnom inteligencijom uspjeli su identificirati anomaliju kroz unakrsnu referencu s postojećim medicinskim bazama podataka. Unatoč tome, eksperiment je uspio pokazati kako se umjetna inteligencija lako može obmanuti dobro izrađenim, ali potpuno lažnim informacijama.
Njeni nalazi sugeriraju da postoji hitna potreba za poboljšanim zaštitnim mjerama i mehanizmima provjere na platformama koje pokreće umjetna inteligencija, osobito onima koje se koriste u znanstvenom i kliničkom kontekstu.
Slučaj bixonimanija služi kao primjer upozorenja na rizike povezane s nekontroliranim oslanjanjem na umjetnu inteligenciju u područjima u kojima dezinformacije mogu imati ozbiljne posljedice.
1 izvještaja
DeloNeovisan🔒SredinaČinjenice 90Objektivnost 75prekjučerU članku se govori o eksperimentu koji je provela istraživačica Almira Osmanović Thunström, koja je izmislila izmišljenu bolest pod nazivom 'bixonomania' i objavila dva preprinta u kojima se opisuju simptomi i liječenje.
Procjena pristranosti (Sredina): U članku je prikazan znanstveni eksperiment bez da se zauzme stajalište u vezi s tim pitanjem, te se objektivno opisuju metodologija i rezultati istraživanja bez favoriziranja bilo koje strane ili korištenja pristrasnog jezika.
Zašto činjenice (90): The article accurately describes the experiment conducted by Almira Osmanovic Thunström, where she fabricated a fictional disease called 'bixonimanija' to test if AI chatbots can distinguish facts from fiction. It mentions that the fake research papers were not peer-reviewed and highlights the decep
Zašto objektivnost (75): The tone is somewhat critical of the fake research but remains focused on reporting the experiment itself. However, there is some editorializing when the author refers to the content as 'predstavitvene vsebine' (fictional content) and implies that the fake research lacks scientific rigor, which intr
★
Neka vijesti ostanu poštene.
ObjectiveNews financiraju čitatelji i bez oglasa je – pristranost vam pokazujemo, ne skrivamo. Podržite neovisno novinarstvo za 5 €/mjesec.
Postani podupiratelj
Slovenia
