Naraščajoča zaskrbljenost glede vloge umetne inteligence pri ustvarjanju vsebine se je pojavila po poročilih, da Anthropic, razvijalec modela jezika Claude AI, izvaja nevidni sistem vodnega znaka za prepoznavanje besedila, ki ga ustvari AI. Sistem, ki vgrajuje neprepoznavne signale v ustvarjen besedil, ima za cilj pomagati razlikovati med človeško ustvarjenim in AI-pomoženim vsebino, zlasti v akademskih okoljih, kjer so plagijat in goljufanje glavna skrb. Medtem ko je tehnologija še vedno v razvoju in podrobnosti ostajajo redke, pobuda odraža širši regulativni pritisk na podjetja AI za zagotavljanje preglednosti in odgovornosti.
Anthropic je sistem vodne oznake objavil kot del skladnosti z novimi predpisi Evropske unije, ki od razvijalcev umetne inteligence zahtevajo, da vključijo ukrepe za preglednost. Po navedbah podjetja bo vodni znak vgrajen neposredno v besedilo, ki ga je proizvedla Claude AI, zaradi česar bo obstojno tudi po kopiranju, prilepljenju ali manjših spremembah.
Izvajanje takšnega sistema je sprožilo razpravo med vzgojitelji, tehnološkimi strokovnjaki in ustvarjalci vsebin. Šole se vse bolj zanašajo na orodja za odkrivanje AI za preverjanje pristnosti dela študentov, saj se skrbi zaradi goljufanja s pomočjo AI še naprej povečujejo. Učitelji, ki so se prej morali zanašati na subjektivno presojo, bodo zdaj imeli koristi od bolj objektivnih metod identifikacije esejev, ki jih je ustvarila AI. Vendar pa je učinkovitost teh sistemov močno odvisna od osnovnih algoritmov in sposobnosti za odkrivanje subtilnih vzorcev v velikih količinah besedila. Kljub potencialnim koristi kritici trdijo, da bi vodna znamka izhodov AI lahko privedla do nenamerjenih posledic.
Nekateri pisci in ustvarjalci vsebin so izrazili zaskrbljenost zaradi etičnih posledic takšnih sistemov, ki kažejo, da bi jih lahko uporabili za zatiranje zakonitih uporab AI, namesto da bi preprečili zlorabo.
Uporabniki na podstrani ClaudeAI so izrazili zaskrbljenost, da bi vodni žig lahko poslabšal kakovost kode, odvrnil uporabo umetne inteligence za izboljšanje vsebine, ki jo ustvari človek, in da bi ga lahko izkoristili zlonamerni akterji, ki želijo odstraniti vodni žig. Ti uporabniki trdijo, da bi sistem lahko nenamerno kaznoval posameznike, ki uporabljajo umetno inteligenco odgovorno, kot so avtorji, ki uporabljajo umetno inteligenco za gramatične preglede, medtem ko drugim omogočajo, da se popolnoma izognejo odkrivanju.
Podjetje je navedlo, da se bo sistem izvajal na svetovni ravni, tudi v obstoječih modelih prek prihodnjih posodobitev. Medtem so se drugi veliki igralci na področju umetne inteligence, kot sta OpenAI in Google, zavezali k razvoju lastnih rešitev za vodne znake.
Uspeh teh sistemov ne bo odvisen samo od tehnične natančnosti, temveč tudi od obravnavanja pomislekov uporabnikov in zagotavljanja poštene uporabe v različnih okoliščinah.
★
Ohranimo novice poštene.
ObjectiveNews financirajo bralci in je brez oglasov – pristranskost vam pokažemo, ne skrijemo. Podprite neodvisno novinarstvo za 4 €/mesec.
Postani podpornik
Australia
