ON
← Natrag na feed
Školski izvod za varanje će biti izložen vodenim znakovima
Australia💻 TehnologijaBliže progresivnomprije 11 dana

Školski izvod za varanje će biti izložen vodenim znakovima

Antropic AI je objavio planove za implementaciju nevidljivog sustava vodenih oznaka unutar svojih Claude AI izlaznih podataka za otkrivanje sadržaja koji je generirala umjetna inteligencija. Ovaj sustav uključuje ugrađivanje neprimjetnih signala u tekst, omogućujući korisnicima da identifikuju je li sadržaj generirao umjetna inteligencija. Vodeni znak je dizajniran da ostane netaknut čak i nakon kopiranja, lijepljenja ili uređivanja teksta. Dok točna tehnička implementacija ostaje neotkrivena, stručnjaci nagađaju da koristi specifične obrasce riječi ili kombinacije koje se mogu otkriti pomoću alata za skeniranje. Inicijativa se usklađuje s novim europskim propisima koji zahtijevaju transparentnost umjetne inteligencije, a Anthropic navodi da će se vodeni znak primijeniti globalno. Ostale velike tvrtke za umjetnu inteligenciju poput OpenAI-a i Googlea također su razvile svoje tehnologije vodenih oznaka, iako neki kritičari tvrde da ovi sustavi koriste korporacijama koje ih stvaraju, a ne rješavaju šire probleme.

Sve veća zabrinutost zbog uloge umjetne inteligencije u stvaranju sadržaja pojavila se nakon izvještaja da Anthropic, razvijač modela jezika Claude AI, primjenjuje nevidljivi sustav vodenih oznaka za identifikaciju teksta generiranog umjetnom inteligencijom.

Antropic je najavio sustav vodenih oznaka kao dio svoje usklađenosti s novim propisima Europske unije koji zahtijevaju od programera umjetne inteligencije da uključe mjere transparentnosti. Prema tvrtki, vodeni znak će biti ugrađen izravno u tekst koji je proizveo Claude AI, čineći ga trajnim čak i nakon kopiranja, lijepljenja ili manjih izmena.

Implementacija takvog sustava izazvala je raspravu među pedagozima, tehnolozima i tvorcima sadržaja. Škole se sve više oslanjaju na alate za otkrivanje umjetne inteligencije kako bi provjerile autentičnost radova učenika, jer zabrinutost zbog varanja uz pomoć umjetne inteligencije nastavlja rasti. Učitelji, koji su se ranije morali oslanjati na subjektivnu prosudbu, sada mogu imati koristi od objektivnijih metoda identifikacije eseja generiranih umjetnom inteligencijom. Međutim, učinkovitost ovih sustava uvelike ovisi o osnovnim algoritmima i sposobnosti detektiranja suptilnih uzoraka unutar velikih količina teksta.

Neki pisci i tvoraci sadržaja izrazili su zabrinutost zbog etičkih implikacija takvih sustava, sugerišući da bi se oni mogli koristiti za suzbijanje legitimne upotrebe umjetne inteligencije umjesto sprečavanja zlouporabe.

Korisnici na ClaudeAI subreddit-u izrazili su zabrinutost da bi vodeni žig mogao pogoršati kvalitetu izlaznog koda, obeshrabriti korištenje umjetne inteligencije za poboljšanje sadržaja koji su stvorili ljudi i potencijalno ga mogli iskoristiti zlonamjerni akteri koji žele ukloniti vodeni žig. Ti korisnici tvrde da bi sustav mogao nenamjerno kazniti pojedince koji odgovorno koriste umjetnu inteligenciju, kao što su autori koji zapošljavaju umjetnu inteligenciju za gramatičke provjere, dok drugima dopuštaju potpuno zaobilaženje detekcije. Kao odgovor na ove kritike, Anthropic je naglasio da vodeni žig neće promijeniti značenje, kvalitetu ili čitljivost teksta koji proizvodi.

Tvrtka je izjavila da će sustav biti implementiran globalno, uključujući i u postojećim modelima kroz buduće ažuriranja. U međuvremenu, drugi glavni igrači u AI prostoru, kao što su OpenAI i Google, također su se obvezali razvijati vlastita rješenja za vodeni žig. OpenAI je stvorio sustav vodeni žig teksta, ali ga još nije objavio za ChatGPT, dok je Google implementirao SynthID Text za svoje modele Gemini i dodao dodatne funkcije vodenih žigova slike kako bi poboljšao mogućnosti detekcije. Kako rasprava nastavlja, uvođenje AI vodenih žigova predstavlja ključni trenutak u evoluciji regulacije umjetne inteligencije.

S obzirom na sve veći nadzor vlada i institucija, ravnoteža između inovacija, privatnosti i etičke uporabe umjetne inteligencije ostaje složen izazov. Uspjeh ovih sustava ovisit će ne samo o tehničkoj točnosti, već i o rješavanju zabrinutosti korisnika i osiguravanju poštene primjene u različitim kontekstima.

Idi na primarne izvore (5)

Službeni izvori na kojima se izvještavanje temelji. Pročitaj ih izravno da zaobiđeš uokvirivanje.

3 izvještaja

The Sydney Morning Herald logoThe Sydney Morning HeraldNeovisanSredinaČinjenice 85Objektivnost 75prije 11 dana
Školski izvod za varanje će biti izložen vodenim znakovima

Claude AI iz Anthropic-a uvodi nevidljivi sustav vodene oznake za otkrivanje sadržaja koji je generirala umjetna inteligencija, uključujući školske eseje. Sistem ugrađuje neprimjetne signale u generirani tekst, omogućujući korisnicima da provjere autentičnost pomoću mehanizma otkrivanja. Iako bi tehnologija mogla pomoći nastavnicima u razlikovanju rada studenata od zadataka koje je generirala umjetna inteligencija, kritičari tvrde da takvi sustavi koriste tvrtke za umjetnu inteligenciju koje profitiraju od samog problema koji tvrde da rješavaju. Slične napore vodene oznake provode druge velike tvrtke za umjetnu inteligenciju kao što su OpenAI i Google, iako je implementacija i dalje ograničena. Razvoj se usklađuje s novim europskim propisima koji zahtijevaju transparentnost umjetne inteligencije.

Procjena pristranosti (Sredina): U članku su predstavljeni tehnološki razvoj i kritike oko sustava detekcije umjetne inteligencije, bez da se otvoreno favorizira bilo koja strana.

Zašto činjenice (85): The article accurately reports that Anthropic is implementing an invisible watermarking system for Claude-generated text, citing direct quotes from the primary source. It mentions the watermark's persistence through copying and editing, aligning with the source. However, it omits mention of the seco

Zašto objektivnost (75): The article frames the technology primarily in the context of detecting academic dishonesty, emphasizing its potential use in schools. While it presents facts neutrally, the focus on 'cheating' introduces a slight bias toward a specific application rather than presenting the full range of use cases

The Age logoThe AgeNeovisanSredinaČinjenice 80Objektivnost 70prije 11 dana
Školski izvod za varanje će biti izložen vodenim znakovima

Antropic AI je objavio planove za implementaciju nevidljivog sustava vodenih oznaka unutar svojih Claude AI izlaznih podataka za otkrivanje sadržaja koji je generirala umjetna inteligencija. Ovaj sustav uključuje ugrađivanje neprimjetnih signala u tekst, omogućujući korisnicima da identifikuju je li sadržaj generirao umjetna inteligencija. Vodeni znak je dizajniran da ostane netaknut čak i nakon kopiranja, lijepljenja ili uređivanja teksta. Dok točna tehnička implementacija ostaje neotkrivena, stručnjaci nagađaju da koristi specifične obrasce riječi ili kombinacije koje se mogu otkriti pomoću alata za skeniranje. Inicijativa se usklađuje s novim europskim propisima koji zahtijevaju transparentnost umjetne inteligencije, a Anthropic navodi da će se vodeni znak primijeniti globalno. Ostale velike tvrtke za umjetnu inteligenciju poput OpenAI-a i Googlea također su razvile svoje tehnologije vodenih oznaka, iako neki kritičari tvrde da ovi sustavi koriste korporacijama koje ih stvaraju, a ne rješavaju šire probleme.

Procjena pristranosti (Sredina): U članku se raspravlja o tehnološkom napretku u vodenom označavanju umjetne inteligencije bez zauzimanja stava o političkim pitanjima.

Zašto činjenice (80): The article repeats much of the same information as item 0, including the watermarking method and its persistence. However, it lacks clarity on the C2PA metadata component and does not address the limitations section at all. The description of the watermarking process is accurate but incomplete comp

Zašto objektivnost (70): The article leans heavily on the narrative of AI detecting cheating in schools, using phrases like 'teachers are increasingly being asked to judge' which implies a problem-focused perspective. It fails to balance this with broader implications or potential benefits of the technology as outlined in t

news.com.au logonews.com.auNeovisanProgresivnoČinjenice 5Objektivnost 10prije 16 dana
AINe može biti obuhvaćena: uzbuna zbog virusa koji je stvorio AI

U članku se raspravlja o rastućoj zabrinutosti zbog potencijalne nemogućnosti suzbijanja virusa stvorenog pomoću umjetne inteligencije. U članku se naglašava uznemirenost među stručnjacima u vezi s rizicima povezanima s patogenima stvorenima umjetnom inteligencijom, naglašavajući izazove koje predstavlja njihov brz razvoj i nepredvidljiva priroda. U članku se postavljaju pitanja o etičkim implikacijama i regulatornim prazninama koje okružuju tehnologiju umjetne inteligencije u biološkim istraživanjima. Iako članak ne pruža posebne detalje o porijeklu ili karakteristikama virusa stvorenog umjetnom inteligencijom, naglašava hitnost rješavanja ovih novih prijetnji kroz međunarodnu suradnju i stroži nadzor.

Procjena pristranosti (Progresivno): U članku se pitanje virusa proizvedenih umjetnom inteligencijom prikazuje kao hitna globalna briga, naglašavajući potrebu za hitnim djelovanjem i regulacijom.

Zašto činjenice (5): This article covers a different story about an AI-made virus, which is not referenced in the primary source document. It provides no relevant information about the Salamanca high school robot program and therefore cannot be evaluated for factual alignment.

Zašto objektivnost (10): The article maintains a neutral tone discussing concerns about AI-generated viruses, without expressing personal opinions or biases.

Kako je izvijestila svaka strana

Isti događaj, grupiran prema političkom nagibu medija koji su o njemu izvještavali.

Kako je izvijestila svaka strana

Podržite neovisne vijesti svjesne pristranosti i otključajte društveni puls, glasovanje zajednice i sve ostale značajke za podupiratelje.

Postani podupiratelj

Izvještavanje u svijetu

Isti događaj kako se o njemu izvještavalo u drugim zemljama.

Izvještavanje u svijetu

Podržite neovisne vijesti svjesne pristranosti i otključajte društveni puls, glasovanje zajednice i sve ostale značajke za podupiratelje.

Postani podupiratelj

Provjera tvrdnji

Ključne činjenične tvrdnje i koliko ih izvora potvrđuje odn. osporava.

Provjera tvrdnji

Podržite neovisne vijesti svjesne pristranosti i otključajte društveni puls, glasovanje zajednice i sve ostale značajke za podupiratelje.

Postani podupiratelj

Neka vijesti ostanu poštene.

ObjectiveNews financiraju čitatelji i bez oglasa je – pristranost vam pokazujemo, ne skrivamo. Podržite neovisno novinarstvo za 4 €/mjesec.

Postani podupiratelj

Povezane priče