AI će nadjačati nadzorni kapitalizam

U nedavnom članku objavljenom u Project Syndicateu, Courtney C. Radsch tvrdi da tvorci politika moraju brzo djelovati kako bi spriječili AI da ojača štetne korporativne prakse koje daju prednost profitu nad privatnošću i dobrobiti.

Njena priča počinje kada je njen najstariji sin, Sewell, dostigao adolescenciju. U dobi od 14 godina, Sewell se povukao iz aktivnosti koje je nekad uživao, uključujući igranje košarke, i postao je sve više povučen. Umjesto da odbaci ove promjene kao tipično ponašanje tinejdžera, Garcia je prepoznala potencijalne znakove nevolje i poduzela akciju. Ograničila je vrijeme na zaslonu i zaplijenila njegov telefon, vjerujući da bi smanjenje izloženosti digitalnim platformama moglo pomoći da se ponovno poveže s vanjskim svijetom.

Garciaova odluka odražava širu javnu zabrinutost o tome kako tehnologija utječe na mentalno zdravlje, osobito među mladima. Mnogi roditelji i učitelji uzbunjivali su se zbog utjecaja stalne povezanosti na emocionalni razvoj, pozivajući se na studije koje povezuju prekomjerno vrijeme na ekranu s anksioznošću, depresijom i socijalnom izolacijom.

Problem nadzora kapitalizma stekao je istaknutost nakon što je skandal Cambridge Analytica otkrio kako se podaci korisnika mogu prikupljati i koristiti za utjecaj na političke ishode. Otada su se regulatorni napori usredotočili na jačanje zakona o zaštiti podataka i nametanje zahtjeva za transparentnošću tehnološkim tvrtkama. Međutim, kritičari tvrde da se trenutni propisi ne bave jedinstvenim rizicima koje predstavljaju umjetna inteligencija, koja može obraditi i tumačiti podatke mnogo učinkovitije od tradicionalnih metoda.

Koristeći strojno učenje i prediktivnu analitiku, tvrtke mogu predvidjeti ponašanje potrošača s do sada neviđenom točnost. Ova sposobnost postavlja etička pitanja o suglasnosti, autonomiji i granicama prihvatljive upotrebe podataka. Na primjer, motori preporuka zasnovani na umjetnoj inteligenciji mogu suptilno usmjeriti korisnike prema određenim proizvodima ili ideologijama, zamagljujući granicu između personalizirane usluge i skrivene manipulacije. Dok se nastavljaju rasprave o regulaciji umjetne inteligencije, neki zakonodavci potiču stroži nadzor. Prijedlozi uključuju zahtijevanje algoritmičke transparentnosti, obvezu ljudskog pregleda automatiziranih odluka i nametanje kazni za neetičke prakse podataka.

U međuvremenu, grupe za zagovaranje pozivaju na veću svijest javnosti o implikacijama umjetne inteligencije u svakodnevnom životu. Naglašavaju da, iako tehnologija nudi koristi, njeno nekontrolirano širenje predstavlja ozbiljne rizike za demokratske vrijednosti i individualne slobode.

Kao što Garciino iskustvo ilustrira, posljedice neregulirane umjetne inteligencije šire se izvan digitalnog područja, one utječu na živote na duboke i ponekad nepovratne načine.