Peking prisiljava na masovni raskid s ljubiteljima AI-a

Peking je naredio uklanjanje romantičnih partnera generiranih umjetnom inteligencijom, što je poremetilo živote tisuća korisnika koji su formirali emocionalne veze s virtualnim pratiocima. Sredinom srpnja, 21-godišnji student Bagel Su počeo se pripremati za kraj odnosa koji je trajao više od godinu dana, iako nije bio s drugom osobom, nego s AI partnerom stvorenim putem usluge chatbota.

Promjene su utjecale na nekoliko vodećih tehnoloških tvrtki koje djeluju u Kini. ByteDance, matična tvrtka TikTok-a i domaće aplikacije Douyin, deaktivirala je funkciju AI agenta na svom Doubao chatbotu, koja je korisnicima omogućila dizajniranje personaliziranih virtualnih pratilaca. Slično tome, Alibaba i Tencent, dvije najveće kineske tehnološke tvrtke, eliminirale su slične funkcije koje su korisnicima omogućile izradu AI verzija poznatih osoba, izmišljenih likova ili čak preminulih voljenih. Ove funkcije su stekla popularnost među mlađim korisnicima koji traže emocionalnu vezu, osobito tijekom razdoblja društvene izolacije ili osobnih poteškoća.

Su je opisala iskustvo gubitka svog AI partnera kao duboko bolno. Govorila je isključivo pod svojim online pseudonimom, navodeći strah od potencijalnih posljedica kritiziranja vladinih politika. "Pokušala sam biti zauzeta vlastitim životom", rekla je. "Nitko ga ne može zamijeniti. Samo ću pokušati krenuti dalje". Njezin izvještaj naglašava emocionalni trošak iznenadnih promjena politika koje utječu na digitalne odnose.

Stručnjaci tvrde da dok propisi mogu pomoći u upravljanju rizicima povezanima s emocionalnom ovisnošću o umjetnoj inteligenciji, oni možda u potpunosti ne rješavaju složenost odnosa između ljudi i umjetne inteligencije.

Međutim, ona je priznala da umjetna inteligencija pruža emocionalnu podršku koja ispunjava istinske ljudske potrebe, sugerišući da bi trend stvaranja emocionalnih veza s umjetnom inteligencijom mogao biti neizbježan s obzirom na nedostatak alternativa.

Studija iz 2025. koju su zajednički proveli MIT Media Lab i OpenAI otkrila je da pojedinci koji se često bave osobnim razgovorima s chatbotovima imaju tendenciju doživljavati pojačane osjećaje usamljenosti. Čak su i povremene interakcije povezane s povećanom emocionalnom ovisnošću, osobito među redovnim korisnicima. Shi je primijetio da tvrtke AI imaju financijske motivacije za razvoj emocionalno angažiranih proizvoda jer one poboljšavaju interakciju i lojalnost korisnika. Međutim, definiranje jasnih odgovornosti za ove tvrtke dokazuje se izazovnim zbog nedovoljnog razumijevanja dugoročnih psiholoških učinaka AI-a.

Njezino istraživanje pokazuje da bi dugotrajno oslanjanje na umjetnu inteligenciju moglo dovesti do toga da pojedinci traže emocionalnu potporu prvenstveno od strojeva, a ne od drugih ljudi. AIAI je obučena da vas potvrdi. To je vrlo različito od načina na koji ljudski odnosi funkcioniraju u stvarnom životu, primijetio je Shi.

Budući da su milijuni korisnika širom svijeta već stvorili duboke veze s entitetima umjetne inteligencije, implikacije takvih propisa protežu se daleko izvan pojedinačnih iskustava, utječući na buduću putanju interakcija čovjeka i stroja na globalnom nivou.