I dibattiti sulla coscienza dell'IA sono una trappola

I dibattiti che circondano la potenziale coscienza dell'intelligenza artificiale sono sempre più inquadrati come una distrazione dal bisogno urgente di responsabilità, secondo i critici che sostengono che il discorso viene manipolato per proteggere le aziende tecnologiche dalla responsabilità.

Allo stesso tempo, un gruppo di organizzazioni politiche e filosofi accademici, molti dei quali associati al movimento dell'altruismo efficace, hanno sollevato domande etiche sul fatto che gli esseri umani dovrebbero governare tali sistemi. Queste discussioni sembrano convergere su un obiettivo singolare: garantire che le società che sviluppano queste tecnologie affrontino una responsabilità minima per le conseguenze delle loro creazioni.

I critici avvertono di non cadere preda di un'illusione costruita che rischia di oscurare le preoccupazioni tangibili che colpiscono gli individui reali. Il recente post sul blog di Anthropic ha introdotto la nozione di "J-spazio", suggerendo che il suo modello di IA opera all'interno di un ambiente interno simile a uno spazio mentale in cui potrebbero risiedere i pensieri.

OpenAI ha assunto una posizione più audace, con il CEO Sam Altman che ha sollecitato discussioni sul fatto che il suo agente AI abbia raggiunto la singolarità tecnologica, un punto ipotetico in cui l'intelligenza artificiale supera l'intelligenza umana e inizia a migliorarsi a un ritmo esponenziale. "La chiarezza legale rimane sfuggente negli Stati Uniti, dove alcuni stati, in particolare la California, hanno promulgato una legislazione volta a impedire agli sviluppatori di AI di eludere la responsabilità affermando che i loro sistemi agiscono in modo indipendente.

I recenti sviluppi che evidenziano le sfide nel controllo dei sistemi di IA hanno spinto a una riunione a porte chiuse che coinvolge quattro importanti laboratori di IA, OpenAI, Google, Anthropic e Meta. Durante questa sessione, l'amministrazione ha svelato un quadro volontario che consente alle agenzie federali un accesso anticipato ai modelli di IA per la valutazione prima del rilascio pubblico. Anche se questa iniziativa non affronta esplicitamente la questione della coscienza dell'IA, impiega un linguaggio drammatico e incentrato sull'uomo che può indirettamente rafforzare le affermazioni sulle abilità "superumane".

I sostenitori suggeriscono che proprio come la società ha mostrato empatia verso gli animali non umani nonostante le carenze nella loro protezione, forse questa volta l'umanità può garantire un trattamento adeguato dell'IA.