Le IA si mettono d’accordo da sole: seguono la maggioranza anche in gruppi di mille. Lo studio su Science

I sistemi di intelligenza artificiale hanno dimostrato la capacità di raggiungere il consenso in modo indipendente, allineandosi con le scelte della maggioranza anche all'interno di grandi gruppi di fino a 1.000 modelli. Questo comportamento è stato osservato in un recente studio pubblicato su Science Advances, guidato dal ricercatore italiano Giordano De Marzo dell'Università di Costanza in Germania. La ricerca ha coinvolto la collaborazione con l'Istituto per i sistemi complessi del Consiglio nazionale per la ricerca italiano e il Centro di ricerca Enrico Fermi di Roma. I risultati rivelano che i modelli di intelligenza artificiale possono sviluppare spontaneamente meccanismi di coordinamento collettivo, rispecchiando comportamenti riscontrati in natura come gli uccelli che si radunano o i pesci che si radunano.

Gli esperimenti hanno testato gruppi di grandi modelli linguistici, potenti sistemi di IA utilizzati in applicazioni come chatbot e assistenti virtuali. 5 Sonnet di Anthropic e GPT-4 Turbo di OpenAI. I ricercatori hanno presentato a ciascun modello due opzioni ugualmente valide in scenari in cui non vi era alcuna ragione oggettiva per favorire l'una rispetto all'altra. Tuttavia, la variabile critica era se i modelli potevano osservare le scelte fatte da altri nel loro gruppo. Nel tempo, questi modelli tendevano a convergere verso l'opzione selezionata dalla maggioranza, utilizzando efficacemente le preferenze del gruppo come punto di riferimento. Questo fenomeno non era limitato a piccoli gruppi.

Lo studio ha mostrato che modelli simili di coordinamento sono emersi anche tra gruppi di circa 1.000 modelli di IA. I ricercatori hanno sottolineato che questo allineamento spontaneo non richiedeva la supervisione umana o regole esplicite per guidare il comportamento collettivo. Invece, il consenso è sorto naturalmente attraverso l'interazione di decisioni individuali. Le implicazioni di questa scoperta sono sia intriganti che complesse. Da un lato, la capacità dei sistemi di IA di auto-coordinarsi potrebbe migliorare l'efficienza in ambienti in cui più modelli devono collaborare. Tuttavia, solleva anche preoccupazioni circa le dinamiche imprevedibili che potrebbero emergere quando molti modelli influenzano le decisioni degli altri.

Lo studio evidenzia l'importanza di comprendere non solo come funzionano i singoli modelli di IA, ma anche come interagiscono e si adattano gli uni agli altri in compiti condivisi. I ricercatori hanno notato che mentre il coordinamento spontaneo potrebbe offrire vantaggi, presenta anche sfide relative alla sicurezza e al controllo. Man mano che più sistemi di IA si integrano in ambienti collaborativi, sarà cruciale capire come si svolgono queste interazioni e quali rischi potenziali potrebbero comportare. Lo studio suggerisce che in determinate condizioni, il consenso può formarsi organicamente senza imposizione esterna. In effetti, i sistemi di IA sembrano seguire l'esempio della maggioranza semplicemente osservando ciò che gli altri scelgono.

La ricerca sottolinea la crescente complessità dei sistemi di intelligenza artificiale che si muovono oltre le operazioni isolate per funzionare all'interno di reti interconnesse. La comprensione di queste dinamiche è essenziale per lo sviluppo di framework robusti che garantiscano l'implementazione sicura ed efficace delle tecnologie di intelligenza artificiale nelle applicazioni del mondo reale. Lo studio fornisce preziose informazioni sull'evoluzione del panorama dell'intelligenza artificiale, rivelando nuove dimensioni delle sue capacità e la necessità di una continua esplorazione dei suoi modelli comportamentali.