L'intelligenza artificiale di Google Overviews ha presentato i mostri immaginari come reali

Un tribunale tedesco ha stabilito che Google è direttamente responsabile delle risposte inesatte generate dalla sua funzione AI Overview, segnando un precedente legale significativo su come i contenuti generati dall'intelligenza artificiale sono trattati secondo le leggi esistenti. La decisione arriva dopo che due società editrici con sede a Monaco di Baviera hanno intentato una causa contro il gigante della tecnologia, sostenendo che l'IA ha collegato erroneamente le loro attività a pratiche fraudolente, trappole di abbonamento e schemi ingannevoli.

Il caso era incentrato sulla funzionalità conosciuta come AIAI Overview, che riassume i risultati di ricerca utilizzando l'elaborazione del linguaggio naturale e li presenta in un formato strutturato. Gli editori sostenevano che questo riassunto generato dall'IA era fuorviante perché collegava le loro aziende a pratiche commerciali dubbie che non erano presenti nei risultati di ricerca effettivi. Invece, l'IA aveva confuso i loro dati con informazioni su altre aziende genuinamente problematiche, fabbricando collegamenti che non esistevano nemmeno nelle fonti citate nei risultati di ricerca.

La difesa di Google si è basata pesantemente sul principio che i motori di ricerca non dovrebbero essere ritenuti responsabili per i contenuti che aggregano da fonti esterne. Tuttavia, la corte ha respinto questa argomentazione, affermando che l'AI Overview fa più che semplicemente visualizzare o collegare ai risultati di ricerca - crea nuove dichiarazioni indipendenti che vanno oltre i semplici riferimenti a contenuti esterni. I giudici hanno sottolineato che l'AI non elenca semplicemente le fonti ma invece sintetizza e presenta le informazioni con le proprie parole, rendendo così Google direttamente responsabile dell'accuratezza di questi riassunti.

Il tribunale ha anche respinto l'affermazione di Google secondo cui gli utenti potevano verificare le fonti da soli tramite i link forniti e erano già consapevoli che i contenuti generati dall'IA non dovrebbero essere presi alla lettera. Ha sottolineato che l'AI Overview si presentava come una dichiarazione autonoma con un contenuto comprensibile in modo indipendente, senza offrire alcuna indicazione ai lettori che le informazioni potrebbero essere inaffidabili. Di conseguenza, il tribunale ha ordinato a Google di cessare di diffondere affermazioni false e di sostenere l'80% delle spese legali associate al caso.

In risposta alla sentenza, un portavoce di Google ha dichiarato che la società è impegnata a migliorare la qualità dei suoi riassunti AI per garantire che la maggior parte delle risposte forniscano informazioni accurate. Tuttavia, la società ha annunciato la sua intenzione di appellarsi alla decisione, osservando che la sentenza non è ancora definitiva.

Oltre alle implicazioni legali immediate, la sentenza ha un significato più ampio nel dibattito in corso sul ruolo dell'IA nella diffusione delle informazioni. I critici hanno a lungo sollevato allarmi su casi in cui l'IA di Google ha travisato contenuti fittizi come fatti. Ad esempio, le ricerche relative alle voci della Fondazione SCP - anomalie fittizie create per scopi di intrattenimento - a volte hanno portato a riassunti generati dall'IA che trattano queste entità inventate come reali. In un caso, una query per SCP-565 ha portato alla descrizione di una testa umana anomala e mobile che si muove come un granchio, accompagnata da riferimenti a record forensi e all'identità di un uomo deceduto.

Un'altra ricerca di SCP-426, un tostapane fittizio che costringe chiunque lo menzioni a parlarne in prima persona, ha prodotto una risposta scritta in prima persona, con l'IA che si descrive come il tostapane e dettaglia le ferite fabbricate subite da coloro che tentano di imitarlo.

Questi esempi sottolineano i rischi potenziali dei sistemi di IA che non riescono a distinguere tra finzione e realtà, specialmente quando presentano contenuti sintetizzati come fatti. Mentre la SCP Foundation afferma esplicitamente che il suo contenuto è fittizio, gli AI Overviews di Google hanno raramente incluso tali disclaimers, complicando ulteriormente gli sforzi per garantire trasparenza e accuratezza nelle informazioni generate dall'IA.

Mentre la battaglia legale continua, l'esito dell'appello di Google probabilmente influenzerà i futuri regolamenti riguardanti la responsabilità dell'IA. Se confermato, la sentenza potrebbe creare un precedente che richiede alle aziende tecnologiche di assumersi una maggiore responsabilità per l'accuratezza dei contenuti generati dall'IA, portando potenzialmente a una sorveglianza più rigorosa e linee guida più chiare per la gestione delle informazioni sintetiche. Nel frattempo, l'incidente serve da monito sulle sfide dell'integrazione dell'IA nelle interazioni digitali quotidiane, in cui i confini tra verità e fabbricazione possono diventare sempre più sfocati.