AI in politica: pregiudizi e allucinazioni

L'uso dell'intelligenza artificiale (IA) nel giornalismo ha scatenato un dibattito significativo a seguito di recenti incidenti che hanno coinvolto figure politiche di spicco. Il Frankfurter Allgemeine Zeitung (FAZ) si è trovato al centro della controversia quando un contributo ospite scritto dal ministro presidente della Turingia, Mario Voigt, ha dovuto essere rimosso dal suo sito web e archiviato. Il testo conteneva citazioni attribuite a terze parti che non sono mai state effettivamente parlate o scritte. Queste imprecisioni sono state identificate come "allucinazioni" generate dalla tecnologia AI. Questo incidente ha sollevato gravi preoccupazioni sull'affidabilità dei contenuti prodotti utilizzando strumenti di IA, in particolare quando utilizzati nel discorso pubblico.

Non molto tempo dopo questa rivelazione, è venuto alla luce che il ministro federale degli Affari digitali, Karsten Wildberger, aveva utilizzato l'IA per redigere diversi discorsi e contributi degli ospiti, tra cui uno pubblicato sul Frankfurter Allgemeine Sonntagszeitung. La FAZ successivamente ha rimosso questi testi dalla loro piattaforma online. Tradizionalmente, il modello di un contributo degli ospiti si basava sulla cooperazione reciproca tra il media e l'autore, dove quest'ultimo forniva argomenti ben pensati e originali. Tuttavia, questo modello sembra essere minato quando il contenuto viene generato automaticamente e potenzialmente allucinato da algoritmi.

Per il team editoriale di F.A.Z. rimane chiaro che continuano a scrivere i loro articoli da soli e ad assumersi la piena responsabilità di essi. Tuttavia, l'uso di strumenti di IA non è proibito. Al contrario, l'IA può assistere nella ricerca, nel controllo dei fatti, nell'identificazione di contraddizioni nelle argomentazioni, nella correzione di bozze e nel fornire riassunti o prefazioni su richiesta. Il testo finale deve ancora provenire da un essere umano che ha concepito l'idea e ha articolato i propri pensieri. L'autore conserva l'autorità di contenuto sul testo, ma è consentito migliorarlo attraverso l'assistenza dell'IA.

Negli ultimi quattro decenni, il campo del giornalismo ha assistito a numerose trasformazioni tecnologiche. Inizialmente, il suono delle macchine da scrivere ha dettato il ritmo della produzione di notizie nelle rumorose sale editoriali. Successivamente, è seguita la transizione ai sistemi di editing elettronici, quindi il passaggio dalla fotografia analogica alla fotografia digitale, che ha sostituito le camere oscure con schede di archiviazione e software di editing delle immagini, consentendo manipolazioni precedentemente non del tutto escluse.

Nel corso di queste transizioni, ci sono sempre stati avvertimenti sul declino dell'artigianato giornalistico. Tuttavia, l'approccio corretto non è mai stato il rifiuto assoluto, ma piuttosto l'adattamento intelligente. È sempre stato necessario padroneggiare nuovi strumenti per migliorare il proprio mestiere e mantenere la competitività nelle operazioni commerciali. Ora, l'IA rappresenta il passo più significativo in questa catena. Il percorso giusto qui è l'uso cosciente e controllato dall'uomo dell'IA nel lavoro editoriale.

Una moderna redazione deve imparare ad agire come un "capo" per l'IA, utilizzandola come un assistente per analizzare vasti set di dati, riconoscere modelli in documenti complessi, programmare e vocalizzare testi, trascrivere interviste e tradurli.

L'intelligenza artificiale è un ottimo strumento di lavoro, ma non è un giornalista. Sia che si tratti di contestualizzare una notizia o di costruire un argomento coerente basato sull'esperienza umana in un commento, i giornalisti rimangono indispensabili nell'era dell'intelligenza artificiale.

Sam Altman, CEO di OpenAI e una delle forze trainanti della rivoluzione dell'intelligenza artificiale, ritiene che gli esseri umani saranno sempre principalmente interessati a ciò che

L'uso dell'IA in politica ha anche attirato l'attenzione a causa di potenziali pregiudizi e allucinazioni. C'è certamente indignazione per quanto riguarda i politici che utilizzano l'IA, ma, soprattutto, è necessaria un'analisi dei rischi quando le macchine sostituiscono gli esseri umani. Il ministro digitale Karsten Wildberger (CDU) è stato accusato di mentire sul suo uso dell'IA per il suo lavoro. È chiaro che Wildberger utilizza l'IA per avere discorsi scritti per lui. Il suo portavoce ha confermato che utilizza l'IA come strumento di lavoro, affermando che i testi menzionati sono stati sviluppati con il supporto dell'IA.

All'inizio di febbraio, il suo ministero lo ha negato, rispondendo a una richiesta di libertà di informazione secondo cui Wildberger non aveva utilizzato i chatbot AI nel suo ruolo di ministro federale per gli affari digitali e la modernizzazione statale dal 6 maggio al 31 dicembre 2025. Questa risposta si riferiva al periodo precedente al 31 dicembre 2025, poiché Wildberger aveva dichiarato in un'intervista a dicembre che utilizzava i chatbot AI "spesso una o due ore al giorno" per strutturare i suoi pensieri e ottenere idee dall'IA. Tuttavia, ha affermato che si trattava di un uso privato, non correlato ai suoi doveri come ministro.

È concepibile che Wildberger abbia iniziato a utilizzare l'IA per il suo lavoro come ministro federale dopo il 31 dicembre 2025. Ma è improbabile. Più plausibile è che il suo ministero abbia costruito una distinzione tra azioni private e ufficiali che è difficile da sostenere nella pratica. Se questo è vero, sorge la domanda: perché lo fa? Solo Wildberger stesso potrebbe rispondere a questo. Tuttavia, un'ipotesi plausibile è che i politici e il loro personale più vicino evitino di discutere apertamente del loro uso dell'IA perché temono le critiche per aver permesso all'IA di assumere il loro processo di pensiero.

La preoccupazione è giustificata: gli esempi dei testi di Wildberger e di altri ministri, come Mario Voigt e Sven Schulze (entrambi CDU), mostrano che spesso emerge una serie di affermazioni e generalizzazioni cliché, prive di sostanza e di conoscenze più profonde, quando l'IA è lasciata a generare contenuti liberamente.

I rischi molto maggiori si trovano altrove. Un problema è che i chatbot AI forniscono spesso risposte false, note come "allucinazioni". Un altro è il cosiddetto pregiudizio, il che significa che possono essere pregiudiziati. Il pregiudizio è un concetto complesso; di solito si riferisce alla discriminazione nei confronti di determinati gruppi o punti di vista perché non sono adeguatamente rappresentati nei dati utilizzati per addestrare i sistemi di IA.