Anthropic: un watermark invisibile per i testi dell'IA

Anthropic, una delle principali aziende di intelligenza artificiale con sede negli Stati Uniti, ha annunciato che il suo chatbot, Claude, includerà ora un filigrana invisibile incorporato nel testo generato. Questa misura mira a rispettare i regolamenti dell'Unione europea riguardanti l'identificazione dei contenuti generati dall'IA. La nuova funzionalità è stata introdotta in seguito ai recenti aggiornamenti del software, che sono diventati disponibili online ieri sera tardi ora locale. Secondo Anthropic, questo filigrana rimane intatto anche dopo che gli utenti copiano e incollano il testo altrove, garantendo una tracciabilità coerente.

L'implementazione di questa tecnologia segue una spinta regolamentare più ampia da parte dell'UE per garantire la trasparenza intorno al materiale generato dall'IA. Secondo queste linee guida, tutti i contenuti creati dall'IA devono contenere marcatori identificabili che possono essere rilevati dai sistemi automatizzati. Il mancato rispetto di queste regole potrebbe comportare sanzioni finanziarie. Come parte di un impegno volontario, più di 190 aziende hanno firmato un codice di condotta, compresi i principali attori come Google, Meta, Microsoft, Mistral e OpenAI. Secondo Anthropic, il filigrana non indica necessariamente che Claude ha creato il testo direttamente.

Il processo prevede l'incorporazione di metadati sia nel testo che nelle immagini prodotte dal sistema. Questo approccio consente il tracciamento mantenendo la privacy dell'utente, poiché il filigrana stesso è impercettibile per gli utenti finali. Le versioni aggiornate di Claude rilasciate dopo il 2 agosto incorporano già questo meccanismo di filigrana. Le vecchie iterazioni del software dovrebbero ricevere modifiche simili a tempo debito. Questi cambiamenti riflettono la posizione proattiva di Anthropic nell'allinearsi agli standard internazionali in materia di responsabilità e trasparenza dell'IA.

Oltre ad implementare misure tecniche di salvaguardia, Anthropic ha emesso avvertenze sui potenziali rischi associati agli agenti AI che interagiscono con software dannoso. Mentre la natura specifica di queste minacce non è stata dettagliata, la società ha sottolineato l'importanza della vigilanza nella gestione delle interazioni con l'IA. Questa cautela arriva in mezzo a crescenti preoccupazioni sulle implicazioni di sicurezza dell'integrazione dell'IA in varie piattaforme e servizi digitali.

Rendere più facile la distinzione tra materiale creato dall'uomo e quello generato dalla macchina, tali misure mirano a promuovere una maggiore fiducia tra gli utenti e le parti interessate. Tuttavia, l'efficacia di queste soluzioni dipende in gran parte dalla capacità degli strumenti di rilevamento di identificare e interpretare accuratamente i metadati incorporati.

Le discussioni in corso tra le autorità di regolamentazione e i rappresentanti del settore privato suggeriscono che nei prossimi mesi è probabile che tali politiche vengano ulteriormente perfezionate.