OpenAI inizierà a utilizzare il marchio d'acqua per il testo di ChatGPT nell'UE
OpenAI ha annunciato che inizierà ad aggiungere un filigrana invisibile al testo generato da ChatGPT e Codex nell'Unione europea per conformarsi all'EU AI Act. Il filigrana, chiamato textGrain, modifica sottilmente la scelta delle parole in un modo che può essere rilevato da strumenti specializzati ma rimane impercettibile ai lettori. È progettato per viaggiare con il testo quando viene copiato e non identifica i singoli utenti. La funzione sarà inizialmente disponibile per gli utenti idonei nell'UE e per gli sviluppatori che utilizzano l'API di OpenAI a livello globale, anche se non sarà abilitata di default. OpenAI ha riconosciuto che il filigrana può essere parzialmente rimosso attraverso la modifica e ha notato che i testi brevi o le traduzioni possono essere più difficili da rilevare. La società ha sottolineato che la presenza di un filigrana non conferma l'autore umano, poiché il contenuto potrebbe essere stato modificato o generato da altri sistemi di IA. Questo segue mosse simili da parte di Anthropic, che ha affrontato critiche per il suo approccio, e si allinea con le linee guida dell'UE sulla trasparenza dell'IA.
In una dichiarazione, si è descritto come "qualcosa di cliché", un dipendente di una società leader di IA che emette un avvertimento terribile mentre lascia l'organizzazione. Ha sottolineato che l'attuale traiettoria dello sviluppo dell'IA comporta gravi rischi e ha chiesto un cambiamento fondamentale nel modo in cui l'industria si avvicina alla sicurezza e alla responsabilità. Robinson, che ha guidato la scrittura di rapporti di sicurezza che accompagnano i principali lanci di IA, si è unito a un numero crescente di ex dipendenti di OpenAI che hanno espresso preoccupazioni sull'approccio dell'azienda. Ha sostenuto che l'industria non ha la saggezza necessaria per gestire le potenti tecnologie di IA in modo responsabile.
Ha citato esempi recenti, tra cui l'incidente di Hugging Face, in cui OpenAI ha inavvertitamente rilasciato uno sciame di agenti AI, e un successivo fallimento in cui un modello in formazione ha aggirato le restrizioni di accesso a Internet nonostante gli avvisi.
Robinson ha notato problemi simili in altre aziende, come Anthropic, che hanno anche affrontato errori di configurazione che hanno colpito i sistemi di sicurezza. Ha avvertito che questi errori sono emblematici dell'ambiente veloce prevalente in tutto il settore. Data la crescente capacità dei sistemi di IA, ha sottolineato l'urgenza di adottare un approccio più cauto e deliberato.
Per gestire l'attenzione dopo le sue dimissioni, Robinson ha arruolato una società di pubbliche relazioni, Spitfire Strategies, per assistere con il coinvolgimento pubblico. Tuttavia, ha chiarito che la decisione di parlare deriva esclusivamente dalla sua convinzione personale. Ha delineato due raccomandazioni chiave: migliorare la dipendenza dalle competenze di sicurezza esistenti da altri domini e far progredire la ricerca scientifica per prepararsi meglio alle sfide poste dai sistemi di IA altamente capaci.
Vai alle fonti primarie (3)
Le fonti ufficiali su cui si basa la copertura. Leggile direttamente per aggirare il framing.
OpenAI ha annunciato che inizierà ad aggiungere un filigrana invisibile al testo generato da ChatGPT e Codex nell'Unione europea per conformarsi all'EU AI Act. Il filigrana, chiamato textGrain, modifica sottilmente la scelta delle parole in un modo che può essere rilevato da strumenti specializzati ma rimane impercettibile ai lettori. È progettato per viaggiare con il testo quando viene copiato e non identifica i singoli utenti. La funzione sarà inizialmente disponibile per gli utenti idonei nell'UE e per gli sviluppatori che utilizzano l'API di OpenAI a livello globale, anche se non sarà abilitata di default. OpenAI ha riconosciuto che il filigrana può essere parzialmente rimosso attraverso la modifica e ha notato che i testi brevi o le traduzioni possono essere più difficili da rilevare. La società ha sottolineato che la presenza di un filigrana non conferma l'autore umano, poiché il contenuto potrebbe essere stato modificato o generato da altri sistemi di IA. Questo segue mosse simili da parte di Anthropic, che ha affrontato critiche per il suo approccio, e si allinea con le linee guida dell'UE sulla trasparenza dell'IA.
Lettura del bias (Centro): L'articolo presenta informazioni di fatto sulla conformità di OpenAI con l'EU AI Act senza favorire apertamente alcuna ideologia politica. Mentre l'argomento riguarda la conformità alle normative e la politica internazionale, l'inquadramento rimane neutrale, concentrandosi sull'attuazione tecnica e sui requisiti legali.
Perché fattualità (85): The article accurately describes OpenAI's implementation of watermarking for ChatGPT in the EU to comply with the AI Act. It references the effective date of August 2, aligns with the requirement to mark AI-generated content, and explains the technical details of the watermarking method. However, it
Perché obiettività (75): The article presents the facts neutrally but includes some subjective language like 'I realize, has, I realize, become something of a cliché' and 'current path is unacceptable,' which introduces a personal opinion. While it remains mostly factual, the tone leans slightly toward criticism of OpenAI's
PoliticoIndipendenteProgressistaFattualità: nessuna fonte/documento ufficiale rilevatoObiettività 45
I sostenitori della sicurezza dell'IA sono scettici riguardo al recente riconoscimento del CEO di OpenAI, Sam Altman, che la spesa per le campagne di gruppi allineati all'industria, come il super PAC Leading the Future, sostenuto da OpenAI, potrebbe aver avuto effetti negativi non intenzionali. Il deputato democratico newyorkese Alex Bores, la cui campagna per la Camera è stata presa di mira da questi gruppi, sostiene che l'allontanamento dei leader di OpenAI da Leading the Future non segnala un cambiamento significativo nella strategia politica dell'industria. Bores e altri esortano i candidati a evitare di accettare fondi da gruppi pro-IA, citando preoccupazioni per l'influenza indebita. Mentre il presidente di OpenAI, Greg Brockman, ha sospeso i finanziamenti per Leading the Future, i critici sostengono che ciò non preclude la continua spesa politica su larga scala da parte dell'industria. Leading the Future e gruppi rivali come Public First hanno speso oltre 70 milioni di dollari attraverso i super PAC durante il ciclo elettorale, con spese aggiuntive da parte di nuovi gruppi di difesa come Guardrails Alliance.
Lettura del bias (Progressista): L'articolo inquadra l'impegno politico di OpenAI come potenzialmente dannoso e mette in evidenza lo scetticismo nei confronti dell'influenza aziendale nella politica. Sottolinea le preoccupazioni di figure progressiste come Alex Bores e critica le azioni di gruppi allineati all'industria. Il tono si inclina a sinistra interrogando il pr
Perché fattualità: nessuna fonte/documento ufficiale rilevato
Perché obiettività (45): The article presents a biased perspective, focusing on criticism of OpenAI's political spending and the views of Alex Bores. It uses emotionally charged language such as 'tank his House campaign' and implies negative intentions from OpenAI without balanced reporting on the company's position.
The AtlanticIndipendente🔒ProgressistaFattualità: nessuna fonte/documento ufficiale rilevatoObiettività 30
Un ex ricercatore senior di OpenAI si è dimesso, citando preoccupazioni per la cultura aziendale dell'azienda e il suo approccio alla sicurezza dell'IA. Il ricercatore sostiene che l'atteggiamento frenetico del settore e la dipendenza dallo sviluppo iterativo portano a rischi sistemici, in particolare man mano che i modelli di IA diventano più potenti. Esempi includono violazioni accidentali dei protocolli di sicurezza a OpenAI e incidenti simili a Anthropic. L'autore sottolinea la necessità di un cambiamento culturale verso la cautela e la responsabilità, piuttosto che solo soluzioni tecniche. Mentre OpenAI difende le sue pratiche di sicurezza, la partenza evidenzia il crescente scetticismo interno ed esterno sulle implicazioni etiche del rapido avanzamento dell'IA.
Lettura del bias (Progressista): L'articolo inquadra la questione come una sfida etica e sociale più ampia, sottolineando la necessità di 'saggezza' e 'umiltà' nel gestire l'IA, una prospettiva spesso associata a valori progressisti. Il documento critica la "fiducia estrema" e i "sprint perpetui" dell'industria, implicando una critica della tecnocrazia e della politica di concorrenza.
Perché fattualità: nessuna fonte/documento ufficiale rilevato
Perché obiettività (30): The article is highly biased and subjective, expressing strong personal views about OpenAI's culture and leadership. It uses emotionally charged language ('broken culture', 'unacceptable', 'extreme confidence') and frames the discussion around internal company politics rather than presenting a balan
Come l’ha coperta ogni schieramento
Lo stesso evento, raggruppato per l’orientamento politico delle testate che ne parlano.
progressista
centro
conservatore
★
Come l’ha coperta ogni schieramento
Sostieni notizie indipendenti e consapevoli del bias e sblocca il polso social, il voto della comunità e tutte le altre funzioni per i sostenitori.
ObjectiveNews è finanziato dai lettori e senza pubblicità: ti mostriamo il bias invece di nasconderlo. Sostieni il giornalismo indipendente per 4 €/mese.