La fine delle discussioni su argomenti "proibiti": ChatGPT per adolescenti sarà più rigido di quanto si possa pensare

OpenAI ha annunciato nuove restrizioni per il suo chatbot, ChatGPT, appositamente progettato per gli utenti di età compresa tra 13 e 17 anni. I cambiamenti entrano in vigore a seguito di crescenti preoccupazioni sull'impatto dell'IA conversazionale sui giovani, in particolare per quanto riguarda la salute mentale, l'attaccamento emotivo e l'esposizione a contenuti inappropriati. La versione aggiornata presenterà misure di sicurezza migliorate, controlli più severi su argomenti sensibili e garanzie aggiuntive volte a promuovere un uso più sano e più responsabile dell'intelligenza artificiale tra gli adolescenti.

Il sistema rivisto reindirizzerà automaticamente gli utenti di età inferiore ai 18 anni, o che si auto-identificano tra i 13 e i 17 anni, a una versione dedicata di ChatGPT per adolescenti. Questa transizione viene innescata dall'età dichiarata dell'utente o tramite analisi algoritmica basata sui modelli di attività dell'account, tra cui la frequenza di accesso, i tempi di utilizzo tipici e altri indicatori comportamentali.

Tra le modifiche chiave ci sono controlli più rigorosi sulle discussioni che coinvolgono contenuti sessuali, disturbi alimentari, problemi di immagine corporea, attività pericolose e violenza esplicita. L'interfaccia focalizzata sugli adolescenti scoraggerà gli utenti dal trattare l'IA come un sostituto per le relazioni umane reali, limitando gli scenari di gioco di ruolo che potrebbero favorire una dipendenza malsana. Spingerà anche gli utenti a cercare supporto da individui di fiducia in situazioni emotivamente sensibili, con l'obiettivo di ridurre il rischio di sviluppare attaccamenti emotivi improduttivi ai sistemi di IA. I genitori e i tutori otterranno un maggiore controllo sull'accesso dei loro figli alla piattaforma.

Se esistono account collegati, i genitori possono impostare "orari silenziosi" durante i quali ChatGPT non è disponibile, gestire le impostazioni di privacy e persino ricevere avvisi se il sistema rileva potenziali rischi per la sicurezza. Tuttavia, OpenAI sottolinea che questo non garantisce l'accesso diretto alle conversazioni personali, la privacy rimane una priorità anche all'interno della configurazione specifica dell'adolescente. Gli aggiornamenti si estendono anche alla creazione e alla condivisione di contenuti. Gli utenti adolescenti dovranno affrontare ulteriori limitazioni quando generano o modificano immagini e altri media sensibili. Il sistema fornirà avvisi aggiuntivi prima di consentire la condivisione di fotografie private o potenzialmente dannose, rafforzando l'importanza della responsabilità digitale.

Queste misure mirano a prevenire l'uso improprio degli strumenti di IA per la creazione o la distribuzione di materiale inappropriato, specialmente tra il pubblico più giovane. Oltre a queste caratteristiche protettive, la nuova versione di ChatGPT per gli adolescenti include componenti educativi progettati per incoraggiare il pensiero critico piuttosto che il consumo passivo. Invece di fornire semplicemente risposte, lo strumento guiderà gli studenti attraverso le fasi di risoluzione dei problemi, aiutandoli a raggiungere soluzioni in modo indipendente. Questo approccio cerca di spostare l'attenzione dell'uso di IA dal semplice recupero di informazioni all'apprendimento attivo e allo sviluppo delle competenze, allineandosi con obiettivi più ampi di promuovere la crescita intellettuale e la resilienza.

OpenAI sottolinea che mentre la versione per adolescenti introduce regole più rigorose, supporta ancora le funzioni fondamentali della piattaforma, la ricerca, la creatività e l'istruzione, supportate da solidi protocolli di sicurezza simili a quelli utilizzati per gli utenti adulti.