La fin des discussions sur les sujets "interdits": le ChatGPT pour les adolescents sera plus strict que vous ne le pensiez

OpenAI a annoncé de nouvelles restrictions pour son chatbot, ChatGPT, spécialement conçu pour les utilisateurs âgés de 13 à 17 ans. Les changements entrent en vigueur à la suite de préoccupations croissantes concernant l'impact de l'IA conversationnelle sur les jeunes, en particulier en ce qui concerne la santé mentale, l'attachement émotionnel et l'exposition à du contenu inapproprié. La version mise à jour comportera des mesures de sécurité améliorées, des contrôles plus stricts sur des sujets sensibles et des garanties supplémentaires visant à promouvoir une utilisation plus saine et plus responsable de l'intelligence artificielle chez les adolescents.

Le système révisé redirige automatiquement les utilisateurs de moins de 18 ans, ou qui s'identifient comme étant entre 13 et 17 ans, vers une version dédiée pour adolescents de ChatGPT. Cette transition est déclenchée soit par l'âge déclaré de l'utilisateur, soit par une analyse algorithmique basée sur les modèles d'activité du compte, y compris la fréquence de connexion, les temps d'utilisation typiques et d'autres indicateurs comportementaux.

L'interface axée sur les adolescents découragera les utilisateurs de traiter l'IA comme un substitut aux relations humaines réelles, limitant les scénarios de jeu de rôle qui pourraient favoriser une dépendance malsaine.

Si des comptes liés existent, les parents peuvent définir des "heures de silence" pendant lesquelles ChatGPT n'est pas disponible, gérer les paramètres de confidentialité et même recevoir des alertes si le système détecte des risques potentiels pour la sécurité.

Ces mesures visent à prévenir l'utilisation abusive d'outils d'IA pour créer ou distribuer du matériel inapproprié, en particulier auprès des jeunes publics. En plus de ces fonctionnalités de protection, la nouvelle version de ChatGPT pour les adolescents comprend des composants éducatifs conçus pour encourager la pensée critique plutôt que la consommation passive. Au lieu de simplement fournir des réponses, l'outil guidera les étudiants à travers les étapes de résolution de problèmes, les aidant à trouver des solutions de manière indépendante. Cette approche vise à déplacer l'utilisation de l'IA de la simple récupération d'informations à l'apprentissage actif et au développement des compétences, en s'alignant sur des objectifs plus larges de promotion de la croissance intellectuelle et de la résilience.

OpenAI souligne que, bien que la version pour adolescents introduise des règles plus strictes, elle prend toujours en charge les fonctions de base de la plate-forme, la recherche, la créativité et l'éducation, étayées par des protocoles de sécurité robustes similaires à ceux utilisés pour les utilisateurs adultes.