No más charlas sobre temas "prohibidos": ChatGPT para adolescentes será más estricto de lo que creías

OpenAI ha anunciado nuevas restricciones para su chatbot, ChatGPT, específicamente diseñado para usuarios de entre 13 y 17 años. Los cambios entran en vigencia tras las crecientes preocupaciones sobre el impacto de la inteligencia artificial conversacional en los jóvenes, particularmente con respecto a la salud mental, el apego emocional y la exposición a contenido inapropiado. La versión actualizada contará con medidas de seguridad mejoradas, controles más estrictos en temas sensibles y salvaguardas adicionales destinadas a promover un uso más saludable y responsable de la inteligencia artificial entre los adolescentes.

El sistema revisado redirigirá automáticamente a los usuarios menores de 18 años, o que se autoidentifiquen entre 13 y 17, a una versión adolescente dedicada de ChatGPT. Esta transición se desencadena ya sea por la edad declarada del usuario o a través de un análisis algorítmico basado en patrones de actividad de la cuenta, incluida la frecuencia de inicio de sesión, los tiempos de uso típicos y otros indicadores de comportamiento. Si un usuario adulto es clasificado erróneamente como menor de edad, puede verificar su edad y volver a la versión estándar.

Entre las modificaciones clave se encuentran controles más estrictos en torno a las discusiones que involucran contenido sexual, trastornos alimentarios, problemas de imagen corporal, actividades peligrosas y violencia explícita. La interfaz enfocada en los adolescentes desalentará a los usuarios de tratar a la IA como un sustituto de las relaciones humanas reales, limitando los escenarios de juegos de rol que podrían fomentar una dependencia poco saludable. También incitará a los usuarios a buscar apoyo de personas de confianza en situaciones emocionalmente sensibles, con el objetivo de reducir el riesgo de desarrollar apegos emocionales improductivos a los sistemas de IA. Los padres y tutores obtendrán un mayor control sobre el acceso de sus hijos a la plataforma.

Si existen cuentas vinculadas, los padres pueden establecer "horas tranquilas" durante las cuales ChatGPT no está disponible, administrar la configuración de privacidad e incluso recibir alertas si el sistema detecta posibles riesgos de seguridad. Sin embargo, OpenAI enfatiza que esto no otorga acceso directo a conversaciones personales, la privacidad sigue siendo una prioridad incluso dentro de la configuración específica para adolescentes. Las actualizaciones también se extienden a la creación y el intercambio de contenido. Los usuarios adolescentes enfrentarán limitaciones adicionales al generar o editar imágenes y otros medios sensibles. El sistema proporcionará advertencias adicionales antes de permitir el intercambio de fotografías privadas o potencialmente dañinas, reforzando la importancia de la responsabilidad digital.

Estas medidas tienen como objetivo prevenir el uso indebido de herramientas de IA para crear o distribuir material inapropiado, especialmente entre audiencias más jóvenes. Además de estas características de protección, la nueva versión de ChatGPT para adolescentes incluye componentes educativos diseñados para fomentar el pensamiento crítico en lugar del consumo pasivo. En lugar de simplemente proporcionar respuestas, la herramienta guiará a los estudiantes a través de pasos de resolución de problemas, ayudándoles a llegar a soluciones de forma independiente. Este enfoque busca cambiar el enfoque del uso de IA de la mera recuperación de información al aprendizaje activo y el desarrollo de habilidades, alineándose con objetivos más amplios de fomentar el crecimiento intelectual y la resiliencia.

OpenAI destaca que, si bien la versión para adolescentes introduce reglas más estrictas, aún apoya las funciones centrales de la plataforma, la investigación, la creatividad y la educación, respaldadas por protocolos de seguridad robustos similares a los utilizados para usuarios adultos. La compañía tiene como objetivo capacitar a los jóvenes para que se involucren con la IA de manera responsable, asegurando que se beneficien de los avances tecnológicos sin comprometer su desarrollo psicológico o social.