GermanyMeta ha introducido nuevas medidas de seguridad en su chatbot de IA, Meta AI, dirigidas a identificar conversaciones entre adolescentes que involucran autolesiones o suicidio. Cuando el chatbot detecta riesgos potenciales, alerta a los padres que han habilitado los controles parentales, siempre que también tengan una cuenta de Meta. El sistema utiliza indicadores desarrollados con expertos y puede notificar a los padres incluso si no hay un peligro claro, priorizando la precaución sobre las falsas alarmas. Los padres son dirigidos a recursos de apoyo, aunque estas características actualmente están disponibles solo en países seleccionados. Además, Meta está trabajando en permitir que el chatbot alerte directamente a los servicios de emergencia en casos de riesgo inminente de suicidio. La IA también aplica filtros de contenido más estrictos cuando los padres optan por una supervisión elevada, bloqueando temas sensibles como la salud, la sexualidad, el fitness y ciertos tipos de humor o desafíos.
Lectura del sesgo (Centro): El artículo presenta la iniciativa de Meta como un desarrollo técnico más que como un problema políticamente cargado, centrándose en la responsabilidad corporativa y la seguridad de los usuarios.
