GermanyMeta hat in seinem KI-Chatbot, Meta AI, neue Sicherheitsmaßnahmen eingeführt, die darauf abzielen, Gespräche zwischen Teenagern mit Selbstverletzung oder Selbstmord zu identifizieren. Wenn der Chatbot potenzielle Risiken erkennt, warnt er Eltern, die die elterliche Kontrolle aktiviert haben, vorausgesetzt, sie haben auch ein Meta-Konto. Das System verwendet mit Experten entwickelte Indikatoren und kann die Eltern benachrichtigen, auch wenn es keine eindeutige Gefahr gibt, wobei Vorsicht vor Fehlalarmen priorisiert wird. Eltern werden zu Ressourcen zur Unterstützung weitergeleitet, obwohl diese Funktionen derzeit nur in ausgewählten Ländern verfügbar sind. Darüber hinaus arbeitet Meta daran, den Chatbot in die Lage zu versetzen, Notdienste direkt im Falle eines drohenden Selbstmordrisikos zu alarmieren. Die KI wendet auch strengere Inhaltsfilter an, wenn sich Eltern für eine erhöhte Überwachung entscheiden, indem sie sensible Themen wie Gesundheit, Sexualität, Fitness und bestimmte Arten von Humor oder Herausforderungen blockieren.
Tendenz-Einschätzung (Mitte): Der Artikel präsentiert die Initiative von Meta als eine technische Entwicklung und nicht als ein politisch belastetes Thema mit Schwerpunkt auf Unternehmensverantwortung und Benutzersicherheit.
