United StatesOpenAI hat ein KI-Modell namens GPT-Red entwickelt, das als "Super-Hacker" zur Verbesserung der Sicherheit seiner anderen großen Sprachmodelle (LLMs) fungiert. GPT-Red automatisiert Red-Teaming-Prozesse, die traditionell von menschlichen Experten durchgeführt werden, um Schwachstellen in KI-Systemen zu identifizieren. Dieses Modell wurde während der Ausbildung von GPT-5.6 verwendet, um seine Abwehrmaßnahmen gegen Cyber-Bedrohungen zu verbessern. GPT-Red konzentriert sich auf die Erkennung von Prompt-Injection-Angriffen, bei denen Hacker LLMs manipulieren, um nicht autorisierte Aktionen auszuführen. Das Modell wurde durch eine Selbstspiel-Schleife mit anderen Modellen trainiert, die reale Szenarien wie Web-Browsing und Code-Editing simulieren. Forscher behaupten, dass GPT-Red neuartige Angriffsmethoden effizienter als menschliche Teams entdeckt.
Tendenz-Einschätzung (Mitte): Der Artikel präsentiert eine technische Erklärung der GLM-Sicherheitsverbesserungen ohne offensichtliche ideologische Neigung.
