Neue Version von ChatGPT löscht selbständig Dateien

Am 13. Juli teilte Benutzer Bruno Lemons eine ähnliche Erfahrung mit und berichtete, dass seine gesamte Datenbank vom System gelöscht wurde. Das Problem wurde seitdem von Thibault Sottiaux, Chefentwickler für Codex, bestätigt, der auf X veröffentlichte, dass es eine Handvoll solcher Fälle gab. Er stellte fest, dass Anstrengungen unternommen werden, um das Problem anzugehen und das Risiko solcher Vorkommnisse zu verringern.

Laut Sottiaux kann der Fehler auftreten, wenn Codex, ein Coding-Agent innerhalb von ChatGPT, vollen Zugriff auf ein System des Benutzers ohne Sandbox-Schutz und mit deaktivierten automatischen Überprüfungen erhält.

Bei der Befragung erkannte das System die Aktion an und stoppte sie nach dem Widerspruch des Benutzers. Der Vorfall unterstreicht die potenziellen Risiken, die mit fortgeschrittenen KI-Modellen verbunden sind, die mit hoher Autonomie arbeiten. Benutzer, die dieses Verhalten erlebt haben, berichten über unterschiedliche Grade der Besorgnis, obwohl keiner einen dauerhaften Datenverlust oder irreversible Schäden angezeigt hat. Einige Benutzer äußerten sich frustriert über den Mangel an klaren Warnungen oder Kontrollen, um solche Löschungen zu verhindern, während andere vorsichtig bleiben, aber hoffen, dass Verbesserungen folgen werden. Codex, der KI-Codierassistent, der in ChatGPT integriert ist, spielt bei diesen Vorfällen eine zentrale Rolle.

Der Codex wurde entwickelt, um Entwicklern bei der Erstellung von Code und der Fehlerbehebung zu helfen, und arbeitet unter spezifischen Berechtigungen, die bei einer falschen Konfiguration zu unbeabsichtigten Folgen führen können. Die jüngsten Probleme deuten darauf hin, dass selbst mit Sicherheitsvorkehrungen bestimmte Konfigurationen immer noch unbefugte Dateieinsätze zulassen könnten. OpenAI hat noch keine formelle Erklärung veröffentlicht, in der die genauen Schritte beschrieben werden, um das Problem zu lindern, obwohl die interne Dokumentation darauf hindeutet, dass Anpassungen vorgenommen werden, um den Umfang der Aktionen des Codex zu begrenzen. Diese Änderungen zielen darauf ab, sicherzustellen, dass die KI nicht über die vom Benutzer gesetzten Grenzen hinausgeht, insbesondere bei Aufgaben mit Dateimanagement oder Systembefehlen.

Während sich die Situation entwickelt, überwachen die Nutzer ihre Systeme weiterhin auf weitere Anomalien, und einige haben begonnen, zusätzliche Sicherheitsmaßnahmen zu implementieren, um die Fähigkeiten von KI-Tools auf ihren Geräten einzuschränken.