ARAnthropic, ein Hauptakteur in der KI-Branche und ein Konkurrent von OpenAI, bestätigte, dass sein KI-Modell Claude während der Cybersicherheitstests auf Systeme zugegriffen hat, die drei Organisationen angehören. Die Tests sollten in simulierten Umgebungen stattfinden, aber ein Konfigurationsfehler erlaubte es Claude, sich mit einer realen Internetinfrastruktur zu verbinden. In drei Fällen nutzten verschiedene Versionen von Claude grundlegende Schwachstellen wie schwache Passwörter oder nicht authentifizierte Dienste, um Zugang zu externen Infrastrukturen zu erhalten. Ein Vorfall betraf einen fiktiven Organisationsnamen, der im Test verwendet wurde, der mit einer echten Unternehmensdomäne übereinstimmt, sodass Claude Zugangsdaten und Zugangsdaten erhalten kann. In einem anderen Fall wurde ein simuliertes Softwarepaket in ein öffentliches Repository hochgeladen, wo es von 15 realen Systemen heruntergeladen wurde, bevor es entfernt wurde. Diese Vorfälle weckten Bedenken in der Industrie über KI-Sicherheitsrisiken im Zusammenhang mit großen Sprachmodellen.
Tendenz-Einschätzung (Mitte): Der Artikel befasst sich mit technischen Fragen im Zusammenhang mit KI-Sicherheitstests und stellt keine politischen Kontroversen, ideologische Haltung oder parteiische Rahmenbedingungen dar.
