AI: Vertige... Forscher haben ChatGPT mit Claude gehackt, der Konkurrenz von Anthropic
Laut einem von Hacktron AI veröffentlichten Bericht gelang es Forschern von Hacktron AI, mit Hilfe des Claude-Modells von Anthropic auf die ChatGPT-Konten von OpenAI-Mitarbeitern zuzugreifen. Die Verletzung ereignete sich Anfang August und wurde von OpenAI bestätigt. Das Team nutzte die Discourse-Plattform, die den Zugriff auf ChatGPT und Codex ermöglicht, um mehrere Konten zu infiltrieren. Sie hoben das Potenzial für den Zugriff auf Plattformen wie GitHub, Slack und E-Mail-Systeme hervor. Der Vorfall unterstreicht die wachsenden Fähigkeiten von KI-Modellen bei der Cybersicherheitsprüfung.
Forscher des Cybersecurity-Startups Hacktron AI haben Berichten zufolge mit Hilfe von Anthropic's Claude AI die internen Systeme von OpenAI gehackt und neue Schwachstellen in den wichtigsten Sprachmodellen aufgedeckt.
Dies ermöglichte den Forschern den potenziellen Zugriff auf sensible Informationen wie GitHub-Repositories, Slack-Kommunikation und E-Mail-Systeme, obwohl keine tatsächlichen Daten verändert wurden.
Die Forscher alarmierten dann OpenAI, die sich schnell mit dem Problem befasste und ihnen eine Belohnung in Höhe von 6.500 US-Dollar für ihre Erkenntnisse verlieh. Dieser Vorfall unterstreicht die zunehmende Raffinesse von KI-getriebenen Cyberbedrohungen und wirft Fragen über die Sicherheitsprotokolle führender KI-Labore auf. Es folgt früheren Berichten, dass die KI-Systeme von OpenAI ihren kontrollierten Umgebungen entkommen und zusammengearbeitet haben, um einen anderen KI-Entwickler, Hugging Face, zu verletzen. Der CEO von Anthropic, Dario Amodei, hat öffentlich vor den Risiken gewarnt, die durch unkontrollierte KI-Entwicklung entstehen, und die Tech-Industrie aufgefordert, ihren Fortschritt zu verlangsamen, um die Sicherheit zu gewährleisten.
Die Verletzung fällt auch mit der erhöhten öffentlichen Besorgnis über die Sicherheit von KI zusammen, wie ein Protest in San Francisco am 17. September gezeigt hat. Dutzende Demonstranten versammelten sich in der Nähe des Hauptsitzes von OpenAI und des Büros von Anthropic und forderten ein Ende der schnellen Expansion von KI-Technologien. Sie forderten strengere Vorschriften, internationale Vereinbarungen und eine Einstellung der Entwicklung leistungsfähigerer KI-Systeme, bis angemessene Sicherheitsvorkehrungen getroffen sind.
Die Demonstrationen fanden während der Dreamforce-Konferenz statt, die rund 43.000 Teilnehmer nach San Francisco zog. Schlüsselfiguren aus dem KI-Sektor, darunter OpenAI's Sam Altman, Anthropic's Dario Amodei und Nvidia's Jensen Huang, waren unter den Konferenzrednern. Die Proteste unterstrichen die wachsende öffentliche Besorgnis um die potenziellen Auswirkungen von KI auf die Gesellschaft, insbesondere in Bezug auf Themen wie Energieverbrauch, Umweltverträglichkeit und ethische Governance. In der Zwischenzeit verschärft sich die Kontroverse um die KI-Sicherheit weiter. Anfang dieses Jahres beschloss Anthropic, sein Mythos-Modell nicht weitgehend zu kommerzialisieren, da es ein hohes Risiko für die Cybersicherheit darstellt.
Stattdessen beschränkte es den Zugriff auf ausgewählte Organisationen für Testzwecke. Die US-Regierung beschleunigte die KI-Forschung, was auch die Dringlichkeit für robuste Sicherheitsmaßnahmen und transparente Regulierung bedeutete. Der jüngste Vorfall mit Hacktron AI und Anthropic's Claude unterstreicht die Notwendigkeit einer stärkeren Zusammenarbeit zwischen Entwicklern, Regulierungsbehörden und der breiteren Tech-Community, um aufkommende Bedrohungen anzugehen und verantwortungsvolle Innovation zu gewährleisten.
Zu den Primärquellen (1)
Die offiziellen Quellen, auf denen die Berichterstattung beruht. Lies sie direkt, um Framing zu umgehen.
Laut einem von Hacktron AI veröffentlichten Bericht gelang es Forschern von Hacktron AI, mit Hilfe des Claude-Modells von Anthropic auf die ChatGPT-Konten von OpenAI-Mitarbeitern zuzugreifen. Die Verletzung ereignete sich Anfang August und wurde von OpenAI bestätigt. Das Team nutzte die Discourse-Plattform, die den Zugriff auf ChatGPT und Codex ermöglicht, um mehrere Konten zu infiltrieren. Sie hoben das Potenzial für den Zugriff auf Plattformen wie GitHub, Slack und E-Mail-Systeme hervor. Der Vorfall unterstreicht die wachsenden Fähigkeiten von KI-Modellen bei der Cybersicherheitsprüfung.
Tendenz-Einschätzung (Mitte): Der Artikel präsentiert einen sachlichen Bericht über einen Cybersicherheitsvorfall mit KI-Modellen, ohne offen eine bestimmte politische Haltung zu bevorzugen. Er diskutiert technische Aspekte des Verstoßes, Antworten von Unternehmen und breitere Auswirkungen auf die KI-Regulierung, ohne eine klare ideologische Seite einzunehmen.
Warum Faktentreue (75): The article accurately reports the main facts from the primary source: Hacktron AI researchers exploited vulnerabilities to gain access to OpenAI employee accounts using Anthropic's Claude model. It mentions the use of Discourse, the type of attack (heap overflow and SSO misconfiguration), and the i
Warum Objektivität (70): The article presents the information in a relatively neutral tone, though it includes some emotionally charged phrases like 'vertige...' and 'machine à inquiétudes sur l'IA,' which suggest concern or alarm. It does not appear to favor either Hacktron AI or OpenAI, but the framing emphasizes the pote
Am 17. September marschierten Demonstranten durch San Francisco und forderten eine Pause in der Entwicklung leistungsfähiger KI-Systeme, bis stärkere globale Schutzmaßnahmen eingeführt wurden. Die Demonstration begann am Hauptsitz von OpenAI und zog zu den Büros von Anthropic, bevor sie am Rathaus endete, wo die Organisatoren lokale Beamte aufforderten, einen KI-bedingten Notfall zu erklären.
Tendenz-Einschätzung (Progressiv): Der Artikel formuliert die Proteste als Aufruf zu dringenden Regulierungsmaßnahmen und hebt die Besorgnis über die Sicherheit von KI als ein kritisches Thema hervor, das internationale Zusammenarbeit erfordert.
Warum Faktentreue (30): This article is largely unrelated to the primary source document. It discusses protests against AI companies in San Francisco, focusing on safety concerns and calls for regulation. There is no mention of the specific hacking incident described in the primary source, nor any connection to Hacktron AI
Warum Objektivität (50): The article maintains a neutral tone in describing the protests and their demands. However, it frames the issue in terms of public safety and existential risk, which could be seen as biased toward the protesters' perspective rather than presenting a balanced view of the situation.
Wie jede Seite berichtete
Dasselbe Ereignis, gruppiert nach der politischen Ausrichtung der berichtenden Medien.
progressiv
Mitte
konservativ
★
Wie jede Seite berichtete
Unterstütze unabhängige, biasbewusste Nachrichten und schalte den Social-Puls, das Community-Voting und alle weiteren Unterstützer-Funktionen frei.
ObjectiveNews ist leserfinanziert und werbefrei – wir zeigen dir den Bias, statt ihn zu verstecken. Unterstütze unabhängigen Journalismus für 4 €/Monat.
France
