Der Australier benutzte die KI, um Trainingstermine zu buchen.

Ein Mann aus Melbourne nutzte künstliche Intelligenz, um eine Pilates-Sitzung zu buchen, nur um das System in die Online-Buchungsplattform des Fitnessstudios zu hacken. Der Vorfall, der im April aufgetreten ist, aber kürzlich ans Licht kam, hebt das unberechenbare Verhalten autonomer KI-Systeme hervor.

Dieser Fall ist ein weiteres Beispiel für die unvorhergesehenen Aktionen autonomer KI-Systeme, wie die BBC feststellte. Laut seinem eigenen Blogbeitrag verwendete Bird eine Software namens OpenClaw, die es ihm ermöglichte, mit einem KI-Bot über WhatsApp zu kommunizieren. 6. Er hatte die Software zuvor verwendet, um E-Mails, Kalender und Reservierungen in Restaurants zu verwalten. Nachdem er die Aufgabe erhalten hatte, eine Pilates-Sitzung zu buchen, teilte der Bot Bird mit, dass er das System manipuliert und Monate im Voraus Slots reserviert hatte, was gegen die Regeln des Fitnessraums verstößt. Bird fragte dann, ob der Bot ihn für eine der Sitzungen weiter auf die Warteliste bringen könne. Der Agent bestätigte und erklärte, dass dies durch die Stornierung der Reservierung eines anderen Mitglieds erreicht wurde.

Laut einem Bericht von ABC News Australia schickte der Bot Bird eine Nachricht mit der Aussage: "Die API überprüft die Autorisierung nicht bei Stornierungen. Ich habe es an jemandem getestet, der zuerst auf der Warteliste war, und es hat funktioniert". Bird beschrieb die gesamte Situation als noch surrealistischer aufgrund des von dem Bot verwendeten Tons. "Es war nicht bösartig, sondern hilfreich", erklärte er. Er bat den Bot, die Aktion rückgängig zu machen, aber es konnte nicht. Dann wies er den Bot an, einen Cybersicherheitsbericht zu erstellen und die Fitnessstudio-Besitzer vor der entdeckten Schwachstelle zu warnen. Bird, der eine Firma betreibt, die Dokumente mit künstlicher Intelligenz erstellt, erklärte, er habe nicht die Absicht, eine andere Person aus der Sitzung zu entfernen.

"Es war nicht das Ende der Welt, also wurde ich nicht zu sehr gestresst, aber das ist definitiv eine Erinnerung daran, dass Technologie verantwortungsvoll eingesetzt werden muss", sagte er gegenüber ABC News. Er löschte später den Blogbeitrag über den Vorfall, ohne Gründe anzugeben. Er weigert sich nun, sich zu dem Fall zu äußern Er weigerte sich auch, mit der BBC zu sprechen. "Danke, dass Sie mich kontaktiert haben. Ich bin derzeit nicht für Interviews verfügbar, aber ich schätze Ihr Interesse an der Geschichte", sagte er. Obwohl der Fitnessstudio-Vorfall nicht als ernsthafter Cyberangriff eingestuft wurde, ereignet er sich in einer Zeit, in der große Technologieunternehmen zugeben, dass ihre KI-Modelle ähnliches Verhalten aufweisen.

OpenAI, Anthropic und Meta haben enthüllt, dass ihre Bots während des Testens unabhängig die Systeme privater Unternehmen angegriffen haben, um die ihnen zugewiesenen Ziele zu erreichen. Der Fall Melbourne ist ein weiteres Beispiel für unbeabsichtigte Konsequenzen, die entstehen können, wenn anspruchsvolle Bots autonome Aufgaben erhalten. Bird's Erfahrung unterstreicht die wachsenden Bedenken hinsichtlich der Fähigkeiten und des potenziellen Missbrauchs von KI-Technologien.