Google DeepMind misstraut den eigenen KI-Agenten
Googles KI-Labor DeepMind hat ein Sicherheitskonzept für seine internen KI-Agenten vorgelegt. Die "AI Control Roadmap" geht davon aus, dass die eigenen Systeme nicht zuverlässig im Sinne ihrer Entwickler handeln, und behandelt sie wie Sicherheitsrisiken von innen. Die KI-Agenten sollen nur schrittweise mehr Rechte bekommen, gemessen an ihrem nachgewiesenen Verhalten. Der Vergleich: ein Fahrlehrer mit Doppelsteuerung, der jederzeit eingreifen kann.
Nötig sei das, weil die Agenten tief in Googles Systemen arbeiten, Code schreiben und Zugang zu sensiblen Ressourcen haben. Zur Überwachung liest derzeit ein schwächeres, als vertrauenswürdig eingestuftes Modell die Gedankenkette und Aktionen des stärkeren Modells mit und schlägt bei Verdacht Alarm. Weil künftige Modelle ihr Reasoning verschleiern könnten, sieht ein Stufenplan strengere Kontrollen je nach Fähigkeitsniveau vor, von nachträglicher Protokollauswertung bis zu Echtzeit-Blockaden. DeepMind warnt zudem, das Zeitfenster für solche Standards sei schmal.
Medizin: Führende LLMs schlagen spezialisierte kleine Sprachmodelle klar
Große allgemeine KI-Modelle von OpenAI, Google und Anthropic beantworten medizinische Fragen besser als spezialisierte Systeme für Ärzte. Das zeigt eine Studie in Nature Medicine, für die ein Team aus New York die Programme in Wissenstests und echten Fragen aus dem Klinikalltag verglich. In allen Bereichen lagen die großen Modelle vorn. Die Forscher führen das auf ihre riesigen Datenmengen und die schnelle Weiterentwicklung zurück.
Ein Ersatz für Ärzte sind sie damit nicht. Andere Studien zeigen, dass Menschen mit Chatbot-Hilfe medizinische Probleme oft schlechter einschätzen, und die Systeme erkennen Notfälle oder psychische Krisen unzuverlässig. Das Ergebnis widerlegt die noch vor einem Jahr verbreitete Annahme, kleine, speziell trainierte Modelle lieferten in der Medizin bessere Ergebnisse. Fachleute streiten weiter, ob langfristig Allzweckmodelle oder Spezialsysteme gewinnen.
KI-Einsatz: Warum menschliche Expertise wichtiger ist als Automatisierung
Unternehmen, die KI zur Stärkung ihrer Mitarbeiter einsetzen , sind erfolgreicher als jene, die damit Menschen ersetzen. Das zeigt das Global AI Jobs Barometer 2026 von PwC, einer der größten Wirtschaftsprüfungsgesellschaften, das mehr als eine Milliarde Stellenanzeigen in 27 Ländern auswertete. Firmen, die stark auf KI setzen, wachsen beim Personal um 52 Prozent schneller und steigern ihre Produktivität deutlich.
Der Wandel trifft vor allem Berufseinsteiger: Klassische Einstiegsjobs für den Aufbau von Routine schwinden, gefragt sind stattdessen Urteilsvermögen und Führungsqualitäten. Zugleich hat sich die Zahl spezifischer KI-Jobs gegenüber 2024 fast verdoppelt, Stellen mit Prompt-Engineering oder Machine Learning wachsen achtmal schneller als der Gesamtmarkt. In Deutschland fühlen sich allerdings nur 21 Prozent der Beschäftigten fit genug, KI-Werkzeuge wirksam zu nutzen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Podcasts immer laden
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung .
Midjourney: Nach KI-Bildgenerator nun ein Körperscanner für die Menschheit
Midjourney, bekannt für seinen gleichnamigen KI-Bildgenerator, will einen Körperscanner bauen . Das ultraschallbasierte Gerät soll in einer Minute ein 3D-Abbild des Körperinneren liefern, ähnlich einem MRT, nur schneller. Nutzer stellen sich in eine Röhre und werden in ein Wasserbecken abgesenkt. Das Unternehmen räumt ein, dass das Produkt nichts mit dem Bildgenerator zu tun hat.
Die Pläne sind hochtrabend: Bis 2031 will Midjourney 50.000 Scanner installieren, die monatlich eine Milliarde Scans schaffen und so die Zahl der Todesfälle um 30 Prozent senken sollen. Die Geräte sollen in Spas mit Sauna und Kaltwasser stehen, das erste Ende nächsten Jahres in San Francisco. Belege für den Nutzen fehlen. Die Rechnung verlangt Massenabfertigung statt Erholung, eine medizinische Bewertung der Scans steht aus, und die Zulassungsbehörden müssten erst zustimmen.
KI-Agenten sollen eigene Ausweise erhalten, aus Estland
Estland will als erstes Land digitale Identitäten für KI-Agenten einführen , wie Premierminister Kristen Michal ankündigte. KI-Agenten greifen für ihre Aufträge oft auf E-Mail-Konten, Cloud-Speicher oder Bankzugänge ihrer Auftraggeber zu. Das kann teuer werden, etwa wenn Daten abfließen, gelöscht werden oder Geld verschwendet wird.
Michal fordert deshalb beschränkte und überprüfbare Rechte. So ließe sich festlegen, ob ein Agent Daten nur lesen, Dokumente erstellen oder in einem finanziellen Rahmen handeln darf. Ein eigener Ausweis soll es dem Agenten ermöglichen, sich als solcher auszuweisen, statt die Identität des Auftraggebers zu übernehmen. Wa…
Read the full article at heise online →
Germany