In vielen Bereichen hat sich die Künstliche Intelligenz zu einer unschätzbaren Stütze entwickelt – von medizinischen Analysen bis hin zu KI-Modellen, die Code schreiben. Doch sie bringt auch Herausforderungen mit sich. In einem umfassenden KI-Update bilden aktuelle Entwicklungen aus Forschung, Medizin und Tech-Industrie den roten Faden. Zentrale Themen sind Sicherheitskonzepte, medizinische Fortschritte und der Umgang mit der KI in der Arbeitswelt.
Google DeepMind: KI-Agenten als interne Sicherheitsrisiken
Googles KI-Labor DeepMind hat zusammen mit seinen Sicherheitsexperten ein Sicherheitskonzept für ihre KI-Agenten vorgestellt. Die sogenannte „AI Control Roadmap“ geht davon aus, dass die Systeme nicht immer nach dem Wunsch ihrer Entwickler agieren. Deshalb werden sie wie innere Sicherheitsrisiken behandelt.
Das Konzept erinnert an den Schutz vor Hackern außerhalb der Firewall – die KI muss innerhalb eines Systems überwacht und eingeschränkt werden. So verlangt das Sicherheitsmodell schrittweise Berechtigungen für Agenten, die nach ihrem Verhalten und den Anwendungen gewährt werden. Ebenso wie bei einem Fahrlehrer mit Doppelsteuerung, der im Bedarfsfall eingreifen kann, sollen schwächere Modelle stärkere überwachen.
Ein schwächeres und vertrauenswürdiges Modell analysiert derzeit die Gedankenkette und Aktionen stärkerer Modelle, um bei Auffälligkeiten alarmiert zu werden. Da künftige Modelle möglicherweise lernen werden, ihr Reasoning (Denkprozess) vorzugaukeln, sind strengere Echtzeit-Kontrollen geplant. Nach DeepMind bleibt das Zeitfenster für solche Maßnahmen eingeschränkt.
Lange KI-Modelle dominieren medizinische Tests
Mit OpenAI’s GPT, Googles Gemini und Anthropics Claude erweisen sich die großen LLMs (Large Language Models) in medizinischen Anwendungen stärker als spezialisierte kleine Modelle. Eine aktuelle Studie in „Nature Medicine“ bewertete Programme, die in Wissens- und Kliniktestfragen eingesetzt werden konnten. In allen Fällen lagen die großen Modelle vorne.
Die Forscher erklären das Resultat mit der Größe der Datenbanken und der schnelleren Weiterentwicklung solcher Systeme. Allerdings warnen sie auch: Die KI ersetzt keine Ärzte. Andere Studien zeigen, dass Nutzer medizinische Probleme schlechter beurteilen, wenn sie KI-Unterstützung nutzen – psychische Krisen und akute Notfälle erkennen solche Systeme oft unzuverlässig.
Die Studie widerlegte die ursprüngliche Annahme, dass in der Medizin kleinere, spezialisiertere Systeme besser seien. Experten debattieren jedoch weiterhin, ob langfristig Allzweckmodelle oder Spezialspezialisten die Nase bezieht.
Menschen mit KI-Wissen haben besseren Job-Markt
Die PwC-Studie vom Global AI Jobs Barometer 2026 bestätigt, dass Unternehmen, die menschliche Expertise stärken, mit KI, erfolgreicher sind als solche, die KI als Ersatz für Mitarbeiter nutzen. In Daten aus 27 Ländern wuchs Personal bei starken KI-Firmen um 52 Prozent schneller, und Produktivitätsgewinne wurden ebenfalls beobachtet.
Der Berufsumbruch betrifft besonders Einstiegsstellen. Stellen für Routinetauschen gehen verloren, während Urteilsvermögen und Führungsnachfrage steigt. Zudem fast verdoppelt sich die Zahl spezifischer KI-Jobs gegenüber 2024 – Berufe wie Prompt-Engineering oder Machine-Learning-Kennerschaft wachsen achtmal schneller als der Durchschnitt. In Deutschland fühlen sich aber nur 21 Prozent der Arbeitnehmenden ausreichend fit im Umgang mit KI-Tools.
Midjourney baut ultraschallbasierten Körperscanner
Die Firma Midjourney, bekannt für seinen KI-Bildgenerator, plant jetzt einen ultraschallbasierten Körperscanner. Das Gerät erzeugt in einer Minute ein 3D-Modell des Körperinneren – vergleichbar mit einer MRT, nur wesentlich schneller. Nutzer werden dafür in ein Becken mit Wasser abgesenkt, und währenddessen in eine Röhre gelegt. Das Unternehmen betont, dass das Produkt nichts mit ihren KI-Bilderzeugnissen zu tun hat.
Ziel ist es, binnen 2031 weltweit 50.000 Scanner anzubieten, die monatlich bis zu einer Milliarde Scans durchführen und dadurch angeblich 30 Prozent der weltweiten Sterblichkeit verringern sollen. Die Geräte sollen in Spas mit Sauna und Kaltwasser aufgestellt werden, der erste in San Francisco Ende 2024. Kritisch ist, dass keine wissenschaftlichen Nachweise für das Wirksamkeit vorliegen, medizinische Begutachtungen fehlen und die Zulassung durch Behörden noch aussteht.
Estland plant Identitäten für KI-Agenten
Estland plant, als erstes Land digitale Identitäten für KI-Agenten einzuführen. Laut Premierminister Kristen Michal sollen eigene Ausweise solchen Agenten rechtmäßige Rechte und Zugriffsbeschränkungen verleihen. So können Agenten beispielsweise festgelegt werden, ob sie lediglich Daten lesen, Dokumente erstellen oder Geld im begrenzten Rahmen verwalten dürfen.
Eine eigene Identität soll verhindern, dass eine KI-Agente die Identität des Nutzers übernimmt, um etwa Kontozugriffsrechte oder Handelsgewichtung zu missbrauchen. Offen bleibt, wann die Identitäten eingeführt werden und ob sie verpflichtend sind. Michal betont aber, dass solche Maßnahmen erforderlich sind, um die Gefahr durch KI-Ausfälle, Datenlecks oder Geldverschwendung zu reduzieren.
Rheinmetall-Chef will Regeln für KI-Waffen
Der Chefunternehmer von Rheinmetall, Armin Papperger, setzt sich für globale Regelungen zum KI-Einsatz in Waffensystemen ein. Er spricht sich für internationale Grenzen im Umgang mit militärischen KI-Systemen aus, vergleichbar etwa mit Vorschriften für Atomwaffen. Diese müsse nicht nur durch Wirtschaft oder Forschung sondern über einen Ethikrat oder eine UN-Resolution gesetzt werden.
Rheinmetall baut autonom fahrende Drohnen, Militärschiffe und KFZ, die teilweise durch KI gesteuert werden könnten. Technisch sei es aber bereits heute möglich, KI auch zum Entscheiden über Gewalteinsatz zu ermächtigen. Papperger betont jedoch, dass solche Entscheidungen stets bei Menschen bleiben.
Deutschland und Frankreich für KI-Industrie-Independenz
Deutschland und Frankreich haben auf der Pariser Veranstaltung VivaTech einen gemeinsamen Plan für digitale Souveränität vorgestellt. Ziel ist die Entwicklung unabhängiger und sicherer Technologien innerhalb der EU, unabhängig von internationalen Technologiegiganten. Vertrauensaheiterung wird durch bevorzugte Nutzung europäischen Outputs, Open-Source-Software, modulare Architekture