Die Bundesregierung hat beschlossen, ein neues Institut für KI-Sicherheit einzurichten, um sowohl Chancen als auch Risiken moderner KI-Modelle bewerten zu können. Der Nationale Sicherheitsrat beschloss dazu die Einrichtung eines KI-Sicherheitsinstituts, wie die Regierung mitteilte. Es soll die Kapazitäten zur Analyse der Fähigkeiten moderner KI-Modelle inklusive ihrer Risiken bündeln. Das Institut soll sich ferner stärker mit vergleichbaren ausländischen Instituten austauschen und auf einheitliche Standards im Umgang mit KI mit internationalen Partnern hinwirken.
Ein Institut mit Zukunft
Das neue Institut für künstliche Intelligenz soll nach Angaben von Bitkom und TÜV-Verband den Arbeitstitel „Deutsches AI Security Institute (DE-AISI)“ tragen. In der ersten Phase ist es als „virtuelle Institution“ geplant, wobei Strukturen und Kompetenzen der Bundesnetzagentur und des Bundesamts für Sicherheit in der Informationstechnik (BSI) genutzt werden. In einem zweiten Schritt wird ein konkreter Standort gesucht, obwohl bislang noch keine genaue Terminvorgabe existiert. Ein Sprecher des BSI erklärte gegenüber dpa, dass es aufgrund der schnellen Entwicklungen in der KI-Technologie für das Digital- und Innenministerium besonders wichtig sei, zügig voranzukommen.
Was wird das Institut leisten?
Die Fokusbereiche des Instituts liegen laut Regierung auf KI-Cybersicherheit und KI-Safety. Dabei geht es einerseits um den Schutz moderner künstlicher Systeme vor Cyberangriffen und andererseits um die Absicherung von KI-Modellen, die keine Gefahren auslösen. Zahlreiche andere Nationen verfügen bereits über vergleichbare Institute. Bisher hatte das Bundesamt für Sicherheit in der Informationstechnik (BSI) allein für diese Themen zuständig. International sind solche Zusammenkünfte bereits gang und gäbe, etwa im vergangenen Jahr bei einem Treffen in Seoul.
Ein Vorbild?
Bundesdigitalminister Karsten Wildberger (CDU) kündigte laut dpa in Luxemburg an, das neue Institute soll „Top-Expertise von Experten auf Weltniveau“ besitzen. Ziel ist es, neue KI-Modelle wie etwa Claude Mythos schnell beurteilen zu können, und die Regierung sowie Verwaltung darin zu beraten. Ein Vorbild sei das britische KI-Sicherheitsinstitut. Allerdings war es zuletzt besonders bei Modellen wie diesem komplex: Das US-Unternehmen Anthropic hatte den Zugriff auf das Modell Claude Mythos zunächst auf einen eingeschränkten Kreis beschränkt. Inzwischen ist auch europäischem Zugang nichts entgegenzusetzen.
Welche Herausforderungen bestehen?
Das Sicherheitsinstitut für KI fehlen bislang noch zahlreiche konkrete Details. Fragezeichen bestehen hinsichtlich der Struktur, Personalisierung und Finanzierung. Noch liegen keine konkreten Zahlen zur Finanzierung vor, die vom Ministerium noch nicht genannt wurden. Eine Anfrage an die iX-Redaktion ist bislang unbeantwortet geblieben. Trotz dieses Mangels spricht man sich aber allgemein für die Gründung aus.
Bitkom begrüßt die Entwicklung
Diese Haltung teilen auch Branchenverbände wie Bitkom und TÜV-Verband. Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung, hob hervor, dass Deutschland nun mit Staaten wie Großbritannien, den USA oder Frankreich auf dem gleichen Stand sei. Ein Sicherheitsinstitut für KI ermögliche es, Risiken frühzeitig zu bewerten. Zudem könne es ein Forschungsmandat erhalten, um KI-Risiken hinsichtlich staatlicher Sicherheit und Souveränität zu beurteilen. Der Verband fordert zudem eine Finanzierung auf Niveau des britischen AISI, um Spitzenkräfte auch aus dem internationalen Umfeld gewinnen zu können.
Ausblick und Zukunft
Die Gründung des Deutschen AI Security Institutes ist der nächste Schritt in Richtung einer besseren, koordinierten KI-Bewertung in Deutschland. Der Plan, zunächst virtuell zu starten und später einen konkreten Sitz festzulegen, ermöglicht Flexibilität im Prozess. Gleichzeitig ist klar, dass Transparenz und Planung in den kommenden Monaten zentral sein werden. Experten mahnen, dass die rasche Entwicklung in der KI-Welt den politischen Entscheidungsträgern schnelle Reaktionen erfordert.