Neues Institut soll KI-Risiken bewerten

Die Bundesregierung hat die Gründung eines Instituts für KI-Sicherheit beschlossen. Die neue Einrichtung soll die Fähigkeiten und Risiken fortgeschrittener KI-Systeme bewerten. Die Einrichtung trägt den Namen „Deutsches AI Security Institute“, kurz DE-AISI. Zunächst sollen Strukturen der Bundesnetzagentur und des Bundesamtes für Sicherheit in der Informationstechnik genutzt werden. Später soll ein eigener Standort aufgebaut werden. Ein genauer Zeitplan steht noch nicht fest.

Technische Analysen stehen im Mittelpunkt

Das Institut soll keine klassische Behörde werden. Im Mittelpunkt stehen technische Analysen, welche Fähigkeiten besonders leistungsfähige KI-Modelle haben, welche Risiken sich daraus ergeben und welche Schutzmaßnahmen notwendig sind. Damit will die Bundesregierung schneller erkennen, welche Folgen neue Modelle für Wirtschaft und Gesellschaft haben.

Bisher gab es in Deutschland kein eigenes Institut nach dem Vorbild anderer Staaten. Großbritannien, die USA und Frankreich haben bereits eigene Strukturen geschaffen. Die Wirtschaftsverbände begrüßen den Schritt, verbinden ihn aber mit klaren Erwartungen. Der Verband der TÜV fordert eine enge Verzahnung von Forschung und Praxis. Dabei sollten auch Kompetenzen aus Wirtschaft, Aufsicht und Prüfwesen einbezogen werden.

Bitkom fordert Forschungsmandat, keine Regulierung

Der Digitalverband Bitkom fordert einen klar definierten Forschungsauftrag. Das Institut solle sich vor allem auf systemische Risiken für Sicherheit und Souveränität konzentrieren. Themen wie Arbeitsschutz, Verbraucherschutz, Datenschutz oder KI-Ethik sieht Bitkom bereits an anderer Stelle verankert. Das neue Institut dürfe keine zusätzliche Regulierungsebene schaffen.

In einem Positionspapier beschreibt der Bitkom die Anforderungen noch konkreter. Danach soll das DE-AISI Modelle unter kontrollierten Bedingungen testen, Missbrauchsanalysen durchführen, Red-Teaming-Verfahren einsetzen und neue sicherheitsrelevante Fähigkeiten untersuchen. Darüber hinaus sollen ressortübergreifend nutzbare Lagebilder erstellt werden. Diese sollen aufzeigen, welche technologischen Entwicklungen für die nationale Sicherheit, Souveränität und kritische Infrastrukturen relevant werden.

KI fährt Formel 1, die Regulierer Tretroller

Dass die Politik einen Wissenslieferanten braucht, liegt in der Natur der Sache: Die Entwicklung der KI schreitet mit einer Geschwindigkeit voran, die Regulierungsbemühungen zu einem Wettlauf macht, bei dem der Regulierer mit einem Tretroller gegen einen Sportwagen antreten muss. So wurde das KI-Gesetz vor seiner Verkündung mehrfach geändert, um den neuesten Entwicklungen Rechnung zu tragen.

Kritiker warnen vor zusätzlicher Bürokratie und einer Verstrickung des neuen Instituts in Kompetenzfragen. Denn es steht nicht allein auf weiter Flur. So ist die Abgrenzung zum BSI (Bundesamt für Sicherheit in der Informationstechnik) und zur Bundesnetzagentur wichtig. Die Bundesnetzagentur ist die Vollzugsbehörde des IT-Gesetzes, während sich das BSI unter anderem mit Softwaresicherheit befasst.

Symbolpolitik mit Beruhigungsapparat

Ein weiterer Punkt ist die Ausstattung. Auch hier muss das Institut schnell handlungsfähig werden. Dazu benötigt es Zugang zu ausreichend leistungsfähigen Rechenzentren, aktuellen Modellen und international ausgewiesenen Experten. Der Zugang zu Modellen ist ohnehin eine besondere Herausforderung angesichts der Sperrung der neuesten Anthropic-Modelle durch die US-Regierung. Kaum vorstellbar, dass hier noch Zugang gewährt wird.

Der Wirtschaftsjournalist Gunnar Sohn befürchtet, dass DE-AISI werde nur ein deutscher Beruhigungsapparat, eine weitere Volte der Symbolpolitik. Für ihn ist die Personalfrage der blinde Fleck in der Debatte: „Wer soll so ein Institut tragen? Solche Leute fallen nicht aus einem Organigramm. Sie werden nicht durch einen Kabinettsbeschluss geschaffen. Sie bewerben sich auch nicht automatisch auf Stellen, deren Sprache bereits erkennen lässt, dass der öffentliche Sektor oft kaum beschreiben kann, welche digitalen Kompetenzen er überhaupt sucht.“

Eine Dreiviertelmillion Jahresgehalt – nach TVöD?

Richtig ist: Der Bedarf an unabhängiger Bewertung wächst. Behörden und Unternehmen brauchen verlässliche Einschätzungen zu leistungsfähigen KI-Modellen, von ausgewiesenen Experten. Doch deren Anstellung dürfte nicht so einfach sein. Zwar gibt es unter den deutschen Expats in der Bay Area, aber auch in den gar nicht so wenigen deutschen KI-Startups genügend Spezialisten. Aber lassen die sich mit einem TVöD-Gehalt locken? Wohl kaum.

Selbst die Briten müssen bei der Besoldung Grenzen sprengen. So ist derzeit die Position des Chief Research Officer beim UK-AISI ausgeschrieben. Das angebotene Jahresgehalt liegt in der Spitze bei fast 280.000 Euro. Vergleichbare Positionen in anderen Behörden liegen rund 100.000 Euro darunter. Zum Vergleich: Ein Research Engineer mit Schwerpunkt Reinforcement Learning kann bei Anthropic London bei entsprechender Qualifikation ein Jahresgehalt von bis zu 730.000 Euro erreichen.

Bild: freepik