Agentic AI: Wer kontrolliert, wenn AI selbst handelt?

Mitarbeitende nutzen ChatGPT, Perplexity oder Copilot im Alltag, SaaS-Anbieter integrieren KI-Funktionen in bestehende Plattformen, und erste Unternehmen setzen KI-Agenten ein, die Informationen verarbeiten, Entscheidungen vorbereiten oder Aktionen auslösen. Damit verschiebt sich die Sicherheitsfrage grundlegend. Es geht nicht mehr nur darum, ob KI eingesetzt wird, sondern ob Unternehmen nachvollziehen können, wo KI genutzt wird, welche Daten verarbeitet werden und welche Zugriffe KI-Systeme besitzen.

Von der Schwachstelle zur Systemfrage

Was diese Entwicklung besonders herausfordernd macht, ist das Tempo des Wandels. KI-Fähigkeiten werden schneller in Unternehmensumgebungen eingebettet, als Sicherheitsteams die Auswirkungen bewerten können – auf Datenflüsse, Zugriffsrechte und Systemverhalten. Das Ergebnis ist eine wachsende Lücke zwischen Adoption und Kontrolle.

Anders als klassische Chatbots beantworten KI-Agenten nicht nur Fragen. Sie können aktiv auf Systeme zugreifen, Daten abrufen, Workflows anstoßen oder mit Anwendungen interagieren. Aus einem passiven Werkzeug wird damit ein aktiver Teilnehmer innerhalb der Unternehmensinfrastruktur.

KI-Agenten schaffen neue Angriffsflächen

KI-Agenten können weitreichendere Berechtigungen besitzen als die Personen, die sie nutzen. Fehlkonfigurationen oder überprivilegierte Zugriffe schaffen neue Angriffspfade. Prompts können sensible Informationen enthalten, die außerhalb etablierter Sicherheitsmechanismen verarbeitet werden. Gleichzeitig entwickelt sich klassische Schatten-IT zu Shadow AI, wenn Mitarbeitende nicht freigegebene KI-Dienste nutzen.

Traditionelle Sicherheitsansätze wurden nicht für dynamische, sprachbasierte Systeme entwickelt. Klassische Werkzeuge orientieren sich an bekannten Mustern oder klar definierten Regeln. KI-Systeme verhalten sich dagegen kontextabhängig und verändern ihre Interaktionen kontinuierlich. Unternehmen müssen daher verstehen, wie sich diese Systeme innerhalb der eigenen Organisation verhalten.

Warum Governance allein nicht reicht

In vielen Unternehmen konzentriert sich KI-Governance vor allem auf Richtlinien, Freigaben und Zugriffsregeln. Das ist notwendig, reicht jedoch nicht mehr aus. Denn KI-Risiken entstehen häufig nicht durch offensichtliche Verstöße, sondern durch schleichende Veränderungen im Verhalten.

Mitarbeitende laden sensible Dokumente in externe KI-Dienste hoch, KI-Agenten greifen auf Daten zu, die ursprünglich nicht für sie vorgesehen waren, und neue Integrationen schaffen unbeabsichtigte Verbindungen zwischen Systemen. Zusätzlich aktivieren Anbieter KI-Funktionen automatisch innerhalb bestehender SaaS-Plattformen – und schaffen so neue Datenflüsse, bevor Unternehmen die Möglichkeit hatten, diese angemessen zu bewerten.

Besonders problematisch ist die fehlende Transparenz. Viele Unternehmen wissen, welche offiziellen KI-Lösungen eingeführt wurden. Deutlich schwieriger wird es bei Schattennutzung oder autonomen agentischen Systemen. Dadurch entsteht ein wachsendes Ungleichgewicht: KI wird schneller implementiert, als Governance- und Sicherheitsprozesse nachziehen können.

Sichtbarkeit wird zur Voraussetzung

Die zentrale Frage lautet deshalb nicht mehr, ob KI genutzt wird. Entscheidend ist, ob Unternehmen noch nachvollziehen können, wie KI innerhalb der Organisation agiert. Sichtbarkeit wird damit zur Grundlage jeder belastbaren KI-Sicherheitsstrategie.

Unternehmen müssen verstehen, welche KI-Systeme genutzt werden, welche Daten verarbeitet werden, welche Berechtigungen KI-Agenten besitzen – und wann Verhalten von etablierten Mustern abweicht. Gerade in modernen KI-Umgebungen reicht punktuelle Kontrolle nicht mehr aus. Sicherheitsverantwortliche benötigen kontinuierliche Einblicke in Datenflüsse, Zugriffsrechte und Verhaltensänderungen.

Dabei geht es nicht darum, KI-Nutzung zu verhindern. Unternehmen stehen vor der Aufgabe, Innovation und Kontrolle gleichzeitig zu ermöglichen. Wer KI zu stark blockiert, riskiert Schattennutzung. Wer sie unkontrolliert freigibt, schafft neue Risiken für Daten, Identitäten und Systeme.

KI-Sicherheit beginnt im Betrieb

Viele Unternehmen beginnen mit Nutzungsrichtlinien, Schulungen oder Freigabeprozessen für KI-Tools. Diese Maßnahmen sind sinnvoll, lösen aber nur einen Teil des Problems. Die eigentliche Komplexität entsteht im laufenden Betrieb: Welche Daten fließen tatsächlich in ein KI-System? Welche Systeme werden angebunden? Und wann weicht ein Agent von seiner vorgesehenen Aufgabe ab?

Gerade bei KI-Agenten reicht es nicht aus, Berechtigungen einmalig zu vergeben und sie anschließend als statisch zu betrachten. Das Risiko entsteht nicht allein aus einem einzelnen Zugriff. Es entsteht, weil Agenten in wechselnden Kontexten agieren, mehrere Datenquellen kombinieren und über Schnittstellen und APIs auf Systeme zugreifen.

Securing AI wird zur Management-Aufgabe

Je autonomer KI-Systeme werden, desto wichtiger wird die Fähigkeit, ungewöhnliches Verhalten frühzeitig zu erkennen. Klassische Sicherheitsmodelle stoßen hier an ihre Grenzen, weil viele KI-Risiken nicht über bekannte Schadcode-Signaturen oder vordefinierte Angriffsindikatoren sichtbar werden.

Der Schutz von KI-Systemen geht damit über klassische IT-Security hinaus. Er wird zu einer Aufgabe für Governance, klare Zuständigkeiten, Risikomanagement und die Unternehmensführung. Unternehmen müssen künftig nicht nur definieren, welche KI-Systeme eingesetzt werden dürfen. Sie müssen auch festlegen, wie KI-Nutzung überwacht wird und wie Shadow AI erkannt wird. Die zentrale Herausforderung wird nicht sein, ob Unternehmen KI einsetzen. Entscheidend wird sein, ob sie die Kontrolle über diese Systeme behalten.

Bild: DC Studio / Magnific