Wer KI verbietet, treibt sie in den Schatten : Fünf Schritte zu KI-Governance, die den produktiven Einsatz nicht ausbremsen
KI-Funktionen breiten sich in Unternehmen schneller aus, als Sicherheitsverantwortliche Kontrollstrukturen aufbauen können. Kevin Schwarz, CTO in Residence bei Zscaler, skizziert einen Fünf-Schritte-Plan, der Governance ermöglichen soll, ohne den produktiven Einsatz künstlicher Intelligenz zu unterbinden.
Künstliche Intelligenz (KI) beschränkt sich nicht mehr auf spezialisierte Anwendungen. KI-Funktionen finden sich zunehmend in Standardsoftware, Browser-Workflows und Entwicklerplattformen. Immer mehr KI-Agenten laufen auf lokalen Clients und tauschen über Schnittstellen Daten mit Drittparteien aus. Die Folge: Der Datenverkehr rund um KI wächst rasant – mit mehr Transaktionen, mehr Verbindungen und häufig ohne klare Freigabeprozesse.
Für CISOs wird das zum Problem. Die schnelle Einführung agentenbasierter KI-Systeme lässt vielen Sicherheitsverantwortlichen kaum Zeit zur Reaktion. Zahlreiche Organisationen setzen die Technologien bereits ein oder testen sie, ohne über belastbare Governance-Strategien zu verfügen.
Laut der Zscaler-Studie „The Ripple Effect: A Hallmark of Resilient Cybersecurity“ räumt mehr als die Hälfte der befragten IT-Führungskräfte (54 Prozent) ein, dass ihre bestehenden Sicherheitssysteme komplexen Bedrohungen nicht gewachsen seien. Fast sechs von zehn Unternehmen (59 Prozent) haben demnach keinen Einblick in die Nutzung von Schatten-KI. 53 Prozent der Befragten befürchten zudem, dass die Nutzung öffentlicher KI-Anwendungen sensible Daten offenlegen könnte.
KI blocken beschleunigt Schatten-KI
In vielen Organisationen zeigt sich zunächst ein reflexartiges Muster: KI wird blockiert, weil Risiken schwer greifbar erscheinen. Dieses Verhalten verdeutlicht die große Unsicherheit der IT-Sicherheitsteams. Blockieren kann ein sinnvoller Anfang als erste Schutzmaßnahme sein, als dauerhafte Strategie ist ein solches Vorgehen jedoch nicht tragfähig. Denn entscheidend ist nicht allein, ob KI eingesetzt wird, sondern wo, wie und mit welchen Daten die künstliche Intelligenz interagiert. Ein belastbarer Governance-Ansatz schafft Einblick in alle KI-relevanten Datenströme, definiert Leitplanken und überprüft fortlaufend, ob diese Sicherheitsmechanismen wirksam umgesetzt werden.
Fünf Schritte für KI-Governance
Die folgenden fünf Schritte beschreiben einen pragmatischen Weg zu mehr KI-Governance für CISOs und fokussiert sich auf Sichtbarkeit, Datenkontrolle, Berechtigungsmanagement, Monitoring und organisatorische Einbettung.
Schritt 1: Sichtbarkeit über KI-Nutzung schaffen
Ohne belastbare Transparenz zum Einsatz von KI bleibt jede Governance-Diskussion abstrakt. Der erste Schritt besteht demnach darin, Sichtbarkeit über alle KI-relevanten Datenströme zu erhalten.
KI-Governance scheitert häufig an einem simplen Ausgangsproblem: Es ist unklar, welche KI-Tools und -Funktionen tatsächlich im Unternehmen im Einsatz sind. Eine reine Betrachtung von klassischen Large-Language-Modells-(LLM)-Angeboten greift zu kurz, da KI zunehmend in Anwendungen integriert ist oder in Form von Agents in unterschiedlichen Umgebungen in verschiedenen Abteilungen arbeitet. Hinzu kommen im Zuge der Prozessautomatisierung Schnittstellen in Lieferketten mit Drittparteien, bei denen KI-Agenten Daten untereinander austauschen.
Transparenz muss deshalb mehrere Ebenen umfassen. Dazu gehört die SaaS- und Web-Nutzung, also die Frage, welche KI-Dienste im Browser genutzt werden, soweit dies über Kategorien und Signaturen erkennbar ist. Ebenso müssen interne Cloud Use Cases berücksichtigt werden, weil KI in Cloud-Umgebungen als Service oder über interne Schnittstellen eingebunden wird. Und es muss die Client-Ebene einbezogen werden, denn lokal installierte Tools und Agenten können entstehen, die Aufgaben automatisieren und dabei Zugriff auf weitere Datenquellen erhalten. Der Übergang von Shadow IT zu Shadow KI folgt einem bekannten Muster, allerdings mit höherer Geschwindigkeit und größerer Komplexität.
Schritt 2: Daten klassifizieren und Schutzbedarf festlegen
Der zweite Schritt ist die Datenklassifizierung, um zu verhindern, dass KI zur ungebändigten Datenkrake wird, die unbegrenzten Zugriff auf Unternehmensassets hat. Je stärker KI in Prozesse eingebunden wird, desto mehr Daten bewegen sich in Richtung externer oder interner Modelle – als Upload, Texteingabe, Copy/Paste, API-Request oder als Output, der wiederum in Systeme zurückfließt. Damit wird die Datenklassifizierung zum Fundament jeder Kontrollfunktion.
Voraussetzung zum verantwortungsvollen Einsatz von KI ist eine pragmatische Klassifizierung nach Kritikalität der Datenbestände. Diese Kategorisierung kann im Anschluss in Zugriffsrichtlinien übersetzt werden, etwa entlang von Kategorien wie geschäftskritischer IP, Kunden- und Vertragsdaten, HR- und Finanzdaten sowie internen Informationen mit begrenztem Schutzbedarf. Aufbauend auf der Klassifizierung legen die Verantwortlichen fest, welche Datenklassen in welche KI-Anwendungen, unter welchen Bedingungen und mit welchen Kontrollmechanismen interagieren dürfen? Ein solches Prinzip verhindert überprivilegierte Zugriffsrechte von KI-Tools auf kritische Daten und ist eine Voraussetzung zum Verhindern von ungewolltem Datenabfluss.
Eine große Herausforderung ist es, wie Daten heute mit KI-Tools geteilt werden. Screenshots von Daten, die mit dem privaten Smartphone aufgenommen werden, sind keine Seltenheit. Diese werden direkt in die eigenen LLMs eingefügt. Dies sind per se keine neuen Themen, aber das Nutzerverhalten und der Bedarf sind bei weitem höher, da Effizienz der Mitarbeiter schnell mit LLMs gesteigert werden kann.
Schritt 3: Oversharing durch klare Rechte begrenzen
Der dritte Schritt adressiert Oversharing von Daten, indem Berechtigungen, Plugins und Agentenrechte festgelegt werden. Sobald KI-Agents oder Integrationen im Spiel sind, verschiebt sich Governance von der Tool-Frage, also erlaubt oder verboten, zur Rechtefrage: Welche Zugriffsrechte bestehen tatsächlich, und wie weit reichen sie? Ein klassischer Blind Spot ist die Kette aus sanktionierter Anwendung und zusätzlichen Erweiterungen. Eine Plattform kann freigegeben sein, während Plugins oder Integrationen weitreichendere Zugriffe erhalten, als erwartet.
Auf KI übertragen potenziert sich das Problem, weil Agenten – je nach Architektur – Zugriff auf E-Mail, Files, Ticketing, CRM oder andere Systeme erhalten und im Namen von Nutzern Aktionen ausführen können. Damit wird Oversharing zum zentralen Risiko: nicht nur Datenabfluss, sondern auch die unkontrollierte Ausweitung von Berechtigungen. In der Praxis lassen sich erste “Guardrails” häufig über abgestufte Kontrollen realisieren, etwa über sanktionierte versus nicht sanktionierte Anwendungen, über Hinweisseiten statt pauschalem Blocken, über Isolation und Segmentierung für riskante Workflows sowie über Regeln, die private Accounts gegenüber Unternehmens-Accounts trennen, beispielsweise indem nur freigegebene Firmenzugänge zugelassen werden.
Schritt 4: Zero Trust und Monitoring operativ umsetzen
Der vierte Schritt ist die operative Durchsetzung über Zero Trust-Kontrollen und kontinuierliches Monitoring der Richtlinien. KI-Governance bleibt Theorie, wenn sie nicht technisch wirksam wird. Entscheidend ist eine operative Ebene, die mit Zero Trust-Prinzipien kompatibel ist: Nur wenn Datenflüsse und Zugriffe sichtbar sind, lassen sich Policies durchsetzen, und nur wenn kontinuierlich überwacht wird, lassen sich Veränderungen erkennen. KI-Agenten erhöhen die Dynamik zusätzlich. Verbindungen und Tool-Nutzung können sich schnell ändern, neue Zugriffe entstehen ad hoc.
Manuelle Freigabeketten skalieren hier häufig nicht, weil sich Geschwindigkeit und Änderungsrate flexibel am Bedarf orientieren und variieren können. Deshalb werden Kontrollen entlang von Identität, Kontext und Anwendung benötigt, ergänzt um Inhalts- und Datenkontrollen für Upload, Copy/Paste und API-Interaktionen, abhängig von der Datenklasse. Hinzu kommt Monitoring mit Anomalie-Erkennung, um ungewöhnliche Datenmengen, neue Ziele oder atypische Agentenaktivitäten frühzeitig zu erkennen und gegebenenfalls zu unterbinden. Damit verschiebt sich der Fokus von reiner Blockade hin zu einem steuerbaren Modell aus Erlauben, Einschränken, Isolieren und Überwachen. Dieser Bereich ist aber im generellen noch in der Entwicklung.
Schritt 5: Compliance, Rollen und Betriebsrat einbinden
Der fünfte Schritt verankert KI-Governance in betriebliche Compliance. Governance darf sich nicht nur auf Technologie beziehen, sondern benötigt organisatorischen Unterbau. Dazu müssen Verantwortlichkeiten definiert und Compliance-Anforderungen früh integriert werden.
In der Praxis zeigt sich, dass CISO oder CSO, eng mit KI-Verantwortlichen verzahnt arbeiten müssen. KI-Adoption ohne Security wird im Enterprise-Kontext kaum skalieren, Security ohne Verständnis der KI Use-Cases reduziert Governance dagegen auf reine Restriktion. Zusätzlich spielt in Deutschland häufig der Betriebsrat eine zentrale Rolle. Sobald Sicherheitsmaßnahmen potenziell Eingaben oder Nutzungsverhalten sichtbar machen können, entsteht schnell die Diskussion um Verhaltenskontrolle. Governance muss deshalb Zweckbindung, Transparenz, Prozessklarheit und datenschutzkonforme Umsetzung berücksichtigen, nicht nachgelagert, sondern als Teil des Designs.
Fazit
KI ist in Unternehmen bereits angekommen, sichtbar oder unsichtbar. Der entscheidende Schritt besteht darin, von einer reaktiven Blockadehaltung zu einer steuerbaren, skalierbaren Governance zu gelangen. Der Fünf-Schritte-Ansatz gibt CISOs dafür eine klare Reihenfolge vor: Sichtbarkeit, Datenklassifizierung, Rechtekontrolle, Zero Trust-gestützte Durchsetzung mit Monitoring sowie Compliance und organisatorische Verankerung. Auf dieser Basis entsteht ein Rahmen, der Risiken reduziert und gleichzeitig die Voraussetzung schafft, KI kontrolliert und produktiv einzusetzen.
Autor
Kevin Schwarz ist CTO in Residence bei Zscaler.