Schatten-KI: Wer fragt schon um Erlaubnis? : Was IT-Verantwortliche dem Wildwuchs der KI-Anwendungen entgegensetzen können
KI-Werkzeuge prägen mittlerweile den Arbeitsalltag in vielen Unternehmen. Dass Mitarbeiter die IT-Abteilung um Erlaubnis bitten, bevor sie eine neue Anwendung einsetzen, ist wohl eher die Ausnahme. Die Folge: Schatten-KI entwickelt sich zum neuen blinden Fleck der Unternehmenssicherheit. IT-Security-Verantwortliche benötigen Transparenz, um Risiken zu erkennen, die SaaS-Nutzung zu kontrollieren und KI-gesteuerte Cloud-Aktivitäten zu sichern.
Dass sich mit KI die Produktivität steigern lässt, ist bekannt. Die Belegschaft nutzt KI-Assistenten, um E-Mails zu formulieren, Dokumente zusammenzufassen, Code zu generieren, Tabellen auszuwerten und die tägliche Arbeit zu beschleunigen. So weit, so gut. Problematisch wird es jedoch, wenn beim Einsatz von öffentlich zugänglichen KI-Werkzeugen auch vertrauliche Kundendaten einfließen, Besprechungsassistenten mit Microsoft 365 verknüpft werden oder Anwendungen von Drittanbietern umfassenden Zugriff auf Unternehmensdaten erhalten – und das alles ohne Wissen der IT-Abteilung.
Schatten-KI ist die neue Schatten-IT
Noch vor einigen Jahren hatten Unternehmen damit zu kämpfen, dass Mitarbeiter Cloud-Anwendungen nutzten, die vom IT-Team nicht abgesegnet waren. Heute hat sich diese Herausforderung weiterentwickelt: Anstelle von unbekannten Filesharing-Diensten oder Collaboration-Lösungen treten KI-Assistenten, entsprechende Browser-Erweiterungen, Produktivitätstools und Automatisierungsplattformen, die von Mitarbeitern sowohl privat als auch im Unternehmenskontext genutzt werden.
Die einschlägigen Anwendungen beanspruchen dann zum Teil weitreichende Zugriffsrechte auf E-Mails, Kalender, Dateien, Kontakte und Cloud-Speicher. Nur wenige Unternehmen wissen genau, wie viele dieser Verbindungen bestehen und welche Berechtigungen damit einhergehen. Erfahrungsgemäß werden Mitarbeiter oft kreativ, wenn es darum geht, die eigene Arbeit produktiver zu gestalten – überzeugt davon, im Sinne des Unternehmens zu handeln. Diese Initiative kann sich durchaus als Bärendienst erweisen, denn wenn sensible Informationen in nicht genehmigte KI-Tools eingegeben werden, können sie gespeichert, außerhalb der Kontrolle des Unternehmens verarbeitet oder sogar zum Trainieren externer KI-Modelle verwendet werden. Selbst vertrauenswürdige KI-Anwendungen bleiben ein Risiko, wenn Governance und Transparenz fehlen. Deshalb sollten Organisationen auch genau hinsehen, ob die Berechtigungen über das notwendige Maß hinausgehen und die Speicherung sensibler Informationen keine Unternehmensrichtlinien verletzt, gerade im Hinblick auf den Umgang mit Kundendaten oder geistigem Eigentum. Hier gilt es, geeignete Kontrollmechanismen zu etablieren. Es geht nicht länger darum, ob Unternehmen KI nutzen, sondern wie sicher die Technologien im Geschäftsalltag eingebunden sind.
Erste Hürde: Transparenz
Die größte Herausforderung besteht nicht darin, Schatten-KI zu stoppen, sondern sie überhaupt erst aufzuspüren. Was man nicht sieht, kann man auch nicht absichern, und die manuelle Suche nach neuen KI-gestützten Anwendungen oder OAuth-Integrationen ist auf Dauer nicht praktikabel. Da bestehende SaaS-Plattformen fast täglich um neue KI-Funktionen erweitert werden, ist eine kontinuierliche Transparenz unerlässlich. Genau an dieser Stelle kommen moderne Lösungen für „Cloud Detection and Response“ ins Spiel. Nach Angaben des Anbieters soll bereits die initiale Aktivierung von WatchGuard Cloud DR einen Überblick über bislang unbekannte Anwendungen verschaffen.
Was der erste Scan zutage fördert
Ein einziger Scan soll oft Dutzende Cloud-Anwendungen sichtbar machen, die mit der Umgebung eines Unternehmens verbunden sind, darunter KI-Tools, Drittanbieter-Integrationen und über OAuth angebundene Anwendungen, von denen die IT-Teams gar nicht wussten, dass Mitarbeiter sie nutzen. Sichtbar werden soll nicht nur, welche Werkzeuge mit der geschäftlichen Umgebung verbunden sind. Auch individuelle Fehlkonfigurationen sollen sich aufdecken lassen, und wo potenzielle Angriffsflächen bestehen, soll schnell erkennbar werden. So entsteht eine belastbare Grundlage für passgenaue Maßnahmen. Über die Funktionalität zum „SaaS Security Posture Management“ soll auch eine fortlaufende Identifikation von riskanten Konfigurationen, Sicherheitslücken und Konfigurationsdrift möglich sein. Auf diese Weise lässt sich handeln, bevor es zur Ausnutzung durch Angreifer kommt. Identity Threat Detection and Response (ITDR) soll darüber hinaus Transparenz im Hinblick auf verdächtige Kontoaktivitäten, kompromittierte Identitäten und riskante Zugriffsmuster schaffen.
Cloud-Security gehört zur Sicherheitsstrategie
Gerade vor dem Hintergrund des zunehmenden KI-Einsatzes kommen Unternehmen nicht mehr umhin, dem Thema Cloud Security dieselbe Bedeutung zuzumessen wie dem Schutz von Netzwerk und Endgeräten. Daher sollte auch im Rahmen einer Outsourcing-Strategie und der Auswahl eines geeigneten IT-Partners bzw. Managed Service Providers (MSP) darauf geachtet werden, dass dieser Bereich abgedeckt ist. Hier bestehen derzeit noch deutliche Unterschiede zwischen den Anbietern. Wenn ein MSP in der Lage ist, unbekannte KI-gestützte Anwendungen und Integrationen von Drittanbietern kontinuierlich zu erkennen, riskante OAuth-Berechtigungen zu identifizieren, Cloud-Identitäten zu überwachen und neu auftretende SaaS-Bedrohungen proaktiv zu adressieren, bedeutet dies einen spürbaren Sicherheitsgewinn. So lässt sich KI sicherer und produktiver einsetzen.
Autor
Paul Moll ist Senior Field Marketing Manager Central Europe bei WatchGuard Technologies.