GenAI: produktiv und riskant
Generative künstliche Intelligenz (GenAI) hat sich mittlerweile von einer experimentellen Technologie zu einem Werkzeug entwickelt, das Unternehmen unterstützt, innovativ zu arbeiten und teils auch ihre Daten zu schützen. Anhand von Erkenntnissen aus ihrem im Juni veröffentlichten „The State of Generative AI Report“ folgern Palo Alto Networks, dass GenAI einerseits beispiellose Produktivitätssteigerungen ermöglicht, gleichzeitig aber neue, komplexe Risiken mit sich bringe. Auf Basis von Daten aus über 7000 weltweiten Kundenumgebungen hat das Unternehmen ermittelt, dass der GenAI-Traffic 2024 um über 890 % gestiegen ist. Die Zahl der GenAI-bezogenen Data-LossPrevention-Vorfälle (DLP) hat sich im laufenden Jahr 2025 im Vergleich zum Vorjahr um das 2,5-Fache erhöht – Mitte März 2025 hätten diese nach einem deutlichen Anstieg 14 % aller DLP-Vorfälle ausgemacht (vgl. Abb.).
Die Zahl von GenAI-bezogenen DLP-Vorfällen hat sich im ersten Quartal 2025 deutlich erhöht.
Auch im DACH-Raum zeige sich ein starker Anstieg beim GenAI-Einsatz – mit regionalen Unterschieden: In Deutschland führt Microsoft Power Apps mit 24 % des GenAI-Traffics, gefolgt von Grammarly (21 %) und ChatGPT (20 %). In der Schweiz dominiert ebenfalls Power Apps mit 33 %, MS Office365 Copilot folgt mit 25 %, ChatGPT mit 17 %. Und in Österreich lag Grammarly mit 33 % vorn, gefolgt von ChatGPT (25 %) und Power Apps (22 %).
Weltweite Top-10-GenAI-Applikationen (Prozentuierung auf die insges. beobachteten SaaS-Transaktionen)
Dabei würden auch in deutschen Unternehmensnetzwerken vermehrt Anwendungen genutzt, die ein besonders hohes Risiko für Datenlecks und Regelverstöße bergen. Unternehmen nutzen im Schnitt 66 verschiedene GenAI-Anwendungen – rund 10 % davon gelten als hochriskant. Über 70 % der getesteten GenAI-Apps lieferten laut Palo Alto Networks bei Sicherheitstests problematische Inhalte – von diskriminierenden Aussagen bis hin zu Bauanleitungen für Waffen. In Deutschland mache beispielsweise der KI-basierte Interviewer Micro 1 AI mittlerweile fast 49 % des risikobehafteten GenAI-Traffics in Deutschland aus – auch UseChat (ca. 32 %) und Zendesk AI (ca. 29 %) gehören zu den eingesetzten sicherheitskritischen Tools.
„Die Studienergebnisse offenbaren ein fundamentales Dilemma: Die Einführung von GenAI erfolgt oft schneller als deren sichere Integration. Ohne klare Richtlinien, technische Schutzmechanismen und kontinuierliche Überwachung riskieren Unternehmen nicht nur den Verlust sensibler Daten, sondern auch regulatorische Konsequenzen und Imageschäden. Für eine sichere Nutzung empfiehlt Palo Alto Networks unter anderem Zero-Trust-Architekturen, granulare Zugriffskontrollen und Echtzeit-Content-Scanning, um Sicherheitsrisiken frühzeitig zu erkennen und abzuwehren. Entscheidend ist es, Innovation und Schutz nicht als Widerspruch, sondern als gemeinsames Ziel zu verstehen“, kommentiert Martin Zeitler, Senior Director Technical Solutions bei Palo Alto Networks, die Studie.
Der vollständige Report „The State of Generative AI 2025“ steht über www.paloaltonetworks.com/resources/research/state-of-genai-2025 als 18-seitiges PDF in englischer Sprache zum kostenlosen Download (Registrierung erforderlich) zur Verfügung. (www.paloaltonetworks.de)
