Cloudflare in Halle 7A – 226 KnowBe4 in Halle 6 – 105 Proliance in Halle 7 – 205 : Reifegrad der KI und Auswirkungen auf die Risikoexposition : Experten diskutieren auf der it-sa, ob KI die Sicherheitslandschaft revolutioniert oder nur ein weiteres Werkzeug ist
Die zunehmende Nutzung von Künstlicher Intelligenz (KI) in der Cybersicherheit wirft grundlegende Fragen zur Verteidigungsstrategie auf. Bis 2026 könnte sich zeigen, ob KI nur ein weiteres Werkzeug oder eine echte technologische Revolution darstellt. Sicherheitsexperten stehen vor der Herausforderung, das richtige Maß an Vertrauen und Kontrolle für KI-Systeme zu finden.
Die Häufung von Schwachstellen und erfolgreichen Angriffen auf KI-Systeme zeigt die Verwundbarkeit dieser Technologie. Gleichzeitig entwickeln Cyberkriminelle eigene KI-Tools oder nutzen vorhandene Systeme durch geschicktes Prompting für ihre Zwecke.
Für IT-Sicherheitsverantwortliche stellt sich die Frage, wie viel Vertrauen sie der KI schenken können – und aufgrund von Ressourcenmangel vielleicht auch müssen. Sie müssen entscheiden, wie viel Governance von KI oder mit KI sie zulassen können oder müssen und wie sie diese Kontrollebene außerdem so flexibel halten, dass sie mit den nächsten Sprüngen mithalten kann.
Auf einem Panel auf der it-sa werden die Teilnehmer Stefan Henke, RVP DACH bei Cloudflare, Dr. Martin Krämer, Security Awareness Advocate bei KnowBe4 und Florian Müller Head of Product & Technology bei Proliance dieses Thema diskutieren.
Martin Krämer sieht in KI eine große Chance für die Cybersicherheit, insbesondere Agentic AI verspricht Effizienz- und Qualitätssteigerungen, die bei der Verteidigung entscheidende Verbesserungen liefern können. „Es geht darum, KI wohlüberlegt, in großem Umfang und mit mehrschichtigen Abwehrmaßnahmen einzusetzen“, gibt Stefan Henke zu Bedenken, doch „wer zögert, riskiert, nicht nur von Angreifern überholt zu werden, sondern auch von Wettbewerbern.“
Florian Müller teilt die Einschätzung, sieht aber einen Unterschied im Reifegrad und in der Governance: „Unkuratiert eingesetzte KI erhöht die Komplexität der Sicherheitslandschaft und schafft neue Angriffswege.“
Doch auch die andere Seite setzt auf KI. Sie ermöglicht Cyberkriminellen Exploits aufzudecken oder großflächige Social Engineering-Attacken mit geringem Aufwand durchzuführen. Speziell in der Cloud kann so ein Angriff in unter zehn Minuten gelingen. Letztlich stärkt KI also beide Seiten, Verteidiger aber auch Angreifer. Für Henke ist daher entscheidend, wer ihre Fähigkeiten effektiver nutzt.
Governance als Schlüsselfaktor
KI vergrößert allerdings auch die Angriffsfläche. Krämer ist der Meinung, „dass Effizienzsteigerungen bei der Verteidigung sie möglicherweise kleiner oder wenigstens einfacher zu bewältigen erscheinen lassen.“ Müller pflichtet ihm bei, „wenn KI als Kontrollverstärker wirkt, kann sie für weniger unerkannte Schwachstellen und deren schnellere Schließung sorgen.“ Es kommt also auf die richtige Governance an, die für Henke ein „lebendiges Rahmenwerk, ein Betriebssystem des Vertrauens“ sein muss: „Im Kern sollten klare Grenzen dafür definiert werden, wie KI-Systeme in Sicherheitsumgebungen trainiert, eingesetzt und überwacht werden.“ Krämer ergänzt die für ihn wichtigen Faktoren: „Transparenz und Nachvollziehbarkeit, menschliche Kontrolle und Resilienzsteigerung, Robustheit, und Verantwortlichkeit.“
Wie KI für die IT-Sicherheit richtig eingebettet wird, soll auf dem Panel am Mittwoch, den 8. Oktober von 13:00 bis 13:30 Uhr auf der it-sa in Halle 7, Forum D unter der Moderation von <kes> Chefredakteur Norbert Luckhardt diskutiert werden.