„Alles wie immer, nur schlimmer“ 4.0
KI-Agenten können Cyberangriffe zunehmend autonom planen und ausführen. Doch trotz neuer Technologie bleiben bekannte Schwachstellen und mangelnde Cyberhygiene zentrale Angriffsflächen.
Während wir gerade unsere Titelgeschichte zur aktuellen Bedrohung durch KI-generierte Malware (siehe S. 58) fertigstellten, warnte Mitte Juli der Annual AI Security Report 2026 von Check Point davor, dass künstliche Intelligenz (KI) nicht mehr nur als Werkzeug diene, sondern „komplexe Cyberangriffe mittlerweile völlig autonom und in rasender Geschwindigkeit ausführt“ – das Zeitfenster für die Behebung von Schwachstellen schrumpfe dadurch von Tagen auf Stunden (siehe auch S. 68).
Zur gleichen Zeit berichtete Cato Networks von einem Test in einer gesicherten Umgebung, „wie weit ein agentenbasierter Angriffs-Stack gehen kann, wenn einem Frontier-Modell ein einziges übergeordnetes Ziel, offensive Werkzeuge, operativer Kontext und genügend Autonomie gegeben wurden.“ Dabei habe die schnellste erfolgreiche Kompromittierung durch eine vollständige End-to-End-Angriffskette vom externen Zugriff bis hin zu Domänen-Administrator-Rechten in einer Active-Directory-Umgebung lediglich 40 Minuten benötigt und sei durch einen einzigen, übergeordneten Prompt initiiert worden, wobei der Agent die Planung und Ausführung weitgehend autonom übernommen habe.
Andernorts lief derweil eine interne Evaluation aus dem Ruder, bei der Modelle angewiesen wurden, „komplexe Angriffswege für fortgeschrittene Exploitation zu verfolgen, um ihre Cyber-Fähigkeiten zu quantifizieren“, wobei „die Ablehnungen von Cyber-Anfragen zu Evaluationszwecken reduziert gewesen“ sei, wie OpenAI anschließend in einer vorläufigen Analyse berichtete (https://openai.com/index/hugging-face-model-evaluation-security-incident/). Der KI-Agent brach letztlich unter Ausnutzung einer Zero-Day-Schwachstelle sowie erbeuteter Zugangsdaten erfolgreich aus seiner Testumgebung aus und kompromittierte Produktivsysteme von Hugging Face.
Martin Zugec von Bitdefender kommentierte: „Was meiner Meinung nach für KI-generierte Malware galt, untermauert auch dieser Vorfall: Die Bedrohung ist real, KI ist aber dabei keine Magie.“ Hier offenbare sich „nicht überragende Raffinesse, sondern unermüdliche Orchestrierung: ein Angreifer, der ein Dutzend mittelmäßiger Schritte in maschineller Geschwindigkeit aneinanderreiht – ohne Ermüdungserscheinungen und ohne menschliches Eingreifen.“ Dieser Unterschied spiele eine enorme Rolle für für die Abwehr: „Wer glaubt, es mit einer neuartigen Superwaffe zu tun zu haben, wartet auf eine neuartige Gegenmaßnahme. Wer jedoch erkennt, dass es sich um bereits bekannte, aber unerbittlich angewandte Angriffstechniken handelt, weiß bereits, was zu tun ist.“
Dan Schiappa von Arctic Wolf sieht das ähnlich: „Selbst hochentwickelte KI ist häufig erfolgreich, weil sie bekannte Schwachstellen ausnutzt. Ungepatchte Sicherheitslücken, unzureichend geschützte Kommunikationskanäle, übermäßige Berechtigungen und grundlegende Mängel bei der Cyberhygiene eröffnen Angreifern nach wie vor Angriffsmöglichkeiten.“ Die Technologie mag neu sein, nicht jedoch die Sicherheitslücken, die sie ausnutzt.
„Das zitierfähigste Wort für den Vorfall dieser Woche ist das Wort ‚autonom‘“, sagte Zugec weiter: „Am allerwichtigsten ist jedoch zu betonen, dass alles, was die Autonomie bewirkt hat, ganz gewöhnlich war. Wer sich konsequent gegen das Gewöhnliche verteidigt, gibt der autonomen KI keinen Raum.“
Nicht zu vernachlässigen ist darüber hinaus jedoch offenbar das notwendige Maß an Kontrolle, dass man KI-Agenten gegenüber an den Tag legt. Sich dabei auf die internen „Guardrails“ der Modelle zu verlassen, genügt bei Weitem nicht, wie auch der Autor unserer Titelgeschichte noch einmal sehr deutlich belegt hat. „Das Narrativ der ‚eigenmächtig handelnden KI‘ ist effizient darin, Verantwortung abzuwälzen“, unterstreicht indessen Richard Werner von TrendAI angesichts des Hugging-Face-Incidents: „Was tatsächlich passiert ist: OpenAI hat einen Agenten gebaut, der zu autonomen Cyber-Operationen fähig ist, ihn in einer vermeintlich kontrollierten Umgebung getestet und diese Eindämmung ist gescheitert.“ Wer autonome KI-Agenten im eigenen Hause einsetzt, steht wohl eher früher als später vor ähnlichen Herausforderungen – und sei es nur, weil man sich vor „Irrtum und Nachlässigkeit“ eigener (KI-)Mitarbeiter schützen muss.
Norbert Luckhardt