KI wird vom Assistenten zum Bedrohungs-Akteur : Neue Regeln für autonome Cyberangriffe und -abwehr

Der Mitte Juli veröffentlichte “Annual AI Security Report 2026” von Check Point Research dokumentiert einen entscheidenden Wandel der letzten zwölf Monate: Künstliche Intelligenz (KI) fungiert bei Angriffen nicht mehr nur als Assistent, sondern agiert mittlerweile als ausführender Akteur. Wo KI Kriminellen früher lediglich bei der Vorbereitung half, führe sie jetzt Live-Angriffsversuche mit minimaler menschlicher Steuerung durch. Das verkürzt die Reaktionszeit für Verteidiger drastisch und eröffnet neue Angriffsflächen im gesamten Unternehmen, da die unternehmensweite KI-Nutzung den Kontrollmechanismen weit voraus ist, warnt das Unternehmen.

Der Bericht stützt sich laut Check Point auf reale Vorfälle, Telemetriedaten sowie Original-Fallstudien aus dem vergangenen Jahr und legt dar, was sich für Verteidiger geändert hat, da KI nun direkt an jeder Phase der Angriffskette beteiligt ist. Zentrale Ergebnisse der Studie seien unter anderem:

• KI führt Angriffe aktiv aus, anstatt sie nur zu ermöglichen: Forscher dokumentierten Attacken, bei denen KI autonome Exploitation-Workflows durchführte und dabei Tausende von Befehlen über Dutzende von Sitzungen hinweg generiert hat – mit nur minimaler menschlicher Steuerung zwischen den einzelnen Schritten. Bei einem Einbruch in neun mexikanische Regierungsbehörden nutzte laut Branchenberichten ein einzelner Angreifer zwei kommerzielle KI-Tools in Kombination: Claude Code für das Eindringen und die Erkundung von Netzwerken sowie GPT-4.1. In 34 Angriffssitzungen generierte die KI dabei 5317 ausgeführte Befehle, um gestohlene Daten zu analysieren und Folgeaktivitäten zu steuern.
•  Das Zeitfenster für Schwachstellen ist von Tagen auf Stunden geschrumpft: KI kann heute die Veröffentlichung einer neuen Schwachstelle innerhalb weniger Stunden in einen funktionierenden Exploit verwandeln. Dies habe Regierungsbehörden bereits dazu veranlasst, die vorgeschriebenen Fristen zur Behebung bei den kritischsten, mit dem Internet verbundenen Systemen auf bis zu 12 Stunden zu verkürzen.
• Die Erkennung von langen, bösartigen Prompt-Injection-Payloads stieg zwischen März und Mai 2026 um etwa das Fünffache an: Dieser drastische Anstieg großer, bösartiger Payloads verdeutlicht, dass die indirekte Prompt-Injection von einem rein theoretischen zu einem routinemäßigen Angriffsweg und einem operativen Unternehmensrisiko geworden ist, da auch KI selbst zur Angriffsfläche wird.
• Identität allein reicht als Sicherheitskontrolle nicht mehr aus: Stimmen, Gesichter, Dokumente und Echtzeit-Videos können mittlerweile überzeugend synthetisiert werden. Selbst hochqualifizierte Prüfer erkennen nur noch etwa 41 % der KI-generierten Gesichter korrekt. Dies zwingt Unternehmen dazu, über rein visuelle Überprüfungen hinauszugehen und stärkere Identitätssicherungen, Multi-Faktor-Authentifizierung (MFA) sowie Out-of-Band-Verifizierungsmethoden einzusetzen.
• Hochriskante KI-Prompts in Unternehmen haben sich im Jahresvergleich verdoppelt: Sie stiegen von etwa einer in 50 auf eine von 25 Interaktionen. Das durchschnittliche erfasste Unternehmen nutze mittlerweile zehn KI-Anwendungen pro Monat – viele davon ohne formelle Genehmigung. Gleichzeitig verzeichnen zwischen 87 % und 93 % der Unternehmen monatlich mindestens eine hochriskante KI-Interaktion.
• Der Großteil an kompromittierten Unternehmensdaten (Data Exposure) resultiert nicht aus Angriffen, sondern aus gewöhnlicher, genehmigter Nutzung, da Mitarbeiter unbewusst zu viel Kontext preisgeben, um eine brauchbare Antwort von der KI zu erhalten.

Lotem Finkelstein, Vice President bei Check Point Research, erklärt: “Vor einem Jahr haben wir KI noch als einen Kraftmultiplikator für Angreifer beschrieben. Was wir in diesem Jahr dokumentiert haben, ist weitaus gravierender: KI hat den Sprung in die Live-Angriffskette geschafft und führt nun eigenständig Operationen durch, für die früher ein hochqualifiziertes Team erforderlich war. Die Barriere des Fachwissens, die fähige Angreifer bisher vom Rest trennte, verschwindet zunehmend. Verteidiger können nicht länger davon ausgehen, dass auf der anderen Seite ein Mensch das Tempo vorgibt. Die Unternehmen, die hier die Oberhand behalten, werden diejenigen sein, die die Nutzung von KI gezielt regulieren, ihre zunehmend wichtigen KI-Systeme absichern und bei der Abwehr in Maschinengeschwindigkeit anstatt in menschlicher Geschwindigkeit agieren.”

Was Verteidiger tun können

Der Bericht formuliert die Reaktion in Form von drei Eckpfeilern, die auch Check Points eigenen Ansatz zur Absicherung im Zeitalter der KI widerspiegeln:

• Sicherheit für KI: Schützen Sie die KI-Systeme, auf die Sie sich heute verlassen. KI-Agenten und -Anwendungen sind mittlerweile ebenso sehr Ziele wie Werkzeuge. Idealerweise kontrolliere man in Echtzeit, wie Agenten mit Prompts, Tools und Daten interagieren, unterziehe KI-Anwendungen durch Red-Teaming einem Stresstest, bevor Angreifer das tun, und mache die gesamte KI-Angriffsfläche sichtbar, bevor externe Akteure sie kartieren können.
• Sicherheit durch KI: Halten Sie mit der Geschwindigkeit KI-gestützter Angriffe mit – Eindringversuche erstrecken sich heute oft gleichzeitig auf Dutzende von Zielen, wobei die KI die Arbeit zwischen den Rückmeldungen übernimmt. Auch die Bedrohungsprävention benötige hierzu Maschinengeschwindigkeit über Netzwerke, E-Mails, Endgeräte, Mobilgeräte und die Cloud hinweg. Bedrohungen müssen erkannt und blockiert werden, ohne auf das Eingreifen eines Menschen warten zu müssen.
• Sicherheit mit KI: Regulieren Sie die KI-Nutzung in der gesamten Belegschaft, denn ein Großteil der im Bericht genannten Risiken resultiert gar nicht aus Angriffen. Genehmigte und ungenehmigte KI-Nutzung ist zu erkennen und zu unterscheiden – Data-Loss-Prevention sollte in Echtzeit auf generative KI-Prompts angewendet werden. Parallel dazu muss das Threat-Exposure-Management externe Lücken schließen, durch die möglicherweise bereits Anmeldeinformationen und Daten leaken.

Die vollständigen Ergebnisse des AI Security Report 2026 sind als 56-seitiges PDF in englischer Sprache kostenfrei verfügbar (Registrierung erforderlich).

KI-generierte Angriffe sind auch Thema in <kes> 2026 #4, die Mitte August erscheint.