BSI- und TÜV-Studie zur Cybersicherheit : KI-Angriffe: Jedes sechste Unternehmen meldet Vorfälle
Einer Studie von BSI und TÜV-Verband zufolge haben 17 Prozent der Unternehmen in Deutschland binnen eines Jahres KI-gestützte Angriffe oder Betrugsversuche registriert. Nur elf Prozent verfügen über eigene Abläufe für solche Vorfälle.
TL;DR
- Laut einer Studie von BSI und TÜV-Verband hat jedes sechste Unternehmen in Deutschland binnen eines Jahres KI-gestützte Angriffe registriert, meist Phishing-Mails.
- Nur 11 Prozent haben eigene Abläufe für KI-Sicherheitsvorfälle.
- Knapp die Hälfte der Betriebe nutzt bereits KI, doch nur 31 Prozent davon setzen sie zur eigenen Abwehr ein.
- 29 Prozent der Unternehmen haben keine organisatorischen Maßnahmen zur Absicherung eigener KI-Anwendungen getroffen.
- 69 Prozent der Unternehmen, die KI nutzen oder planen, erwarten mehr Sicherheit durch unabhängige Zertifizierungen.
Künstliche Intelligenz (KI) ist in deutschen Unternehmen angekommen, sowohl im eigenen Betrieb als auch in den Händen von Angreifern. Die Absicherung hinkt jedoch hinterher. So lautet ein zentrales Ergebnis der „KI-Sicherheitsstudie 2026“, die das Bundesamt für Sicherheit in der Informationstechnik (BSI) und der TÜV-Verband am 7. Oktober vorgestellt haben. Für die gemeinsame Untersuchung „Künstliche Intelligenz und Cybersicherheit in Unternehmen“ wurden mehr als 500 Unternehmen mit mindestens 20 Beschäftigten befragt.
Demnach haben 17 Prozent der Betriebe in den zurückliegenden zwölf Monaten mindestens einen Cyberangriff oder Betrugsversuch erlebt, bei dem KI tatsächlich oder mutmaßlich im Spiel war. Bestätigte Fälle melden 4 Prozent, einen Verdacht 11 Prozent. Weitere 2 Prozent berichten von beidem. Schutzmaßnahmen und Prozesse, die gezielt auf solche Angriffe ausgerichtet sind, haben bislang nur wenige Unternehmen eingeführt, wie aus der Studie hervorgeht.
Welche KI-Angriffe treffen Unternehmen besonders häufig?
Am häufigsten stoßen Unternehmen auf Phishing-Mails, die kaum von echten Nachrichten zu unterscheiden sind. Neun von zehn betroffenen Unternehmen nennen diese Angriffsform. Nach Angaben der Studienautoren lassen sich solche Mails mit KI sprachlich glaubwürdig gestalten und passgenau auf einzelne Empfänger oder Firmen zuschneiden. An zweiter Stelle stehen mit 40 Prozent automatisierte Angriffsskripte. Sie suchen selbstständig nach Sicherheitslücken in der IT und passen ihr Vorgehen laufend an.
Elf Prozent der Betroffenen berichten von Deepfakes, also manipulierten Audio- oder Videoaufnahmen. BSI und TÜV-Verband zufolge kommen sie etwa beim sogenannten CEO-Fraud zum Einsatz. Dabei ahmen Betrüger die Stimme einer Führungskraft nach, um Beschäftigte zu Geldüberweisungen zu verleiten.
TÜV-Präsident Dirk Stenkamp hält die erfassten Fälle für unvollständig. Angreifer könnten mit KI ihre Attacken automatisieren und Menschen gezielter täuschen, sagte er. Ob eine E-Mail von einem Menschen oder einer Maschine stamme, sei für Beschäftigte häufig kaum noch erkennbar. Die bisher registrierten Vorfälle seien deshalb womöglich „nur die Spitze des Eisbergs“.
Nur wenige Unternehmen haben spezielle KI-Notfallprozesse
Die meisten Unternehmen sind nach den Ergebnissen der Untersuchung schlecht auf diese Bedrohungslage eingestellt. Auch unter Firmen, die KI bereits nutzen oder deren Einführung planen, haben nur 11 Prozent eigene Prozesse für KI-bezogene Sicherheitsvorfälle. 43 Prozent verlassen sich auf ihre allgemeinen IT-Sicherheitsabläufe, ohne diese um KI-spezifische Vorgaben erweitert zu haben. 20 Prozent arbeiten nach eigenen Angaben an entsprechenden Regeln. Ein Viertel hat bislang gar keine Vorkehrungen getroffen.
Auch als Werkzeug der Verteidigung wird KI kaum genutzt: Nur 31 Prozent der KI-nutzenden Unternehmen setzen die Technologie zur Stärkung ihrer IT-Sicherheit ein. Stenkamp sieht darin eine offene Flanke. Während Angreifer mit KI schneller und zielgenauer würden, müsse die Abwehr technologisch aufholen. KI könne helfen, verdächtige Muster und neue Angriffsmethoden zu erkennen und Attacken so früher zu bemerken. Unternehmen sollten zudem ihre Sicherheits- und Notfallprozesse um KI-Szenarien ergänzen.
Wie viele Unternehmen in Deutschland nutzen KI?
Laut der Befragung nutzen 49 Prozent der Betriebe bereits KI. Weitere 9 Prozent wollen innerhalb der kommenden zwölf Monate damit beginnen. 42 Prozent verzichten auf KI und haben auch keine entsprechenden Pläne.
Als Grund für diesen Verzicht nennen die Unternehmen am häufigsten einen fehlenden Nutzen (58 Prozent). Dahinter folgen Bedenken bei Datenschutz oder Sicherheit, die mehr als die Hälfte (53 Prozent) anführt. Als weitere Hindernisse geben die Befragten einen hohen Aufwand für die Integration (44 Prozent), rechtliche Unklarheiten (43 Prozent), mangelndes Know-how (39 Prozent) und die Erwartung hoher Kosten (36 Prozent) an.
Der Verzicht auf KI schützt allerdings nicht vor KI-gestützten Angriffen. Darauf wies BSI-Vizepräsident Thomas Caspers ausdrücklich hin. Eine intensive Beschäftigung mit dem Thema lohne sich daher für jeden Betrieb, unabhängig von der eigenen KI-Strategie.
KI-Sicherheit: Schulungen, Freigaben und Risikobewertung
Neben der Abwehr äußerer Angriffe müssen Unternehmen nach Darstellung von BSI und TÜV-Verband auch ihre eigenen KI-Anwendungen absichern. Bei den organisatorischen Maßnahmen liegen Schulungen vorn: 56 Prozent bieten ihren Beschäftigten allgemeine oder auf einzelne Rollen zugeschnittene Trainings an. Je 45 Prozent bewerten und klassifizieren KI-Anwendungen nach ihrem Risiko oder haben formale Freigabeverfahren eingeführt. 42 Prozent überprüfen ihre KI-Lieferanten und -Anbieter. 29 Prozent haben keine dieser Maßnahmen umgesetzt.
Bei technischen Vorkehrungen direkt an den Anwendungen sind die KI-nutzenden Unternehmen etwas weiter. Zwei Drittel (67 Prozent) sichern die Qualität ab und lassen kritische KI-Ergebnisse von Menschen prüfen. Gemeint sind Ausgaben, Entscheidungen oder Folgen eines KI-Systems, die großen Schaden anrichten können. 64 Prozent haben die Zugriffsrechte eingeschränkt, 62 Prozent schützen sensible Daten, etwa durch Anonymisierung. 52 Prozent testen ihre KI-Anwendungen vor dem Einsatz unter anderem auf Sicherheit. Eine Protokollierung oder Überwachung der KI-Nutzung gibt es dagegen nur in 40 Prozent der Fälle.
Stenkamp betonte, dass KI auch ohne Hackerangriff Schaden anrichten könne. Sie könne vertrauliche Daten preisgeben oder auf falscher Informationsgrundlage Entscheidungen treffen. Caspers forderte ebenfalls, dass Unternehmen die Grenzen ihrer Systeme kennen. Wer KI nutze, müsse wissen, wo deren Schutzmechanismen versagen. Dazu gehörten gezielte Tests und eine Überwachung im laufenden Betrieb.
Was erwarten Unternehmen von KI-Zertifizierungen?
Der TÜV-Verband wirbt in diesem Zusammenhang für externe Kontrollen. Nach Ansicht von Stenkamp unterstreicht die aktuelle Debatte um sogenannte Frontiermodelle, dass Sicherheitsbedenken beim KI-Einsatz berechtigt sind. Das Vertrauen in reine Selbstauskünfte der Hersteller sei erschüttert. Unabhängige Prüfungen könnten diese Lücke schließen, so der TÜV‑Präsident. Er verwies auf Chemieanlagen, Kraftwerke und Medizinprodukte, bei denen sich dieses Prinzip seit Langem bewährt habe.
Auch viele befragte Unternehmen versprechen sich etwas davon. 69 Prozent der Firmen, die KI nutzen oder einführen wollen, erwarten durch unabhängige Prüfungen und Zertifizierungen sicherere und zuverlässigere Anwendungen. Für 51 Prozent dieser Gruppe ist ein Zertifikat einer unabhängigen Prüfstelle schon heute ein wichtiges Kriterium bei der Auswahl. Die TÜV-Organisationen arbeiten nach eigenen Angaben gemeinsam mit dem TÜV AI.Lab an einem Rahmenprogramm für die Zertifizierung von KI‑Systemen. Es wird derzeit mit Pilotpartnern getestet und soll Ende 2026 verfügbar sein. Als Prüforganisation hat der TÜV-Verband dabei ein eigenes geschäftliches Interesse an solchen Zertifizierungen.
BSI-Empfehlungen und Hilfen für Unternehmen
Caspers bezeichnete KI als Schlüsseltechnologie mit direkten und strategischen Folgen für die nationale Sicherheit, die Handlungsfähigkeit des Staates, die Wettbewerbsfähigkeit der Wirtschaft und den gesellschaftlichen Zusammenhalt. Leistungsstarke Modelle verfügten schon heute über erhebliche Fähigkeiten bei der Verarbeitung von Wissen und Informationen, in der Softwareentwicklung, bei der Automatisierung komplexer Entscheidungen und bei Cyberoperationen. Die Studienergebnisse belegen nach seinen Worten, dass dieses Potenzial bislang nicht ausgeschöpft wird, vor allem nicht bei der Widerstandsfähigkeit gegen Angriffe. Unternehmen sollten sich zeitnah mit KI als zentralem Baustein ihrer Cybersicherheit befassen.
Für kleine und mittlere Unternehmen hat die beim BSI angesiedelte Allianz für Cyber-Sicherheit (ACS) parallel zur Studie das Handout „Schutz vor KI-verstärkten Cyberangriffen“ veröffentlicht. Es enthält konkrete Empfehlungen und Sofortmaßnahmen. Zudem hat die Bundesregierung mit dem AI Safety and Security Institute Deutschland (AISI Deutschland) eine nationale Kompetenz- und Prüfstelle für leistungsfähige KI-Systeme eingerichtet. In einer ersten Phase bilden BSI und Bundesnetzagentur einen „virtuellen“ Kern des Instituts. Das Bundesinnenministerium und das Bundesministerium für Digitales und Staatsmodernisierung haben beide Behörden mit dieser Aufgabe beauftragt.
Vertiefen wollen Fachleute von BSI und TÜV-Verband die Ergebnisse auf der diesjährigen Messe it-sa Expo & Congress. Unter dem Titel „AI is all you need … oder?“ soll ein Side Event die Befunde einordnen und praktische Empfehlungen geben. Thema sind der sichere KI-Einsatz, die Anforderungen an Organisation und Cybersicherheit sowie der mögliche Beitrag von KI zur Abwehr. Die Veranstaltung richtet sich vor allem an Entscheider, CISOs sowie IT- und Sicherheitsverantwortliche aus Unternehmen und Verwaltung.