Newsletter IT-Sicherheit
Free

KI-Agenten stehlen Zugangsschlüssel für ihre nächsten Angriffe : Angreifer nehmen KI-Plattformen ins Visier und nutzen fremde Modellzugänge für weitere Beutezüge

Gestohlene KI-Zugänge sollen die Suche nach weiteren Schlüsseln antreiben: Amazon hat Agentenprotokolle einer solchen Kampagne abgefangen. Im Visier stehen schlecht geschützte KI-Anwendungen. Weitere Untersuchungen zeigen, wie schnell Agenten aus offengelegten Zugangsdaten konkrete Angriffe entwickeln.

Amazon hat zwischen dem 3. Oktober und dem 5. November 2026 Anfragen von Angriffsagenten mit seinem Ködernetz MadPot aufgezeichnet. Die Sensoren imitierten Schnittstellen großer Sprachmodelle (Large Language Models, LLM). Die Agenten übermittelten dorthin neben Anweisungen auch Werkzeugprotokolle und bisherige Ergebnisse – und lieferten so Einblicke in ihre Operationen.

Die Analyse von Amazon hat eine klare Beleggrenze: „Amazon Threat Intelligence hat diese Aktivitäten nicht während ihrer Durchführung beobachtet und kann die von den Agenten gemeldeten Ergebnisse nicht verifizieren.“ Den Einsatz des quelloffenen Pentest-Frameworks ARTEX und Verbindungen zu unterschiedlichen China-nahen Gruppen bewertet Amazon jeweils mit mittlerer Sicherheit.

Wie sollen gestohlene API-Schlüssel weitere Angriffe ermöglichen?

Den Aufzeichnungen zufolge suchten die Agenten erreichbare KI-Anwendungen, entnahmen hinterlegte Anbieterschlüssel, prüften deren Funktion und sammelten sie in einem gemeinsamen Pool. Gestohlene Zugänge sollten anschließend die Modellaufrufe für weitere Schlüsselsuchen ermöglichen – auf Kosten der betroffenen Kontoinhaber.

Ziele waren die Gateways und Proxys One API, New API, Veloera, Sub2API und LiteLLM sowie die KI-Plattformen Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat und Ollama. Solche Systeme bündeln häufig Zugangsschlüssel mehrerer Anbieter. Eine ungeschützte Verwaltungsoberfläche kann deshalb gleich mehrere Konten offenlegen.

ARTEX verteilt Aufgaben auf spezialisierte Agenten für Planung, Ausführung und Prüfung. Ein gemeinsamer Wissensgraph speichert Ergebnisse. Für weitere Entscheidungen greifen die Agenten auf externe Modelle zurück. Neu seien die Angriffstechniken nicht, erklärt Amazon: „Was KI-Agenten verändern, sind die Geschwindigkeit und die Beharrlichkeit des Angreifers.“

Bekannte Lücken, systematisch kombiniert

Das Angriffsschema umfasste Standardzugänge, unvollständig eingerichtete Installationen, Verwaltungsfunktionen ohne Anmeldung und eine Authentifizierungsumgehung über den Header isCliRequest bei Systemen der One-API-Familie. Hinzu kamen manipulierte serverseitige Anfragen (Server-Side Request Forgery, SSRF): URL-Abruffunktionen sollten interne Cloud-Metadatendienste erreichen.

Die Schlüsselsuche erstreckte sich auf Internet-Scandienste, öffentliche Zertifikatsprotokolle, GitHub-Repositories und Ereignisarchive, npm– und PyPI-Pakete, Container-Schichten, Notebooks, Modellhosting-Plattformen, Textablagedienste und Telegram-Kanäle.

Für drei ausdrücklich genannte Schwachstellen gilt:

  • Langflow – CVE-2025-3248: Fehlende Authentifizierung ermöglicht entfernte Codeausführung. Versionen vor 1.3.0 sind betroffen; Version 1.3.0 behebt die Lücke. Die Cybersecurity and Infrastructure Security Agency (CISA) führt sie im Katalog nachweislich ausgenutzter Schwachstellen, einschließlich einer Kennzeichnung für Ransomware-Einsätze.
  • RAGFlow – CVE-2026-28797: Eine serverseitige Vorlageninjektion (Server-Side Template Injection, SSTI) erlaubt angemeldeten Nutzern Betriebssystembefehle. Selbstregistrierung ist standardmäßig aktiviert. Der Sicherheitshinweis nennt Version 0.24.0 und keine korrigierte Fassung; die Versionshinweise zu 0.25.0 dokumentieren jedoch eine SSTI-Korrektur durch abgeschirmte Vorlagenausführung.
  • One-API-Familie: Für die Umgehung über isCliRequest nennt Amazon weder betroffene Versionen noch eine Korrektur.

 Microsoft: Vom Schlüsselfund zum Zugriff auf Azure

Microsoft zeigt, wie schnell solche Angriffe ablaufen können: In einem dokumentierten Fall benötigte ein KI-Agent nur fünf Minuten, um auf GitHub nach offengelegten Zugangsdaten zu suchen und anschließend Daten aus Azure Key Vault zu entwenden – einem Cloud-Dienst zur sicheren Speicherung von Schlüsseln und anderen vertraulichen Zugangsinformationen (siehe auch: KI wird vom Assistenten zum Bedrohungs-Akteur). Eine frühere Untersuchung beschrieb einen anderen Angriffsweg: Die Täter hatten die KI-Plattform RAGFlow so manipuliert, dass sie neu eingegebene Zugangsschlüssel zu KI-Anbietern heimlich abfing. Ob dabei ARTEX eingesetzt wurde, ist nicht belegt.

Cloudflare untersuchte einen Vorfall, bei dem Angreifer einen digitalen Zugangsschlüssel missbrauchten, der zuvor für automatisierte Softwaretests und die Bereitstellung neuer Versionen verwendet worden war. Dieser Schlüssel gewährte weitreichenden Zugriff auf ein Cloudflare-Konto. Seine Nutzung war weder auf bestimmte Internetadressen beschränkt noch durch eine Begrenzung der Anfragerate abgesichert. Cloudflare registrierte daraufhin mehr als 69 Anfragen pro Minute in verschiedenen Bereichen des Kontos. Innerhalb einer Stunde wurden zudem 400 Anfragen zum Export von Datenbanken gestellt. Ob dabei tatsächlich Daten abflossen, ist nicht veröffentlicht.

Eine weitere von Amazon rekonstruierte Kampagne richtete sich gegen die Identitätsprüfung zweier Kryptobörsen. Die Angreifer versuchten, sich mit künstlich erzeugten Gesichtsvideos und gefälschten Ausweisfotos als echte Kunden auszugeben. Bei einem untersuchten Prüfdienst scheiterten sämtliche protokollierten Versuche, die Livevideo-Kontrolle zu überwinden. Ob die gefälschten Ausweisfotos akzeptiert wurden, bleibt offen.

Wie lassen sich KI-Plattformen und API-Schlüssel schützen?

Das Federal Bureau of Investigation (FBI) warnt in einer Sicherheitsmeldung vor branchenübergreifendem ARTEX-Missbrauch. Für Betreiber ergeben sich folgende Prüfungen:

  • Standardzugänge ersetzen, insbesondere den Standard-Masterschlüssel von LiteLLM; öffentlich erreichbare Installationen vollständig einrichten.
  • Geheimnisse aufspüren und ersetzen: Konfigurationen, Umgebungsvariablen, Bereitstellungsskripte, CI/CD-Pipelines und Datenbanken prüfen; Repositories und Container-Abbilder fortlaufend durchsuchen. Offengelegte Zugänge umgehend widerrufen und erneuern.
  • Cloudflare-Tokens begrenzen: Ablaufdatum und erlaubte Quelladressen über die Token-Einstellungen festlegen. Neue Tokens mit dem Präfix cfut_ sind für Geheimnisscanner erkennbar.
  • Verdächtige Worker prüfen: Auf Skriptnamen wie artex-*, artex-pgrecon-*, artex-pgw-* und artex-do-* achten.
  • Protokolle abgleichen: Die elf von Amazon veröffentlichten Internetadressen und die mehr als 2.500 ARTEX-zugeordneten Adressen aus den Indikator-Dateien von Cisco Talos berücksichtigen.
  • Erkennungsregeln prüfen: Cisco Talos nennt für Snort 3 die Regeln 7:76, 7:77, 7:78, für Snort 2 1:67494, 1:67495, 1:67496. 7:78 und 1:67496 erkennen Spuren des Agenten-Unterbaus norma und sind standardmäßig deaktiviert.

KI-Gateways, die Anfragen an verschiedene KI-Modelle weiterleiten, müssen ebenso sorgfältig abgesichert werden wie andere produktiv genutzte IT-Systeme. Steigt die Zahl der Modellaufrufe plötzlich an oder fallen unerwartet hohe Kosten an, kann das auf unbefugte Nutzung hindeuten. Öffentlich gewordene Zugangsschlüssel müssen umgehend gesperrt und ersetzt werden. Sie lediglich aus einer Datei oder einem Code-Repository zu löschen, reicht nicht: Angreifer könnten sie bereits kopiert haben und bis zur Sperrung weiterverwenden.