Optro-Studie zur KI-Governance : KI-Agenten: Viel Befugnis, wenig Aufsicht
Laut einer Studie des GRC-Anbieters Optro hat bereits jedes dritte Unternehmen auf Basis einer fehlerhaften Entscheidung eines KI-Agenten gehandelt. Die Befugnisse der Agenten wachsen demnach schneller als die Fähigkeit der Organisationen, sie zu überwachen.
KI-Agenten genehmigen in Unternehmen inzwischen Transaktionen, ändern Richtlinien und passen Zugriffsrechte an. Viele Organisationen haben jedoch nicht ausreichend geklärt, wie sie diese Entscheidungen überwachen. Darauf deutet der Report „Authority without oversight“ von Optro hin. Für die Studie wurden 417 Entscheidungsträger aus Revision, Risikomanagement, Compliance, Governance und Informationssicherheit befragt. Sie arbeiten in Unternehmen mit mindestens 250 Beschäftigten in Nordamerika und Europa, 20 % davon in Deutschland. Ergänzend führte Panterra Global Interviews mit Mitgliedern von Optros Customer Advisory Board.
Welche Befugnisse haben KI-Agenten in Unternehmen?
Der Studie zufolge lassen 38 % der Organisationen Agenten Transaktionen oder Anfragen genehmigen oder ablehnen. 34 % erlauben ihnen, Kontrollen oder Richtlinien zu ändern, 27 % gestatten Eingriffe in Benutzerberechtigungen. In 23 % der Unternehmen darf ein Agent sogar einen anderen pausieren oder abschalten. Das bleibt nicht folgenlos. 34 % haben bereits auf Basis einer fehlerhaften Agentenentscheidung gehandelt, und 30 % erlebten eine unbeabsichtigte Aktion eines Agenten. 25 % berichten von einem Kontrollversagen, 24 % von Auswirkungen auf Kunden und 20 % von Konflikten zwischen zwei Agenten. Von den Unternehmen mit einer gescheiterten Agenten-Initiative bemerkten 28 % das Scheitern erst, als bereits nachgelagerte Prozesse betroffen waren. Als häufigste fehlende Voraussetzung nennen die Befragten die Datenqualität (36 %).
Formal ist menschliche Aufsicht fast überall vorhanden: 98 % sagen, Prüfer könnten einen Agenten stoppen oder übersteuern. Ob sie dafür genug Zeit und Kontext haben, hängt laut Optro stark vom Betriebsmodell ab. Der Report unterscheidet vier Archetypen. In der Gruppe „Moving fast“ (13 % der Befragten) haben die Prüfer nur in 64 % der Fälle ausreichend Zeit und in 70 % genug Kontext. Bei den „Disciplined operators“ (33 %) liegen die Werte bei 99 und 100 %. Die Gruppe „Capable but flying blind“ (31 %) räumt Agenten weitreichende Befugnisse ein. Kein Unternehmen dieser Gruppe verknüpft jedoch Effizienzkennzahlen mit Geschäftsergebnissen, und dennoch sind 89 % überzeugt, ein Scheitern rechtzeitig zu erkennen. Hinzu kommen Agenten ohne Freigabe: 29 % der Organisationen wissen sicher, dass solche Agenten im Einsatz sind, weitere 16 % vermuten es.
KI-Governance erfordert angepasste Arbeitsabläufe
„Deren Befugnisse müssen mit der Fähigkeit eines Unternehmens zur wirksamen Kontrolle übereinstimmen“, sagt Guru Sethupathy, General Manager für KI-Governance bei Optro. Auch von außen wächst der Druck. Drei Viertel der Befragten werden bereits von Aufsichtsbehörden oder externen Prüfern zum Einsatz von KI-Agenten befragt. Bei den Arbeitsabläufen klafft eine Lücke: 96 % halten Anpassungen für nötig, aber nur 9 % haben ihre Prozesse von Grund auf um Agenten herum neu gestaltet. Für 46 % bedeutet der Agenten-Einsatz zudem zusätzlichen Aufwand, weil Mitarbeiter mehr Zeit mit der Prüfung und Korrektur von KI-Ergebnissen verbringen.
Der vollständige Report ist als englischsprachiges PDF über optro.ai abrufbar.
(Hinweis: Dieser Beitrag wurde mithilfe von KI-Tools erstellt und anschließend von der Redaktion inhaltlich geprüft und überarbeitet.)