BSI Forum : Whitepaper zur Transparenz von KI-Systemen

Das BSI hat Anfang August 2024 das Whitepaper „Transparenz von KI-Systemen“ veröffentlicht. Die Anzahl verfügbarer Systeme künstlicher Intelligenz (KI) wächst stetig und die zugrunde liegende Technologie entwickelt sich rasant weiter. Bei den meisten Systemen handelt es sich um eine sogenannte Blackbox: Nach außen sind lediglich die Eingaben in das System und die Ausgaben des Systems sichtbar. Wie das System zur Ausgabe gelangt, bleibt meist unklar und ist häufig nicht nachvollziehbar – zudem ist der Wahrheitsgehalt der Ausgaben oft nicht nachprüfbar. Die zunehmende Komplexität sowie fehlende oder mangelhafte Informationen machen sowohl eine Einschätzung per Augenschein als auch die Beurteilung der Ausgaben hinsichtlich ihrer Vertrauenswürdigkeit nur schwer möglich.

Durch Transparenz sollen die Interessenträger von KI-Systemen dazu befähigt sein, eigenständig zu entscheiden, ob ein System für ihre Bedarfe und Ziele geeignet ist. Daher definiert das BSI in dem Whitepaper den Begriff der Transparenz im Kontext von KI-Systemen für unterschiedliche Interessenträger. Im Whitepaper werden die einzelnen Elemente der Definition erläutert sowie der Bezug zu den Transparenzanforderungen der europäischen KI-Verordnung hergestellt. Abschließend werden Chancen und Risiken transparenter KI-Systeme beleuchtet. Das Whitepaper ist über www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Whitepaper-Transparenz-KI-Systeme.pdf?__blob=publicationFile kostenlos verfügbar.