Das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) ist die zentrale Stelle in in Deutschland für Informationssicherheit auf nationaler Ebene und Autor des zur Konkretisierung der angemessenen Datensicherheit auch in der Schweiz öfters herangezogenen BSI Grundschutzes. Einer seiner Schwerpunkte ist die Künstliche Intelligenz; dazu unterhält das BSI eine Themenseite, auf der sich u.a. lesenswerte Studien finden.
Das BSI hat am 5. August 2024 ein auf den 1. Juli 2024 datiertes, relativ knappes Whitepaper zur Transparenz bei AI-Systemen veröffentlicht. Es dürfte in der Fülle der Publikationen nicht lange sichtbar bleiben, versucht aber, das Thema aus grundsätzlicher Warte zu beleuchten.
Transparenz bei AI-Systemen bedeutet dem BSI zufolge, Informationen über das System einschliesslich seiner Limitierungen über den gesamten Lebenszyklus bereitzustellen, von der Planung über das Design, die Entwicklung, die Validierung, die Inbetriebnahme, die Anwendung und die laufende Evaluation. Transparenz soll dabei nicht nur informierte Entscheidungen der Stakeholder ermöglichen, sondern auch die Vertrauenswürdigkeit und den Schutz der Grundrechte stärken, wie der AI Act verlangt. Das Papier weist insbesondere auf Art. 13 AIA (grundsätzliche Transparenzanforderung für Hochrisiko-AI-Systeme; Basis für die Betriebsanleitung, mit der der Provider den Deployer gemäss Art. 3(15) AIA (diese Pflicht wird dem Provider nicht in Art. 16 AIA, sondern der Definition der Betriebsableitung zugewiesen) und auf Art. 53 AIA hin (Pflicht der Anbieter von GPAI, eine technische Dokumentation des Systems zu erstellen und den Providern zur Verfügung zu stellen, deren Systeme auf der GPAI aufsetzen). Es sind allerdings diverse weitere Bestimmungen im AIA, die im Dienst der Transparenz stehen, insbesondere auch Art. 50 für Chatbots und andere Systeme, die direkt mit natürlichen Personen interagieren sollen).
Interessant ist der berechtigte Hinweis des BSI, dass Transparenz auch schädlich sein kann – sie kann neue Angriffsvektoren offenlegen, und Limitierungen können ausgenutzt werden. Man müsse deshalb eine angemessene Balance finden.