- BSI demande une transparence complète sur les systèmes d’IA tout au long de leur cycle de vie afin de renforcer la fiabilité, la protection des droits fondamentaux et les décisions éclairées des parties prenantes.
- Les obligations de transparence (entre autres art.13, art.50, art.53 AIA) doivent être équilibrées avec la minimisation des risques contre les abus et les nouveaux vecteurs d’attaque.
L’Office fédéral allemand de la sécurité dans la technologie de l’information (BSI) est l’organe central en Allemagne pour la sécurité de l’information au niveau national et l’auteur de l’ouvrage de référence sur la concrétisation d’une sécurité des données appropriée, également souvent utilisé en Suisse. Protection de base BSI. L’une de ses priorités est l’intelligence artificielle ; à cet effet, le BSI entretient une Page thématiqueLe site Internet de la Commission européenne, qui contient entre autres des études intéressantes, est disponible en ligne.
Le 5 août 2024, le BSI a publié un document relativement succinct daté du 1er juillet 2024. Livre blanc sur la transparence des systèmes d’IA a été publié. Il ne devrait pas rester visible longtemps dans la masse des publications, mais tente d’éclairer le sujet d’un point de vue fondamental.
Selon le BSI, la transparence des systèmes d’intelligence artificielle consiste à fournir des informations sur le système, y compris ses limites, tout au long de son cycle de vie, de la planification à la conception, au développement, à la validation, à la mise en service, à l’utilisation et à l’évaluation continue. La transparence doit non seulement permettre aux parties prenantes de prendre des décisions en connaissance de cause, mais aussi renforcer la fiabilité et la protection des droits fondamentaux, comme l’exige l’AI Act. Le document attire notamment l’attention sur l’article 13 de l’AIA (principes de base de la protection des données). Exigence de transparence pour les systèmes d’IA à haut risque ; base de la Mode d’emploi(cette obligation n’est pas attribuée au fournisseur par l’art. 16 de l’AIA, mais par la définition de la dérivation d’exploitation) et à l’art. 53 de l’AIA (obligation des fournisseurs de services de télécommunication de fournir des services de télécommunication). GPAIL’AIA a pour objectif de fournir une documentation technique sur le système et de la mettre à la disposition des fournisseurs dont les systèmes sont basés sur l’AMPI.) Il existe toutefois diverses autres dispositions dans l’AIA qui sont au service de la transparence, notamment l’art. 50 pour les Les chatbots et autres systèmes destinés à interagir directement avec des personnes physiques).
Il est intéressant de noter la remarque justifiée du BSI selon laquelle la transparence peut également être nuisible – elle peut révéler de nouveaux vecteurs d’attaque et les limitations peuvent être exploitées. Il faut donc trouver un juste équilibre.