- Les autorités de contrôle de la protection des données ont accès aux documents qui doivent être établis pour se conformer au règlement sur l’IA.
- Ils peuvent demander des enquêtes techniques par les autorités de surveillance du marché de l’IA et sont informés des incidents graves.
- Les systèmes d’IA à haut risque doivent être enregistrés dans une base de données de l’UE ; les enregistrements non publics peuvent être consultés par les autorités de surveillance.
- Pour les laboratoires réels utilisant des données à caractère personnel et l’identification biométrique à distance, les autorités de contrôle de la protection des données doivent être impliquées et des obligations de rapport sont prévues.
Le commissaire fédéral allemand à la protection des données et à la liberté d’information (BfDI ; l’autorité de surveillance des organismes publics fédéraux en matière de protection des données) a résumé dans une publication les points essentiels de l’AI Act.
Beaucoup de choses ne sont pas nouvelles, mais les explications sur le rôle des autorités de contrôle de la protection des données sont intéressantes :
En tant qu’autorités chargées de la protection des droits fondamentaux, elles reçoivent l’accès aux documents nécessaires à l’accomplissement de leurs tâches et qui doivent être établis pour se conformer au règlement sur l’IC. Dans le cadre de leurs activités de contrôle existantes, les autorités de contrôle de la protection des données sont également soutenues, le cas échéant, par les moyens suivants demander des études techniques par les autorités de surveillance du marché pour l’IA peuvent être utilisés. De plus, ils sont informés par ces Déclarations d’incidents graves d’informer le public. Certains systèmes d’IA à haut risque doivent en principe être enregistrés par les fournisseurs dans une base de données de l’UE.Base de données être enregistrés. Dans certains cas, ces enregistrements ne sont pas publics, mais les autorités de contrôle de la protection des données peuvent les consulter.
Un autre ajout est prévu en ce qui concerne la surveillance des services répressifs de l’État. Ainsi, la documentation relative à l’utilisation de systèmes d’identification à distance biométriques doit être communiquée sur demande à l’autorité de contrôle de la protection des données compétente. En outre, des rapports annuels résumés sur l’utilisation des systèmes biométriques d’identification à distance doivent être présentés aux autorités de contrôle de la protection des données.
Une autre tâche pour les autorités de contrôle de la protection des données se présente dans le cadre des laboratoires réels, prévus par le règlement sur l’IA pour encourager l’innovation. Les laboratoires réels doivent fournir un environnement contrôlé qui facilite le développement, la formation, les tests et la validation de systèmes d’IA innovants pendant une période limitée. Si des données à caractère personnel sont traitées dans un tel laboratoire réel, les autorités de contrôle de la protection des données doivent être impliquées..
Des explications supplémentaires sont fournies sur la structure de surveillance complexe, qui est en principe réglementée de manière sectorielle, les autorités de surveillance du marché compétentes des États membres ayant une fonction de surveillance. La question de savoir qui est responsable des systèmes d’IA à usage général et des systèmes d’IA à haut risque dans les domaines de l’infrastructure critique, de l’éducation et de la formation, de la gestion des travailleurs et des services privés et publics de base reste toutefois ouverte.