Pour soutenir l’approvisionnement responsable en IA, la Communauté sur les marchés publics de l’IA a publié le 29 septembre 2023 des clauses contractuelles types de l’UE (“MCC-AI”) pour les marchés publics d’IA passés par les organisations publiques. Elle vient d’en présenter une version actualisée le 5 mars 2025 :
Les clauses contractuelles types prévoient que les fournisseurs d’AIS à haut risque (HRAIS) enregistrent des protocoles de gestion des risques, tiennent une documentation technique et assurent une supervision humaine – des exigences qui découlent directement de l’AIA. Pour les AIS sans risque élevé, les clauses prévoient une version “allégée”. Les clauses se concentrent sur les obligations découlant de l’AIA et excluent d’autres réglementations telles que celles du RGPD. Les clauses ne devraient pas seulement être appliquées dans le secteur public – voir le commentaire :
Il ne serait pas approprié pour les organisations autres que les organisations publiques d’utiliser le MCC-AI. Néanmoins, certaines parties pourraient certainement être utilisées par des organisations autres que publiques. Celles-ci devront toujours évaluer, clause par clause, si l’utilisation du MCC-AI est appropriée dans chaque situation.
La version complète pour HRAIS prévoit 14 obligations fondamentales pour les fournisseurs d’accès et sont structurées comme suit :
- Section A – Définitions
- Art. 1 – Définitions
- Section B – Exigences essentielles relatives au système d’intelligence artificielle
- Art. 2 – Système de gestion des risques
- Art. 3 – Données et gestion des données
- Art. 4 – Documentation technique et mode d’emploi
- Art. 5 – Conservation des enregistrements
- Art. 6 – Transparence du système d’IA
- Art. 7 – Surveillance humaine
- Art. 8 – Précision, robustesse et cybersécurité
- Section C – Obligations du fournisseur en ce qui concerne le système d’IC
- Art. 9 – Respect de la section B
- Art. 10 – Système de gestion de la qualité
- Art. 11 – Évaluation de la conformité
- Art. 12 (facultatif) – Évaluation de l’impact sur les droits fondamentaux
- Art. 13 – Mesures correctives
- Art. 14 (facultatif) – Obligation de déclarer la prise de décision individuelle
- Section D – Droits d’utilisation des séries de données
- Art. 15 – Droits sur les données de l’organisation publique
- Art. 16 – Droits sur les données des fournisseurs et les données de tiers
- Art. 17 – Transfert des enregistrements
- Art. 18 – Exemptions
- Section E – Registre des IA et audit
- Art. 19 (facultatif) – Registre des IA
- Art. 20 – Conformité et audit
- Section F – Coûts
- Art. 21 – Frais
- Annexes
- Annexe A – Le système d’IA et l’objectif visé
- Annexe B – Les ensembles de données
- Annexe C – Documentation technique
- Annexe D – Mode d’emploi
- Annexe E – Mesures visant à garantir la transparence
- Annexe F – Mesures visant à assurer la supervision humaine
- Annexe G – Niveaux de précision
- Annexe H – Mesures visant à garantir un niveau approprié de robustesse, de sécurité et de cybersécurité