Zur Unterstützung einer verantwortungsvollen KI-Beschaffung hatte die Community on the Procurement of AI am 29. September 2023 EU-Mustervertragsklauseln (“MCC-AI”) für die KI-Beschaffung durch öffentliche Organisationen veröffentlicht. Sie hat nun, am 5. März 2025, eine aktualisierte Fassung vorgelegt:
Die Mustervertragsklauseln sehen vor, dass Anbieter von AIS mit hohem Risiko (HRAIS) Risikomanagementprotokolle erfassen, technische Dokumentation führen und menschliche Aufsicht gewährleisten – Anforderungen, die sich direkt aus dem AIA ableiten. Für AIS ohne hohes Risiko sehen die Klauseln eine “Light-Version”. Die Klauseln konzentrieren sich auf Pflichten aus dem AIA und schliessen andere Regelungen etwa nach der DSGVO aus. Die Klauseln dürften nicht nur im öffentlichen Bereich Anwendung finden – dazu der Kommentar:
It would not be appropriate for organisations other than public organisations to use the MCC-AI. Nevertheless, parts of them could certainly be used by organisations other than public organisations. They will always have to assess, clause-by-clause, whether the use of the MCC-AI is appropriate in each situation.
Die Vollversion für HRAIS sieht 14 Kernpflichten der Provider vor und sind wie folgt aufgebaut:
- Abschnitt A – Definitionen
- Art. 1 – Definitionen
- Abschnitt B – Wesentliche Anforderungen in Bezug auf das KI-System
- Art. 2 – Risikomanagementsystem
- Art. 3 – Daten und Datenverwaltung
- Art. 4 – Technische Dokumentation und Gebrauchsanweisung
- Art. 5 – Aufbewahrung von Aufzeichnungen
- Art. 6 – Transparenz des KI-Systems
- Art. 7 – Menschliche Aufsicht
- Art. 8 – Genauigkeit, Robustheit und Cybersicherheit
- Abschnitt C – Verpflichtungen des Lieferanten in Bezug auf das KI-System
- Art. 9 – Einhaltung von Abschnitt B
- Art. 10 – Qualitätsmanagementsystem
- Art. 11 – Konformitätsbewertung
- Art. 12 (Optional) – Bewertung der Auswirkungen auf Grundrechte
- Art. 13 – Korrekturmaßnahmen
- Art. 14 (Optional) – Verpflichtung zur Erklärung individueller Entscheidungsfindung
- Abschnitt D – Nutzungsrechte an den Datensätzen
- Art. 15 – Rechte an Datensätzen der öffentlichen Organisation
- Art. 16 – Rechte an Lieferantendatensätzen und Datensätzen Dritter
- Art. 17 – Übergabe der Datensätze
- Art. 18 – Freistellungen
- Abschnitt E – KI-Register und Audit
- Art. 19 (Optional) – KI-Register
- Art. 20 – Compliance und Audit
- Abschnitt F – Kosten
- Art. 21 – Kosten
- Anhänge
- Anhang A – Das KI-System und der beabsichtigte Zweck
- Anhang B – Die Datensätze
- Anhang C – Technische Dokumentation
- Anhang D – Gebrauchsanweisung
- Anhang E – Maßnahmen zur Sicherstellung der Transparenz
- Anhang F – Maßnahmen zur Sicherstellung der menschlichen Aufsicht
- Anhang G – Genauigkeitsniveaus
- Anhang H – Maßnahmen zur Sicherstellung eines angemessenen Niveaus an Robustheit, Sicherheit und Cybersicherheit