Die EU-Kommission hat am 4. Februar 2025 Leitlinien zu verbotenen KI-Praktiken nach dem AI Act veröffentlicht:
- Medienmitteilung
- Leitlinien (140 Seiten)
Diese Verbote sind am 2. Februar 2025 wirksam geworden (und die Sanktionen werden es am 2. August 2025).
Die Leitlinien erläutern den Begriff der verbotenen Praktiken und enthalten Anwendungsbeispiele. Sie beruhen auf dem Mandat der Kommission nach Art. 96 AIA, Leitlinien für die praktische Umsetzung zu erlassen (siehe unsere FAQ AI Act). Verboten sind bestimmte Praktiken (Use Cases – das Inverkehrbringen, die Inbetriebnahme oder der Einsatz von Systemen, die Verbotenes tut oder tun soll) in den Kategorien:
- Manipulation
- Ausnützen von Schwäche
- Social Scoring
- Biometrische Kategorisierung
- Emotionserkennung
- Predictive Policing
- Scraping mit Gesichtserkennung
- Biometrische Echtzeit-Fernidentifizierung in der Öffentlichkeit
Die Leitlinien befassen sich in erster Linie mit der Auslegung dieser Use Cases. Daneben gehen sie auch auf einige damit zusammenhängende Begriffe ein:
- das Inverkehrbringen (Art. 3(9) AI Act), das auch die Zugänglichmachung über eine API umfasst;
- die Inbetriebnahme (Art. 3(11) AI Act), das die Überlassung für den Ersteinsatz durch einen Dritten, aber auch die eigene Erstverwendung (“in-house development and deployment”) umfasst;
- die Verwendung: im AI Act nicht definiert; jede Verwendung nach dem Inverkehrbringen oder der Inbetriebnahme. Im Rahmen der verbotenen Praktiken sei auch der Missbrauch umfasst, und zwar auch der nicht vorhersehbare (also nicht wie bei Art. 3(12) und (13) AI Act nur der absehbare Missbrauch;
- Provider – nichts Neues;
- Deployer: Das ist die Stelle, die das AI System (AIS) einsetzt (nicht die Mitarbeitenden, sondern ihr Arbeitgeber), und zwar “under its authority”. Das meint folgendes (vgl. Rosenthal: “Es bietet sich an, hier auf die Praxis zum vergleichbaren Konzept des «Verantwortlichen» bzw. «Controllers» im Datenschutz zurückzugreifen”):
‘Authority’ over an AI system should be understood as assuming responsibility over the decision to deploy the system and over the manner of its actual use.
Der Provider darf keine AIS und GPAI in Verkehr bringen oder in Betrieb nehmen, bei denen ein verbotener Einsatz “reasonably likely” ist. Bei einem GPAI, das für einen Chatbot verwendet wird, soll der Provider deshalb Sicherheitsmassnahmen einbauen. Der Deployer seinerseits darf kein AIS für verbotene Zwecke einsetzen. Provider sollen zudem einen verbotenen Einsatz durch Deployer vertraglich ausschliessen und – je nachdem – sollen sie auch den Einsatz durch den Deployer überwachen. Wenn ihnen ein verbotener Einsatz bekannt wird, sollen sie zudem reagieren.
Weiter geht die Kommission knapp auf Anwendungsausschlüsse ein für
- den Bereich nationale Sicherheit und Armee
- Strafrechtshilfe und justizielle Zusammenarbeit
- Forschung und Entwicklung
- ausschliesslich persönliche Tätigkeit und
- FOSS.
Weitere Themen sind auch das Verhältnis des AI Act zu anderen Erlassen und die Durchsetzung der Verbote.