- Die EU-Kommission schlägt vor, die Produkthaftungsrichtlinie zu modernisieren, um KI-Haftung zu harmonisieren.
- Klarstellungen bestätigen, dass KI-Systeme als “Produkte” gelten und Haftung für Schäden ohne Beweis der Schuld bestehen bleibt.
- Der Vorschlag erleichtert die Beweislast in komplexen Fällen, unter anderem bei KI-Systemen.
- Die Schweiz beteiligt sich an den internationalen Bemühungen zur Regulierung der Künstlichen Intelligenz.
Die EU-Kommission hat am 28. September 2022 vorgeschlagen, die Vorschriften über die Produkthaftung zu modernisieren und Haftungsvorschriften für künstliche Intelligenz zu harmonisieren. Der erste Punkt betrifft den Vorschlag einer neuen Produkthaftungsrichtlinie, die die heutige Richtlinie 85/374/EWG (“Product Liability Directive” oder PLD) ersetzen soll (auf der PLD beruht das schweizerische PrHG). Der Vorschlag hat die Nr. 2022/0302 (COD) und ist erst auf Englisch verfügbar.
Die neue Richtlinie betrifft nicht nur AI, diese aber schwergewichtig, insbesondere als Antwort auf die genannten Empfehlungen des Europäischen Parlaments. Sie schraubt dabei an den wesentlichen Stellschrauben der Haftung, besonders durch Klarstellungen des Produktbegriffs:
this proposal confirms that AI systems and AI-enabled goods are “products” and therefore fall within the PLD’s scope, meaning that compensation is available when defective AI causes damage, without the injured person having to prove the manufacturer’s fault, just like for any other product. Second, the proposal makes it clear that not only hardware manufacturers but also software providers and providers of digital services that affect how the product works (such as a navigation service in an autonomous vehicle) can be held liable. Third, the proposal ensures that manufacturers can be held liable for changes they make to products they have already placed on the market, including when these changes are triggered by software updates or machine learning.
Aber auch die Beweislast soll erleichtert werden:
Fourth, the revised PLD alleviates the burden of proof in complex cases, which could include certain cases involving AI systems, and when products fail to comply with safety requirements.
Dass der Haftungsrahmen für AI entwicklungsbedürftig ist, war schon länger eine verbreitete Haltung – vgl. z.B. den Bericht der Kommission “über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung” vom 19. Februar 2020, den ausführlicheren Bericht der Expert Group on Liability and New Technologies – New Technologies Formation von 2019 und die Empfehlungen des Parlaments an die Kommission für eine Regelung der zivilrechtlichen Haftung beim Einsatz künstlicher Intelligenz vom 20. Oktober 2020.
Die Verschärfung der Haftung versteht sich dabei als Teil des erweiterten Rechtsrahmens für künstliche Intelligenz. Das “Europäische Konzepts für künstliche Intelligenz” (“European Approach for Artificial Intelligence”) befindet sich seit mehr als vier Jahren in Entwicklung:
- 25.4.2018: Die EU-Kommission legt eine Europäische KI-Strategie vor (COM(2018) 237 final):
Fazit: Die EU besitzt eine starke wissenschaftliche und industrielle Basis mit führenden Forschungslabors und Universitäten. Zudem hat sie eine anerkannte Führungsrolle im Bereich der Robotik und verfügt über innovative Startups. Darüber hinaus verfügt die Union über einen umfassenden Rechtsrahmen, der die Verbraucher schützt und gleichzeitig Innovationen fördert, und sie schreitet bei der Schaffung eines digitalen Binnenmarkts voran. Die wichtigsten Voraussetzungen sind somit gegeben, damit die EU selbstständig und auf der Grundlage ihrer Werte eine führende Rolle in der KI-Revolution übernehmen kann.
Der in diesem Dokument beschriebene KI-Ansatz gibt die Marschrichtung vor und unterstreicht die Notwendigkeit, die Kräfte auf europäischer Ebene zu bündeln, um sicherzustellen, dass alle Europäerinnen und Europäer am digitalen Wandel teilhaben, dass angemessene Ressourcen für KI bereitgestellt werden und die Werte und Grundrechte der Union in der KI-Landschaft an vorderster Stelle stehen.
Gemeinsam können wir die Macht von KI in den Dienst des menschlichen Fortschritts stellen.
- 7.12.2018: Die EU-Kommission legt den Koordinierten Plan für künstliche Intelligenz vor (COM(2018) 795 final):
Schlussfolgerungen:
Die künstliche Intelligenz (KI) ist bereits Teil unseres Alltags, aber ihr Potenzial ist weitaus größer als das, was wir bisher gesehen haben. Damit Europa zu einem führenden Akteur im Bereich der KI werden kann, muss es auf seinen Stärken aufbauen und die Entwicklung einer ethischen, sicheren und hochmodernen KI am Standort in Europa unterstützen.
Die Kommission ersucht daher
– den Europäischen Rat, den koordinierten Plan zu billigen;
– die Mitgliedstaaten, den koordinierten Plan umzusetzen und bis Mitte 2019 nationale KI-Strategien aufzustellen, die einen Überblick über die Höhe der Investitionen und über die Umsetzungsmaßnahmen geben;
– die beiden Gesetzgeber, die verbleibenden Gesetzgebungsinitiativen, die für den Erfolg der europäischen KI-Strategie unverzichtbar sind, sowie die im Zusammenhang mit dem nächsten mehrjährigen Finanzrahmen vorgelegten Vorschläge nun zügig anzunehmen. - 19.2.2020: Die EU-Kommission legt das “Weissbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen” vor (COM(2020) 65 final):
Fazit:
Die KI ist eine strategische Technologie, die viele Vorteile für Bürgerinnen und Bürger, für Unternehmen und die Gesellschaft insgesamt bietet, sofern sie auf den Menschen ausgerichtet, ethisch und nachhaltig ist und die Grundrechte und ‑werte achtet. […] […]
Der europäische Ansatz für KI zielt darauf ab, die Innovationsfähigkeit Europas im Bereich der KI zu fördern und gleichzeitig die Entwicklung und Einführung ethischer und vertrauenswürdiger KI in der gesamten EU-Wirtschaft zu unterstützen. KI sollte im Dienste der Menschen stehen und eine positive Kraft für die Gesellschaft sein.
Mit diesem Weißbuch und dem begleitenden Bericht über den Sicherheits- und Haftungsrahmen leitet die Kommission eine breit angelegte Konsultation der Zivilgesellschaft, der Industrie und der Wissenschaftskreise in den Mitgliedstaaten zu konkreten Vorschlägen für ein europäisches KI-Konzept ein. Dazu gehören sowohl politische Mittel zur Ankurbelung von Investitionen in Forschung und Innovation, zur Förderung der Entwicklung von Kompetenzen und der Akzeptanz von KI durch KMU als auch Vorschläge für Schlüsselelemente eines künftigen Rechtsrahmens. Diese Konsultation wird einen umfassenden Dialog mit allen betroffenen Parteien ermöglichen, der in die Gestaltung der nächsten Schritte der Kommission einfließen wird..
- 21. April 2021: Die EU-Kommission legt den Entwurf der AI-Verordnung vor.
Auch in der Schweiz wird die Frage der Haftung im Zusammenhang mit künstlicher Intelligenz diskutiert, z.B. von Melinda Lohmann oder Nadja Braun Binder et al.
Auf internationaler Ebene sind diverse Bestrebungen zur Regulierung von AI im Gang, neben dem Entwurf des AI Act der EU insbesondere auch im Rahmen des Europarats (zu den entsprechenden Bestrebungen finden sich Hinweise im Bericht des EDA an den Bundesrat “Künstliche Intelligenz und internationales Regelwerk” vom 13. April 2022).
Das CAI – Committee on Artificial Intelligence des Europarats ist Nachfolger des 2019 aufgesetzten Ad-hoc-Kommittees des Europarats zur Künstlichen Intelligenz (CAHAI), das seine Arbeit im Dezember 2021 mit dem Bericht “Possible elements of a legal framework on artificial intelligence, based on the Council of Europe’s standards on human rights, democracy and the rule of law” abgeschlossen hatte. Das CAI hat vor allem den Auftrag, einen verbindlichen multilateralen Rechtsrahmen für AI vorzuschlagen.
Ein erster Draft (Zero Draft) einer Council of Europe convention on artificial intelligence, human rights, democracy and the rule of law wurde vor zwei Wochen im Rahmen des CAI diskutiert. Der Entwurf ist nicht öffentlich, soll aber folgende Punkte enthalten bzw. regeln (gemäss dem entsprechenden Verhandlungsmandat der EU):
- purpose and scope of the (framework) convention;definitions for an AI system, lifecycle, provider, user and ‘AI subject’
- certain fundamental principles, including procedural safeguards and rights for AI subjects that would apply to all AI systems, irrespective of their level of risk
- additional measures for the public sector as well as AI systems posing ‘unacceptable’ and ‘significant’ levels of risk identified on the basis of a risk and impact assessment methodology (to be set out later in an annex to the convention)
- follow-up and cooperation mechanism between the parties
- final provisions, including a possibility for EU Member States to apply EU law in their mutual relations for matters covered by the convention and a possibility for the Union to accede to the convention.
Die Schweiz wird sich an den Verhandlungen um eine solche Konvention ebenfalls beteiligen, wie der Bundesrat im September 2022 beschlossen hat.
Kern all dieser Regulierungsbemühungen ist eine Klassifizierung von Risiken, die mit dem Einsatz von AI verbunden sind, und einer risikobasierten Regulierung von bis hin zu einem Verbot, wie es auch der Entwurf der AI-Verordnung vorsieht.