EU-Rechts­rah­men für AI: neue Haf­tungs­vor­schrif­ten für Pro­duk­te und künst­li­che Intelligenz

Die EU-Kom­mis­si­on hat am 28. Sep­tem­ber 2022 vor­ge­schla­gen, die Vor­schrif­ten über die Pro­dukt­haf­tung zu moder­ni­sie­ren und Haf­tungs­vor­schrif­ten für künst­li­che Intel­li­genz zu har­mo­ni­sie­ren. Der erste Punkt betrifft den Vor­schlag einer neu­en Pro­dukt­haf­tungs­richt­li­nie, die die heu­ti­ge Richt­li­nie 85/374/EWG (“Pro­duct Lia­bi­li­ty Direc­ti­ve” oder PLD) erset­zen soll (auf der PLD beruht das schwei­ze­ri­sche PrHG). Der Vor­schlag hat die Nr. 2022/0302 (COD) und ist erst auf Eng­lisch verfügbar.

Die neue Richt­li­nie betrifft nicht nur AI, die­se aber schwer­ge­wich­tig, ins­be­son­de­re als Ant­wort auf die genann­ten Emp­feh­lun­gen des Euro­päi­schen Par­la­ments. Sie schraubt dabei an den wesent­li­chen Stell­schrau­ben der Haf­tung, beson­ders durch Klar­stel­lun­gen des Pro­dukt­be­griffs:

this pro­po­sal con­firms that AI systems and AI-enab­led goods are “pro­ducts” and the­re­fo­re fall wit­hin the PLD’s scope, mea­ning that com­pen­sa­ti­on is avail­ab­le when defec­ti­ve AI cau­ses dama­ge, without the inju­red per­son having to pro­ve the manufacturer’s fault, just like for any other pro­duct. Second, the pro­po­sal makes it clear that not only hard­ware manu­fac­tu­rers but also soft­ware pro­vi­ders and pro­vi­ders of digi­tal ser­vices that affect how the pro­duct works (such as a navi­ga­ti­on ser­vice in an auto­no­mous vehi­cle) can be held liable. Third, the pro­po­sal ensu­res that manu­fac­tu­rers can be held liable for chan­ges they make to pro­ducts they have alrea­dy pla­ced on the mar­ket, inclu­ding when the­se chan­ges are trig­ge­red by soft­ware updates or machi­ne learning.

Aber auch die Beweis­last soll erleich­tert werden:

Fourth, the revi­sed PLD alle­via­tes the bur­den of pro­of in com­plex cases, which could inclu­de cer­tain cases invol­ving AI systems, and when pro­ducts fail to com­ply with safe­ty requirements.

Dass der Haf­tungs­rah­men für AI ent­wick­lungs­be­dürf­tig ist, war schon län­ger eine ver­brei­te­te Hal­tung – vgl. z.B. den Bericht der Kom­mis­si­on “über die Aus­wir­kun­gen künst­li­cher Intel­li­genz, des Inter­nets der Din­ge und der Robo­tik in Hin­blick auf Sicher­heit und Haf­tung” vom 19. Febru­ar 2020, den aus­führ­li­che­ren Bericht der Expert Group on Lia­bi­li­ty and New Tech­no­lo­gies – New Tech­no­lo­gies For­ma­ti­on von 2019 und die Emp­feh­lun­gen des Par­la­ments an die Kom­mis­si­on für eine Rege­lung der zivil­recht­li­chen Haf­tung beim Ein­satz künst­li­cher Intel­li­genz vom 20. Okto­ber 2020.

Die Ver­schär­fung der Haf­tung ver­steht sich dabei als Teil des erwei­ter­ten Rechts­rah­mens für künst­li­che Intel­li­genz. Das Euro­päi­sche Kon­zepts für künst­li­che Intel­li­genz” (“Euro­pean Approach for Arti­fi­cial Intel­li­gence”) befin­det sich seit mehr als vier Jah­ren in Entwicklung:

  • 25.4.2018: Die EU-Kom­mis­si­on legt eine Euro­päi­sche KI-Stra­te­gie vor (COM(2018) 237 final):

    Fazit: Die EU besitzt eine star­ke wis­sen­schaft­li­che und indu­stri­el­le Basis mit füh­ren­den For­schungs­la­bors und Uni­ver­si­tä­ten. Zudem hat sie eine aner­kann­te Füh­rungs­rol­le im Bereich der Robo­tik und ver­fügt über inno­va­ti­ve Star­tups. Dar­über hin­aus ver­fügt die Uni­on über einen umfas­sen­den Rechts­rah­men, der die Ver­brau­cher schützt und gleich­zei­tig Inno­va­tio­nen för­dert, und sie schrei­tet bei der Schaf­fung eines digi­ta­len Bin­nen­markts vor­an. Die wich­tig­sten Vor­aus­set­zun­gen sind somit gege­ben, damit die EU selbst­stän­dig und auf der Grund­la­ge ihrer Wer­te eine füh­ren­de Rol­le in der KI-Revo­lu­ti­on über­neh­men kann.

    Der in die­sem Doku­ment beschrie­be­ne KI-Ansatz gibt die Marsch­rich­tung vor und unter­streicht die Not­wen­dig­keit, die Kräf­te auf euro­päi­scher Ebe­ne zu bün­deln, um sicher­zu­stel­len, dass alle Euro­päe­rin­nen und Euro­pä­er am digi­ta­len Wan­del teil­ha­ben, dass ange­mes­se­ne Res­sour­cen für KI bereit­ge­stellt wer­den und die Wer­te und Grund­rech­te der Uni­on in der KI-Land­schaft an vor­der­ster Stel­le stehen.

    Gemein­sam kön­nen wir die Macht von KI in den Dienst des mensch­li­chen Fort­schritts stellen.

  • 7.12.2018: Die EU-Kom­mis­si­on legt den Koor­di­nier­ten Plan für künst­li­che Intel­li­genz vor (COM(2018) 795 final):

    Schluss­fol­ge­run­gen:

    Die künst­li­che Intel­li­genz (KI) ist bereits Teil unse­res All­tags, aber ihr Poten­zi­al ist weit­aus grö­ßer als das, was wir bis­her gese­hen haben. Damit Euro­pa zu einem füh­ren­den Akteur im Bereich der KI wer­den kann, muss es auf sei­nen Stär­ken auf­bau­en und die Ent­wick­lung einer ethi­schen, siche­ren und hoch­mo­der­nen KI am Stand­ort in Euro­pa unterstützen.

    Die Kom­mis­si­on ersucht daher
    – den Euro­päi­schen Rat, den koor­di­nier­ten Plan zu billigen;
    – die Mit­glied­staa­ten, den koor­di­nier­ten Plan umzu­set­zen und bis Mit­te 2019 natio­na­le KI-Stra­te­gien auf­zu­stel­len, die einen Über­blick über die Höhe der Inve­sti­tio­nen und über die Umset­zungs­maß­nah­men geben;
    – die bei­den Gesetz­ge­ber, die ver­blei­ben­den Gesetz­ge­bungs­in­itia­ti­ven, die für den Erfolg der euro­päi­schen KI-Stra­te­gie unver­zicht­bar sind, sowie die im Zusam­men­hang mit dem näch­sten mehr­jäh­ri­gen Finanz­rah­men vor­ge­leg­ten Vor­schlä­ge nun zügig anzunehmen.

  • 19.2.2020: Die EU-Kom­mis­si­on legt das “Weiss­buch zur Künst­li­chen Intel­li­genz – ein euro­päi­sches Kon­zept für Exzel­lenz und Ver­trau­en” vor (COM(2020) 65 final):

    Fazit:

    Die KI ist eine stra­te­gi­sche Tech­no­lo­gie, die vie­le Vor­tei­le für Bür­ge­rin­nen und Bür­ger, für Unter­neh­men und die Gesell­schaft ins­ge­samt bie­tet, sofern sie auf den Men­schen aus­ge­rich­tet, ethisch und nach­hal­tig ist und die Grund­rech­te und ‑wer­te achtet. […] […] 

    Der euro­päi­sche Ansatz für KI zielt dar­auf ab, die Inno­va­ti­ons­fä­hig­keit Euro­pas im Bereich der KI zu för­dern und gleich­zei­tig die Ent­wick­lung und Ein­füh­rung ethi­scher und ver­trau­ens­wür­di­ger KI in der gesam­ten EU-Wirt­schaft zu unter­stüt­zen. KI soll­te im Dien­ste der Men­schen ste­hen und eine posi­ti­ve Kraft für die Gesell­schaft sein.

    Mit die­sem Weiß­buch und dem beglei­ten­den Bericht über den Sicher­heits- und Haf­tungs­rah­men lei­tet die Kom­mis­si­on eine breit ange­leg­te Kon­sul­ta­ti­on der Zivil­ge­sell­schaft, der Indu­strie und der Wis­sen­schafts­krei­se in den Mit­glied­staa­ten zu kon­kre­ten Vor­schlä­gen für ein euro­päi­sches KI-Kon­zept ein. Dazu gehö­ren sowohl poli­ti­sche Mit­tel zur Ankur­be­lung von Inve­sti­tio­nen in For­schung und Inno­va­ti­on, zur För­de­rung der Ent­wick­lung von Kom­pe­ten­zen und der Akzep­tanz von KI durch KMU als auch Vor­schlä­ge für Schlüs­sel­ele­men­te eines künf­ti­gen Rechts­rah­mens. Die­se Kon­sul­ta­ti­on wird einen umfas­sen­den Dia­log mit allen betrof­fe­nen Par­tei­en ermög­li­chen, der in die Gestal­tung der näch­sten Schrit­te der Kom­mis­si­on ein­flie­ßen wird..

  • 21. April 2021: Die EU-Kom­mis­si­on legt den Ent­wurf der AI-Ver­ord­nung vor.

Auch in der Schweiz wird die Fra­ge der Haf­tung im Zusam­men­hang mit künst­li­cher Intel­li­genz dis­ku­tiert, z.B. von Melin­da Loh­mann oder Nad­ja Braun Bin­der et al.

Auf inter­na­tio­na­ler Ebe­ne sind diver­se Bestre­bun­gen zur Regu­lie­rung von AI im Gang, neben dem Ent­wurf des AI Act der EU ins­be­son­de­re auch im Rah­men des Euro­pa­rats (zu den ent­spre­chen­den Bestre­bun­gen fin­den sich Hin­wei­se im Bericht des EDA an den Bun­des­rat “Künst­li­che Intel­li­genz und inter­na­tio­na­les Regel­werk” vom 13. April 2022).

Das CAI – Com­mit­tee on Arti­fi­cial Intel­li­gence des Euro­pa­rats ist Nach­fol­ger des 2019 auf­ge­setz­ten Ad-hoc-Kom­mit­tees des Euro­pa­rats zur Künst­li­chen Intel­li­genz (CAHAI), das sei­ne Arbeit im Dezem­ber 2021 mit dem Bericht “Pos­si­ble ele­ments of a legal frame­work on arti­fi­cial intel­li­gence, based on the Coun­cil of Europe’s stan­dards on human rights, demo­cra­cy and the rule of law” abge­schlos­sen hat­te. Das CAI hat vor allem den Auf­trag, einen ver­bind­li­chen mul­ti­la­te­ra­len Rechts­rah­men für AI vorzuschlagen.

Ein erster Draft (Zero Draft) einer Coun­cil of Euro­pe con­ven­ti­on on arti­fi­cial intel­li­gence, human rights, demo­cra­cy and the rule of law wur­de vor zwei Wochen im Rah­men des CAI dis­ku­tiert. Der Ent­wurf ist nicht öffent­lich, soll aber fol­gen­de Punk­te ent­hal­ten bzw. regeln (gemäss dem ent­spre­chen­den Ver­hand­lungs­man­dat der EU):

  • pur­po­se and scope of the (frame­work) convention;definitions for an AI system, life­cy­cle, pro­vi­der, user and ‘AI subject’
  • cer­tain fun­da­men­tal princi­ples, inclu­ding pro­ce­du­ral safe­guards and rights for AI sub­jects that would app­ly to all AI systems, irre­spec­ti­ve of their level of risk
  • addi­tio­nal mea­su­res for the public sec­tor as well as AI systems posing ‘unac­cep­ta­ble’ and ‘signi­fi­cant’ levels of risk iden­ti­fied on the basis of a risk and impact assess­ment metho­do­lo­gy (to be set out later in an annex to the convention)
  • fol­low-up and coope­ra­ti­on mecha­nism bet­ween the parties
  • final pro­vi­si­ons, inclu­ding a pos­si­bi­li­ty for EU Mem­ber Sta­tes to app­ly EU law in their mutu­al rela­ti­ons for mat­ters cove­r­ed by the con­ven­ti­on and a pos­si­bi­li­ty for the Uni­on to acce­de to the convention.

Die Schweiz wird sich an den Ver­hand­lun­gen um eine sol­che Kon­ven­ti­on eben­falls betei­li­gen, wie der Bun­des­rat im Sep­tem­ber 2022 beschlos­sen hat.

Kern all die­ser Regu­lie­rungs­be­mü­hun­gen ist eine Klas­si­fi­zie­rung von Risi­ken, die mit dem Ein­satz von AI ver­bun­den sind, und einer risi­ko­ba­sier­ten Regu­lie­rung von bis hin zu einem Ver­bot, wie es auch der Ent­wurf der AI-Ver­ord­nung vorsieht.