Postu­lat Mar­ti (21.4406): Bericht zur Regu­lie­rung von auto­ma­ti­sier­ten Entscheidungssystemen

Postu­lat Mar­ti (21.4406): Bericht zur Regu­lie­rung von auto­ma­ti­sier­ten Entscheidungssystemen

Ein­ge­reich­ter Text

Der Bun­des­rat wird beauf­tragt, einen Bericht vor­zu­le­gen, in dem auf­ge­zeigt wird, wo mög­li­cher Regu­lie­rungs­be­darf bei auto­ma­ti­sier­ten Ent­schei­dungs­sy­ste­men (ADMS) bezie­hungs­wei­se künst­li­cher Intel­li­genz vor­liegt. Im Fokus dabei steht die Gewähr­lei­stung von Trans­pa­renz, die Beach­tung von ethi­schen Richt­li­ni­en und die Ver­mei­dung von Dis­kri­mi­nie­rung oder Mani­pu­la­ti­on. Ein wei­te­rer Aspekt betrifft Fra­gen von Ver­ant­wor­tungs­zu­schrei­bung und Haf­tung, wo recht­li­cher Klä­rungs­be­darf besteht im Zusam­men­hang mit von ADMS getrof­fe­nen Pro­gno­sen, Emp­feh­lun­gen oder Ent­schei­dun­gen. Es soll geklärt wer­den, ob die gesetz­li­chen Grund­la­gen und Instru­men­te aus­rei­chend sind, um die­sen Risi­ken zu begeg­nen. In die­sem Zusam­men­hang soll auch die Schaf­fung einer natio­na­len Ethik­kom­mis­si­on geprüft wer­den. Im wei­te­ren soll der Bericht auf­zei­gen, wo die­se Syste­me im öffent­li­chen Dienst bereits zum Ein­satz kom­men (z.B. Straf­ver­fol­gung) und wo allen­falls die recht­li­chen Grund­la­gen fehlen.

Begrün­dung

Auto­ma­ti­sier­te Ent­schei­dungs­sy­ste­me oder künst­li­che Intel­li­gen­zen kom­men in immer mehr Berei­chen zum Ein­satz sowohl in der Pri­vat­wirt­schaft wie auch bei der öffent­li­chen Hand. Die­se Tech­no­lo­gie ist auch mit gewis­sen Risi­ken ver­bun­den. Zum einen zei­gen gewis­se Bei­spie­le, dass Ent­schei­dun­gen auf­grund von Ver­zer­run­gen in Model­len oder Tra­nings­da­ten oder auf­grund gesell­schaft­li­cher oder wirt­schaft­li­cher Umstän­de dis­kri­mi­nie­rend sein kön­nen (z.B. Ama­zon und Bewer­bungs­sy­stem) oder falsch oder gefähr­lich sein kön­nen (IBM Wat­sons Dia­gno­stic Tools für die Onko­lo­gie). Eben­so kön­nen sie mit schwe­ren Ein­schrän­kun­gen für die Grund­rech­te oder einer abschrecken­den Wir­kung auf das Wahr­neh­men der Grund­rech­te ver­bun­den sein wie bei­spiels­wei­se im Bereich der prä­ven­ti­ven Poli­zei­ar­beit. Selbst Syste­me, die von der EU-Kom­mis­si­on als Syste­me mit gerin­ge­rem Risi­ko ein­ge­schätzt wer­den, kön­nen hoch­pro­ble­ma­tisch sein wie soge­nann­te Deep Fakes.

Sowohl im pri­va­ten als auch im öffent­li­chen Sek­tor ist es oft für die Öffent­lich­keit und für Betrof­fe­ne oft nicht erkenn­bar, wo ADMS ein­ge­setzt wer­den und wann sie davon betrof­fen sind. Zum ande­ren bleibt oft unklar, zu wel­chem Zweck und von wem ein System ein­ge­setzt wird und wie es funk­tio­niert. Hier soll der Bericht Abhil­fe schaf­fen. Zudem soll auf­ge­zeigt wer­den, wie die­se Trans­pa­renz sowohl gegen­über Betrof­fe­nen als auch gegen­über der gene­rel­len Öffent­lich­keit ver­bes­sert wer­den kann (bei­spiels­wei­se durch Aus­kunfts- und Infor­ma­ti­ons­pflich­ten gegen­über Betrof­fe­nen oder durch die Schaf­fung eines öffent­li­chen Regi­sters mit grund­le­gen­den Infor­ma­tio­nen zu den im öffent­li­chen Sek­tor ein­ge­setz­ten ADMS). Dass Hand­lungs­be­darf besteht wur­de auch im Posi­ti­ons­pa­pier “Ein Rechts­rah­men für künst­li­che Intel­li­genz” der Digi­tal Socie­ty Initia­ti­ve der Uni­ver­si­tät Zürich festgehalten.

Stel­lung­nah­me des Bun­des­rats vom 16.02.2022

Die künst­li­che Intel­li­genz (KI) wirft für inno­va­ti­ve und zukunfts­ge­rich­te­te Wirt­schafts­stand­or­te, die nach rechts­staat­li­chen Prin­zi­pi­en han­deln, zahl­rei­che Fra­gen auf. Der Bun­des­rat befass­te sich bereits 2019 bei einer Stand­ort­be­stim­mung mit die­sem The­ma, als die inter­de­par­te­men­ta­le Arbeits­grup­pe für KI einen ent­spre­chen­den Bericht ver­öf­fent­lich­te. Wei­ter ver­ab­schie­de­te er im Jahr 2020 Leit­li­ni­en für den Umgang mit KI in der Bun­des­ver­wal­tung und beauf­trag­te das Depar­te­ment für Umwelt, Ver­kehr, Ener­gie und Kom­mu­ni­ka­ti­on (UVEK) mit der regel­mä­ssi­gen Über­prü­fung von deren Anwen­dung und Wei­ter­ent­wick­lung in Zusam­men­ar­beit mit den betrof­fe­nen Ämtern. Im Jahr 2021 erhielt das Eid­ge­nös­si­sche Depar­te­ment des Innern (EDI) den Auf­trag, bis Früh­ling 2022 ein Kom­pe­tenz­netz­werk für KI (CNAI) ein­zu­rich­ten. Die Bedarfs- und Chan­cen­ana­ly­se über­schnei­det sich folg­lich weit­ge­hend mit dem im Postu­lat erwähn­ten Posi­ti­ons­pa­pier der Digi­tal Socie­ty Initia­ti­ve der Uni­ver­si­tät Zürich.

Betref­fend die recht­li­chen Bestim­mun­gen ist der Bun­des­rat auf Basis des erwähn­ten Berichts zum Schluss gekom­men, dass der­zeit kein neu­er all­ge­mei­ner gesetz­li­cher Rah­men nötig ist. Die KI kann in ver­schie­de­nen Berei­chen Fra­gen auf­wer­fen (z.B. medi­zi­ni­sche Dia­gno­se, Land­wirt­schaft, Gerich­te), die aber mit den gel­ten­den Rechts­grund­la­gen abge­deckt sind und sich in der Regel gut beant­wor­ten las­sen. Ist dies nicht der Fall, müs­sen punk­tu­el­le Lösun­gen gefun­den wer­den. In bestimm­ten Berei­chen kann dies zur Revi­si­on eines Geset­zes oder einer Ver­ord­nung füh­ren. Hier sei auf das im Jahr 2020 ver­ab­schie­de­te neue Daten­schutz­ge­setz hin­ge­wie­sen, das bereits meh­re­re Bestim­mun­gen vor­sieht, mit denen die Trans­pa­renz in die­sem Bereich sowohl im pri­va­ten als auch im öffent­li­chen Sek­tor ver­bes­sert wird. Arti­kel 21 führt für auto­ma­ti­sier­te Ein­zel­ent­schei­dun­gen eine Aus­kunfts­pflicht ein, wobei die betrof­fe­ne Per­son ver­lan­gen kann, dass die­se Ent­schei­dung von einer natür­li­chen Per­son über­prüft wird. Per­so­nen, die das Aus­kunfts­recht gel­tend machen, wer­den über das Vor­lie­gen einer auto­ma­ti­sier­ten Ein­zel­ent­schei­dung sowie die Logik, auf der die Ent­schei­dung beruht, infor­miert (Art. 25 Abs. 2 Bst. f). Im Hin­blick auf die Bear­bei­tung von Per­so­nen­da­ten durch Bun­des­or­ga­ne ist eine Grund­la­ge in einem Gesetz im for­mel­len Sinn erfor­der­lich, wenn die Art und Wei­se der Daten­be­ar­bei­tung (dazu gehört auch die Ver­wen­dung von Algo­rith­men) zu einem schwer­wie­gen­den Ein­griff in die Grund­rech­te der betrof­fe­nen Per­son füh­ren kann (Art. 34 Abs. 2 Bst. c). Der Bun­des­rat hat das Eid­ge­nös­si­sche Finanz­de­par­te­ment (EFD) damit beauf­tragt, bis Ende 2022 eine Ana­ly­se des recht­li­chen Rah­mens für die Anwen­dung von KI im Finanz­sek­tor zu erstel­len. Das CNAI stärkt dank sei­ner struk­tu­rier­ten Daten­bank für die öffent­li­che Ver­wal­tung die Trans­pa­renz und das Ver­trau­en in die­se Tech­no­lo­gien. Dar­über hin­aus betei­ligt sich die Schweiz aktiv an den Arbei­ten der OECD, des Euro­pa­rats, der UNESCO und der Inter­na­tio­nal Tele­com­mu­ni­ca­ti­on Uni­on (ITU) zur Erar­bei­tung eines inter­na­tio­na­len Regel­werks im Bereich KI. Der Bund ver­folgt die Dis­kus­sio­nen hin­sicht­lich des neu­en Rechts­rah­mens für KI in der EU auf­merk­sam und ana­ly­siert die mög­li­chen Kon­se­quen­zen für die Schweiz. Dazu hat das UVEK dem Bun­des­rat 2021 in einem Bericht auf­ge­zeigt, wie sich auf KI basie­ren­de Inter­me­diä­re und Kom­mu­ni­ka­ti­ons­platt­for­men auf die öffent­li­che Kom­mu­ni­ka­ti­on in der Schweiz und die Mei­nungs­bil­dung der Schwei­zer Bevöl­ke­rung aus­wir­ken. Das UVEK soll dem Bun­des­rat zudem bis Ende 2022 mit­tei­len, inwie­fern die Kom­mu­ni­ka­ti­ons­platt­for­men regle­men­tiert wer­den müss­ten. Der Bun­des­rat hat das Eid­ge­nös­si­sche Depar­te­ment für aus­wär­ti­ge Ange­le­gen­hei­ten (EDA) beauf­tragt, einen Bericht über die Arbei­ten am inter­na­tio­na­len Regel­werk im Bereich KI und die Mög­lich­kei­ten der Schweiz, sich aktiv zu betei­li­gen, zu ver­fas­sen. Zur Not­wen­dig­keit einer natio­na­len Ethik­kom­mis­si­on hat der Bun­des­rat im Mai 2021 bereits im Rah­men der Ant­wort auf die Inter­pel­la­ti­on 21.3239 Schlat­ter Stel­lung genom­men. Es sei erneut auf die vom UVEK gelei­te­te “Pla­te­for­me Tri­par­ti­te Suis­se” hin­ge­wie­sen, die als allen Anspruchs­grup­pen offen­ste­hen­de Aus­tausch­platt­form für KI-Fra­gen dient und über einen admi­ni­stra­ti­ven Aus­schuss zur Koor­di­na­ti­on der Schwei­zer Posi­tio­nen in inter­na­tio­na­len Orga­ni­sa­tio­nen und Pro­zes­sen ver­fügt. Zudem wird der Bun­des­rat im Rah­men der Stra­te­gie “Digi­ta­le Schweiz” sowie der Stra­te­gie Digi­tal­au­ssen­po­li­tik 2021 – 2024 einen wei­te­ren Bericht zu die­sem The­ma erar­bei­ten. Unter Berück­sich­ti­gung der auf natio­na­ler und inter­na­tio­na­ler Ebe­ne lau­fen­den Arbei­ten für das inter­na­tio­na­le Regel­werk im Bereich KI erscheint ein par­la­men­ta­ri­scher Auf­trag der­zeit nicht notwendig.

Der Bun­des­rat bean­tragt die Ableh­nung des Postulates.

Teilen auf facebook
Teilen auf twitter
Teilen auf linkedin
Teilen auf email
Teilen auf print

Table of Contents