datenrecht.ch

Par­la­men­ta­ri­sche Initia­ti­ve 23.438: Ergän­zung DSG betref­fend teil­au­to­ma­ti­sier­te Entscheide

Im Rah­men der am 15. Juni 2023 ein­ge­reich­ten par­la­men­ta­ri­schen Initia­ti­ve 23.438Daten­schutz­ge­setz­ge­bung anpas­sen und teil­au­to­ma­ti­sier­te Ent­schei­de auf­grund künst­li­cher Intel­li­genz (KI) ergän­zen») soll das neue Daten­schutz­ge­setz mit einer Infor­ma­ti­ons­pflicht beim Ein­satz von KI ergänzt werden.

Aus­gangs­la­ge

Das neue Daten­schutz­ge­setz (nDSG) wird am 1. Sep­tem­ber 2023 in Kraft tre­ten. Mit Art. 21 nDSG wird auch eine spe­zi­fi­sche Infor­ma­ti­ons­pflicht betref­fend auto­ma­ti­sier­te Ein­zel­ent­schei­dun­gen ein­ge­führt. Die Bestim­mung ver­langt, dass der Ver­ant­wort­li­che betrof­fe­ne Per­so­nen über eine Ent­schei­dung infor­miert, die aus­schliess­lich auf einer auto­ma­ti­sier­ten Bear­bei­tung beruht und die für sie mit einer Rechts­fol­ge ver­bun­den ist oder die betrof­fe­ne Per­son erheb­lich beein­träch­tigt. Das DSG sieht damit nur für voll­au­to­ma­ti­sier­te Ent­schei­de eine spe­zi­fi­sche Kenn­zeich­nungs­pflicht und sodann gewis­se Rech­te vor. Im Vor­stoss­text wird genau die­ser Punkt als unbe­frie­di­gend bezeich­net – dies, weil KI-Syste­me in der Pra­xis viel häu­fi­ger in teil­au­to­ma­ti­sier­ten Ver­fah­ren ein­ge­setzt wer­den, Art. 21 nDSG dann aber nicht anwend­bar wäre. Die in der Som­mer­ses­si­on von der Grü­nen Frak­ti­on ein­ge­reich­te par­la­men­ta­ri­sche Initia­ti­ve soll die­se Pro­ble­ma­tik mit einem neu­en Art. 21bis nDSG angehen.

Vor­schlag Art. 21bis nDSG

Das nDSG soll gemäss Vor­stoss­text wie folgt ergänzt wer­den (Her­vor­he­bun­gen durch die Autorin), wobei aus dem Wort­laut nicht ganz klar ist, ob ein neu­er Arti­kel 21bis ein­ge­fügt wer­den soll, oder ob Art. 21 nDSG selbst ergänzt wer­den soll:

Arti­kel 21bis Infor­ma­ti­ons­pflicht beim Ein­satz künst­li­cher Intelligenz

1 Der Ver­ant­wort­li­che infor­miert die betrof­fe­ne Per­son über eine Ent­schei­dung, die mass­geb­lich auf künst­li­cher Intel­li­genz beruht und die für sie mit einer Rechts­fol­ge ver­bun­den ist oder sie erheb­lich beein­träch­tigt (KI-gestütz­te Ein­zel­ent­schei­dung).

2 Er gibt der betrof­fe­nen Per­son auf Antrag die Mög­lich­keit, ihren Stand­punkt dar­zu­le­gen. Die betrof­fe­ne Per­son kann ver­lan­gen, dass die KI-gestütz­te Ein­zel­ent­schei­dung von einer natür­li­chen Per­son über­prüft wird.

3 Die Absät­ze 1 und 2 gel­ten nicht, wenn:

  1. die KI-gestütz­te Ein­zel­ent­schei­dung in unmit­tel­ba­rem Zusam­men­hang mit dem Abschluss oder der Abwick­lung eines Ver­trags zwi­schen dem Ver­ant­wort­li­chen und der betrof­fe­nen Per­son steht und ihrem Begeh­ren statt­ge­ge­ben wird; oder
  2. die betrof­fe­ne Per­son aus­drück­lich ein­ge­wil­ligt hat, dass die Ent­schei­dung KI-gestützt erfolgt.

4 Ergeht die KI-gestütz­te Ein­zel­ent­schei­dung durch ein Bun­des­or­gan, so muss es die Ent­schei­dung ent­spre­chend kenn­zeich­nen. Absatz 2 ist nicht anwend­bar, wenn die betrof­fe­ne Per­son nach Arti­kel 30 Absatz 2 des Ver­wal­tungs­ver­fah­rens­ge­set­zes vom 20. Dezem­ber 19686 (VwVG) oder nach einem ande­ren Bun­des­ge­setz vor dem Ent­scheid nicht ange­hört wer­den muss.

Art. 21bis nDSG ist prak­tisch ein Abbild von Art. 21 nDSG. Der Unter­schied liegt haupt­säch­lich dar­in, dass «Ent­schei­dung, die aus­schliess­lich auf einer auto­ma­ti­sier­ten Bear­bei­tung beruht» mit «Ent­schei­dung, die mass­geb­lich auf künst­li­cher Intel­li­genz beruht» ersetzt wird und im vor­ge­schla­ge­nen Arti­kel stets von «KI-gestütz­ter Ein­zel­ent­schei­dung» die Rede ist.

Begrün­dung

Begrün­det wird der Vor­stoss mit der zuneh­men­den Auto­ma­ti­sie­rung von Pro­zes­sen. KI-Syste­me wür­den in der Pra­xis viel häu­fi­ger in teil­au­to­ma­ti­sier­ten Ver­fah­ren – als Ent­schei­dungs­un­ter­stüt­zung – ein­ge­setzt. Art. 21 nDSG wäre in die­sen Fäl­len jedoch gera­de nicht anwend­bar, was unbe­frie­di­gend sei, denn eine teil­au­to­ma­ti­sier­te Ent­schei­dung kön­ne selbst­ver­ständ­lich ähn­lich schwer­wie­gen­de Aus­wir­kun­gen wie eine voll­au­to­ma­ti­sier­te Ent­schei­dung haben. Das nDSG hel­fe einer betrof­fe­nen Per­son aber nur wei­ter, wenn ein voll­au­to­ma­ti­sier­tes KI-System jeden ein­zel­nen Schritt bis hin zur Ent­schei­dung selbst, d.h. ohne mensch­li­ches Zutun, ausführe.

Die Initi­an­ten sind sich im Übri­gen bewusst, dass der Begriff «Künst­li­che Intel­li­genz» im nDSG weder erwähnt noch defi­niert wird, und ver­wei­sen des­halb auf die geplan­te KI-Ver­ord­nung der EU, wel­che eine Defi­ni­ti­on von «KI-System» ent­hal­ten wird. Der Schwei­zer Gesetz­ge­ber wird sich künf­tig wohl an die­ser Defi­ni­ti­on ori­en­tie­ren (müs­sen), da die KI-Ver­ord­nung bekannt­lich eine extra­ter­ri­to­ria­le Wir­kung ent­fal­tet und es in der Schweiz wohl auch zum sog. „Brüs­sel-Effekt“ kom­men wird, weil das Land eng mit dem EU-Bin­nen­markt ver­knüpft und vom Markt­zu­gang abhän­gig ist (sie­he dazu auch

Beson­der­heit des Vorstosses

Die poli­ti­sche Debat­te rund um die­se par­la­men­ta­ri­sche Initia­ti­ve wird inso­fern inter­es­sant sein, weil sich Bun­des­po­li­ti­ke­rin­nen und Bun­des­po­li­ti­ker nun inten­siv mit dem The­ma KI-Regu­lie­rung und der Ein­satz- und Funk­ti­ons­wei­se von KI-Syste­men in der Pra­xis aus­ein­an­der­set­zen müs­sen. Dies vor dem Hin­ter­grund, dass es sich beim Vor­stoss um eine sog. «par­la­men­ta­ri­sche Initia­ti­ve» han­delt und eine Kom­mis­si­on damit selbst einen Ent­wurf aus­ar­bei­ten muss (sofern die Pa. Iv. in einem ersten Schritt ange­nom­men wird). Die bis­he­ri­gen Vor­stö­sse, wel­che auf Bun­des­ebe­ne zum The­ma KI ein­ge­reicht wur­den, waren haupt­säch­lich Motio­nen, Postu­la­te, Inter­pel­la­tio­nen und Anfra­gen, wel­che sich an den Bun­des­rat rich­ten. Ange­sichts der aktu­el­len Umstän­de – wir erle­ben in Echt­zeit die Geburt einer neu­en Gene­ra­ti­on von KI-Syste­men, ins­be­son­de­re im Bereich der gene­ra­ti­ven KI – ist eine reflek­tier­te, und direkt in der zustän­di­gen Kom­mis­si­on geführ­te Debat­te dar­über, wie der Ein­satz von KI in der Schweiz regu­liert wer­den soll, erwünscht.

Aus­blick

Wann die par­la­men­ta­ri­sche Initia­ti­ve behan­delt wird und in wel­cher Natio­nal­rats-Kom­mis­si­on, ist der Web­site des Schwei­zer Par­la­ments noch nicht zu ent­neh­men. Da die Revi­si­on des DSG von der Staats­po­li­ti­schen Kom­mis­si­on (SPK) behan­delt wur­de und der Daten­schutz zu ihren zuge­wie­se­nen Sach­be­rei­chen gehört, ist es nahe­lie­gend, dass auch vor­lie­gend wie­der die SPK zustän­dig sein wird.

Behörde

Gebiet

Themen

Ähnliche Beiträge

Newsletter