datenrecht.ch

Moti­on Glätt­li (24.3795): Schutz vor Dis­kri­mi­nie­rung beim Ein­satz von KI und Algorithmen

Moti­on Glätt­li (24.3795): Schutz vor Dis­kri­mi­nie­rung beim Ein­satz von KI und Algorithmen

Ein­ge­reich­ter Text

Der Bun­des­rat wird beauf­tragt, die gesetz­li­chen Bestim­mun­gen zu schaf­fen oder anzu­pas­sen, um einen ange­mes­se­nen Schutz vor Dis­kri­mi­nie­rung durch teil- oder voll­au­to­ma­ti­sier­te Ent­scheid­ver­fah­ren zu schaffen.

Begrün­dung

Eines der gröss­ten Risi­ken von voll- und teil­au­to­ma­ti­sier­ten Ent­scheid­ver­fah­ren liegt aner­kann­ter­ma­ssen in der Dis­kri­mi­nie­rung. Dies hat rele­van­te Aus­wir­kun­gen zum Bei­spiel bei der Woh­nungs­ver­ga­be, der Berech­nung von Ver­si­che­rungs­prä­mi­en und Kre­dit­wür­dig­keit oder bei der Bear­bei­tung von Stellenbewerbungen.

Lei­der ist aber der all­ge­mei­ne Dis­kri­mi­nie­rungs­schutz von Arti­kel 8 Abs. 2 BV (wel­cher in Ver­bin­dung mit Art. 35 Abs. 3 BV auch zwi­schen Pri­va­ten gel­ten müss­te) heu­te gesetz­lich nicht kon­kre­ti­siert. Dies soll geän­dert wer­den. Bei (teil)automatisierten Ent­scheid­ver­fah­ren ist dabei ins­be­son­de­re zu berück­sich­ti­gen, dass Dis­kri­mi­nie­run­gen nicht nur direkt, son­dern auch indi­rekt (via Pro­xy) erfol­gen kön­nen, und dass wegen des Ska­lie­rungs­ef­fekts sehr vie­le Per­so­nen betrof­fen sein kön­nen. Je nach Risi­ko der Anwen­dung braucht es des­halb auch ange­mes­se­ne Trans­pa­renz- und Sorg­falts­pflich­ten inkl. Fol­ge­ab­schät­zun­gen.

Beson­de­re zu berück­sich­ti­gen ist schliess­lich die Rechts­durch­set­zung. Die­se darf nicht dar­an schei­tern, dass eine indi­vi­du­el­le Beweis­füh­rung gera­de bei KI-Anwen­dun­gen ohne trans­pa­ren­ten und ein­deu­ti­gen Ent­scheid­me­cha­nis­mus sehr schwie­rig oder tech­nisch unmög­lich ist (Black Box Pro­ble­ma­tik). Der Bun­des­rat macht ja bereits mit Auf­trag vom 22.11.2023 eine inter­de­par­te­men­ta­le Aus­le­ge­ord­nung zur KI Regu­lie­rung. Der hier gefor­der­te Dis­kri­mi­nie­rungs­schutz kann gege­be­nen­falls in dar­auf fol­gen­de Gesetz­ge­bungs­ver­fah­ren inte­griert und wenn mög­lich und sinn­voll auch mit inter­na­tio­na­len Regu­lie­run­gen abge­stimmt werden.

Behörde

Gebiet

Themen

Ähnliche Beiträge

Newsletter