Im Rahmen der am 15. Juni 2023 eingereichten parlamentarischen Initiative 23.438 («Datenschutzgesetzgebung anpassen und teilautomatisierte Entscheide aufgrund künstlicher Intelligenz (KI) ergänzen») soll das neue Datenschutzgesetz mit einer Informationspflicht beim Einsatz von KI ergänzt werden.
Ausgangslage
Das neue Datenschutzgesetz (nDSG) wird am 1. September 2023 in Kraft treten. Mit Art. 21 nDSG wird auch eine spezifische Informationspflicht betreffend automatisierte Einzelentscheidungen eingeführt. Die Bestimmung verlangt, dass der Verantwortliche betroffene Personen über eine Entscheidung informiert, die ausschliesslich auf einer automatisierten Bearbeitung beruht und die für sie mit einer Rechtsfolge verbunden ist oder die betroffene Person erheblich beeinträchtigt. Das DSG sieht damit nur für vollautomatisierte Entscheide eine spezifische Kennzeichnungspflicht und sodann gewisse Rechte vor. Im Vorstosstext wird genau dieser Punkt als unbefriedigend bezeichnet – dies, weil KI-Systeme in der Praxis viel häufiger in teilautomatisierten Verfahren eingesetzt werden, Art. 21 nDSG dann aber nicht anwendbar wäre. Die in der Sommersession von der Grünen Fraktion eingereichte parlamentarische Initiative soll diese Problematik mit einem neuen Art. 21bis nDSG angehen.
Vorschlag Art. 21bis nDSG
Das nDSG soll gemäss Vorstosstext wie folgt ergänzt werden (Hervorhebungen durch die Autorin), wobei aus dem Wortlaut nicht ganz klar ist, ob ein neuer Artikel 21bis eingefügt werden soll, oder ob Art. 21 nDSG selbst ergänzt werden soll:
Artikel 21bis Informationspflicht beim Einsatz künstlicher Intelligenz
1 Der Verantwortliche informiert die betroffene Person über eine Entscheidung, die massgeblich auf künstlicher Intelligenz beruht und die für sie mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt (KI-gestützte Einzelentscheidung).
2 Er gibt der betroffenen Person auf Antrag die Möglichkeit, ihren Standpunkt darzulegen. Die betroffene Person kann verlangen, dass die KI-gestützte Einzelentscheidung von einer natürlichen Person überprüft wird.
3 Die Absätze 1 und 2 gelten nicht, wenn:
- die KI-gestützte Einzelentscheidung in unmittelbarem Zusammenhang mit dem Abschluss oder der Abwicklung eines Vertrags zwischen dem Verantwortlichen und der betroffenen Person steht und ihrem Begehren stattgegeben wird; oder
- die betroffene Person ausdrücklich eingewilligt hat, dass die Entscheidung KI-gestützt erfolgt.
4 Ergeht die KI-gestützte Einzelentscheidung durch ein Bundesorgan, so muss es die Entscheidung entsprechend kennzeichnen. Absatz 2 ist nicht anwendbar, wenn die betroffene Person nach Artikel 30 Absatz 2 des Verwaltungsverfahrensgesetzes vom 20. Dezember 19686 (VwVG) oder nach einem anderen Bundesgesetz vor dem Entscheid nicht angehört werden muss.
Art. 21bis nDSG ist praktisch ein Abbild von Art. 21 nDSG. Der Unterschied liegt hauptsächlich darin, dass «Entscheidung, die ausschliesslich auf einer automatisierten Bearbeitung beruht» mit «Entscheidung, die massgeblich auf künstlicher Intelligenz beruht» ersetzt wird und im vorgeschlagenen Artikel stets von «KI-gestützter Einzelentscheidung» die Rede ist.
Begründung
Begründet wird der Vorstoss mit der zunehmenden Automatisierung von Prozessen. KI-Systeme würden in der Praxis viel häufiger in teilautomatisierten Verfahren – als Entscheidungsunterstützung – eingesetzt. Art. 21 nDSG wäre in diesen Fällen jedoch gerade nicht anwendbar, was unbefriedigend sei, denn eine teilautomatisierte Entscheidung könne selbstverständlich ähnlich schwerwiegende Auswirkungen wie eine vollautomatisierte Entscheidung haben. Das nDSG helfe einer betroffenen Person aber nur weiter, wenn ein vollautomatisiertes KI-System jeden einzelnen Schritt bis hin zur Entscheidung selbst, d.h. ohne menschliches Zutun, ausführe.
Die Initianten sind sich im Übrigen bewusst, dass der Begriff «Künstliche Intelligenz» im nDSG weder erwähnt noch definiert wird, und verweisen deshalb auf die geplante KI-Verordnung der EU, welche eine Definition von «KI-System» enthalten wird. Der Schweizer Gesetzgeber wird sich künftig wohl an dieser Definition orientieren (müssen), da die KI-Verordnung bekanntlich eine extraterritoriale Wirkung entfaltet und es in der Schweiz wohl auch zum sog. „Brüssel-Effekt“ kommen wird, weil das Land eng mit dem EU-Binnenmarkt verknüpft und vom Marktzugang abhängig ist (siehe dazu auch
Besonderheit des Vorstosses
Die politische Debatte rund um diese parlamentarische Initiative wird insofern interessant sein, weil sich Bundespolitikerinnen und Bundespolitiker nun intensiv mit dem Thema KI-Regulierung und der Einsatz- und Funktionsweise von KI-Systemen in der Praxis auseinandersetzen müssen. Dies vor dem Hintergrund, dass es sich beim Vorstoss um eine sog. «parlamentarische Initiative» handelt und eine Kommission damit selbst einen Entwurf ausarbeiten muss (sofern die Pa. Iv. in einem ersten Schritt angenommen wird). Die bisherigen Vorstösse, welche auf Bundesebene zum Thema KI eingereicht wurden, waren hauptsächlich Motionen, Postulate, Interpellationen und Anfragen, welche sich an den Bundesrat richten. Angesichts der aktuellen Umstände – wir erleben in Echtzeit die Geburt einer neuen Generation von KI-Systemen, insbesondere im Bereich der generativen KI – ist eine reflektierte, und direkt in der zuständigen Kommission geführte Debatte darüber, wie der Einsatz von KI in der Schweiz reguliert werden soll, erwünscht.
Ausblick
Wann die parlamentarische Initiative behandelt wird und in welcher Nationalrats-Kommission, ist der Website des Schweizer Parlaments noch nicht zu entnehmen. Da die Revision des DSG von der Staatspolitischen Kommission (SPK) behandelt wurde und der Datenschutz zu ihren zugewiesenen Sachbereichen gehört, ist es naheliegend, dass auch vorliegend wieder die SPK zuständig sein wird.