Postulat Marti (21.4406): Bericht zur Regulierung von automatisierten Entscheidungssystemen
Eingereichter Text
Der Bundesrat wird beauftragt, einen Bericht vorzulegen, in dem aufgezeigt wird, wo möglicher Regulierungsbedarf bei automatisierten Entscheidungssystemen (ADMS) beziehungsweise künstlicher Intelligenz vorliegt. Im Fokus dabei steht die Gewährleistung von Transparenz, die Beachtung von ethischen Richtlinien und die Vermeidung von Diskriminierung oder Manipulation. Ein weiterer Aspekt betrifft Fragen von Verantwortungszuschreibung und Haftung, wo rechtlicher Klärungsbedarf besteht im Zusammenhang mit von ADMS getroffenen Prognosen, Empfehlungen oder Entscheidungen. Es soll geklärt werden, ob die gesetzlichen Grundlagen und Instrumente ausreichend sind, um diesen Risiken zu begegnen. In diesem Zusammenhang soll auch die Schaffung einer nationalen Ethikkommission geprüft werden. Im weiteren soll der Bericht aufzeigen, wo diese Systeme im öffentlichen Dienst bereits zum Einsatz kommen (z.B. Strafverfolgung) und wo allenfalls die rechtlichen Grundlagen fehlen.
Begründung
Automatisierte Entscheidungssysteme oder künstliche Intelligenzen kommen in immer mehr Bereichen zum Einsatz sowohl in der Privatwirtschaft wie auch bei der öffentlichen Hand. Diese Technologie ist auch mit gewissen Risiken verbunden. Zum einen zeigen gewisse Beispiele, dass Entscheidungen aufgrund von Verzerrungen in Modellen oder Traningsdaten oder aufgrund gesellschaftlicher oder wirtschaftlicher Umstände diskriminierend sein können (z.B. Amazon und Bewerbungssystem) oder falsch oder gefährlich sein können (IBM Watsons Diagnostic Tools für die Onkologie). Ebenso können sie mit schweren Einschränkungen für die Grundrechte oder einer abschreckenden Wirkung auf das Wahrnehmen der Grundrechte verbunden sein wie beispielsweise im Bereich der präventiven Polizeiarbeit. Selbst Systeme, die von der EU-Kommission als Systeme mit geringerem Risiko eingeschätzt werden, können hochproblematisch sein wie sogenannte Deep Fakes.
Sowohl im privaten als auch im öffentlichen Sektor ist es oft für die Öffentlichkeit und für Betroffene oft nicht erkennbar, wo ADMS eingesetzt werden und wann sie davon betroffen sind. Zum anderen bleibt oft unklar, zu welchem Zweck und von wem ein System eingesetzt wird und wie es funktioniert. Hier soll der Bericht Abhilfe schaffen. Zudem soll aufgezeigt werden, wie diese Transparenz sowohl gegenüber Betroffenen als auch gegenüber der generellen Öffentlichkeit verbessert werden kann (beispielsweise durch Auskunfts- und Informationspflichten gegenüber Betroffenen oder durch die Schaffung eines öffentlichen Registers mit grundlegenden Informationen zu den im öffentlichen Sektor eingesetzten ADMS). Dass Handlungsbedarf besteht wurde auch im Positionspapier “Ein Rechtsrahmen für künstliche Intelligenz” der Digital Society Initiative der Universität Zürich festgehalten.
Stellungnahme des Bundesrats vom 16.02.2022
Die künstliche Intelligenz (KI) wirft für innovative und zukunftsgerichtete Wirtschaftsstandorte, die nach rechtsstaatlichen Prinzipien handeln, zahlreiche Fragen auf. Der Bundesrat befasste sich bereits 2019 bei einer Standortbestimmung mit diesem Thema, als die interdepartementale Arbeitsgruppe für KI einen entsprechenden Bericht veröffentlichte. Weiter verabschiedete er im Jahr 2020 Leitlinien für den Umgang mit KI in der Bundesverwaltung und beauftragte das Departement für Umwelt, Verkehr, Energie und Kommunikation (UVEK) mit der regelmässigen Überprüfung von deren Anwendung und Weiterentwicklung in Zusammenarbeit mit den betroffenen Ämtern. Im Jahr 2021 erhielt das Eidgenössische Departement des Innern (EDI) den Auftrag, bis Frühling 2022 ein Kompetenznetzwerk für KI (CNAI) einzurichten. Die Bedarfs- und Chancenanalyse überschneidet sich folglich weitgehend mit dem im Postulat erwähnten Positionspapier der Digital Society Initiative der Universität Zürich.
Betreffend die rechtlichen Bestimmungen ist der Bundesrat auf Basis des erwähnten Berichts zum Schluss gekommen, dass derzeit kein neuer allgemeiner gesetzlicher Rahmen nötig ist. Die KI kann in verschiedenen Bereichen Fragen aufwerfen (z.B. medizinische Diagnose, Landwirtschaft, Gerichte), die aber mit den geltenden Rechtsgrundlagen abgedeckt sind und sich in der Regel gut beantworten lassen. Ist dies nicht der Fall, müssen punktuelle Lösungen gefunden werden. In bestimmten Bereichen kann dies zur Revision eines Gesetzes oder einer Verordnung führen. Hier sei auf das im Jahr 2020 verabschiedete neue Datenschutzgesetz hingewiesen, das bereits mehrere Bestimmungen vorsieht, mit denen die Transparenz in diesem Bereich sowohl im privaten als auch im öffentlichen Sektor verbessert wird. Artikel 21 führt für automatisierte Einzelentscheidungen eine Auskunftspflicht ein, wobei die betroffene Person verlangen kann, dass diese Entscheidung von einer natürlichen Person überprüft wird. Personen, die das Auskunftsrecht geltend machen, werden über das Vorliegen einer automatisierten Einzelentscheidung sowie die Logik, auf der die Entscheidung beruht, informiert (Art. 25 Abs. 2 Bst. f). Im Hinblick auf die Bearbeitung von Personendaten durch Bundesorgane ist eine Grundlage in einem Gesetz im formellen Sinn erforderlich, wenn die Art und Weise der Datenbearbeitung (dazu gehört auch die Verwendung von Algorithmen) zu einem schwerwiegenden Eingriff in die Grundrechte der betroffenen Person führen kann (Art. 34 Abs. 2 Bst. c). Der Bundesrat hat das Eidgenössische Finanzdepartement (EFD) damit beauftragt, bis Ende 2022 eine Analyse des rechtlichen Rahmens für die Anwendung von KI im Finanzsektor zu erstellen. Das CNAI stärkt dank seiner strukturierten Datenbank für die öffentliche Verwaltung die Transparenz und das Vertrauen in diese Technologien. Darüber hinaus beteiligt sich die Schweiz aktiv an den Arbeiten der OECD, des Europarats, der UNESCO und der International Telecommunication Union (ITU) zur Erarbeitung eines internationalen Regelwerks im Bereich KI. Der Bund verfolgt die Diskussionen hinsichtlich des neuen Rechtsrahmens für KI in der EU aufmerksam und analysiert die möglichen Konsequenzen für die Schweiz. Dazu hat das UVEK dem Bundesrat 2021 in einem Bericht aufgezeigt, wie sich auf KI basierende Intermediäre und Kommunikationsplattformen auf die öffentliche Kommunikation in der Schweiz und die Meinungsbildung der Schweizer Bevölkerung auswirken. Das UVEK soll dem Bundesrat zudem bis Ende 2022 mitteilen, inwiefern die Kommunikationsplattformen reglementiert werden müssten. Der Bundesrat hat das Eidgenössische Departement für auswärtige Angelegenheiten (EDA) beauftragt, einen Bericht über die Arbeiten am internationalen Regelwerk im Bereich KI und die Möglichkeiten der Schweiz, sich aktiv zu beteiligen, zu verfassen. Zur Notwendigkeit einer nationalen Ethikkommission hat der Bundesrat im Mai 2021 bereits im Rahmen der Antwort auf die Interpellation 21.3239 Schlatter Stellung genommen. Es sei erneut auf die vom UVEK geleitete “Plateforme Tripartite Suisse” hingewiesen, die als allen Anspruchsgruppen offenstehende Austauschplattform für KI-Fragen dient und über einen administrativen Ausschuss zur Koordination der Schweizer Positionen in internationalen Organisationen und Prozessen verfügt. Zudem wird der Bundesrat im Rahmen der Strategie “Digitale Schweiz” sowie der Strategie Digitalaussenpolitik 2021 – 2024 einen weiteren Bericht zu diesem Thema erarbeiten. Unter Berücksichtigung der auf nationaler und internationaler Ebene laufenden Arbeiten für das internationale Regelwerk im Bereich KI erscheint ein parlamentarischer Auftrag derzeit nicht notwendig.
Der Bundesrat beantragt die Ablehnung des Postulates.