Eingereichter Text
Der Bundesrat wird beauftragt, die gesetzlichen Grundlagen zu schaffen, dass eine Deklarationspflicht für Anwendungen der künstlichen Intelligenz und von automatisierten Entscheidungssystemen zu schaffen. Diese Deklarationspflicht sollte sowohl für Anwendungen im öffentlichen wie auch im privaten Sektor gelten. Dies gewährleistet einheitliche Standards und schafft damit Vertrauen sowohl für die Bürgerinnen und Bürger, wie auch bei den Unternehmen, die KI-Technologien verwenden.
Begründung
Bereits heute werden von staatlichen und privaten Akteuren algorithmische Systeme und künstliche Intelligenz eingesetzt. Dabei ist aber nicht immer für alle Betroffenen ersichtlich, dass diese eingesetzt werden. Transparenz und Nachvollziehbarkeit gehören zu den Massnahmen, die sowohl von Expertinnen und Experten wie auch Vertreterinnen und Vertretern der betroffenen Branchen empfohlen werden. Die Deklarationspflicht soll gewährleisten, dass alle Anwendungen und Systeme, die auf künstlicher Intelligenz basieren und in der Schweiz eingesetzt werden, verpflichtet sind, ihre KI-Komponenten offenzulegen. Dies umfasst Informationen über die verwendeten Algorithmen, die Datenquellen, die Trainingsdaten und die Evaluationsmethoden. Durch eine solche Offenlegung wird es möglich, die Funktionsweise und Potenziale von KI-Anwendungen besser zu verstehen und mögliche Vorurteile, Diskriminierung oder unerwünschte Auswirkungen zu identifizieren. Die Einführung einer Deklarationspflicht bei künstlicher Intelligenz stärkt die Schweiz als Vorreiterin im Bereich der ethischen KI und positioniert uns als verantwortungsvolles Land, das den Schutz der Privatsphäre, den Kampf gegen Diskriminierung und die Förderung der Transparenz in der Technologieentwicklung ernst nimmt.
Stellungnahme des Bundesrats vom 30.8.2023
Die Frage der Schaffung von Transparenz bei der Anwendung von KI-Systemen wird derzeit sowohl im Rahmen der Arbeiten der EU am «AI Act» als auch in den Verhandlungen um ein bindendes Abkommen zu KI im Europarat unter Schweizer Vorsitz diskutiert. Dabei sind Transparenz und Nachvollziehbarkeit als Grundprinzipien wichtige Bestandteile beider Regelwerke. Gleichzeitig gehen beide Regelwerke von einem Risikoansatz aus, welcher für Anwendungen mit unterschiedlichen Risiken entsprechend unterschiedliche Regulierungsanforderungen vorsieht. Je nach Kontext soll ein abgestufter und differenzierter Regulierungsansatz angewendet werden. Die EU sieht derzeit keine Deklarationspflicht für Anwendungen vor, denen nur minimale Risiken zugeteilt werden. Wie genau der Europarat einen solchen abgestuften Ansatz formuliert, ist derzeit noch Gegenstand der Verhandlungen. Es ist aber ebenfalls davon auszugehen, dass man sich auf eine Deklarationspflicht für Anwendungen ab einer gewissen Risikostufe (aber nicht für alle KI-Anwendungen) einigen wird.
Mit Inkrafttreten des neuen Datenschutzgesetzes (nDSG) am 1. September 2023 wird in der Schweiz bereits eine Informationspflicht bei Entscheidungen gelten, die ausschliesslich auf einer automatisierten Datenbearbeitung beruhen (Art. 21 nDSG). Unter diese Bestimmung fallen die Entscheidungen, die eine gewisse Komplexität aufweisen und die für die betroffene Person mit einer Rechtsfolge verbunden sind oder sie erheblich beeinträchtigen. Die Bestimmung findet sowohl im öffentlichen als auch im privaten Bereich Anwendung. Nach Artikel 25 Absatz 2 Buchstabe f nDSG ist die für die Bearbeitung verantwortliche Person ausserdem dazu verpflichtet, der betroffenen Person im Zuge des Auskunftsrechts die Logik mitzuteilen, auf der die automatisierte Einzelentscheidung basiert. Darüber hinaus muss sie aber auch über die Menge und die Art der verwendeten Informationen sowie deren Gewichtung informiert werden. Anhand dieser Daten soll die betroffene Person die Entscheidung verstehen und allenfalls anfechten können.
In seiner Antwort auf das Postulat Dobler (23.3201) hat der Bundesrat bereits angekündigt, bis Ende 2024 eine politische Auslegeordnung mit möglichen Optionen für sektorielle und wo nötig horizontale regulatorische Massnahmen im Bereich KI zu erarbeiten. Die Analysen hierzu werden im Rahmen der existierenden Gefässe (insbesondere in der Plateforme Tripartite und deren Administrativen Ausschuss, der interdepartementalen Koordinationsgruppe EU-Digitalpolitik, dem KI-Leitlinien-Monitoring und dem Kompetenznetzwerk KI (CNAI)) und unter Einbezug aller betroffenen Bundesstellen vorgenommen. Die Auslegeordnung wird auch die Frage angehen, inwiefern in der Schweiz eine Regelung betreffend Deklarationspflicht von KI-Systemen angezeigt ist, welche über die Regelungen hinausgeht, die bereits im nDSG vorgesehen sind.