Motion Glättli (24.3795): Schutz vor Diskriminierung beim Einsatz von KI und Algorithmen
Eingereichter Text
Der Bundesrat wird beauftragt, die gesetzlichen Bestimmungen zu schaffen oder anzupassen, um einen angemessenen Schutz vor Diskriminierung durch teil- oder vollautomatisierte Entscheidverfahren zu schaffen.
Begründung
Eines der grössten Risiken von voll- und teilautomatisierten Entscheidverfahren liegt anerkanntermassen in der Diskriminierung. Dies hat relevante Auswirkungen zum Beispiel bei der Wohnungsvergabe, der Berechnung von Versicherungsprämien und Kreditwürdigkeit oder bei der Bearbeitung von Stellenbewerbungen.
Leider ist aber der allgemeine Diskriminierungsschutz von Artikel 8 Abs. 2 BV (welcher in Verbindung mit Art. 35 Abs. 3 BV auch zwischen Privaten gelten müsste) heute gesetzlich nicht konkretisiert. Dies soll geändert werden. Bei (teil)automatisierten Entscheidverfahren ist dabei insbesondere zu berücksichtigen, dass Diskriminierungen nicht nur direkt, sondern auch indirekt (via Proxy) erfolgen können, und dass wegen des Skalierungseffekts sehr viele Personen betroffen sein können. Je nach Risiko der Anwendung braucht es deshalb auch angemessene Transparenz- und Sorgfaltspflichten inkl. Folgeabschätzungen.
Besondere zu berücksichtigen ist schliesslich die Rechtsdurchsetzung. Diese darf nicht daran scheitern, dass eine individuelle Beweisführung gerade bei KI-Anwendungen ohne transparenten und eindeutigen Entscheidmechanismus sehr schwierig oder technisch unmöglich ist (Black Box Problematik). Der Bundesrat macht ja bereits mit Auftrag vom 22.11.2023 eine interdepartementale Auslegeordnung zur KI Regulierung. Der hier geforderte Diskriminierungsschutz kann gegebenenfalls in darauf folgende Gesetzgebungsverfahren integriert und wenn möglich und sinnvoll auch mit internationalen Regulierungen abgestimmt werden.