- Le Conseil fédéral doit créer ou adapter des dispositions légales pour la protection contre la discrimination par des procédures de décision partiellement ou entièrement automatisées.
- La discrimination peut être directe ou indirecte (via proxy) et concerne de nombreuses personnes en raison des effets d’échelle.
- En fonction du risque, il convient de prévoir des obligations de transparence et de diligence raisonnable appropriées ainsi que des évaluations d’impact.
- L’application de la loi doit être garantie ; les problèmes de preuve liés à l’IA “boîte noire” doivent être abordés et intégrés dans les processus législatifs.
Texte soumis
Le Conseil fédéral est chargé de créer ou d’adapter les dispositions légales afin d’assurer une protection adéquate contre la discrimination résultant de processus décisionnels partiellement ou entièrement automatisés.
Justification
Il est reconnu que l’un des plus grands risques des procédures de décision entièrement ou partiellement automatisées réside dans la discrimination. Cela a des conséquences importantes, par exemple, dans l’attribution d’un logement, le calcul des primes d’assurance et de la solvabilité ou le traitement des candidatures à un emploi.
Mais malheureusement, le protection générale contre la discrimination de l’art. 8, al. 2, Cst. (qui, en relation avec l’art. 35, al. 3, Cst., devrait également s’appliquer entre les particuliers) aujourd’hui n’est pas concrétisée dans la loi. Ceci doit être modifié. Dans le cas de procédures de décision (partiellement) automatisées, il faut notamment tenir compte du fait que les discriminations peuvent être non seulement directes, mais aussi indirectes (via proxy), et qu’en raison de l’effet d’échelle, de très nombreuses personnes peuvent être concernées. Selon le risque de l’application, il faut donc aussi des obligations de transparence et de diligence raisonnable, y compris des évaluations d’impact.
Enfin, l’application du droit doit faire l’objet d’une attention particulière. Celle-ci ne doit pas échouer parce qu’il est très difficile, voire techniquement impossible, d’apporter des preuves individuelles, surtout dans le cas d’applications d’IA sans mécanisme de décision transparent et univoque (problématique de la boîte noire). Dans son mandat du 22 novembre 2023, le Conseil fédéral dresse déjà un état des lieux interdépartemental de la réglementation de l’IA. La protection contre la discrimination demandée ici peut, le cas échéant, être intégrée dans les procédures législatives qui suivront et, si possible et judicieux, être harmonisée avec les réglementations internationales.