- Les algorithmes influencent l’accès à l’information et la démocratie par le biais de bulles de filtrage, d’une diversité limitée et d’une concentration de la visibilité.
- Le Conseil fédéral demande une réglementation globale : révision de la protection des données, droits à l’information, analyses d’impact et recherche sur la gestion éthique des algorithmes.
Postulat Béglé (16.3914) : Comment mettre de l’éthique dans les algorithmes ?
Le Conseil fédéral propose de rejeter le postulat.
Texte soumis
Le Conseil fédéral est chargé d’examiner ce que l’on peut attendre ou exiger des algorithmes, en Suisse et à l’étranger, d’un point de vue éthique. Les algorithmes ne sont pas transparents, leur responsabilité est floue et leurs obligations sont limitées. Comment fonctionnent les algorithmes ? À qui s’adresser en cas de mauvaise information ? Les algorithmes sont-ils soumis au droit suisse ? L’influence sans cesse croissante des algorithmes doit être gérée sans que leur utilité ne soit diminuée.
Justification
Grâce aux algorithmes, nous obtenons des résultats lors de nos recherches sur Internet. Un algorithme est une suite d’instructions qui permet de hiérarchiser les informations consommées par des milliards de personnes. La question centrale est la suivante : quelle information apparaît en premier sur notre écran ? L’ordre reflète un système de valeurs, voire une vision du monde.
Aujourd’hui, ce sont des entreprises privées qui décident. Les informations peuvent être hiérarchisées selon quatre critères : Popularité (nombre de vues), autorité (références/hyperliens), réputation (nombre de retweets/likes), comportement prédit en fonction des traces laissées sur Internet. Cette hiérarchisation comporte toutefois des risques.
1. les algorithmes tendent à porter atteinte au principe de liberté
Pour fidéliser les internautes, ils affichent d’abord les informations les plus consultées et celles qui correspondent à l’opinion des utilisateurs, laissant le reste de côté. Il en résulte ce que l’on appelle des “bulles de filtre”. La menace pour la démocratie est donc d’autant plus grande que de plus en plus de citoyens dédaignent les médias de qualité et s’informent à la place sur les réseaux sociaux.
2. les algorithmes accentuent les inégalités
Les algorithmes globalisent le marché de l’opinion et donnent une visibilité démesurée aux “meilleurs”. Le reste, notamment la “moyenne”, est volontiers oublié : 95% des internautes consomment 0,03% des contenus (selon le sociologue Dominique Cardon).
3. cela peut conduire à une discrimination
La tarification dynamique repose sur des algorithmes et peut désavantager les clients fidèles, pressés ou dépendants en leur proposant des prix plus élevés et priver les clients “sans potentiel” d’offres attractives.
Une plus grande transparence et une définition plus claire des responsabilités permettraient de limiter le pouvoir politique, économique et social des algorithmes.
Avis du Conseil fédéral du 25 janvier 2017
Les plateformes de recherche, de rencontre, de médias, d’évaluation et de marché en ligne sont devenues des éléments incontournables de la vie moderne. Elles modifient la vie de chacun et vont de plus en plus marquer les valeurs fondamentales de la société. Ces systèmes et plateformes reposent sur des algorithmes qui permettent le traitement des données nécessaire à leur fonctionnement. Au vu de cette évolution, le Conseil fédéral partage l’avis du postulat selon lequel les risques potentiels liés aux algorithmes doivent être examinés si l’on veut exploiter durablement les opportunités. Toutefois, les algorithmes ne doivent pas être considérés isolément, mais de manière globale, dans le contexte du traitement des données et de la fonctionnalité prévue des systèmes et des plateformes. C’est dans ce contexte que le Conseil fédéral a pris différentes mesures.
- Les mesures prises en application de la motion Rechsteiner Paul 13.3841Le groupe d’experts mis en place par la “Commission d’experts sur l’avenir du traitement et de la sécurité des données” aborde le thème des algorithmes sous différents aspects. Outre des thèmes spécifiques, tels que la manipulation numérique (Big Nudging, Filter Bubble, etc.), il suit des thèmes plus généraux. Parmi celles-ci figure la question de savoir dans quelle mesure des principes éthiques, combinés à des obligations légales, pourraient empêcher les abus dans le traitement des données en général et dans les algorithmes en particulier, et quels pourraient être ces principes éthiques. Le rapport du groupe d’experts et ses recommandations sont attendus pour la mi-2018.
- Dans le domaine des données personnelles, la révision en cours de la loi sur la protection des données prend en compte différents cas de figure dans lesquels le traitement de données personnelles est effectué par des algorithmes. Ainsi, un devoir d’information et de consultation de la personne concernée est introduit lorsqu’une décision fondée exclusivement sur un traitement automatisé de données est prise à son égard et qu’elle a des effets juridiques ou des conséquences importantes pour la personne concernée. Le droit d’accès doit en outre permettre à la personne concernée de demander des informations supplémentaires sur le résultat, la réalisation et les effets de la décision. Le projet contient également des mesures relatives au profilage, qui repose souvent sur l’utilisation d’algorithmes. Enfin, les responsables de traitement seront tenus de réaliser une analyse d’impact relative à la protection des données lorsque le traitement est susceptible de porter atteinte à la personnalité de la personne concernée ou à ses droits fondamentaux. Dans ce cadre, des mesures visant à protéger la personne concernée doivent également être examinées.
- Recherche et formation : En 2015, le Conseil fédéral a lancé le Programme national de recherche sur les “Big Data” (PNR 75). A la fin de l’année dernière, différents projets ont été approuvés dans le cadre du module 2 (mesures sociétales, réglementaires et éducatives), qui traitent des questions éthiques dans le domaine du traitement des données et du “big data”.
Les mesures énumérées montrent que le thème “Algorithmes et éthique en ligne” est déjà intégré dans les activités en cours. Pour le Conseil fédéral, la poursuite et le renforcement de ces activités semblent être le moyen le plus efficace d’aborder le sujet.