- La Commission européenne propose une nouvelle directive sur la responsabilité du fait des produits qui remplacera la PLD et modernisera les aspects de la responsabilité liés à l’IA.
- Les systèmes d’IA et les produits compatibles avec l’IA sont expressément considérés comme des “produits”, afin que la responsabilité sans faute puisse s’appliquer en cas de dommages.
- La responsabilité s’étend aux prestataires de services matériels, logiciels et numériques, ainsi qu’aux mises à jour des fabricants et aux modifications des produits liées à l’apprentissage.
- La charge de la preuve est allégée dans les cas complexes ; le cadre réglementaire suit une approche basée sur les risques au niveau européen et international.
Le 28 septembre 2022, la Commission européenne a proposé de moderniser les règles relatives à la responsabilité du fait des produits et d’harmoniser les règles de responsabilité en matière d’intelligence artificielle. Le premier point concerne la Proposition d’une nouvelle directive sur la responsabilité du fait des produitsqui a fait de l’actuelle Directive 85/374/CEE (“Product Liability Directive” ou PLD) (c’est sur la PLD que repose la LRFP suisse). La proposition a N° 2022/0302 (COD) et n’est disponible qu’en anglais.
La nouvelle directive ne concerne pas uniquement l’IA, mais elle y accorde une grande importance, notamment en réponse aux recommandations précitées du Parlement européen. Elle agit sur les principaux leviers de la responsabilité, notamment par le biais de Clarifications de la notion de produit:
cette proposition confirme que les systèmes IA et les biens dotés d’IA sont des “produits” et entrent donc dans le champ d’application du PLD, ce qui signifie que l’indemnisation est disponible lorsque l’IA défectueuse cause des dommages, sans que la personne blessée ait à prouver la faute du fabricant, comme pour tout autre produit. Deuxièmement, la proposition précise que non seulement les fabricants de matériel mais aussi les fournisseurs de logiciels et les fournisseurs de services numériques qui affectent la façon dont le produit fonctionne (comme un service de navigation dans un véhicule autonome) peuvent être tenus pour responsables. Troisièmement, la proposition garantit que les fabricants peuvent être tenus responsables des modifications qu’ils apportent aux produits qu’ils ont déjà mis sur le marché, y compris lorsque ces modifications sont déclenchées par des mises à jour logicielles ou l’apprentissage automatique.
Mais aussi les Charge de la preuve doit être facilitée :
Quatrièmement, le PLD révisé allège le fardeau de la preuve dans les cas complexes, qui pourraient inclure certains cas impliquant des systèmes d’intelligence artificielle, et lorsque les produits ne parviennent pas à se conformer aux exigences de sécurité.
Que le Le cadre de responsabilité pour l’IA doit être développéétait déjà une attitude répandue depuis longtemps – voir par exemple le Rapport de la Commission “sur l’impact de l’intelligence artificielle, de l’internet des objets et de la robotique en termes de sécurité et de responsabilité” du 19 février 2020, le plus détaillé Rapport de l’Expert Group on Liability and New Technologies – New Technologies Formation de 2019 et les Recommandations du Parlement à la Commission concernant un régime de responsabilité civile pour l’utilisation de l’intelligence artificielle du 20 octobre 2020.
Le renforcement de la responsabilité s’entend ici comme faisant partie du cadre juridique élargi de l’intelligence artificielle. Le site „Approche européenne de l’intelligence artificielle” (“European Approach for Artificial Intelligence”) est en développement depuis plus de quatre ans :
- 25.4.2018La Commission européenne présente une Stratégie européenne en matière d’IA avant (COM(2018) 237 final):
ConclusionL’UE possède une base scientifique et industrielle solide avec des laboratoires de recherche et des universités de premier plan. Elle a en outre un leadership reconnu dans le domaine de la robotique et dispose de start-ups innovantes. En outre, l’Union dispose d’un cadre juridique complet qui protège les consommateurs tout en encourageant l’innovation, et elle progresse dans la création d’un marché unique numérique. Les principales conditions sont donc réunies pour que l’UE puisse jouer un rôle de premier plan dans la révolution de l’IA, de manière autonome et sur la base de ses valeurs.
L’approche de l’IA décrite dans le présent document indique la direction à suivre et souligne la nécessité d’unir les forces au niveau européen afin de garantir que tous les Européens participent au changement numérique, que des ressources adéquates soient allouées à l’IA et que les valeurs et les droits fondamentaux de l’Union soient au premier plan dans le paysage de l’IA.
Ensemble, nous pouvons mettre la puissance de l’IA au service du progrès humain.
- 7.12.2018: La Commission européenne présente le Plan coordonné pour l’intelligence artificielle avant (COM(2018) 795 final):
Conclusions:
L’intelligence artificielle (IA) fait déjà partie de notre quotidien, mais son potentiel est bien plus grand que ce que nous avons vu jusqu’à présent. Pour devenir un acteur de premier plan dans le domaine de l’IA, l’Europe doit s’appuyer sur ses points forts et soutenir le développement d’une IA éthique, sûre et de pointe sur son territoire.
La Commission invite donc
– le Conseil européen à approuver le plan coordonné ;
– les États membres à mettre en œuvre le plan coordonné et à élaborer, d’ici la mi-2019, des stratégies nationales en matière d’IA donnant un aperçu du niveau d’investissement et des mesures de mise en œuvre ;
– les deux législateurs à adopter rapidement les initiatives législatives restantes, qui sont indispensables à la réussite de la stratégie européenne en matière d’IA, ainsi que les propositions présentées dans le contexte du prochain cadre financier pluriannuel. - 19.2.2020: La Commission européenne présente le “Livre blanc sur l’intelligence artificielle – une approche européenne de l’excellence et de la confiance” avant (COM(2020) 65 final):
Conclusion :
L’IA est une technologie stratégique qui offre de nombreux avantages aux citoyens, aux entreprises et à la société dans son ensemble, à condition qu’elle soit centrée sur l’être humain, éthique, durable et respectueuse des droits et valeurs fondamentaux. […] […]
L’approche européenne de l’IA vise à promouvoir la capacité d’innovation de l’Europe dans le domaine de l’IA tout en encourageant le développement et l’adoption d’une IA éthique et digne de confiance dans l’ensemble de l’économie de l’UE. L’IA devrait être au service des personnes et constituer une force positive pour la société.
Avec le présent livre blanc et le rapport sur le cadre de sécurité et de responsabilité qui l’accompagne, la Commission lance une vaste consultation de la société civile, de l’industrie et de la communauté scientifique dans les États membres sur des propositions concrètes pour une approche européenne de l’IA. Cela inclut à la fois des moyens politiques pour stimuler l’investissement dans la recherche et l’innovation, encourager le développement des compétences et l’adoption de l’IA par les PME, et des propositions d’éléments clés d’un futur cadre réglementaire. Cette consultation permettra un dialogue approfondi avec toutes les parties concernées, qui contribuera à façonner les prochaines étapes de la Commission.
- 21 avril 2021: La Commission européenne présente le Projet de règlement sur l’IA avant.
La question de la responsabilité dans le contexte de l’intelligence artificielle est également discutée en Suisse, par exemple par Melinda Lohmann ou Nadja Braun Binder et al.
Au niveau international, divers efforts sont en cours pour réglementer l’IA, outre le projet d’AI Act de l’UE, notamment dans le cadre du Conseil de l’Europe (on trouvera des indications sur les efforts correspondants dans le rapport du DFAE au Conseil fédéral “Intelligence artificielle et cadre réglementaire international” du 13 avril 2022).
Le site CAI – Comité sur l’intelligence artificielle du Conseil de l’Europe succède au Comité ad hoc du Conseil de l’Europe sur l’intelligence artificielle, qui sera créé en 2019 (CAHAI), qui doit terminer ses travaux en décembre 2021 avec le rapport “Possible elements of a legal framework on artificial intelligence, based on the Council of Europe’s standards on human rights, democracy and the rule of law“qui avait été conclu. Le CAI a pour mission principale de proposer un cadre juridique multilatéral contraignant pour l’IA.
Un premier jet (zero draft) d’une Convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et le respect de la loi a été discuté il y a deux semaines dans le cadre du CAI. Le projet n’est pas public, mais il doit contenir ou régler les points suivants (selon le document correspondant Mandat de négociation de l’UE):
- le but et le champ d’application de la convention (cadre) ; les définitions d’un système IA, du cycle de vie, du fournisseur, de l’utilisateur et du ’sujet IA
- certains principes fondamentaux, y compris les garanties procédurales et les droits des sujets IA, qui s’appliqueraient à tous les systèmes IA, quel que soit leur niveau de risque
- des mesures supplémentaires pour le secteur public ainsi que pour les systèmes d’IA présentant des niveaux de risque “inacceptables” et “significatifs” identifiés sur la base d’une méthodologie d’évaluation des risques et des impacts (à préciser ultérieurement dans une annexe à la convention)
- mécanisme de suivi et de coopération entre les parties
- des dispositions finales, y compris une possibilité pour les États membres de l’UE d’appliquer le droit de l’UE dans leurs relations mutuelles pour les matières couvertes par la convention et une possibilité pour l’Union d’accéder à la convention.
La Suisse participera également aux négociations en vue d’une telle convention, comme l’indique le Conseil fédéral a décidé en septembre 2022.
Au cœur de tous ces efforts de réglementation se trouve une classification des risques liés à l’utilisation de l’IA et une réglementation basée sur les risques allant de l’interdiction à l’interdiction, comme le prévoit également le projet de règlement sur l’IA.