La Commission européenne a publié, en date du, un projet de lignes directrices relatives à la classification des systèmes d’intelligence artificielle (AIS) en tant que systèmes à haut risque (HRAIS) conformément à l’article 6 de la loi sur l’IA (AI-Act) publié. Ces lignes directrices se composent de plusieurs documents :
- Projet de lignes directrices de la Commission relatives à la classification des systèmes d’IA à haut risque au titre de l’article 6 du règlement (UE) 2024/1689 (loi sur l’IA)
- 2 – Projet de lignes directrices sur la classification des systèmes d’IA à haut risque : annexe I de la loi sur l’IA
- 3 – Projet de lignes directrices sur la classification des systèmes d’IA à haut risque : annexe III de la loi sur l’IA
Le projet est soumis à consultation et fera l’objet d’une coordination supplémentaire avec le Comité européen sur l’IA (AI Board) avant son adoption ; les exemples cités ne sont expressément pas exhaustifs et seront complétés au fur et à mesure.
Classification de l’AIS en tant que HRAIS
Généralités
Dans la première partie, la Commission expose certains principes („ Horizontal Issues “) sur lesquels elle fonde son interprétation des cas particuliers.
Il convient de se baser sur la distinction établie à l’article 6 de la loi sur l’intelligence artificielle (AI Act) : les HRAIS sont des systèmes qui
- un Produit visé à l’annexe I ou qui constituent un composant de sécurité de celui-ci (art. 6, al. 1, annexe I) ; ou
- qui fait partie de l’un des huit Domaines visés à l’annexe III correspondent à :
- Biométrie
- Infrastructure critique
- Éducation et formation
- Emploi, gestion des salariés et accès à l’activité indépendante
- Accès aux services privés essentiels ainsi qu’aux services et prestations publics essentiels, et utilisation de ceux-ci
- Poursuites judiciaires
- Migration, asile et gestion des contrôles aux frontières
- L’administration de la justice et les processus démocratiques
Cas d’utilisation selon l’annexe III
C’est surtout l’annexe III qui présente un intérêt pratique. Pour la classification correspondante, il convient tout d’abord de tenir compte des éléments suivants :
- „ Risque important “ : L’annexe III ne couvre que les systèmes qui, de par leur destination, constituent un risque important pour la santé, la sécurité ou les droits fondamentaux impliquent. La liste exhaustive et le filtre sont tous deux l’expression de cette approche proportionnée et fondée sur les risques. Selon le considérant 53 de la loi sur l’AI, il n’y a pas de risque significatif lorsque le système n’influence pas le fond et, partant, le résultat de la décision :
(53) Il importe également de préciser qu’il peut exister des cas spécifiques dans lesquels les systèmes d’IA visés dans des domaines prédéfinis spécifiés dans le présent règlement ne présentent pas de risque significatif de préjudice aux intérêts juridiques protégés dans ces domaines, car ils n’influencent pas de manière significative la prise de décision ou ne portent pas atteinte de manière substantielle à ces intérêts. Aux fins du présent règlement, un système d’IA qui n’influence pas de manière significative le résultat de la prise de décision doit être considéré comme un système d’IA qui n’a pas d’incidence sur le fond, et donc sur l’issue, du processus décisionnel, qu’elle soit humaine ou automatisée. Un système d’IA qui n’influence pas de manière significative l’issue du processus décisionnel pourrait correspondre à des situations dans lesquelles une ou plusieurs des conditions suivantes sont remplies. […]
- La finalité comme critère : La seule question déterminante est de savoir si la finalité de l’AIS relève d’un cas d’application de l’annexe III. Cette classification est effectuée avant la mise sur le marché ou la mise en service.
- Participation humaine Cela n’y change rien en soi, car la surveillance humaine, au sens de l’article 14 de l’AI Act, constitue une exigence de conformité pour un système à haut risque et ne constitue pas un facteur déterminant pour sa classification.
Exceptions « faible risque »
L’article 6, paragraphe 3, de la loi sur l’IA (AI Act) précise que les risques négligeables ne doivent pas entraîner une classification comme „ à haut risque “ au titre de l’annexe III. Un AIS relevant en principe de l’annexe III n’est exceptionnellement pas considéré comme à haut risque si au moins l’une des conditions suivantes est remplie (la Commission appelle cela le « filtre ». Dans ce contexte, l’intervention humaine peut tout à fait être déterminante pour la qualification finale en tant qu’HRAIS).
Pour l’application de cette exception – qui ne s’applique qu’à l’annexe III, et non à la classification des produits visée à l’annexe I –, les règles suivantes s’appliquent :
- Interprétation : Les conditions mentionnées sont exhaustives, mais alternatives. En tant qu’exceptions relevant des droits fondamentaux, elles doivent être interprétées de manière restrictive. Elles ne s’appliquent que dans la mesure où l’AIS n’influence pas de manière significative l’issue de la décision.
- Profilage : Si le système procède à un profilage au sens de l’article 4, point 4, du RGPD, aucune exception ne s’applique. Lorsque des données à caractère personnel sont traitées en vue d’évaluer des aspects liés à la personnalité, l’exception relative au faible risque ne s’applique donc pas.
- Systèmes d’agents : Les architectures réparties et agent-centrées sont considérées comme un système global dès lors que leurs missions communes influencent de manière significative une décision au cas par cas. Le fait que certaines d’entre elles relèvent, prises isolément, d’une exception n’y change rien :
(75) Lorsque plusieurs systèmes d’IA font partie d’un système d’IA plus complexe, de sorte que leur finalité combinée ou leurs résultats conjoints influencent de manière significative une décision individuelle, la configuration combinée est considérée comme un seul et même système d’IA aux fins de la classification à haut risque. Afin d’éviter tout contournement des règles de classification à haut risque par la conception du système, les architectures segmentées sont évaluées dans leur ensemble.
(76) En revanche, les fonctions strictement procédurales ou préparatoires d’un système d’IA liées à un système à haut risque restent éligibles à l’exemption de la classification « à haut risque » en vertu de l’article 6, paragraphe 3, de la loi sur l’IA, dès lors qu’elles sont véritablement dissociables du système d’IA […]
Auto-évaluation et inscription : Le recours à une dérogation doit être examiné avant la mise sur le marché et, le cas échéant, documenté. L’AIS doit en outre être enregistré dans la base de données correspondante (art. 6, al. 4, et art. 71 de la loi sur les dispositifs médicaux). Les autorités de surveillance du marché peuvent reclasser l’AIS (art. 80 de la loi sur les dispositifs médicaux) et peuvent infliger des sanctions en cas de contournement de la réglementation (art. 99 de la loi sur les dispositifs médicaux).
Tout cela peut être présenté de manière synthétique comme suit :
Tâche procédurale restreinte (lit. a ; „ narrow procedural task “)
Il s’agit ici, par exemple, de reformater, structurer ou classer des données, mais aussi d’émettre des jugements de valeur, de les qualifier d„“ utiles „ ou de “ moins utiles », de leur attribuer un score ou de les classer.
La Commission illustre ce point à l’aide de deux exemples :
- Une exception s’applique: Tri des candidatures reçues pour l’admission dans des établissements scolaires ou universitaires en fonction de la note ou du niveau d’études requis, car ou lorsque de tels systèmes classent les candidatures dans des catégories prédéfinies (par exemple, école primaire, enseignement secondaire, lycée ou des classes spécifiques) sur la base d’informations définies, sans évaluer l’aptitude ni prendre de décisions d’admission (un exemple intéressant, car peu risqué).
- Cette exception ne s’applique pas:
Amélioration d’un résultat humain (lit. b ; „ améliorer le résultat d’une activité humaine déjà achevée “)
Cette exception concerne l’affinage ou l’assurance qualité sans réévaluation matérielle. Pour cela, les conditions suivantes doivent être remplies :
- Une vérification ou une décision humaine est terminée et
- a abouti à un résultat et
- ceci est amélioré par l’AIS, sans modifier le résultat—
Voici également deux exemples à ce sujet :
- Une exception s’applique:
- Détection d’erreurs ou de contradictions dans les résultats
- Compléter les décisions humaines par des éléments d’information supplémentaires
- Conversion de contenus créés par des humains
- Cette exception ne s’applique pas: Un AIS vérifie un résultat et fournit une solution nettement différente.
Identification des schémas décisionnels ou des écarts (point c)
Il s’agit ici de simples contrôles a posteriori, qui n’ont aucune incidence sur la décision elle-même. Contrairement aux autres dérogations « à faible risque », cette dérogation peut tout à fait s’appliquer à des systèmes un peu plus complexes, et même servir à préparer une décision humaine. Toutefois, trois conditions doivent être remplies :
- L’examen humain doit déjà être terminé ;
- l’AIS ne procède qu’à une analyse a posteriori, sans influencer les décisions futures ;
- L’AIS ne doit pas avoir pour objectif de se substituer à une décision humaine ni d’influencer celle-ci. Si une telle influence se produit, elle doit être suivie d’un véritable examen humain.
On trouve également un exemple à ce sujet. Un AIS devrait relever de l’exception « faible risque » s’il analyse des classifications antérieures d’une administration publique à des fins d’assurance qualité – par la reconnaissance de formes, qui détecte également les écarts dans certaines décisions – et de reporting, mais sans proposer de solutions pour d’autres cas ni évaluer les performances des collaborateurs.
Exercice préparatoire (point d)
Contrairement à l’exception procédurale restrictive (lettre a), il s’agit ici de tâches préalables à une décision humaine (une telle préparation pouvant relever à la fois de la lettre a et de la lettre d). Dans ce contexte, le résultat fourni par le système d’information décisionnel (AIS) ne doit constituer qu’un facteur général facilitant la prise de décision, sans que l’AIS n’apporte de recommandation ni d’évaluation d’un cas particulier.
On peut citer comme exemple un système d’information juridique (AIS) qui met à la disposition d’une personne des références aux dispositions légales pertinentes, des informations sur la jurisprudence ainsi que des directives internes. Ce système n’analyse toutefois pas un cas particulier et ne produit pas non plus de résultat susceptible d’influencer de manière significative la décision.
Réserve concernant le profilage
Toutes les exceptions « Low Risk » sont soumises à la condition du profilage au sens de l’article 4, point 4, du RGPD, c’est-à-dire au traitement automatisé de données à caractère personnel aux fins de l’évaluation d’aspects liés à la personnalité.
Lorsqu’une autorité douanière utilise, par exemple, un système AIS pour évaluer le risque que des marchandises enfreignent la législation lors de leur importation, il ne s’agit pas d’évaluer des aspects personnels. Une telle évaluation des risques liés aux envois ou aux marchandises ne constitue pas un profilage. Il en va autrement d’un système AIS qui, dans le cadre du recrutement, détecte des écarts par rapport aux directives internes de recrutement et évalue à cette fin les décisions des recruteurs ainsi que les caractéristiques personnelles liées aux entretiens d’embauche. Dans ce cas, il pourrait s’agir en soi d’un cas d’application de l’art. 6, al. 3, let. c, mais le traitement de données à caractère personnel visant à établir un profil des recruteurs s’y oppose.
Quelques cas d’application de l’annexe III
Biométrie (annexe III, point 1)
Ce groupe de cas comprend trois cas d’utilisation :
- Point 1, lettre a) : identification biométrique à distance ;
- Point 1, lettre b) : classification biométrique sur la base de caractéristiques sensibles au sens de l’article 9, paragraphe 1, du RGPD (données à caractère personnel nécessitant une protection particulière). L’âge et le sexe ne sont toutefois pas pris en compte (l’interprétation au sens du RGPD est parfois plus large et peut, selon certains avis, s’étendre à toutes les caractéristiques physiques immuables).
- Point 1, lettre c) : Reconnaissance des émotions, dans la mesure où celle-ci n’est pas déjà interdite en vertu de l’article 5 de la loi sur l’IA (reconnaissance des émotions sur le lieu de travail et dans les établissements de formation).
Ce n’est pas le RGPD qui définit ce que sont les données biométriques, mais l’article 3, n° 34, de la loi sur l’intelligence artificielle (AI Act) :
- pas de données biométriques: le suivi d’une personne dans un magasin en fonction de ses vêtements ; la reconnaissance des émotions à partir de textes écrits ; la reconnaissance des numéros d’immatriculation ;
- données biométriques: Reconnaissance des émotions à partir de la frappe au clavier, des expressions faciales, de la posture ou des mouvements.
Enregistré Selon la Commission, il s’agit notamment des missions suivantes :
- Comparaison de photos ou de la voix de personnes vivantes avec des documents d’archives à des fins d’identification ;
- Comparaison d’images prises dans des stades pour identifier les fauteurs de troubles ;
- Détection de maladies à partir des schémas de mouvement ;
- Classification des passagers aériens à l’aide de la reconnaissance faciale ;
Non pris en compte par exemple les interventions suivantes :
- la vérification biométrique comme simple comparaison visant à confirmer l’identité (par exemple, déverrouillage d’un appareil, accès)
- Localisation d’une personne sans comparaison biométrique ;
- Classification des clients par sexe ;
- L’IA au service de la modération de contenu.
Plus précisément, en ce qui concerne la Reconnaissance des émotions (dans la mesure où l’IA est utilisée à cet effet) :
Enregistré :
- Utilisation de caméras corporelles pour identifier les personnes agressives ;
- Reconnaissance des émotions dans les jeux vidéo afin d’améliorer l’expérience de jeu, en s’appuyant notamment sur les expressions faciales et les mouvements oculaires ;
- Identification des sources de conflits lors de concerts ;
- Reconnaissance des émotions des clients dans un centre d’appels à partir de la voix.
Non pris en compte:
- Détection de la fatigue chez les conducteurs ;
- Reconnaissance des simples expressions faciales (sourire, etc.).
Infrastructures critiques (annexe III, point 2)
Seuls relèvent de ce domaine les AIS qui constituent un composant de sécurité au sens de l’article 3, point 14, de la loi sur l’intelligence artificielle (AI Act) fonction de protection directe qui garantissent l’intégrité physique des infrastructures dans les secteurs des infrastructures numériques, du transport routier et de l’approvisionnement en eau, en gaz, en chauffage ou en électricité.
Enregistré sont par exemple
- Système de régulation des feux tricolores visant à prévenir les dommages matériels
- Système d’alarme incendie dans un centre de données
Non pris en compte En revanche, on peut citer par exemple :
- analyse pure du flux de circulation sans intervention directe des systèmes de contrôle
- Gestion des billets et prévisions de charge du réseau
- composants dédiés à la cybersécurité
- des systèmes qui se contentent d’optimiser, d’informer ou d’organiser
Éducation et formation professionnelle (annexe III, point 3)
Quatre cas d’application sont présentés ici ; ils s’appliquent tous à tous les niveaux d’enseignement, y compris la formation initiale et continue en entreprise et la formation professionnelle :
- Point 3, lettre a) : Détermination des conditions d’accès, d’admission ou d’orientation vers des établissements et des programmes
- Point 3, lettre b) : Évaluation des acquis d’apprentissage, mais uniquement de manière sommative (prise en compte pour la note ou la qualification), et non formative (accompagnant l’apprentissage)
- Point 3, lettre c) : Évaluation du niveau d’éducation approprié qu’une personne reçoit ou peut atteindre
- Point 3, lettre d) : Surveillance et détection des comportements interdits pendant les examens
La Commission précise son point de vue comme suit :
Accès et attribution (point a))
Enregistré :
- des systèmes d’admission automatisés qui analysent les candidatures, les diplômes et les résultats aux tests
- Outils permettant d’affecter des apprenants à un programme ou à un cours
- Systèmes permettant d’orienter les demandeurs d’emploi ou les salariés vers des programmes de formation professionnelle continue
Non pris en compte :
- Des outils de recommandation qui proposent des cursus aux personnes intéressées en fonction de leurs propres préférences et qui ne font que les aider à prendre leur décision
- Chatbots d’information sur les conditions d’admission, sans recommandation personnalisée.
Exception « Low Risk » :
- simple outil de gestion des données qui extrait et classe les candidatures (tâche strictement liée à la procédure)
- Outil permettant de vérifier a posteriori les décisions d’homologation déjà prises (identification des modèles)
Profilage (l’exception « faible risque » ne s’applique pas) :
- Les systèmes dont l’analyse des données constitue un profilage, comme l’affectation automatisée à une école en fonction du lieu de résidence et de caractéristiques personnelles
- Mise en relation pour des places de formation continue
Évaluation des acquis d’apprentissage (lit. b)
Enregistré :
- Les systèmes de notation et d’évaluation qui entrent en ligne de compte dans la note finale ou intermédiaire, même si un système de retour d’information à visée formative alimente en parallèle l’attribution des notes par l’enseignant
Non pris en compte :
- systèmes d’apprentissage adaptatifs, systèmes de tutorat intelligents, plateformes d’analyse de l’apprentissage
- Outils destinés à aider les apprenants neurodivergents
- Les applications d’apprentissage des langues ou de prononciation utilisées uniquement par les apprenants
Exception « Low Risk » :
- Calculateur de moyenne simple (exercice de procédure restreint)
- Système qui analyse les schémas de notation des enseignants afin de détecter les anomalies et de les signaler en vue d’une vérification humaine (reconnaissance de formes)
Niveau d’études (lit. c)
Enregistré :
- tests de niveau adaptatifs
- Systèmes permettant d’orienter les apprenants ayant des besoins particuliers vers un programme et un niveau d’accompagnement adaptés
Non pris en compte :
- analyses agrégées des tendances relatives au parcours éducatif, sans référence à des personnes spécifiques
Surveillance des examens (lit. d)
Enregistré :
- Systèmes de surveillance lors d’examens surveillés, par exemple utilisant la reconnaissance faciale, l’analyse du clavier, de l’écran ou des données audio/vidéo
Non pris en compte :
- Contrôles de plagiat et de collaboration portant sur les travaux rendus, effectués en dehors du cadre des examens surveillés en temps réel et après la remise des travaux
Emploi (annexe III, point 4)
Il convient ici de distinguer deux cas d’application, qui doivent tous deux être interprétés de manière fonctionnelle et large. Le champ d’application personnel ne se limite pas aux salariés ; les freelances, les travailleurs indépendants, les prestataires de services et les travailleurs sur plateforme relèvent également de ce champ d’application, quelle que soit la forme du contrat, dès lors qu’une AUS leur facilite l’accès à un emploi ou en fait une condition :
- Point 4, lettre a) : Recrutement et sélection de personnes physiques, notamment par le biais d’offres d’emploi ciblées, examen et tri des candidatures, ainsi qu’évaluation des candidats.
- Point 4, lettre b) : Gestion des relations de travail, notamment les décisions relatives aux conditions contractuelles, aux promotions et aux licenciements, l’attribution des tâches en fonction du comportement ou de certaines caractéristiques, ainsi que le suivi et l’évaluation des performances et du comportement.
Recrutement et sélection (point a))
Sont inclus ici
- les étapes préparatoires (approche ciblée des candidats, présélection) et
- la sélection proprement dite (présélection, notation, classement, évaluation).
Sont notamment concernés :
- la rédaction d’offres d’emploi à l’aide de l’IA, dans la mesure où celles-ci ne relèvent pas de l’exception « faible risque » (voir ci-dessous) ;
- Systèmes qui analysent et filtrent les CV et génèrent des notes, des classements („ Top 5 “) ou des catégories d’adéquation („ high fit “)
- Outils de sourcing permettant de rechercher des profils et d’établir des listes de présélection
- Évaluation des aptitudes à l’aide d’une caméra (par exemple, les capacités visuelles des candidats pilotes) ; évaluation des réponses dans le cadre d’évaluations en ligne
- Recrutement d’apprentis
- Systèmes de placement des agences pour l’emploi
Non pris en compte :
- outils mis à la disposition des candidats, que chacun gère lui-même (optimisation du CV, recommandations d’offres d’emploi à la candidate)
- Image de marque de l’employeur sans lien avec un poste vacant spécifique
- suivi anonymisé de la réputation de l’employeur
- Outils qui analysent les offres d’emploi uniquement pour détecter les formulations problématiques
- Les chatbots d’information destinés à l’intégration après l’embauche (ceux-ci peuvent toutefois relever du point b) s’ils Alimenter ou surveiller la puissance)
Exception « Low Risk » :
- Un générateur de descriptions de poste qui crée une offre d’emploi à partir de missions et de qualifications définies par des utilisateurs
- Vérification d’un diplôme professionnel avec un résultat binaire „ validé / non validé “ (tâche procédurale précise)
- Organisation des candidatures reçues dans une base de données consultable (phase préparatoire)
- Coordination des rendez-vous pour les entretiens, y compris les options d’accessibilité (sur le plan purement logistique)
- Audit ex post des biais sur des données anonymisées (reconnaissance de formes).
Mise en place de systèmes qui signalent les candidats comme „ à haut risque “ et les présélectionnent Profilage et restent très risqués.
Gestion des contrats de travail (point b))
„Le terme “ décision » doit être compris au sens fonctionnel et englobe également les cas dans lesquels une personne prend formellement une décision, mais en s’appuyant de manière déterminante sur le résultat. Seules sont prises en compte les décisions qui dépassent un seuil de pertinence ; toutes les décisions opérationnelles quotidiennes ne sont pas prises en compte.
Enregistré :
- Décisions relatives aux conditions essentielles du contrat (rémunération, temps de travail, congés), à la promotion et à la résiliation (y compris la non-reconduction des contrats à durée déterminée et la suspension définitive des comptes sur la plateforme)
- Attribution des missions en fonction du comportement ou de caractéristiques personnelles (ponctualité, temps de réponse, niveau de fiabilité ; non-attribution de créneaux de livraison en cas de faible taux d’acceptation ; classement des freelances en fonction de leurs évaluations)
- un suivi systématique des performances et du comportement, dont les résultats sont consignés dans le dossier personnel
Non pris en compte :
- Attribution des missions selon des critères objectifs, neutres et externes (disponibilité selon le tableau de service, qualifications requises telles que le permis de conduite de chariot élévateur ou l’autorisation d’exercer la profession d’avocat, proximité géographique)
- Systèmes destinés exclusivement au respect d’obligations légales externes (telles que l’enregistrement des transactions dans le cadre de la lutte contre les abus de marché), à des fins purement médicales ou de sécurité, ou à la protection des biens de l’entreprise
- Systèmes qui se contentent d’alerter la personne concernée sur d’éventuelles erreurs, sans lui imposer de pression pour qu’elle augmente son rendement et sans en informer l’employeur ; décisions opérationnelles quotidiennes n’entraînant aucune modification des droits contractuels (attribution d’un espace de bureau, organisation des pauses pendant le poste)
Exception « Low Risk » :
- un système qui se contente d’indiquer l’expiration d’un contrat à durée déterminée sans procéder à aucune évaluation
Pour mémoire : la reconnaissance des émotions sur le lieu de travail est interdite en vertu de l’article 5, paragraphe 1, point f), de la loi sur l’invalidité.
Accès aux services essentiels (annexe III, point 5)
Il convient ici de distinguer quatre cas d’utilisation :
- Point 5, lettre a) : Examen de l’éligibilité à des prestations publiques essentielles, effectué par les autorités ou pour leur compte, y compris l’octroi, la réduction, le retrait ou la récupération de ces prestations
- Point 5, lettre b) : Évaluation de la solvabilité ou établissement d’un score de crédit pour les personnes physiques
- Point 5, lettre c) : Évaluation des risques et tarification dans le domaine de l’assurance vie et de l’assurance maladie
- Point 5, lettre d) : Évaluation et classification des appels d’urgence, coordination des services de secours, triage des patients
Solvabilité et score de crédit (point b)
Sont pris en compte à la fois l’évaluation de la solvabilité et l’établissement d’un score, chacun séparément. Ce qui est déterminant dans chaque cas, c’est le lien avec l’accès à un crédit ou à un service essentiel („ essential private services “) :
- Principaux services Il s’agit, par exemple, du logement, de l’approvisionnement en électricité et des services de télécommunications, mais aussi d’autres services revêtant une importance comparable pour les personnes physiques. L’exclusion de l’accès à ces services doit en outre être susceptible d’avoir des conséquences tout aussi graves sur la vie, la santé, les moyens de subsistance ou la participation à la vie sociale des personnes concernées. Selon la Commission, cela concerne notamment les services de santé et de soins de longue durée, d’autres services d’approvisionnement tels que la distribution de gaz et d’eau, ainsi que les services de transport.
- Sur le site Secteur financier l’accès aux prestations suivantes, par exemple, est essentiel :
- Mise à disposition d’un compte bancaire ;
- Services de paiement ;
- Octroi de prêts et de crédits ;
- Augmentation d’une ligne de crédit ou d’une limite de carte de crédit ;
- Octroi de crédits hypothécaires ;
- services financiers publics.
- Non significatif Il s’agit notamment des services suivants :
- Acquisition d’actions et de titres ;
- Accès au trading sur marge (trading à crédit ou avec financement externe) ;
- Accès à des instruments financiers complexes ;
- Cartes de crédit haut de gamme ;
- des produits de crédit spécifiques, tels que les crédits loisirs ou les crédits voyage.
Cas non recensés :
- Classification et segmentation de la clientèle à des fins d’information ou de marketing
- Simulations de tarification sans prise en compte de la solvabilité
- Aide aux clients pour remplir le formulaire de demande
- Traitement des recours après la décision
- suivi prudentiel interne de l’exposition au risque de crédit après l’octroi du crédit
Détection des fraudes
Comme indiqué précédemment, l’évaluation de la solvabilité peut constituer un système d’information automatisé à haut risque. Sont exclus de cette catégorie les systèmes qui servent principalement à détecter la fraude financière, même si leurs résultats sont également pris en compte dans l’évaluation de la solvabilité.
Assurance (point c))
- Sont pris en compte l’évaluation des risques et la tarification dans le domaine de l’assurance vie et de l’assurance maladie, y compris les assurances dépendance privées, certaines assurances retraite et les assurances vie de couverture du solde de dette.
- Les branches telles que l’assurance automobile ou l’assurance habitation ne sont pas prises en compte
Justice, y compris l’arbitrage (annexe III, point 8)
Il s’agit ici d’apporter un soutien aux autorités judiciaires ou encore à Procédure d’arbitrage lors de la détermination et de l’interprétation des faits et du droit, ainsi que lors de l’application du droit
Enregistré :
- Interprétation, transposition de précédents à la situation concrète
- Élaboration de projets de décision accompagnés d’une justification.
Non pris en compte:
- les tâches administratives accessoires telles que l’anonymisation, la transcription, la planification des rendez-vous ou la répartition des tâches
- recherche simple et recherche par mots-clés
- Systèmes mis en place par les parties ou leurs représentants légaux qui n’agissent pas „ au nom “ d’une autorité judiciaire
Autres domaines
La Commission se prononce également sur d’autres cas d’application, qui ne seront pas abordés en détail ici :
- Poursuites pénales (annexe III, point 6)
- Migration, asile et contrôle aux frontières (annexe III, point 7)
- Processus démocratiques (annexe III, point 8)