(1) L’ob­jec­tif du pré­sent règle­ment est d’a­mé­lio­rer le fonc­tion­ne­ment du mar­ché inté­ri­eur en éta­blis­sant un cad­re juri­di­que uni­for­me, en par­ti­cu­lier pour le déve­lo­p­pe­ment, la mise sur le mar­ché, la mise en ser­vice et l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le (IA) dans l’U­ni­on, con­for­mé­ment aux valeurs de l’U­ni­on, à pro­mou­voir l’ad­op­ti­on de l’in­tel­li­gence arti­fi­ci­el­le (IA) cen­trée sur l’hom­me et fia­ble tout en assu­rant un niveau éle­vé de pro­tec­tion de la san­té, de la sécu­ri­té, des droits fon­da­men­taux tels qu’é­non­cés dans la Char­te des droits fon­da­men­taux de l’U­ni­on euro­pé­en­ne (la “Char­te”), y com­pris la démo­cra­tie, l’É­tat de droit et la pro­tec­tion de l’en­vi­ron­ne­ment, à se pré­mu­nir cont­re les effets néfa­stes des systè­mes d’IA dans l’U­ni­on et à sou­te­nir l’in­no­va­ti­on. Le pré­sent règle­ment garan­tit la lib­re cir­cula­ti­on trans­fron­ta­liè­re des biens et des ser­vices liés à l’in­tel­li­gence arti­fi­ci­el­le, empêchant ain­si les États mem­bres d’im­po­ser des rest­ric­tions au déve­lo­p­pe­ment, à la com­mer­cia­li­sa­ti­on et à l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le, sauf auto­ri­sa­ti­on expres­se du pré­sent règlement.

(2) Le pré­sent règle­ment dev­rait être appli­qué con­for­mé­ment aux valeurs de l’U­ni­on tel­les qu’el­les sont énon­cées dans la Char­te, en faci­li­tant la pro­tec­tion des per­son­nes phy­si­ques, des ent­re­pri­ses, de la démo­cra­tie, de l’É­tat de droit et de la pro­tec­tion de l’en­vi­ron­ne­ment, tout en sti­mu­lant l’in­no­va­ti­on et l’em­ploi et en faisant de l’U­ni­on un chef de file dans l’ad­op­ti­on d’u­ne IA de confiance.

(3) Les systè­mes d’IA peu­vent être faci­le­ment déployés dans une gran­de varié­té de sec­teurs de l’é­co­no­mie et dans de nombreu­ses par­ties de la socié­té, y com­pris au-delà des fron­tiè­res, et peu­vent cir­culer aisé­ment dans l’en­sem­ble de l’U­ni­on. Cer­ta­ins États mem­bres ont déjà explo­ré l’ad­op­ti­on de règles natio­na­les pour s’assurer que l’IA est fia­ble et sûre et qu’el­le est déve­lo­p­pée et uti­li­sée en con­for­mi­té avec les obli­ga­ti­ons en matiè­re de droits fon­da­men­taux. Des règles natio­na­les diver­gen­tes peu­vent con­dui­re à la frag­men­ta­ti­on du mar­ché inter­ne et rédui­re la sécu­ri­té juri­di­que pour les opé­ra­teurs qui déve­lo­p­pent, importent ou uti­li­sent des systè­mes d’IA. Il con­vi­ent donc d’assurer un niveau de pro­tec­tion cohé­rent et éle­vé dans l’en­sem­ble de l’U­ni­on afin de par­ve­nir à une IA fia­ble, tout en évi­tant les diver­gen­ces qui ent­ra­vent la lib­re cir­cula­ti­on, l’in­no­va­ti­on, le déploie­ment et l’ad­op­ti­on de systè­mes d’IA et de pro­duits et ser­vices con­ne­xes sur le mar­ché inté­ri­eur, en éta­blis­sant des obli­ga­ti­ons uni­for­mes pour les opé­ra­teurs et en garan­tis­sant la pro­tec­tion uni­for­me de rai­sons d’in­té­rêt public prépon­dé­ran­tes et des droits des per­son­nes sur l’en­sem­ble du mar­ché inté­ri­eur sur la base de l’ar­tic­le 114 du trai­té sur le fonc­tion­ne­ment de l’U­ni­on euro­pé­en­ne (TFUE). Dans la mesu­re où le pré­sent règle­ment con­ti­ent des règles spé­ci­fi­ques sur la pro­tec­tion des per­son­nes à l’é­gard du trai­te­ment des don­nées à carac­tère per­son­nel con­cer­nant les rest­ric­tions à l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le pour l’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance à des fins d’ap­pli­ca­ti­on de la loi, à l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le pour l’éva­lua­ti­on des ris­ques des per­son­nes phy­si­ques à des fins d’ap­pli­ca­ti­on de la loi et à l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le de caté­go­ri­sa­ti­on bio­mé­tri­que à des fins d’ap­pli­ca­ti­on de la loi, il con­vi­ent de fon­der le pré­sent règle­ment, dans la mesu­re où ces règles spé­ci­fi­ques sont con­cer­nées, sur l’ar­tic­le 16 du TFEU. Comp­te tenu de ces règles spé­ci­fi­ques et du recours à l’ar­tic­le 16 du TFEU, il con­vi­ent de con­sul­ter le Con­seil euro­pé­en de la pro­tec­tion des données.

(4) L’IA est une famil­le de tech­no­lo­gies en évo­lu­ti­on rapi­de qui con­tri­bue à un lar­ge éven­tail d’a­van­ta­ges éco­no­mi­ques, envi­ron­ne­men­taux et socié­taux dans tout le spect­re des indu­stries et des acti­vi­tés socia­les. En amé­lio­rant la pré­dic­tion, en opti­mi­sant les opé­ra­ti­ons et l’al­lo­ca­ti­on des res­sour­ces, et en per­son­na­li­sant les solu­ti­ons numé­ri­ques dis­po­ni­bles pour les indi­vi­dus et les orga­ni­sa­ti­ons, l’uti­li­sa­ti­on de l’IA peut four­nir des avan­ta­ges con­cur­ren­tiels clés pour entre­prend­re et sou­te­nir des résul­tats socia­le­ment et envi­ron­ne­men­ta­le­ment béné­fi­ques, par exemp­le dans la san­té, l’ag­ri­cul­tu­re, la sécu­ri­té ali­men­tai­re, la for­ma­ti­on, les médi­as, les sports, la cul­tu­re, la gesti­on des infras­truc­tures, l’é­ner­gie, le trans­port et la logi­stique, les ser­vices publics, la sécu­ri­té, la justi­ce, l’ef­fi­ca­ci­té des res­sour­ces et de l’é­ner­gie, la sur­veil­lan­ce de l’en­vi­ron­ne­ment, la con­ser­va­ti­on et la restau­ra­ti­on de la bio­di­ver­si­té et des éco­sy­stè­mes, et l’at­té­nua­ti­on et l’ad­ap­t­ati­on du chan­ge­ment climatique.

(5) En même temps, en fonc­tion des cir­con­stances rela­ti­ves à son appli­ca­ti­on spé­ci­fi­que, à son uti­li­sa­ti­on et à son niveau de déve­lo­p­pe­ment tech­no­lo­gi­que, l’IA peut géné­rer des ris­ques et cau­ser des dom­mages aux inté­rêts publics et aux droits fon­da­men­taux pro­té­gés par le droit de l’U­ni­on. Ces dom­mages peu­vent être maté­ri­els ou imma­té­ri­els, y com­pris phy­si­ques, psy­cho­lo­gi­ques, soci­aux ou économiques.

(6) Comp­te tenu de l’im­pact majeur que l’IA peut avoir sur la socié­té et de la néces­si­té d’in­stau­rer la con­fi­ance, il est essen­tiel que l’IA et son cad­re régle­men­tai­re soi­ent déve­lo­p­pés con­for­mé­ment aux valeurs de l’U­ni­on tel­les qu’el­les sont énon­cées à l’ar­tic­le 2 du trai­té sur l’U­ni­on euro­pé­en­ne (TUE), aux droits et liber­tés fon­da­men­taux énon­cés dans les trai­tés et, con­for­mé­ment à l’ar­tic­le 6 du TUE, dans la char­te. En tant que con­di­ti­on pré­alable, l’IA dev­rait être une tech­no­lo­gie cen­trée sur l’hom­me. Elle dev­rait ser­vir d’ou­til pour les per­son­nes, avec pour objec­tif ulti­me d’ac­croît­re le bien-être humain.

(7) Afin d’assurer un niveau cohé­rent et éle­vé de pro­tec­tion des inté­rêts publics en matiè­re de san­té, de sécu­ri­té et de droits fon­da­men­taux, il con­vi­ent d’é­ta­b­lir des règles com­mu­nes pour les systè­mes d’in­tel­li­gence arti­fi­ci­el­le à haut ris­que. Ces règles dev­rai­ent être con­for­mes à la Char­te, non dis­cri­mi­na­toires et en accord avec les enga­ge­ments com­mer­ci­aux inter­na­ti­on­aux de l’U­ni­on. Elles dev­rai­ent éga­le­ment tenir comp­te de la Décla­ra­ti­on euro­pé­en­ne sur les droits et prin­cipes numé­ri­ques pour la décen­nie numé­ri­que et des lignes direc­tri­ces éthi­ques pour une IA de con­fi­ance du Grou­pe d’ex­perts de haut niveau sur l’in­tel­li­gence arti­fi­ci­el­le (AI HLEG).

(8) Un cad­re juri­di­que de l’U­ni­on fix­ant des règles har­mo­ni­sées sur l’in­tel­li­gence arti­fi­ci­el­le est donc néces­saire pour favo­ri­ser le déve­lo­p­pe­ment, l’uti­li­sa­ti­on et l’ad­op­ti­on de l’in­tel­li­gence arti­fi­ci­el­le sur le mar­ché inté­ri­eur, tout en assu­rant un niveau éle­vé de pro­tec­tion des inté­rêts publics, tels que la san­té et la sécu­ri­té, ain­si que la pro­tec­tion des droits fon­da­men­taux, y com­pris la démo­cra­tie, l’é­tat de droit et la pro­tec­tion de l’en­vi­ron­ne­ment, tels que recon­nus et pro­té­gés par le droit de l’U­ni­on. Pour att­eind­re cet objec­tif, il con­vi­ent d’é­ta­b­lir des règles régis­sant la mise sur le mar­ché, la mise en ser­vice et l’uti­li­sa­ti­on de cer­ta­ins systè­mes d’i­den­ti­fi­ca­ti­on auto­ma­tique, garan­tis­sant ain­si le bon fonc­tion­ne­ment du mar­ché inté­ri­eur et per­met­tant à ces systè­mes de béné­fi­ci­er du prin­ci­pe de lib­re cir­cula­ti­on des biens et des ser­vices. Ces règles dev­rai­ent être clai­res et soli­des pour pro­té­ger les droits fon­da­men­taux, sou­te­nir les nou­vel­les solu­ti­ons inno­van­tes, per­mett­re à un éco­sy­stème euro­pé­en d’ac­teurs publics et pri­vés de cré­er des systè­mes d’in­tel­li­gence arti­fi­ci­el­le en accord avec les valeurs de l’U­ni­on et libé­rer le poten­tiel de la trans­for­ma­ti­on numé­ri­que dans tou­tes les régions de l’U­ni­on. En éta­blis­sant ces règles ain­si que des mesu­res de sou­ti­en à l’in­no­va­ti­on, avec un accent par­ti­cu­lier sur les peti­tes et moy­ennes ent­re­pri­ses (PME), y com­pris les start-ups, ce règle­ment sou­ti­ent l’ob­jec­tif de pro­mou­voir l’appro­che euro­pé­en­ne de l’IA cen­trée sur l’hu­main et d’êt­re un lea­der mon­di­al dans le déve­lo­p­pe­ment d’u­ne IA sûre, fia­ble et éthi­que, com­me l’a deman­dé le Con­seil euro­pé­en, et il assu­re la pro­tec­tion des prin­cipes éthi­ques, com­me deman­dé spé­ci­fi­quement par le Par­le­ment européen.

(144) Afin de pro­mou­voir et de pro­té­ger l’in­no­va­ti­on, la pla­te-for­me IA à la deman­de, tous les pro­gram­mes et pro­jets de finance­ment de l’U­ni­on per­tin­ents, tels que le pro­gram­me Digi­tal Euro­pe, Hori­zon Euro­pe, mis en œuvre par la Com­mis­si­on et les États mem­bres au niveau de l’U­ni­on ou au niveau natio­nal, dev­rai­ent, le cas échéant, con­tri­buer à la réa­li­sa­ti­on des objec­tifs du pré­sent règlement.

(145) Afin de rédui­re au mini­mum les ris­ques de mise en œuvre résul­tant d’un man­que de con­nais­sances et d’ex­per­ti­se sur le mar­ché et de faci­li­ter le respect par les four­nis­seurs, en par­ti­cu­lier les PME, y com­pris les start-ups, et les orga­nis­mes noti­fi­és de leurs obli­ga­ti­ons au tit­re du pré­sent règle­ment, la pla­te­for­me IA à la deman­de, les cen­tres euro­pé­ens d’in­no­va­ti­on numé­ri­que et les instal­la­ti­ons d’es­sai et d’expé­ri­men­ta­ti­on mis en place par la Com­mis­si­on et les États mem­bres au niveau de l’U­ni­on ou au niveau natio­nal dev­rai­ent con­tri­buer à la mise en œuvre du pré­sent règle­ment. Dans le cad­re de leur mis­si­on et de leurs domain­es de com­pé­tence respec­tifs, la pla­te-for­me IA à la deman­de, les cen­tres euro­pé­ens d’in­no­va­ti­on numé­ri­que et les instal­la­ti­ons d’es­sai et d’expé­ri­men­ta­ti­on sont en mesu­re de four­nir un sou­ti­en tech­ni­que et sci­en­ti­fi­que aux four­nis­seurs et aux orga­nis­mes notifiés.

(147) Il est appro­prié que la Com­mis­si­on faci­li­te, dans la mesu­re du pos­si­ble, l’ac­cès aux instal­la­ti­ons d’es­sai et d’expé­ri­men­ta­ti­on aux orga­nis­mes, grou­pes ou labo­ra­toires étab­lis ou accré­di­tés en ver­tu de tou­te légis­la­ti­on d’har­mo­ni­sa­ti­on de l’U­ni­on per­ti­nen­te et qui accom­plis­sent des tâches dans le cad­re de l’éva­lua­ti­on de la con­for­mi­té des pro­duits ou des dis­po­si­tifs cou­verts par cet­te légis­la­ti­on d’har­mo­ni­sa­ti­on de l’U­ni­on. Tel est, en par­ti­cu­lier, le cas des panels d’ex­perts, des labo­ra­toires d’ex­perts et des labo­ra­toires de réfé­rence dans le domaine des dis­po­si­tifs médi­caux con­for­mé­ment aux règle­ments (UE) 2017/745 et (UE) 2017/746.

(176) Étant don­né que l’ob­jec­tif du pré­sent règle­ment, à savoir amé­lio­rer le fonc­tion­ne­ment du mar­ché inté­ri­eur et pro­mou­voir l’ad­op­ti­on d’IA cen­trées sur l’hom­me et fia­bles, tout en assu­rant un niveau éle­vé de pro­tec­tion de la san­té, de la sécu­ri­té, des droits fon­da­men­taux con­sacrés par la Char­te, y com­pris la démo­cra­tie, le respect de la loi et la pro­tec­tion de l’en­vi­ron­ne­ment cont­re les effets néfa­stes des systè­mes d’IA dans l’U­ni­on, et en encou­ra­geant l’in­no­va­ti­on, ne peut pas être réa­li­sé de maniè­re suf­fi­san­te par les États mem­bres et peut donc, en rai­son de l’é­chel­le ou des effets de l’ac­tion, être mieux réa­li­sé au niveau de l’U­ni­on, cel­le-ci peut adop­ter des mesu­res con­for­mé­ment au prin­ci­pe de sub­si­dia­ri­té énon­cé à l’ar­tic­le 5 du trai­té CE. Con­for­mé­ment au prin­ci­pe de pro­por­ti­on­na­li­té tel qu’é­non­cé audit artic­le, le pré­sent règle­ment ne va pas au-delà de ce qui est néces­saire pour att­eind­re cet objectif.

(180) Le Con­trô­leur euro­pé­en de la pro­tec­tion des don­nées et le Con­seil euro­pé­en de la pro­tec­tion des don­nées ont été con­sul­tés con­for­mé­ment à l’ar­tic­le 42, para­gra­phes 1 et 2, du règle­ment (UE) 2018/1725 et ont ren­du leur avis con­joint le 18 juin 2021,

1. L’ob­jec­tif du pré­sent règle­ment est d’a­mé­lio­rer le fonc­tion­ne­ment du mar­ché inté­ri­eur et de pro­mou­voir l’ad­op­ti­on de l’in­tel­li­gence arti­fi­ci­el­le (IA) cen­trée sur l’hom­me et fia­ble, tout en assu­rant un niveau éle­vé de pro­tec­tion de la san­té, de la sécu­ri­té, des droits fon­da­men­taux con­sacrés par la Char­te, y com­pris la démo­cra­tie, le respect de la loi et la pro­tec­tion de l’en­vi­ron­ne­ment, cont­re les effets néfa­stes des systè­mes d’IA dans l’U­ni­on et en encou­ra­geant l’innovation.

2. Le pré­sent règle­ment fixe des règles :

(a) des règles har­mo­ni­sées pour la mise sur le mar­ché, la mise en ser­vice et l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le dans l’Union ;

(b) les inter­dic­tions de cer­tai­nes pra­ti­ques d’IA ;

(c) des exi­gen­ces spé­ci­fi­ques pour les systè­mes d’in­tel­li­gence arti­fi­ci­el­le à haut ris­que et des obli­ga­ti­ons pour les opé­ra­teurs de ces systèmes ;

(d) des règles de trans­pa­rence har­mo­ni­sées pour cer­ta­ins systè­mes d’IA ;

(e) des règles har­mo­ni­sées pour la mise sur le mar­ché de modè­les d’IA à usa­ge général ;

(f) des règles sur la sur­veil­lan­ce du mar­ché, le con­trô­le du mar­ché, la gou­ver­nan­ce et l’application ;

(g) des mesu­res visa­nt à sou­te­nir l’in­no­va­ti­on, avec un accent par­ti­cu­lier sur les PME, y com­pris les start-ups.

1. Le pré­sent règle­ment s’ap­pli­que à :

(a) les four­nis­seurs met­tant sur le mar­ché ou met­tant en ser­vice des systè­mes d’in­tel­li­gence arti­fi­ci­el­le ou met­tant sur le mar­ché des modè­les d’in­tel­li­gence arti­fi­ci­el­le à usa­ge géné­ral dans l’U­ni­on, que ces four­nis­seurs soi­ent étab­lis ou situés dans l’U­ni­on ou dans un pays tiers ;

(21) Afin d’assurer une éga­li­té de trai­te­ment et une pro­tec­tion effec­ti­ve des droits et des liber­tés des per­son­nes dans l’en­sem­ble de l’U­ni­on, les règles éta­b­lies par le pré­sent règle­ment dev­rai­ent s’ap­pli­quer de maniè­re non dis­cri­mi­na­toire aux four­nis­seurs de systè­mes d’in­tel­li­gence arti­fi­ci­el­le, qu’ils soi­ent étab­lis dans l’U­ni­on ou dans un pays tiers, et aux per­son­nes qui déploi­ent des systè­mes d’in­tel­li­gence arti­fi­ci­el­le étab­lis dans l’Union.

(23) Le pré­sent règle­ment dev­rait éga­le­ment s’ap­pli­quer aux insti­tu­ti­ons, orga­nes, bureaux et agen­ces de l’U­ni­on lorsqu’ils agis­sent en tant que four­nis­seurs ou déployeurs d’un système d’in­tel­li­gence artificielle.

(b) les déployeurs de systè­mes d’IA qui ont leur lieu d’é­ta­blis­se­ment ou sont situés dans l’Union ;

(c) les four­nis­seurs et les déployeurs de systè­mes d’in­tel­li­gence arti­fi­ci­el­le qui ont leur lieu d’é­ta­blis­se­ment ou sont situés dans un pays tiers, où la pro­duc­tion du système d’in­tel­li­gence arti­fi­ci­el­le est uti­li­sée dans l’Union ;

(d) impor­ta­teurs et dis­tri­bu­teurs de systè­mes d’IA ;

(e) les fab­ri­cants de pro­duits qui met­tent sur le mar­ché ou en ser­vice un système d’in­tel­li­gence arti­fi­ci­el­le avec leur pro­duit et sous leur pro­pre nom ou marque ;

(f) les repré­sen­tants auto­ri­sés de pre­sta­tai­res qui ne sont pas étab­lis dans l’Union ;

(82) Afin de per­mett­re l’ap­pli­ca­ti­on du pré­sent règle­ment et de cré­er un ter­rain de jeu équi­ta­ble pour les opé­ra­teurs, et comp­te tenu des dif­fé­ren­tes for­mes de mise à dis­po­si­ti­on des pro­duits numé­ri­ques, il est important de s’assurer que, dans tou­tes les cir­con­stances, une per­son­ne éta­b­lie dans l’U­ni­on pui­s­se four­nir aux auto­ri­tés tou­tes les infor­ma­ti­ons néces­saires sur la con­for­mi­té d’un système d’IA. C’est pour­quoi, avant de mett­re leurs systè­mes d’IA à dis­po­si­ti­on dans l’U­ni­on, les four­nis­seurs étab­lis dans des pays tiers doi­vent, par man­dat écrit, dési­gner un repré­sen­tant auto­ri­sé éta­b­li dans l’U­ni­on. Ce repré­sen­tant agréé joue un rôle essen­tiel dans la garan­tie de la con­for­mi­té des systè­mes d’IA à haut ris­que mis sur le mar­ché ou en ser­vice dans l’U­ni­on par les four­nis­seurs qui ne sont pas étab­lis dans l’U­ni­on et dans le ser­vice de leur per­son­ne de cont­act éta­b­lie dans l’Union.

(g) les per­son­nes affec­tées situées dans l’Union.

2. En ce qui con­cer­ne les systè­mes d’i­den­ti­fi­ca­ti­on auto­ma­tique clas­sés com­me systè­mes d’i­den­ti­fi­ca­ti­on auto­ma­tique à haut ris­que con­for­mé­ment à l’ar­tic­le 6, para­gra­phe 1, rela­tifs aux pro­duits cou­verts par la légis­la­ti­on d’har­mo­ni­sa­ti­on de l’U­ni­on énu­mé­rée dans la sec­tion B de l’an­ne­xe I, seuls l’ar­tic­le 6, para­gra­phe 1, les artic­les 102 à 109 et l’ar­tic­le 112 s’ap­pli­quent. L’ar­tic­le 57 ne s’ap­pli­que que dans la mesu­re où les exi­gen­ces rela­ti­ves aux systè­mes d’assu­rance qua­li­té à haut ris­que pré­vues par le pré­sent règle­ment ont été inté­g­rées dans la légis­la­ti­on d’har­mo­ni­sa­ti­on de l’Union.

3. Le pré­sent règle­ment ne s’ap­pli­que pas aux domain­es qui sortent du champ d’ap­pli­ca­ti­on du droit de l’U­ni­on et n’af­fec­te en aucun cas les com­pé­ten­ces des États mem­bres en matiè­re de sécu­ri­té natio­na­le, quel que soit le type d’en­ti­té char­gé par les États mem­bres d’exé­cu­ter des tâches rele­vant de ces compétences.

Le pré­sent règle­ment ne s’ap­pli­que pas aux systè­mes d’in­tel­li­gence arti­fi­ci­el­le lorsque et jus­qu’à ce qu’ils soi­ent mis sur le mar­ché, mis en ser­vice ou uti­li­sés, avec ou sans modi­fi­ca­ti­on, exclu­si­ve­ment à des fins mili­taires, de défen­se ou de sécu­ri­té natio­na­le, quel que soit le type d’en­ti­té exer­çant ces activités.

Le pré­sent règle­ment ne s’ap­pli­que pas aux systè­mes d’in­tel­li­gence arti­fi­ci­el­le qui ne sont pas mis sur le mar­ché ou mis en ser­vice dans l’U­ni­on, lorsque la pro­duc­tion est uti­li­sée dans l’U­ni­on exclu­si­ve­ment à des fins mili­taires, de défen­se ou de sécu­ri­té natio­na­le, quel que soit le type d’en­ti­té exer­çant ces activités.

(24) Si, et dans la mesu­re où, des systè­mes d’in­tel­li­gence arti­fi­ci­el­le sont mis sur le mar­ché, mis en ser­vice ou uti­li­sés, avec ou sans modi­fi­ca­ti­on de ces systè­mes, à des fins mili­taires, de défen­se ou de sécu­ri­té natio­na­le, ils doi­vent être exclus du champ d’ap­pli­ca­ti­on du pré­sent règle­ment, quel que soit le type d’en­ti­té qui exer­ce ces acti­vi­tés, qu’il s’a­gis­se d’u­ne enti­té publi­que ou pri­vée. En ce qui con­cer­ne les fins mili­taires et de défen­se, cet­te exclu­si­on est justi­fi­ée à la fois par l’ar­tic­le 4, para­gra­phe 2, du TUE et par les spé­ci­fi­ci­tés de la poli­tique de défen­se des États mem­bres et de l’U­ni­on euro­pé­en­ne cou­ver­te par le cha­pit­re 2 du tit­re V du TUE, qui sont sou­mi­ses au droit inter­na­tio­nal public, lequel con­sti­tue donc le cad­re juri­di­que le plus appro­prié pour la régle­men­ta­ti­on des systè­mes d’in­tel­li­gence arti­fi­ci­el­le dans le cad­re de l’uti­li­sa­ti­on de la force léta­le et d’aut­res systè­mes d’in­tel­li­gence arti­fi­ci­el­le dans le con­tex­te des acti­vi­tés mili­taires et de défen­se. En ce qui con­cer­ne les objec­tifs de sécu­ri­té natio­na­le, l’ex­clu­si­on est justi­fi­ée à la fois par le fait que la sécu­ri­té natio­na­le reste de la seu­le responsa­bi­li­té des États mem­bres con­for­mé­ment à l’ar­tic­le 4, para­gra­phe 2, du TUE et par la natu­re spé­ci­fi­que et les beso­ins opé­ra­ti­on­nels des acti­vi­tés de sécu­ri­té natio­na­le et des règles natio­na­les spé­ci­fi­ques appli­ca­bles à ces acti­vi­tés. Néan­mo­ins, si un système d’in­tel­li­gence arti­fi­ci­el­le déve­lo­p­pé, mis sur le mar­ché, mis en ser­vice ou uti­li­sé à des fins mili­taires, de défen­se ou de sécu­ri­té natio­na­le est uti­li­sé en dehors de cel­les-ci, tem­po­rai­re­ment ou de maniè­re per­ma­nen­te, à d’aut­res fins, par exemp­le civi­les ou huma­ni­taires, d’ap­pli­ca­ti­on de la loi ou de sécu­ri­té publi­que, un tel système ent­rerait dans le champ d’ap­pli­ca­ti­on du pré­sent règlement.

Dans ce cas, l’en­ti­té uti­li­sant le système d’in­tel­li­gence arti­fi­ci­el­le à des fins aut­res que mili­taires, de défen­se ou de sécu­ri­té natio­na­le doit s’assurer de la con­for­mi­té du système d’in­tel­li­gence arti­fi­ci­el­le avec le pré­sent règle­ment, à moins que le système ne soit déjà con­for­me au pré­sent règle­ment. Les systè­mes d’IA mis sur le mar­ché ou en ser­vice à des fins exclu­si­ves, à savoir mili­taires, de défen­se ou de sécu­ri­té natio­na­le, et à une ou plu­sieurs fins non exclues, tel­les que des fins civi­les ou l’ap­pli­ca­ti­on de la loi, ent­rent dans le champ d’ap­pli­ca­ti­on du pré­sent règle­ment et les four­nis­seurs de ces systè­mes doi­vent assurer la con­for­mi­té avec le pré­sent règle­ment. Dans ces cas, le fait qu’un système d’in­tel­li­gence arti­fi­ci­el­le pui­s­se ent­rer dans le champ d’ap­pli­ca­ti­on du pré­sent règle­ment ne dev­rait pas affec­ter la pos­si­bi­li­té pour les enti­tés exer­çant des acti­vi­tés de sécu­ri­té natio­na­le, de défen­se et mili­taires, quel que soit le type d’en­ti­té exer­çant ces acti­vi­tés, d’uti­li­ser des systè­mes d’in­tel­li­gence arti­fi­ci­el­le à des fins de sécu­ri­té natio­na­le, mili­taires et de défen­se, dont l’uti­li­sa­ti­on est exclue du champ d’ap­pli­ca­ti­on du pré­sent règle­ment. Un système d’in­tel­li­gence arti­fi­ci­el­le mis sur le mar­ché à des fins civi­les ou d’ap­pli­ca­ti­on de la loi, qui est uti­li­sé avec ou sans modi­fi­ca­ti­on à des fins mili­taires, de défen­se ou de sécu­ri­té natio­na­le, ne doit pas ent­rer dans le champ d’ap­pli­ca­ti­on du pré­sent règle­ment, quel que soit le type d’en­ti­té exer­çant ces activités.

4. Le pré­sent règle­ment ne s’ap­pli­que pas aux auto­ri­tés publi­ques d’un pays tiers ni aux orga­ni­sa­ti­ons inter­na­tio­na­les rele­vant du champ d’ap­pli­ca­ti­on du pré­sent règle­ment en ver­tu du para­gra­phe 1, lorsque ces auto­ri­tés ou orga­ni­sa­ti­ons uti­li­sent des systè­mes d’i­den­ti­fi­ca­ti­on auto­ma­tique dans le cad­re de la coopé­ra­ti­on inter­na­tio­na­le ou d’ac­cords de coopé­ra­ti­on judi­ciai­re et en matiè­re d’ap­pli­ca­ti­on de la loi con­clus avec l’U­ni­on ou avec un ou plu­sieurs États mem­bres, à con­di­ti­on que ce pays tiers ou cet­te orga­ni­sa­ti­on inter­na­tio­na­le pré­voie des garan­ties appro­priées en ce qui con­cer­ne la pro­tec­tion des droits et liber­tés fon­da­men­taux des personnes.

(22) Comp­te tenu de leur natu­re numé­ri­que, cer­ta­ins systè­mes d’in­tel­li­gence arti­fi­ci­el­le dev­rai­ent rele­ver du champ d’ap­pli­ca­ti­on du pré­sent règle­ment, même s’ils ne sont pas mis sur le mar­ché, mis en ser­vice ou uti­li­sés dans l’U­ni­on. C’est le cas, par exemp­le, lorsqu’un opé­ra­teur éta­b­li dans l’U­ni­on com­man­de cer­ta­ins ser­vices à un opé­ra­teur éta­b­li dans un pays tiers en rap­port avec une acti­vi­té devant être exer­cée par un système d’in­tel­li­gence arti­fi­ci­el­le qui serait qua­li­fié de à haut ris­que. Dans ces cir­con­stances, le système d’in­tel­li­gence arti­fi­ci­el­le uti­li­sé dans un pays tiers par l’opé­ra­teur pour­rait trai­ter des don­nées coll­ec­tées léga­le­ment dans l’U­ni­on et trans­fé­rées depuis cel­le-ci, et four­nir à l’opé­ra­teur con­trac­tant dans l’U­ni­on la sor­tie de ce système d’in­tel­li­gence arti­fi­ci­el­le résul­tant de ce trai­te­ment, sans que ce système d’in­tel­li­gence arti­fi­ci­el­le ne soit mis sur le mar­ché, mis en ser­vice ou uti­li­sé dans l’U­ni­on. Afin d’é­vi­ter le con­tour­ne­ment du pré­sent règle­ment et d’assurer une pro­tec­tion effi­cace des per­son­nes phy­si­ques éta­b­lies dans l’U­ni­on, le pré­sent règle­ment dev­rait éga­le­ment s’ap­pli­quer aux four­nis­seurs et aux pre­sta­tai­res de systè­mes d’in­tel­li­gence arti­fi­ci­el­le étab­lis dans un pays tiers, dans la mesu­re où la sor­tie pro­duite par ces systè­mes est desti­née à être uti­li­sée dans l’Union.

Néan­mo­ins, afin de tenir comp­te des arran­ge­ments exi­stants et des beso­ins par­ti­cu­liers en matiè­re de coopé­ra­ti­on future avec des par­ten­aires étran­gers avec les­quels des infor­ma­ti­ons et des preu­ves sont échan­gées, le pré­sent règle­ment ne dev­rait pas s’ap­pli­quer aux auto­ri­tés publi­ques d’un pays tiers et aux orga­ni­sa­ti­ons inter­na­tio­na­les lorsqu’el­les agis­sent dans le cad­re de la coopé­ra­ti­on ou d’ac­cords inter­na­ti­on­aux con­clus au niveau de l’U­ni­on ou au niveau natio­nal pour la coopé­ra­ti­on en matiè­re d’ap­pli­ca­ti­on de la loi et la coopé­ra­ti­on judi­ciai­re avec l’U­ni­on ou les États mem­bres, à con­di­ti­on que le pays tiers ou l’or­ga­ni­sa­ti­on inter­na­tio­na­le concerné(e) pré­voie des garan­ties suf­fi­san­tes en ce qui con­cer­ne la pro­tec­tion des droits et liber­tés fon­da­men­taux des per­son­nes. Le cas échéant, cela peut cou­vr­ir les acti­vi­tés des enti­tés char­gées par les pays tiers d’exé­cu­ter des tâches spé­ci­fi­ques à l’ap­pui de cet­te coopé­ra­ti­on en matiè­re d’ap­pli­ca­ti­on de la loi et de coopé­ra­ti­on judi­ciai­re. De tels cad­res de coopé­ra­ti­on ou accords ont été étab­lis bila­té­ra­le­ment ent­re les États mem­bres et les pays tiers ou ent­re l’U­ni­on euro­pé­en­ne, Euro­pol et d’aut­res agen­ces de l’U­ni­on et des pays tiers et des orga­ni­sa­ti­ons inter­na­tio­na­les. Les auto­ri­tés char­gées de la sur­veil­lan­ce des auto­ri­tés judi­ciai­res et des auto­ri­tés char­gées de l’ap­pli­ca­ti­on de la loi en ver­tu du pré­sent règle­ment dev­rai­ent éva­luer si ces cad­res de coopé­ra­ti­on ou accords inter­na­ti­on­aux com­portent des garan­ties suf­fi­san­tes en ce qui con­cer­ne la pro­tec­tion des droits et des liber­tés fon­da­men­taux des per­son­nes. Les auto­ri­tés natio­na­les béné­fi­ci­ai­res et les insti­tu­ti­ons, orga­nes, bureaux et agen­ces de l’U­ni­on qui uti­li­sent de tels extrants dans l’U­ni­on restent tenus de veil­ler à ce que leur uti­li­sa­ti­on soit con­for­me au droit de l’U­ni­on. Lorsque ces accords inter­na­ti­on­aux sont révi­sés ou que de nou­veaux accords sont con­clus à l’a­ve­nir, les par­ties con­trac­tan­tes dev­rai­ent fai­re tout leur pos­si­ble pour les rend­re con­for­mes aux exi­gen­ces du pré­sent règlement.

5. Le pré­sent règle­ment n’af­fec­te pas l’ap­pli­ca­ti­on des dis­po­si­ti­ons rela­ti­ves à la responsa­bi­li­té des pre­sta­tai­res de ser­vices inter­mé­di­ai­res énon­cées au cha­pit­re II du règle­ment (UE) 2022/2065.

(11) Le pré­sent règle­ment doit s’ap­pli­quer sans pré­ju­di­ce des dis­po­si­ti­ons rela­ti­ves à la responsa­bi­li­té des pre­sta­tai­res de ser­vices inter­mé­di­ai­res énon­cées dans le règle­ment (UE) 2022/2065 du Par­le­ment euro­pé­en et du Conseil .

6. Le pré­sent règle­ment ne s’ap­pli­que pas aux systè­mes ou modè­les d’in­tel­li­gence arti­fi­ci­el­le, y com­pris leurs résul­tats, spé­cia­le­ment con­çus et mis en ser­vice aux seu­les fins de la recher­che et du déve­lo­p­pe­ment scientifiques.

(25) Ce règle­ment doit sou­te­nir l’in­no­va­ti­on, respec­ter la liber­té de la sci­ence et ne doit pas ent­ra­ver les acti­vi­tés de recher­che et de déve­lo­p­pe­ment. Il est donc néces­saire d’ex­clu­re de son champ d’ap­pli­ca­ti­on les systè­mes et modè­les d’in­tel­li­gence arti­fi­ci­el­le spé­cia­le­ment con­çus et mis en ser­vice dans le seul but de la recher­che et du déve­lo­p­pe­ment sci­en­ti­fi­ques. En out­re, il est néces­saire de s’assurer que le pré­sent règle­ment n’af­fec­te pas autre­ment les acti­vi­tés de recher­che et de déve­lo­p­pe­ment sci­en­ti­fi­ques sur les systè­mes ou modè­les d’IA avant leur mise sur le mar­ché ou leur mise en ser­vice. En ce qui con­cer­ne les acti­vi­tés de recher­che, de test et de déve­lo­p­pe­ment axées sur les pro­duits con­cer­nant les systè­mes ou modè­les d’IA, les dis­po­si­ti­ons du pré­sent règle­ment ne doi­vent pas non plus s’ap­pli­quer avant que ces systè­mes et modè­les ne soi­ent mis en ser­vice ou pla­cés sur le mar­ché. Cet­te exclu­si­on est sans pré­ju­di­ce de l’ob­li­ga­ti­on de se con­for­mer au pré­sent règle­ment lorsqu’un système d’in­tel­li­gence arti­fi­ci­el­le rele­vant du champ d’ap­pli­ca­ti­on du pré­sent règle­ment est mis sur le mar­ché ou mis en ser­vice à la suite d’u­ne tel­le acti­vi­té de recher­che et de déve­lo­p­pe­ment, ain­si que de l’ap­pli­ca­ti­on des dis­po­si­ti­ons rela­ti­ves aux sand­bo­xes et aux essais régle­men­tai­res en matiè­re d’in­tel­li­gence arti­fi­ci­el­le dans les con­di­ti­ons du mon­de réel.

En out­re, sans pré­ju­di­ce de l’ex­clu­si­on des systè­mes d’in­tel­li­gence arti­fi­ci­el­le spé­cia­le­ment con­çus et mis en ser­vice dans le seul but de la recher­che et du déve­lo­p­pe­ment sci­en­ti­fi­ques, tout aut­re système d’in­tel­li­gence arti­fi­ci­el­le sus­cep­ti­ble d’êt­re uti­li­sé pour la con­duite d’u­ne quel­con­que acti­vi­té de recher­che et de déve­lo­p­pe­ment dev­rait rester sou­mis aux dis­po­si­ti­ons du pré­sent règle­ment. En tout état de cau­se, tou­te acti­vi­té de recher­che et de déve­lo­p­pe­ment doit être menée con­for­mé­ment aux nor­mes éthi­ques et pro­fes­si­on­nel­les recon­nues en matiè­re de recher­che sci­en­ti­fi­que et doit être con­for­me à la légis­la­ti­on de l’U­ni­on applicable.

7. Le droit de l’U­ni­on euro­pé­en­ne rela­tif à la pro­tec­tion des don­nées à carac­tère per­son­nel, à la vie pri­vée et à la con­fi­den­tia­li­té des com­mu­ni­ca­ti­ons s’ap­pli­que aux don­nées à carac­tère per­son­nel trai­tées dans le cad­re des droits et obli­ga­ti­ons pré­vus par le pré­sent règle­ment. Le pré­sent règle­ment n’af­fec­te pas le règle­ment (UE) 2016/679 ou (UE) 2018/1725, ou la direc­ti­ve 2002/58/CE ou (UE) 2016/680, sans pré­ju­di­ce de l’ar­tic­le 10, para­gra­phe 5, et de l’ar­tic­le 59 du pré­sent règlement.

(9) Des règles har­mo­ni­sées appli­ca­bles à la mise sur le mar­ché, à la mise en ser­vice et à l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le à haut ris­que dev­rai­ent être éta­b­lies de maniè­re cohé­ren­te avec le règle­ment (CE) n° 765/2008 du Par­le­ment euro­pé­en et du Con­seil, la décis­i­on n° 768/2008/CE du Par­le­ment euro­pé­en et du Con­seil et le règle­ment (UE) 2019/1020 du Par­le­ment euro­pé­en et du Con­seil (nou­veau cad­re légis­la­tif). Les règles har­mo­ni­sées énon­cées dans le pré­sent règle­ment dev­rai­ent s’ap­pli­quer à tous les sec­teurs et, con­for­mé­ment au nou­veau cad­re légis­la­tif, ne dev­rai­ent pas por­ter pré­ju­di­ce au droit com­mun­au­tai­re exi­stant, notam­ment en matiè­re de pro­tec­tion des don­nées, de pro­tec­tion des con­som­ma­teurs, de droits fon­da­men­taux, d’em­ploi et de pro­tec­tion des tra­vail­leurs, et de sécu­ri­té des pro­duits, auquel le pré­sent règle­ment est com­plé­men­tai­re. En con­sé­quence, tous les droits et recours pré­vus par ce droit de l’U­ni­on à l’é­gard des con­som­ma­teurs et des aut­res per­son­nes sur les­quel­les les systè­mes d’in­tel­li­gence arti­fi­ci­el­le peu­vent avoir un impact néga­tif, y com­pris en ce qui con­cer­ne l’in­dem­ni­sa­ti­on des dom­mages éven­tuels con­for­mé­ment à la direc­ti­ve 85/374/CEE du Conseil10 , restent inchan­gés et plei­ne­ment applicables.

En out­re, dans le con­tex­te de l’em­ploi et de la pro­tec­tion des tra­vail­leurs, le pré­sent règle­ment ne dev­rait donc pas affec­ter la légis­la­ti­on de l’U­ni­on en matiè­re de poli­tique socia­le et la légis­la­ti­on natio­na­le du tra­vail, con­for­me au droit de l’U­ni­on, con­cer­nant l’em­ploi et les con­di­ti­ons de tra­vail, y com­pris la san­té et la sécu­ri­té au tra­vail et les rela­ti­ons ent­re employeurs et tra­vail­leurs. Le pré­sent règle­ment ne dev­rait pas non plus affec­ter l’e­xer­ci­ce des droits fon­da­men­taux tels qu’ils sont recon­nus dans les États mem­bres et au niveau de l’U­ni­on, y com­pris le droit ou la liber­té de fai­re grè­ve ou d’entre­prend­re tou­te aut­re action cou­ver­te par les systè­mes de rela­ti­ons indu­stri­el­les spé­ci­fi­ques en vigueur dans les États mem­bres, ain­si que le droit de négo­cier, de con­clu­re et d’ap­pli­quer des con­ven­ti­ons coll­ec­ti­ves ou de mener des actions coll­ec­ti­ves con­for­mé­ment au droit national.

Le pré­sent règle­ment ne dev­rait pas affec­ter les dis­po­si­ti­ons visa­nt à amé­lio­rer les con­di­ti­ons de tra­vail dans le tra­vail de pla­te­for­me pré­vues par une direc­ti­ve du Par­le­ment euro­pé­en et du Con­seil con­cer­nant l’a­mé­lio­ra­ti­on des con­di­ti­ons de tra­vail dans le sec­teur du tra­vail de pla­te­for­me. En out­re, ce règle­ment vise à ren­forcer l’ef­fi­ca­ci­té de ces droits et mesu­res exi­stants en éta­blis­sant des exi­gen­ces et des obli­ga­ti­ons spé­ci­fi­ques, y com­pris en ce qui con­cer­ne la trans­pa­rence, la docu­men­ta­ti­on tech­ni­que et le sui­vi des systè­mes d’in­tel­li­gence arti­fi­ci­el­le. En out­re, les obli­ga­ti­ons impo­sées aux dif­fér­ents opé­ra­teurs impli­qués dans la chaî­ne de valeur de l’IA en ver­tu du pré­sent règle­ment dev­rai­ent s’ap­pli­quer sans pré­ju­di­ce du droit natio­nal, dans le respect du droit de l’U­ni­on, et avoir pour effet de limi­ter l’uti­li­sa­ti­on de cer­ta­ins systè­mes d’IA lorsque ce droit sort du champ d’ap­pli­ca­ti­on du pré­sent règle­ment ou pour­su­it des objec­tifs d’in­té­rêt public légiti­mes aut­res que ceux visés par le pré­sent règle­ment. Par exemp­le, le droit natio­nal du tra­vail et le droit rela­tif à la pro­tec­tion des mineurs, c’est-à-dire des per­son­nes âgées de moins de 18 ans, comp­te tenu de l’ob­ser­va­ti­on géné­ra­le n° 25 (2021) de la CNUCED sur les droits de l’en­fant dans le cad­re de l’en­vi­ron­ne­ment numé­ri­que, dans la mesu­re où ils ne sont pas spé­ci­fi­ques aux systè­mes d’IA et pour­suivent d’aut­res objec­tifs d’in­té­rêt public légiti­mes, ne dev­rai­ent pas être affec­tés par le pré­sent règlement.

(10) Le droit fon­da­men­tal à la pro­tec­tion des don­nées à carac­tère per­son­nel est garan­ti en par­ti­cu­lier par les règle­ments (UE) 2016/679 et (UE) 2018/1725 du Par­le­ment euro­pé­en et du Con­seil et par la direc­ti­ve (UE) 2016/680 du Par­le­ment euro­pé­en et du Con­seil. La direc­ti­ve 2002/58/CE du Par­le­ment euro­pé­en et du Con­seil pro­tège en out­re la vie pri­vée et la con­fi­den­tia­li­té des com­mu­ni­ca­ti­ons, notam­ment en pré­voyant des con­di­ti­ons pour tout stocka­ge de don­nées per­son­nel­les et non per­son­nel­les dans des équi­pe­ments ter­minaux et pour tout accès à par­tir de ces équi­pe­ments. Ces actes juri­di­ques de l’U­ni­on four­nis­sent la base d’un trai­te­ment des don­nées dura­ble et responsable, y com­pris lorsque les ensem­bles de don­nées com­pren­nent un mélan­ge de don­nées per­son­nel­les et non per­son­nel­les. Le pré­sent règle­ment ne cher­che pas à affec­ter l’ap­pli­ca­ti­on de la légis­la­ti­on euro­pé­en­ne exi­stan­te en matiè­re de trai­te­ment des don­nées à carac­tère per­son­nel, y com­pris les tâches et les pou­voirs des auto­ri­tés de con­trô­le indé­pen­dan­tes char­gées de veil­ler au respect de ces instruments.

Elle n’af­fec­te pas non plus les obli­ga­ti­ons des four­nis­seurs et des déployeurs de systè­mes d’in­tel­li­gence arti­fi­ci­el­le dans leur rôle de con­trô­leurs de don­nées ou de pro­ce­s­seurs décou­lant du droit de l’U­ni­on ou du droit natio­nal en matiè­re de pro­tec­tion des don­nées à carac­tère per­son­nel, dans la mesu­re où la con­cep­ti­on, le déve­lo­p­pe­ment ou l’uti­li­sa­ti­on des systè­mes d’in­tel­li­gence arti­fi­ci­el­le impli­quent le trai­te­ment de don­nées à carac­tère per­son­nel. Il con­vi­ent éga­le­ment de pré­cis­er que les per­son­nes con­cer­nées con­ti­nuent de jouir de tous les droits et garan­ties qui leur sont accor­dés par le droit de l’U­ni­on, y com­pris les droits liés à la pri­se de décis­i­on indi­vi­du­el­le entiè­re­ment auto­ma­ti­sée, y com­pris le pro­fi­la­ge. Des règles har­mo­ni­sées pour la mise sur le mar­ché, la mise en ser­vice et l’uti­li­sa­ti­on des systè­mes d’in­tel­li­gence arti­fi­ci­el­le étab­lis en ver­tu du pré­sent règle­ment dev­rai­ent faci­li­ter la mise en œuvre effec­ti­ve et per­mett­re l’e­xer­ci­ce des droits des per­son­nes con­cer­nées et des aut­res droits garan­tis par le droit de l’U­ni­on en matiè­re de pro­tec­tion des don­nées à carac­tère per­son­nel et des aut­res droits fondamentaux.

8. Le pré­sent règle­ment ne s’ap­pli­que pas à tou­te acti­vi­té de recher­che, de test ou de déve­lo­p­pe­ment con­cer­nant des systè­mes ou des modè­les d’in­tel­li­gence arti­fi­ci­el­le avant leur mise sur le mar­ché ou leur mise en ser­vice. Ces acti­vi­tés doi­vent être menées con­for­mé­ment à la légis­la­ti­on de l’U­ni­on appli­ca­ble. Les essais en con­di­ti­ons réel­les ne sont pas cou­verts par cet­te exclusion.

9. Le pré­sent règle­ment ne pré­ju­ge pas des règles fixées par d’aut­res actes légis­la­tifs de l’U­ni­on rela­tifs à la pro­tec­tion des con­som­ma­teurs et à la sécu­ri­té des produits.

10. Le pré­sent règle­ment ne s’ap­pli­que pas aux obli­ga­ti­ons des per­son­nes phy­si­ques qui uti­li­sent des systè­mes d’in­tel­li­gence arti­fi­ci­el­le dans le cad­re d’u­ne acti­vi­té non pro­fes­si­on­nel­le pure­ment personnelle.

11. Le pré­sent règle­ment n’empêche pas l’U­ni­on ou les États mem­bres de main­te­nir ou d’in­tro­dui­re des dis­po­si­ti­ons légis­la­ti­ves, régle­men­tai­res ou admi­ni­stra­ti­ves plus favor­ables aux tra­vail­leurs en ce qui con­cer­ne la pro­tec­tion de leurs droits en matiè­re d’uti­li­sa­ti­on des systè­mes d’assu­rance-inva­li­di­té par les employeurs, ni d’en­cou­ra­ger ou de per­mett­re l’ap­pli­ca­ti­on de con­ven­ti­ons coll­ec­ti­ves plus favor­ables aux travailleurs.

12. Le pré­sent règle­ment ne s’ap­pli­que pas aux systè­mes d’in­tel­li­gence arti­fi­ci­el­le publiés sous licen­ces libres et open source, sauf s’ils sont mis sur le mar­ché ou mis en ser­vice en tant que systè­mes d’in­tel­li­gence arti­fi­ci­el­le à haut ris­que ou en tant que systè­mes d’in­tel­li­gence arti­fi­ci­el­le rele­vant des artic­les 5 ou 50.

(103) Les com­po­sants AI libres et open-source cou­vrent les logi­ciels et les don­nées, y com­pris les modè­les et les modè­les AI à usa­ge géné­ral, les outils, les ser­vices ou les pro­ce­s­sus d’un système AI. Les com­po­sants d’IA gra­tuits et à source ouver­te peu­vent être four­nis par dif­fér­ents moy­ens, y com­pris leur déve­lo­p­pe­ment sur des bases de don­nées ouver­tes. Aux fins du pré­sent règle­ment, les com­po­sants d’IA qui sont four­nis cont­re un prix ou autre­ment moné­ti­sés, notam­ment par la four­ni­tu­re d’un sup­port tech­ni­que ou d’aut­res ser­vices, y com­pris par le biais d’u­ne pla­te­for­me logi­ciel­le, liés au com­po­sant d’IA, ou l’uti­li­sa­ti­on de don­nées à carac­tère per­son­nel pour des rai­sons aut­res que l’a­mé­lio­ra­ti­on de la sécu­ri­té, de la com­pa­ti­bi­li­té ou de l’in­teropé­ra­bi­li­té du logi­ciel, à l’ex­cep­ti­on des tran­sac­tions ent­re micro-ent­re­pri­ses, ne doi­vent pas béné­fi­ci­er des excep­ti­ons pré­vues pour les com­po­sants d’IA libres et open source. Le fait de mett­re à dis­po­si­ti­on des com­po­sants IA par le biais de dépôts ouverts ne dev­rait pas con­sti­tuer en soi une monétisation.

(104)Les four­nis­seurs de modè­les d’IA à usa­ge géné­ral qui sont publiés sous une licence lib­re et ouver­te et dont les paramè­tres, y com­pris les poids, les infor­ma­ti­ons sur l’ar­chi­tec­tu­re du modè­le et les infor­ma­ti­ons sur l’uti­li­sa­ti­on du modè­le, sont ren­dus publics, dev­rai­ent être sou­mis à des excep­ti­ons en ce qui con­cer­ne les exi­gen­ces de trans­pa­rence impo­sées aux modè­les d’IA à usa­ge géné­ral, sauf s’ils peu­vent être con­sidé­rés com­me pré­sen­tant un ris­que sys­té­mi­que, auquel cas la cir­con­stance que le modè­le est trans­pa­rent et accom­pa­gné d’u­ne licence ouver­te ne dev­rait pas être con­sidé­rée com­me une rai­son suf­fi­san­te pour exclu­re la con­for­mi­té aux obli­ga­ti­ons pré­vues par le pré­sent règle­ment. En tout état de cau­se, étant don­né que la publi­ca­ti­on de modè­les d’IA à usa­ge géné­ral sous licence lib­re et open-source ne révè­le pas néces­saire­ment d’in­for­ma­ti­ons sub­stan­ti­el­les sur l’en­sem­ble des don­nées uti­li­sées pour l’en­traî­ne­ment ou le rég­la­ge fin du modè­le et sur la maniè­re dont le respect du droit d’au­teur a été assu­ré par ce biais, l’ex­cep­ti­on pré­vue pour les modè­les d’IA à usa­ge géné­ral à la con­for­mi­té avec les exi­gen­ces en matiè­re de trans­pa­rence ne dev­rait pas con­cer­ner l’ob­li­ga­ti­on de pro­dui­re un résu­mé du con­te­nu uti­li­sé pour la for­ma­ti­on du modè­le et l’ob­li­ga­ti­on de mett­re en place une poli­tique de con­for­mi­té avec la légis­la­ti­on de l’U­ni­on sur le droit d’au­teur, en par­ti­cu­lier d’i­den­ti­fier et de se con­for­mer à la réser­va­ti­on des droits con­for­mé­ment à l’ar­tic­le 4, para­gra­phe 3, de la direc­ti­ve (UE) 2019/790 du Par­le­ment euro­pé­en et du Conseil .

(118) Le pré­sent règle­ment régle­men­te les systè­mes et modè­les d’in­tel­li­gence arti­fi­ci­el­le en impo­sant cer­tai­nes exi­gen­ces et obli­ga­ti­ons aux acteurs du mar­ché con­cer­nés qui les pla­cent sur le mar­ché, les met­tent en ser­vice ou les uti­li­sent dans l’U­ni­on, com­plé­tant ain­si les obli­ga­ti­ons impo­sées aux four­nis­seurs de ser­vices inter­mé­di­ai­res qui intègrent de tels systè­mes ou modè­les dans leurs ser­vices, régies par le règle­ment (UE) 2022/2065. Dans la mesu­re où ces systè­mes ou modè­les sont inté­g­rés dans la con­cep­ti­on de très gran­des pla­te­for­mes en ligne ou de très grands moteurs de recher­che en ligne, ils sont sou­mis au cad­re de gesti­on des ris­ques pré­vu par le règle­ment (UE) 2022/2065. Par con­sé­quent, les obli­ga­ti­ons cor­re­spond­an­tes du pré­sent règle­ment dev­rai­ent être pré­su­mées rem­plies, à moins que des ris­ques sys­té­mi­ques signi­fi­ca­tifs non cou­verts par le règle­ment (UE) 2022/2065 n’ap­pa­rais­sent et ne soi­ent iden­ti­fi­és dans de tels modè­les. Dans ce cad­re, les four­nis­seurs de très gran­des pla­te­for­mes en ligne et de très grands moteurs de recher­che en ligne sont tenus d’éva­luer les ris­ques sys­té­mi­ques poten­tiels décou­lant de la con­cep­ti­on, du fonc­tion­ne­ment et de l’uti­li­sa­ti­on de leurs ser­vices, y com­pris la maniè­re dont la con­cep­ti­on des systè­mes algo­rith­mi­ques uti­li­sés dans le ser­vice peut con­tri­buer à de tels ris­ques, ain­si que les ris­ques sys­té­mi­ques décou­lant d’err­eurs poten­ti­el­les. Ces four­nis­seurs sont éga­le­ment tenus de prend­re des mesu­res d’at­té­nua­ti­on appro­priées dans le respect des droits fondamentaux.

(119) Comp­te tenu du ryth­me rapi­de de l’in­no­va­ti­on et de l’é­vo­lu­ti­on tech­no­lo­gi­que des ser­vices numé­ri­ques dans le cad­re de dif­fér­ents instru­ments de la légis­la­ti­on de l’U­ni­on, en par­ti­cu­lier en ayant à l’e­sprit l’uti­li­sa­ti­on et la per­cep­ti­on de leurs desti­na­tai­res, les systè­mes d’IA visés par le pré­sent règle­ment peu­vent être four­nis en tant que ser­vices inter­mé­di­ai­res ou par­ties de ceux-ci au sens du règle­ment (UE) 2022/2065, qui dev­rait être inter­pré­té d’u­ne maniè­re neu­tre sur le plan tech­no­lo­gi­que. Par exemp­le, les systè­mes d’IA peu­vent être uti­li­sés pour four­nir des moteurs de recher­che en ligne, en par­ti­cu­lier dans la mesu­re où un système d’IA tel qu’un chat­bot en ligne effec­tue des recher­ches sur, en prin­ci­pe, tous les sites web, puis intèg­re les résul­tats dans ses con­nais­sances exi­stan­tes et uti­li­se les con­nais­sances mises à jour pour géné­rer une sor­tie uni­que qui com­bi­ne dif­fé­ren­tes sources d’informations.

(120) En out­re, les obli­ga­ti­ons impo­sées aux four­nis­seurs et aux déployeurs de cer­ta­ins systè­mes d’in­tel­li­gence arti­fi­ci­el­le par le pré­sent règle­ment pour per­mett­re la détec­tion et la divul­ga­ti­on du fait que les résul­tats de ces systè­mes sont géné­rés ou mani­pulés de maniè­re arti­fi­ci­el­le sont par­ti­cu­liè­re­ment per­ti­nen­tes pour faci­li­ter la mise en œuvre effec­ti­ve du règle­ment (UE) 2022/2065. Cela s’ap­pli­que en par­ti­cu­lier en ce qui con­cer­ne les obli­ga­ti­ons des four­nis­seurs de très gran­des pla­te­for­mes en ligne ou de très grands moteurs de recher­che en ligne d’i­den­ti­fier et d’at­té­nuer les ris­ques sys­té­mi­ques qui pour­rai­ent résul­ter de la dif­fu­si­on de con­te­nus qui ont été géné­rés ou mani­pulés arti­fi­ci­el­le­ment, en par­ti­cu­lier le ris­que d’ef­fets néga­tifs réels ou pré­vi­si­bles sur les pro­ce­s­sus démo­cra­ti­ques, le dis­cours civi­que et les pro­ce­s­sus élec­toraux, y com­pris par le biais de la désinformation.

(121)La nor­ma­li­sa­ti­on dev­rait jouer un rôle clé dans la four­ni­tu­re de solu­ti­ons tech­ni­ques aux four­nis­seurs afin d’assurer la con­for­mi­té avec le pré­sent règle­ment, con­for­mé­ment à l’é­tat de l’art, et de pro­mou­voir l’in­no­va­ti­on ain­si que la com­pé­ti­ti­vi­té et la crois­sance sur le mar­ché uni­que. La con­for­mi­té aux nor­mes har­mo­ni­sées défi­nies à l’ar­tic­le 2, point (1)(c), du règle­ment (UE) n° 1025/2012 du Par­le­ment euro­pé­en et du Con­seil , qui sont nor­ma­le­ment cen­sées reflé­ter l’é­tat de l’art, dev­rait être un moy­en pour les four­nis­seurs de démon­trer la con­for­mi­té aux exi­gen­ces du pré­sent règle­ment. Il con­vi­ent donc d’en­cou­ra­ger une repré­sen­ta­ti­on équi­li­brée des inté­rêts de tou­tes les par­ties pren­an­tes con­cer­nées par l’é­la­bo­ra­ti­on des nor­mes, en par­ti­cu­lier les PME, les orga­ni­sa­ti­ons de con­som­ma­teurs et les par­ties pren­an­tes envi­ron­ne­men­ta­les et socia­les, con­for­mé­ment aux artic­les 5 et 6 du règle­ment (UE) no 1025/2012. Afin de faci­li­ter la con­for­mi­té, les deman­des de nor­ma­li­sa­ti­on dev­rai­ent être émi­ses par la Com­mis­si­on sans retard exce­s­sif. Lors de la pré­pa­ra­ti­on de la deman­de de nor­ma­li­sa­ti­on, la Com­mis­si­on dev­rait con­sul­ter le forum con­sul­ta­tif et le con­seil d’ad­mi­ni­stra­ti­on afin de recu­eil­lir l’ex­per­ti­se per­ti­nen­te. Tou­te­fois, en l’ab­sence de réfé­ren­ces per­ti­nen­tes à des nor­mes har­mo­ni­sées, la Com­mis­si­on dev­rait être en mesu­re d’é­ta­b­lir, par le biais d’ac­tes d’exé­cu­ti­on et après con­sul­ta­ti­on du forum con­sul­ta­tif, des spé­ci­fi­ca­ti­ons com­mu­nes pour cer­tai­nes exi­gen­ces pré­vues par le pré­sent règlement.

La spé­ci­fi­ca­ti­on com­mu­ne dev­rait être une solu­ti­on de repli excep­ti­on­nel­le pour faci­li­ter l’ob­li­ga­ti­on du pre­sta­tai­re de se con­for­mer aux exi­gen­ces du pré­sent règle­ment, lorsque la deman­de de nor­ma­li­sa­ti­on n’a pas été accep­tée par l’un des orga­nis­mes euro­pé­ens de nor­ma­li­sa­ti­on, ou lorsque les nor­mes har­mo­ni­sées per­ti­nen­tes ne trai­tent pas suf­fi­sam­ment des que­sti­ons de droits fon­da­men­taux, ou lorsque les nor­mes har­mo­ni­sées ne répon­dent pas à la deman­de, ou lorsqu’il y a des retards dans l’ad­op­ti­on d’u­ne nor­me har­mo­ni­sée appro­priée. Si un tel retard dans l’ad­op­ti­on d’u­ne nor­me har­mo­ni­sée est dû à la com­ple­xi­té tech­ni­que de cet­te nor­me, la Com­mis­si­on dev­rait en tenir comp­te avant d’en­vi­sa­ger l’é­ta­blis­se­ment de spé­ci­fi­ca­ti­ons com­mu­nes. Lors de l’é­la­bo­ra­ti­on de spé­ci­fi­ca­ti­ons com­mu­nes, la Com­mis­si­on est encou­ra­gée à coopé­rer avec des par­ten­aires inter­na­ti­on­aux et des orga­nis­mes inter­na­ti­on­aux de normalisation.

Aux fins du pré­sent règle­ment, les défi­ni­ti­ons sui­van­tes s’appliquent :

(1) ‘Système AImeans a machi­ne-based system that is desi­gned to ope­ra­te with various levels of auto­no­my and that may exhi­bit adap­ti­ve­ness after deployment, and that, for expli­cit or impli­cit objec­ti­ves, infers, from the input it recei­ves, how to gene­ra­te out­puts such as pre­dic­tions, con­tent, recom­men­da­ti­ons, or decis­i­ons that can influence phy­si­cal or vir­tu­al environments ;

(12) La noti­on de “système IA” dans le pré­sent règle­ment dev­rait être clai­re­ment défi­nie et dev­rait être étroi­te­ment ali­g­née sur les travaux des orga­ni­sa­ti­ons inter­na­tio­na­les tra­vail­lant sur l’IA afin d’assurer la cer­ti­tu­de juri­di­que, de faci­li­ter la con­ver­gence inter­na­tio­na­le et une lar­ge accep­t­ati­on, tout en offrant la fle­xi­bi­li­té néces­saire pour s’ad­ap­ter aux évo­lu­ti­ons tech­no­lo­gi­ques rapi­des dans ce domaine. En out­re, la défi­ni­ti­on dev­rait être basée sur les carac­té­ri­sti­ques clés des systè­mes d’IA qui les distin­guent des systè­mes logi­ciels ou des appro­ches de pro­gram­ma­ti­on tra­di­ti­on­nels plus simp­les et ne dev­rait pas cou­vr­ir les systè­mes qui sont basés sur les règles défi­nies uni­quement par des per­son­nes phy­si­ques pour exé­cu­ter auto­ma­ti­quement des opé­ra­ti­ons. Une carac­té­ri­stique clé des systè­mes IA est leur capa­ci­té d’in­fé­rence. Cet­te capa­ci­té d’in­fé­rence se réfè­re au pro­ce­s­sus d’ob­ten­ti­on des sor­ties, tel­les que des pré­dic­tions, des con­te­nus, des recom­man­da­ti­ons ou des décis­i­ons, qui peu­vent influen­cer des envi­ron­ne­ments phy­si­ques et vir­tuels, et à une capa­ci­té des systè­mes IA à déri­ver des modè­les ou des algo­rith­mes, ou les deux, à par­tir d’en­trées ou de don­nées. Les tech­ni­ques qui per­met­tent l’in­fé­rence lors de la cons­truc­tion d’un système d’IA com­pren­nent les appro­ches d’app­ren­tis­sa­ge auto­ma­tique qui app­ren­nent à par­tir des don­nées com­ment att­eind­re cer­ta­ins objec­tifs, et les appro­ches basées sur la logi­que et les con­nais­sances qui infè­rent à par­tir de con­nais­sances enco­dées ou d’u­ne repré­sen­ta­ti­on sym­bo­li­que de la tâche à résoud­re. La capa­ci­té d’un système IA à infé­rer tran­s­cen­de le trai­te­ment de don­nées de base en per­met­tant l’app­ren­tis­sa­ge, le rai­son­ne­ment ou la modé­li­sa­ti­on. Le ter­me ‘machi­ne-based’ fait réfé­rence au fait que les systè­mes IA fonc­tion­nent sur des machines.

La réfé­rence à des objec­tifs expli­ci­tes ou impli­ci­tes souli­gne que les systè­mes d’IA peu­vent fonc­tion­ner con­for­mé­ment à des objec­tifs défi­nis expli­ci­te­ment ou à des objec­tifs impli­ci­tes. Les objec­tifs du système d’IA peu­vent être dif­fér­ents de l’ob­jec­tif visé par le système d’IA dans un con­tex­te spé­ci­fi­que. Aux fins du pré­sent règle­ment, les envi­ron­ne­ments dev­rai­ent être con­sidé­rés com­me les con­tex­tes dans les­quels les systè­mes d’IA fonc­tion­nent, tan­dis que les résul­tats géné­rés par le système d’IA reflè­tent dif­fé­ren­tes fonc­tions exé­cu­tées par les systè­mes d’IA et com­pren­nent des pré­dic­tions, des con­te­nus, des recom­man­da­ti­ons ou des décis­i­ons. Les systè­mes d’IA sont con­çus pour fonc­tion­ner avec dif­fér­ents niveaux d’au­to­no­mie, c’est-à-dire qu’ils ont un cer­tain degré d’in­dé­pen­dance d’ac­tion par rap­port à l’im­pli­ca­ti­on humaine et des capa­ci­tés à fonc­tion­ner sans inter­ven­ti­on humaine. La capa­ci­té d’ad­ap­t­ati­on qu’un système IA pour­rait mani­fe­ster après son déploie­ment fait réfé­rence à des capa­ci­tés d’au­to-app­ren­tis­sa­ge, per­met­tant au système de chan­ger pen­dant son uti­li­sa­ti­on. Les systè­mes IA peu­vent être uti­li­sés de maniè­re auto­no­me ou en tant que com­po­sant d’un pro­duit, que le système soit phy­si­quement inté­g­ré dans le pro­duit (embar­qué) ou qu’il ser­ve la fonc­tion­na­li­té du pro­duit sans y être inté­g­ré (non embarqué).

(2) ‘ris­queLa noti­on de “ris­que” dési­gne la com­bi­nai­son de la pro­ba­bi­li­té d’oc­cur­rence d’un dom­mage et de la sévé­ri­té de ce dommage ;

(3) ‘four­nis­seurdési­gne une per­son­ne phy­si­que ou mora­le, une auto­ri­té publi­que, une agence ou un aut­re orga­nis­me qui déve­lo­p­pe un système d’in­tel­li­gence arti­fi­ci­el­le ou un modè­le d’in­tel­li­gence arti­fi­ci­el­le à usa­ge géné­ral, ou qui a déve­lo­p­pé un système d’in­tel­li­gence arti­fi­ci­el­le ou un modè­le d’in­tel­li­gence arti­fi­ci­el­le à usa­ge géné­ral et le met sur le mar­ché ou met en ser­vice le système d’in­tel­li­gence arti­fi­ci­el­le sous son pro­pre nom ou sa pro­pre mar­que, que ce soit à tit­re oné­reux ou gratuit ;

(4) ‘deployer’ dési­gne une per­son­ne phy­si­que ou mora­le, une auto­ri­té publi­que, une agence ou un aut­re orga­nis­me uti­li­sant un système IA sous son auto­ri­té, sauf lorsque le système IA est uti­li­sé dans le cad­re d’u­ne acti­vi­té per­son­nel­le non professionnelle ;

(13) La noti­on de “déployeur” men­ti­onnée dans le pré­sent règle­ment doit être inter­pré­tée com­me désignant tou­te per­son­ne phy­si­que ou mora­le, y com­pris une auto­ri­té publi­que, une agence ou un aut­re orga­nis­me, uti­li­sant un système d’in­tel­li­gence arti­fi­ci­el­le sous son auto­ri­té, sauf lorsque le système d’in­tel­li­gence arti­fi­ci­el­le est uti­li­sé dans le cad­re d’u­ne acti­vi­té per­son­nel­le non pro­fes­si­on­nel­le. En fonc­tion du type de système d’IA, l’uti­li­sa­ti­on du système peut affec­ter des per­son­nes aut­res que le déployeur.

(5) ‘repré­sen­tant auto­ri­sédési­gne une per­son­ne phy­si­que ou mora­le située ou éta­b­lie dans l’U­ni­on qui a reçu et accep­té un man­dat écrit d’un four­nis­seur d’un système d’in­tel­li­gence arti­fi­ci­el­le ou d’un modè­le d’in­tel­li­gence arti­fi­ci­el­le à usa­ge géné­ral pour, respec­ti­ve­ment, exé­cu­ter et mett­re en œuvre en son nom les obli­ga­ti­ons et les pro­cé­du­res éta­b­lies par le pré­sent règlement ;

(6) ‘importerPar “per­son­ne phy­si­que ou mora­le”, on entend une per­son­ne phy­si­que ou mora­le éta­b­lie ou domic­i­liée dans l’U­ni­on qui met sur le mar­ché un système d’i­den­ti­fi­ca­ti­on auto­ma­tique portant le nom ou la mar­que d’u­ne per­son­ne phy­si­que ou mora­le éta­b­lie dans un pays tiers ;

(7) ‘dis­tri­bu­teursigni­fie une per­son­ne phy­si­que ou mora­le dans la chaî­ne d’ap­pro­vi­si­on­ne­ment, aut­re que le four­nis­seur ou l’im­por­ta­teur, qui met un système IA à dis­po­si­ti­on sur le mar­ché de l’Union ;

(8) ‘opé­ra­teur’ signi­fie un four­nis­seur, un fab­ri­cant de pro­duits, un déployeur, un repré­sen­tant agréé, un impor­ta­teur ou un distributeur ;

(9) ‘mise sur le mar­chéLa pre­miè­re mise à dis­po­si­ti­on d’un système d’in­tel­li­gence arti­fi­ci­el­le ou d’un modè­le d’in­tel­li­gence arti­fi­ci­el­le à usa­ge géné­ral sur le mar­ché de l’Union ;

(10) ‘mise à dis­po­si­ti­on sur le mar­chéOn entend par “four­ni­tu­re” la liv­rai­son d’un système d’in­tel­li­gence arti­fi­ci­el­le ou d’un modè­le d’in­tel­li­gence arti­fi­ci­el­le à usa­ge géné­ral en vue de sa dis­tri­bu­ti­on ou de son uti­li­sa­ti­on sur le mar­ché de l’U­ni­on dans le cad­re d’u­ne acti­vi­té com­mer­cia­le, que ce soit en éch­an­ge d’un pai­ement ou à tit­re gratuit ;

(11) ‘mett­re en ser­viceOn entend par “liv­rai­son” la four­ni­tu­re d’un système d’in­tel­li­gence arti­fi­ci­el­le en vue d’u­ne pre­miè­re uti­li­sa­ti­on direc­te­ment chez le desti­na­tai­re ou d’u­ne uti­li­sa­ti­on pro­pre dans l’U­ni­on, con­for­mé­ment à l’u­sa­ge auquel il est destiné ;

(12) ‘inten­ded pur­po­sesigni­fie l’uti­li­sa­ti­on pour laquel­le un système d’in­tel­li­gence arti­fi­ci­el­le est pré­vu par le four­nis­seur, y com­pris le con­tex­te et les con­di­ti­ons d’uti­li­sa­ti­on spé­ci­fi­ques, tels que spé­ci­fi­és dans les infor­ma­ti­ons four­nies par le four­nis­seur dans les ins­truc­tions d’uti­li­sa­ti­on, le maté­ri­el pro­mo­ti­on­nel ou de ven­te et les décla­ra­ti­ons, ain­si que dans la docu­men­ta­ti­on technique ;

(13) ‘rea­son­ab­ly fore­seeable abusL’uti­li­sa­ti­on d’un système d’in­tel­li­gence arti­fi­ci­el­le d’u­ne maniè­re qui n’est pas con­for­me à sa fina­li­té, mais qui peut résul­ter d’un com­porte­ment humain pré­vi­si­ble ou d’u­ne inter­ac­tion avec d’aut­res systè­mes, y com­pris d’aut­res systè­mes d’in­tel­li­gence artificielle ;

(14) ‘com­po­sant de sécu­ri­tédési­gne un com­po­sant d’un pro­duit ou d’un système d’in­tel­li­gence arti­fi­ci­el­le qui rem­plit une fonc­tion de sécu­ri­té pour ce pro­duit ou ce système d’in­tel­li­gence arti­fi­ci­el­le, ou dont la défail­lan­ce ou le dys­fonc­tion­ne­ment met en péril la san­té et la sécu­ri­té des per­son­nes ou des biens ;

(15) ‘ins­truc­tions d’uti­li­sa­ti­onPar “infor­ma­ti­ons”, on entend les infor­ma­ti­ons four­nies par le four­nis­seur pour infor­mer le déployeur, en par­ti­cu­lier, de l’u­sa­ge pré­vu et de la bon­ne uti­li­sa­ti­on d’un système d’in­tel­li­gence artificielle ;

(16) ‘rap­pel d’un système AI’ dési­gne tou­te mesu­re visa­nt à obte­nir le retour au four­nis­seur ou la ces­sa­ti­on de ser­vice ou le blo­ca­ge de l’uti­li­sa­ti­on d’un système IA mis à la dis­po­si­ti­on des déployeurs ;

(17) ‘retrait d’un système d’IAsigni­fie tou­te mesu­re visa­nt à empêcher qu’un système d’IA dans la chaî­ne d’ap­pro­vi­si­on­ne­ment ne soit mis à dis­po­si­ti­on sur le marché ;

(18) ‘per­for­mance d’un système AILa capa­ci­té d’un système d’in­tel­li­gence arti­fi­ci­el­le à att­eind­re son objec­tif est défi­nie com­me suit ;

(19) ’noti­fy­ing aut­ho­ri­tydési­gne l’au­to­ri­té natio­na­le responsable de l’é­ta­blis­se­ment et de la mise en œuvre des pro­cé­du­res néces­saires à l’éva­lua­ti­on, à la dési­gna­ti­on et à la noti­fi­ca­ti­on des orga­nis­mes d’éva­lua­ti­on de la con­for­mi­té, ain­si qu’au con­trô­le de ces derniers ;

(20) ‘éva­lua­ti­on de la con­for­mi­téLe ter­me “système d’in­for­ma­ti­on à haut ris­que” dési­gne le pro­ce­s­sus con­si­stant à démon­trer que les exi­gen­ces énon­cées au cha­pit­re III, sec­tion 2, rela­ti­ves à un système d’in­for­ma­ti­on à haut ris­que ont été satisfaites ;

(21) ‘orga­nis­me d’éva­lua­ti­on de la con­for­mi­tédési­gne un orga­nis­me qui effec­tue des acti­vi­tés d’éva­lua­ti­on de la con­for­mi­té des tiers, y com­pris les essais, la cer­ti­fi­ca­ti­on et l’inspection ;

(22) ‘orga­nis­me noti­fiédési­gne un orga­nis­me d’éva­lua­ti­on de la con­for­mi­té noti­fié con­for­mé­ment au pré­sent règle­ment et aux aut­res légis­la­ti­ons d’har­mo­ni­sa­ti­on de l’U­ni­on applicables ;

(23) ‘modi­fi­ca­ti­on sub­stan­ti­el­leOn entend par “modi­fi­ca­ti­on d’un système d’assu­rance qua­li­té” une modi­fi­ca­ti­on appor­tée à un système d’assu­rance qua­li­té après sa mise sur le mar­ché ou sa mise en ser­vice, qui n’a pas été pré­vue ou pla­ni­fi­ée dans l’éva­lua­ti­on initia­le de la con­for­mi­té effec­tuée par le four­nis­seur et qui, par con­sé­quent, affec­te la con­for­mi­té du système d’assu­rance qua­li­té aux exi­gen­ces énon­cées au cha­pit­re III, sec­tion 2, ou ent­raî­ne une modi­fi­ca­ti­on de l’ob­jec­tif pour lequel le système d’assu­rance qua­li­té a été évalué ;

(24) ‘Mar­quage CELe ter­me “système d’in­for­ma­ti­on intel­li­gent” dési­gne une mar­que par laquel­le un four­nis­seur indi­que qu’un système d’in­for­ma­ti­on intel­li­gent est con­for­me aux exi­gen­ces énon­cées au cha­pit­re III, sec­tion 2, et à tou­te aut­re légis­la­ti­on d’har­mo­ni­sa­ti­on de l’U­ni­on appli­ca­ble pré­voyant son apposition ;

(25) ’système de sur­veil­lan­ce post-mar­chéOn entend par là tou­tes les acti­vi­tés menées par les four­nis­seurs de systè­mes d’in­tel­li­gence arti­fi­ci­el­le pour recu­eil­lir et exami­ner l’expé­ri­ence acqui­se lors de l’uti­li­sa­ti­on des systè­mes d’in­tel­li­gence arti­fi­ci­el­le qu’ils met­tent sur le mar­ché ou en ser­vice dans le but d’i­den­ti­fier tout beso­in d’ap­pli­quer immé­dia­te­ment tou­te mesu­re cor­rec­ti­ve ou pré­ven­ti­ve nécessaire ;

(26) ‘mar­ket sur­veil­lan­ce aut­ho­ri­tyL’ex­pres­si­on “auto­ri­té natio­na­le” dési­gne l’au­to­ri­té natio­na­le qui exer­ce les acti­vi­tés et prend les mesu­res pré­vues par le règle­ment (UE) 2019/1020 ;

(27) ’nor­me har­mo­ni­séeLa nor­me har­mo­ni­sée tel­le que défi­nie à l’ar­tic­le 2, para­gra­phe 1, point (c), du règle­ment (UE) n° 1025/2012 est utilisée ;

(28) ’spé­ci­fi­ca­ti­on com­mu­nedési­gne un ensem­ble de spé­ci­fi­ca­ti­ons tech­ni­ques tel­les que défi­nies à l’ar­tic­le 2, point (4), du règle­ment (UE) n° 1025/2012, four­nis­sant des moy­ens de se con­for­mer à cer­tai­nes exi­gen­ces éta­b­lies en ver­tu de ce règlement ;

(29) ‘don­nées de for­ma­ti­onLes don­nées uti­li­sées pour la for­ma­ti­on d’un système d’in­tel­li­gence arti­fi­ci­el­le par l’a­ju­stem­ent de ses paramè­tres d’app­ren­tis­sa­ge sont appelées ” don­nées d’apprentissage ” ;

(30) ‘don­nées de vali­da­ti­onLes don­nées uti­li­sées pour four­nir une éva­lua­ti­on du système d’IA for­mé et pour aju­ster ses paramè­tres non ens­eig­n­ables et son pro­ce­s­sus d’app­ren­tis­sa­ge afin d’é­vi­ter, ent­re aut­res, un sous-aju­stem­ent ou un surajustement ;

(31) ‘ensem­ble de don­nées de vali­da­ti­onL’ex­pres­si­on “ensem­ble de don­nées” dési­gne un ensem­ble de don­nées distinct ou une par­tie de l’en­sem­ble de don­nées de for­ma­ti­on, soit sous for­me de frac­tion­ne­ment fixe ou variable ;

(32) ‘don­nées de testLe ter­me “don­nées” dési­gne les don­nées uti­li­sées pour four­nir une éva­lua­ti­on indé­pen­dan­te du système d’in­tel­li­gence arti­fi­ci­el­le afin de con­firm­er les per­for­man­ces atten­dues de ce système avant sa mise sur le mar­ché ou sa mise en service ;

(33) ‘don­nées d’en­tréeLes don­nées four­nies à un système d’in­tel­li­gence arti­fi­ci­el­le ou acqui­ses direc­te­ment par celui-ci sur la base des­quel­les le système pro­duit une sortie ;

(34) ‘don­nées bio­mé­tri­quesPar “don­nées à carac­tère per­son­nel”, on entend les don­nées à carac­tère per­son­nel résul­tant d’un trai­te­ment tech­ni­que spé­ci­fi­que se rap­portant aux carac­té­ri­sti­ques phy­si­ques, phy­sio­lo­gi­ques ou com­porte­men­ta­les d’u­ne per­son­ne phy­si­que, tel­les que les images facia­les ou les don­nées dactyloscopiques ;

(14) La noti­on de “don­nées bio­mé­tri­ques” uti­li­sée dans le pré­sent règle­ment doit être inter­pré­tée à la lumiè­re de la noti­on de don­nées bio­mé­tri­ques tel­le que défi­nie à l’ar­tic­le 4, point (14), du règle­ment (UE) 2016/679, à l’ar­tic­le 3, point (18), du règle­ment (UE) 2018/1725 et à l’ar­tic­le 3, point (13), de la direc­ti­ve (UE) 2016/680. Les don­nées bio­mé­tri­ques peu­vent per­mett­re l’au­then­ti­fi­ca­ti­on, l’i­den­ti­fi­ca­ti­on ou la caté­go­ri­sa­ti­on de per­son­nes phy­si­ques et la recon­nais­sance d’é­mo­ti­ons de per­son­nes physiques.

(35) ‘iden­ti­fi­ca­ti­on bio­mé­tri­queOn entend par “recon­nais­sance auto­ma­tique de carac­té­ri­sti­ques phy­si­ques, phy­sio­lo­gi­ques, com­porte­men­ta­les ou psy­cho­lo­gi­ques d’un être humain” la recon­nais­sance auto­ma­tique de carac­té­ri­sti­ques phy­si­ques, phy­sio­lo­gi­ques, com­porte­men­ta­les ou psy­cho­lo­gi­ques d’un être humain dans le but d’é­ta­b­lir l’i­den­ti­té d’u­ne per­son­ne phy­si­que en com­parant les don­nées bio­mé­tri­ques de cet indi­vi­du avec les don­nées bio­mé­tri­ques d’in­di­vi­dus stockées dans une base de données ;

(15) La noti­on d’ ”iden­ti­fi­ca­ti­on bio­mé­tri­que” men­ti­onnée dans le pré­sent règle­ment dev­rait être défi­nie com­me la recon­nais­sance auto­ma­ti­sée de carac­té­ri­sti­ques humain­es phy­si­ques, phy­sio­lo­gi­ques et com­porte­men­ta­les, tel­les que le visa­ge, le mou­ve­ment des yeux, la for­me du corps, la voix, la pro­so­die, la démar­che, la postu­re, le ryth­me car­diaque, la pres­si­on san­gui­ne, l’o­deur, les carac­té­ri­sti­ques des tou­ch­es, dans le but d’é­ta­b­lir l’i­den­ti­té d’un indi­vi­du en com­parant les don­nées bio­mé­tri­ques de cet indi­vi­du avec les don­nées bio­mé­tri­ques d’in­di­vi­dus stockées dans une base de don­nées de réfé­rence, indé­pen­dam­ment du fait que l’in­di­vi­du ait don­né son con­sen­te­ment ou non. Cela exclut les systè­mes d’IA desti­nés à être uti­li­sés pour la véri­fi­ca­ti­on bio­mé­tri­que, qui com­prend l’au­then­ti­fi­ca­ti­on, dont le seul but est de con­firm­er qu’u­ne per­son­ne phy­si­que spé­ci­fi­que est la per­son­ne qu’el­le pré­tend être et de con­firm­er l’i­den­ti­té d’u­ne per­son­ne phy­si­que dans le seul but d’a­voir accès à un ser­vice, de déver­rouil­ler un appa­reil ou d’a­voir un accès sécu­ri­sé à des locaux.

(36) ‘véri­fi­ca­ti­on bio­mé­tri­queOn entend par “véri­fi­ca­ti­on” la véri­fi­ca­ti­on auto­ma­ti­sée, en une seu­le fois, y com­pris l’au­then­ti­fi­ca­ti­on, de l’i­den­ti­té de per­son­nes phy­si­ques par com­pa­rai­son de leurs don­nées bio­mé­tri­ques avec des don­nées bio­mé­tri­ques pré­cé­dem­ment fournies ;

(16) La noti­on de “caté­go­ri­sa­ti­on bio­mé­tri­que” men­ti­onnée dans le pré­sent règle­ment dev­rait être défi­nie com­me l’af­fec­ta­ti­on de per­son­nes phy­si­ques à des caté­go­ries spé­ci­fi­ques sur la base de leurs don­nées bio­mé­tri­ques. Ces caté­go­ries spé­ci­fi­ques peu­vent se rap­por­ter à des aspects tels que le sexe, l’â­ge, la cou­leur des che­veux, la cou­leur des yeux, les tatouages, les traits de com­porte­ment ou de per­son­na­li­té, la lan­gue, la reli­gi­on, l’ap­par­ten­an­ce à une mino­ri­té natio­na­le, l’o­ri­en­ta­ti­on sexu­el­le ou poli­tique. Cela ne com­prend pas les systè­mes de caté­go­ri­sa­ti­on bio­mé­tri­que qui sont une fonc­tion­na­li­té pure­ment acces­soire intrin­sè­quement liée à un aut­re ser­vice com­mer­cial, c’est-à-dire que la fonc­tion­na­li­té ne peut pas être uti­li­sée sans le ser­vice prin­ci­pal pour des rai­sons tech­ni­ques objec­ti­ves, et l’in­té­gra­ti­on de cet­te fonc­tion­na­li­té ou de cet­te fonc­tion n’est pas un moy­en de con­tour­ner l’ap­pli­ca­bi­li­té des règles du pré­sent règle­ment. Par exemp­le, les fil­tres de caté­go­ri­sa­ti­on des carac­té­ri­sti­ques facia­les ou cor­po­rel­les uti­li­sés sur les sites de ven­te en ligne pour­rai­ent con­sti­tuer une tel­le carac­té­ri­stique acces­soire dans la mesu­re où ils ne peu­vent être uti­li­sés qu’en rela­ti­on avec le ser­vice prin­ci­pal qui con­si­ste à vend­re un pro­duit en per­met­tant au con­som­ma­teur de visua­li­ser l’af­fichage du pro­duit sur lui ou sur elle et d’ai­der le con­som­ma­teur à prend­re une décis­i­on d’achat. Les fil­tres uti­li­sés sur les ser­vices de réseaux soci­aux en ligne qui caté­go­ri­sent les carac­té­ri­sti­ques facia­les ou cor­po­rel­les afin de per­mett­re aux uti­li­sa­teurs d’a­jou­ter ou de modi­fier des pho­tos ou des vidé­os pour­rai­ent éga­le­ment être con­sidé­rés com­me une carac­té­ri­stique acces­soire dans la mesu­re où de tels fil­tres ne peu­vent pas être uti­li­sés sans le ser­vice prin­ci­pal des ser­vices de réseaux soci­aux con­si­stant dans le par­ta­ge du con­te­nu en ligne.

(37) ‘caté­go­ries spé­cia­les de don­nées per­son­nel­lesLes ter­mes “caté­go­ries de don­nées à carac­tère per­son­nel” désign­ent les caté­go­ries de don­nées à carac­tère per­son­nel visées à l’ar­tic­le 9, para­gra­phe 1, du règle­ment (UE) 2016/679, à l’ar­tic­le 10 de la direc­ti­ve (UE) 2016/680 et à l’ar­tic­le 10, para­gra­phe 1, du règle­ment (UE) 2018/1725 ;

(38) ‘don­nées opé­ra­ti­on­nel­les sen­si­blesLes ter­mes “don­nées opé­ra­ti­on­nel­les” désign­ent les don­nées rela­ti­ves aux acti­vi­tés de pré­ven­ti­on, de détec­tion, d’en­quête ou de pour­suite d’in­frac­tions péna­les, dont la divul­ga­ti­on pour­rait por­ter att­ein­te à l’in­té­gri­té de la pro­cé­du­re pénale ;

(39) ’système de recon­nais­sance des émo­ti­ons’ dési­gne un système d’in­tel­li­gence arti­fi­ci­el­le desti­né à iden­ti­fier ou à con­trer les émo­ti­ons ou les inten­ti­ons de per­son­nes phy­si­ques sur la base de leurs don­nées biométriques ;

(18) La noti­on de “système de recon­nais­sance des émo­ti­ons” men­ti­onnée dans le pré­sent règle­ment doit être défi­nie com­me un système d’in­tel­li­gence arti­fi­ci­el­le desti­né à iden­ti­fier ou à neu­tra­li­ser les émo­ti­ons ou les inten­ti­ons de per­son­nes phy­si­ques sur la base de leurs don­nées bio­mé­tri­ques. Cet­te noti­on se réfè­re à des émo­ti­ons ou inten­ti­ons tel­les que le bon­heur, la tri­stesse, la colè­re, la sur­pri­se, le dép­lai­sir, l’em­bar­ras, l’ex­ci­ta­ti­on, la hon­te, le mépris, la satis­fac­tion et l’a­mu­se­ment. Elle n’in­clut pas les états phy­si­ques, tels que la dou­leur ou la fati­gue, y com­pris, par exemp­le, les systè­mes uti­li­sés pour détec­ter l’é­tat de fati­gue des pilo­tes pro­fes­si­on­nels ou des con­duc­teurs dans le but de pré­ve­nir les acci­dents. Elle n’in­clut pas non plus la simp­le détec­tion d’ex­pres­si­ons, de gestes ou de mou­ve­ments aisé­ment per­cep­ti­bles, sauf s’ils sont uti­li­sés pour iden­ti­fier ou neu­tra­li­ser des émo­ti­ons. Ces expres­si­ons peu­vent être des expres­si­ons facia­les de base, tel­les qu’u­ne gri­mace ou un souri­re, ou des gestes tels que le mou­ve­ment des mains, des bras ou de la tête, ou des carac­té­ri­sti­ques de la voix d’u­ne per­son­ne, tel­les qu’u­ne voix rau­que ou des chuchotements.

(40) ’système de caté­go­ri­sa­ti­on bio­mé­tri­quePar “système d’i­den­ti­fi­ca­ti­on auto­ma­tique”, on entend un système d’i­den­ti­fi­ca­ti­on auto­ma­tique desti­né à attri­buer des per­son­nes phy­si­ques à des caté­go­ries spé­ci­fi­ques sur la base de leurs don­nées bio­mé­tri­ques, sauf s’il est acces­soire à un aut­re ser­vice com­mer­cial et stric­te­ment néces­saire pour des rai­sons tech­ni­ques objectives ;

(41) ’système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distancePar “système d’in­tel­li­gence arti­fi­ci­el­le”, on entend un système d’in­tel­li­gence arti­fi­ci­el­le desti­né à iden­ti­fier des per­son­nes phy­si­ques, sans leur par­ti­ci­pa­ti­on acti­ve, typi­quement à distance, en com­parant les don­nées bio­mé­tri­ques d’u­ne per­son­ne avec les don­nées bio­mé­tri­ques con­te­nues dans une base de don­nées de référence ;

(17) La noti­on de “système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance” men­ti­onnée dans le pré­sent règle­ment doit être défi­nie fonc­tion­nel­le­ment com­me un système d’in­tel­li­gence arti­fi­ci­el­le desti­né à l’i­den­ti­fi­ca­ti­on de per­son­nes phy­si­ques sans leur par­ti­ci­pa­ti­on acti­ve, géné­ra­le­ment à distance, par com­pa­rai­son des don­nées bio­mé­tri­ques d’u­ne per­son­ne avec les don­nées bio­mé­tri­ques con­te­nues dans une base de don­nées de réfé­rence, indé­pen­dam­ment de la tech­no­lo­gie, des pro­ce­s­sus ou des types de don­nées bio­mé­tri­ques uti­li­sés. De tels systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance sont typi­quement uti­li­sés pour per­ce­voir plu­sieurs per­son­nes ou leur com­porte­ment en même temps ou pour faci­li­ter de maniè­re signi­fi­ca­ti­ve l’i­den­ti­fi­ca­ti­on de per­son­nes phy­si­ques sans leur par­ti­ci­pa­ti­on acti­ve. Cela exclut les systè­mes IA desti­nés à être uti­li­sés pour la véri­fi­ca­ti­on bio­mé­tri­que, qui com­prend l’au­then­ti­fi­ca­ti­on, dont le seul but est de con­firm­er qu’u­ne per­son­ne phy­si­que spé­ci­fi­que est la per­son­ne qu’el­le pré­tend être et de con­firm­er l’i­den­ti­té d’u­ne per­son­ne phy­si­que dans le seul but d’a­voir accès à un ser­vice, de déver­rouil­ler un appa­reil ou d’a­voir un accès sécu­ri­sé à des locaux.

Cet­te exclu­si­on est justi­fi­ée par le fait que ces systè­mes sont sus­cep­ti­bles d’a­voir un impact mineur sur les droits fon­da­men­taux des per­son­nes phy­si­ques par rap­port aux systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance qui peu­vent être uti­li­sés pour le trai­te­ment des don­nées bio­mé­tri­ques d’un grand nombre de per­son­nes sans leur par­ti­ci­pa­ti­on acti­ve. Dans le cas des systè­mes “en temps réel”, la cap­tu­re des don­nées bio­mé­tri­ques, la com­pa­rai­son et l’i­den­ti­fi­ca­ti­on se font tou­tes instanta­né­ment, pres­que instanta­né­ment ou en tout état de cau­se sans délai signi­fi­ca­tif. Dans ce con­tex­te, il ne dev­rait pas être pos­si­ble de con­tour­ner les règles du pré­sent règle­ment sur l’uti­li­sa­ti­on “en temps réel” des systè­mes d’IA con­cer­nés en pré­voyant des retards mineurs. Les systè­mes “en temps réel” impli­quent l’uti­li­sa­ti­on de maté­ri­el “en direct” ou “en qua­si-direct”, tel que des séquen­ces vidéo, géné­ré par une camé­ra ou un aut­re appa­reil doté de fonc­tion­na­li­tés simi­lai­res. Dans le cas des systè­mes ‘post’, en revan­che, les don­nées bio­mé­tri­ques ont déjà été cap­tu­rées et la com­pa­rai­son et l’i­den­ti­fi­ca­ti­on n’ont lieu qu’a­près un délai signi­fi­ca­tif. Cela impli­que du maté­ri­el, tel que des images ou des séquen­ces vidéo géné­rées par des camé­ras de télé­vi­si­on en cir­cuit fer­mé ou des appareils pri­vés, qui a été géné­ré avant l’uti­li­sa­ti­on du système à l’é­gard des per­son­nes phy­si­ques concernées.

(42) ’système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance en temps réelsigni­fie un système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance, dans lequel la cap­tu­re des don­nées bio­mé­tri­ques, la com­pa­rai­son et l’i­den­ti­fi­ca­ti­on s’ef­fec­tu­ent sans retard signi­fi­ca­tif, com­prenant non seu­le­ment l’i­den­ti­fi­ca­ti­on instanta­née, mais aus­si des retards courts limi­tés afin d’é­vi­ter les contournements ;

(43) ‘post remo­te bio­me­tric iden­ti­fi­ca­ti­on systemsigni­fie un système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance aut­re qu’un système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance en temps réel ;

(44) ‘espace acce­s­si­ble au publicsigni­fie tout lieu phy­si­que public ou pri­vé acce­s­si­ble à un nombre indé­ter­mi­né de per­son­nes phy­si­ques, indé­pen­dam­ment du fait que cer­tai­nes con­di­ti­ons d’ac­cès pui­s­sent s’ap­pli­quer, et indé­pen­dam­ment des rest­ric­tions poten­ti­el­les de capacité ;

(19) Aux fins du pré­sent règle­ment, la noti­on d’ ”espace acce­s­si­ble au public” doit être com­pri­se com­me faisant réfé­rence à tout espace phy­si­que acce­s­si­ble à un nombre indé­ter­mi­né de per­son­nes phy­si­ques, que l’e­space en que­sti­on soit pri­vé ou public, quel­le que soit l’ac­ti­vi­té pour laquel­le l’e­space peut être uti­li­sé, par exemp­le pour le com­mer­ce, par exemp­le les bou­ti­ques, les restau­rants, les cafés ; for ser­vices, for exam­p­le, banks, pro­fes­sio­nal acti­vi­ties, hos­pi­ta­li­ty ; for sport, for exam­p­le, swim­ming pools, gyms, sta­di­ums ; for trans­port, for exam­p­le, bus, metro and rail­way sta­ti­ons, air­ports, means of trans­port ; for enter­tain­ment, for exam­p­le, cine­mas, thea­tres, muse­ums, con­cert and con­fe­rence halls ; or for lei­su­re or other­wi­se, for exam­p­le, public roads and squa­res, parks, forests, play­grounds. Un espace dev­rait éga­le­ment être clas­sé com­me étant acce­s­si­ble au public si, indé­pen­dam­ment de sa capa­ci­té poten­ti­el­le ou des rest­ric­tions de sécu­ri­té, l’ac­cès est sou­mis à cer­tai­nes con­di­ti­ons pré­dé­fi­nies qui peu­vent être rem­plies par un nombre indé­ter­mi­né de per­son­nes, tel­les que l’achat d’un ticket ou d’un tit­re de trans­port, l’en­re­gi­stre­ment pré­alable ou le fait d’a­voir un cer­tain âge. En revan­che, un espace ne dev­rait pas être con­sidé­ré com­me acce­s­si­ble au public si l’ac­cès est limi­té à des per­son­nes phy­si­ques spé­ci­fi­ques et défi­nies par une loi de l’U­ni­on ou une loi natio­na­le direc­te­ment liée à la sécu­ri­té publi­que ou à la sûre­té, ou par la mani­fe­sta­ti­on clai­re de la volon­té de la per­son­ne détenant l’au­to­ri­té per­ti­nen­te sur l’e­space. La pos­si­bi­li­té effec­ti­ve d’ac­cès, tel­le qu’u­ne por­te non ver­rouil­lée ou une por­te ouver­te dans une clôtu­re, n’im­pli­que pas que l’e­space est acce­s­si­ble au public en pré­sence d’in­di­ca­ti­ons ou de cir­con­stances sug­gé­rant le con­trai­re, tel­les que des signaux inter­di­sant ou rest­reig­nant l’ac­cès. Les locaux de l’entre­pri­se et de l’u­si­ne, ain­si que les bureaux et les postes de tra­vail dont l’ac­cès est réser­vé aux employés et aux pre­sta­tai­res de ser­vices con­cer­nés, sont des espaces qui ne sont pas acce­s­si­bles au public. Les espaces acce­s­si­bles au public ne doi­vent pas inclu­re les pri­sons ou les postes-fron­tiè­res. Cer­ta­ins aut­res espaces peu­vent com­prend­re à la fois des espaces acce­s­si­bles au public et des espaces non acce­s­si­bles au public, tels que le hall d’un immeub­le rési­den­tiel pri­vé néces­saire pour accé­der au bureau d’un méde­cin ou à un aéro­port. Les espaces en ligne ne sont pas cou­verts, car ce ne sont pas des espaces phy­si­ques. La que­sti­on de savoir si un espace don­né est acce­s­si­ble au public dev­rait tou­te­fois être déter­mi­née au cas par cas, en tenant comp­te des spé­ci­fi­ci­tés de la situa­ti­on indi­vi­du­el­le en question.

(45) ‘law enforce­ment aut­ho­ri­ty’ means :

(a) tou­te auto­ri­té publi­que com­pé­ten­te en matiè­re de pré­ven­ti­on, d’in­ve­sti­ga­ti­on, de détec­tion ou d’exé­cu­ti­on d’in­frac­tions péna­les ou de sanc­tions péna­les, y com­pris la pro­tec­tion cont­re les men­aces à la sécu­ri­té publi­que et la pré­ven­ti­on de ces men­aces ; ou

(b) tout aut­re orga­nis­me ou enti­té char­gé par la légis­la­ti­on d’un État membre d’e­xer­cer une auto­ri­té publi­que et des pou­voirs publics aux fins de la pré­ven­ti­on, de la recher­che, de la détec­tion ou de la pour­suite d’in­frac­tions péna­les ou de l’exé­cu­ti­on de sanc­tions péna­les, y com­pris la pro­tec­tion cont­re les men­aces à la sécu­ri­té publi­que et la pré­ven­ti­on de tel­les menaces ;

(46) ‘appli­ca­ti­on de la loiPar “acti­vi­tés de poli­ce”, on entend les acti­vi­tés menées par les auto­ri­tés char­gées de l’ap­pli­ca­ti­on des lois ou en leur nom en vue de la pré­ven­ti­on, de la recher­che, de la détec­tion ou de l’exé­cu­ti­on d’in­frac­tions péna­les ou de l’ap­pli­ca­ti­on de sanc­tions péna­les, y com­pris la pro­tec­tion cont­re les men­aces à la sécu­ri­té publi­que et la pré­ven­ti­on de ces menaces ;

(47) ‘AI OfficeLa fonc­tion de la Com­mis­si­on con­si­stant à con­tri­buer à la mise en œuvre, au sui­vi et à la super­vi­si­on des systè­mes d’in­tel­li­gence arti­fi­ci­el­le et des modè­les d’in­tel­li­gence arti­fi­ci­el­le à usa­ge géné­ral, ain­si qu’à la gou­ver­nan­ce de l’in­tel­li­gence arti­fi­ci­el­le, tel­le que pré­vue par la décis­i­on de la Com­mis­si­on du 24 jan­vier 2024 ; les réfé­ren­ces fai­tes dans le pré­sent règle­ment à l’Of­fice de l’in­tel­li­gence arti­fi­ci­el­le doi­vent être con­sidé­rées com­me des réfé­ren­ces à la Commission ;

(48) ‘auto­ri­té natio­na­le com­pé­ten­teEn ce qui con­cer­ne les systè­mes d’in­tel­li­gence arti­fi­ci­el­le mis en ser­vice ou uti­li­sés par des insti­tu­ti­ons, agen­ces, bureaux et orga­nes de l’U­ni­on, les réfé­ren­ces aux auto­ri­tés natio­na­les com­pé­ten­tes ou aux auto­ri­tés de sur­veil­lan­ce du mar­ché dans le pré­sent règle­ment doi­vent être inter­pré­tées com­me des réfé­ren­ces au Con­trô­leur euro­pé­en de la pro­tec­tion des données ;

(49) ‘inci­dent gra­ve’ dési­gne un inci­dent ou un dys­fonc­tion­ne­ment d’un système d’in­tel­li­gence arti­fi­ci­el­le qui ent­raî­ne direc­te­ment ou indi­rec­te­ment l’un des élé­ments suivants :

(a) la mort d’u­ne per­son­ne, ou des dom­mages gra­ves à la san­té d’u­ne personne ;

(b) une per­tur­ba­ti­on gra­ve et irré­ver­si­ble de la gesti­on ou du fonc­tion­ne­ment d’u­ne infras­truc­tu­re essentielle.

(c) le non-respect des obli­ga­ti­ons pré­vues par le droit de l’U­ni­on visa­nt à pro­té­ger les droits fondamentaux ;

(d) de gra­ves dom­mages à la pro­prié­té ou à l’environnement ;

(50) ‘don­nées per­son­nel­lesLes ter­mes “don­nées à carac­tère per­son­nel” désign­ent les don­nées per­son­nel­les tel­les que défi­nies à l’ar­tic­le 4, point (1), du règle­ment (UE) 2016/679 ;

(51) ‘don­nées non per­son­nel­lesLe ter­me “don­nées” dési­gne les don­nées aut­res que les don­nées à carac­tère per­son­nel tel­les que défi­nies à l’ar­tic­le 4, point (1), du règle­ment (UE) 2016/679 ;

(52) ‘pro­fi­la­geLe ter­me “pro­fi­la­ge” dési­gne le pro­fi­la­ge tel que défi­ni à l’ar­tic­le 4, point (4), du règle­ment (UE) 2016/679 ;

(53) ‘plan de test en situa­ti­on réel­leUn docu­ment décri­vant les objec­tifs, la métho­do­lo­gie, la zone géo­gra­phi­que, la popu­la­ti­on et le champ d’ap­pli­ca­ti­on tem­po­rel, le sui­vi, l’or­ga­ni­sa­ti­on et la réa­li­sa­ti­on des tests dans des con­di­ti­ons réelles ;

(54) ‘plan de bac à sabledési­gne un docu­ment con­ve­nu ent­re le pre­sta­tai­re par­ti­ci­pant et l’au­to­ri­té com­pé­ten­te décri­vant les objec­tifs, les con­di­ti­ons, le cal­en­drier, la métho­do­lo­gie et les exi­gen­ces appli­ca­bles aux acti­vi­tés menées dans le cad­re du sandbox ;

(55) ‘AI regu­la­to­ry sand­boxOn entend par “système d’in­tel­li­gence arti­fi­ci­el­le” un cad­re con­trôlé, mis en place par une auto­ri­té com­pé­ten­te, qui off­re aux four­nis­seurs ou aux four­nis­seurs poten­tiels de systè­mes d’in­tel­li­gence arti­fi­ci­el­le la pos­si­bi­li­té de déve­lo­p­per, de for­mer, de vali­der et de tester, le cas échéant dans des con­di­ti­ons réel­les, un système d’in­tel­li­gence arti­fi­ci­el­le inno­vant, con­for­mé­ment à un plan de test (sand­box), pour une durée limi­tée et sous con­trô­le réglementaire ;

(56) ‘Lit­té­ra­tie AILa noti­on de “com­pé­ten­ces, con­nais­sances et com­pré­hen­si­on” dési­gne les com­pé­ten­ces, les con­nais­sances et la com­pré­hen­si­on qui per­met­tent aux four­nis­seurs, aux déployeurs et aux per­son­nes con­cer­nées, comp­te tenu de leurs droits et obli­ga­ti­ons respec­tifs dans le cad­re du pré­sent règle­ment, de pro­cé­der à un déploie­ment éclai­ré des systè­mes d’in­tel­li­gence arti­fi­ci­el­le, ain­si que de prend­re con­sci­ence des pos­si­bi­li­tés et des ris­ques liés à l’in­tel­li­gence arti­fi­ci­el­le et des dom­mages qu’el­le peut causer ;

(20) Afin d’ob­te­nir les meil­leurs avan­ta­ges des systè­mes IA tout en pro­té­geant les droits fon­da­men­taux, la san­té et la sécu­ri­té et en per­met­tant un con­trô­le démo­cra­tique, l’al­pha­bé­ti­sa­ti­on en matiè­re d’IA dev­rait four­nir aux four­nis­seurs, aux déployeurs et aux per­son­nes con­cer­nées les noti­ons néces­saires pour prend­re des décis­i­ons éclai­rées con­cer­nant les systè­mes IA. Ces noti­ons peu­vent vari­er en fonc­tion du con­tex­te et peu­vent inclu­re la com­pré­hen­si­on de l’uti­li­sa­ti­on cor­rec­te des élé­ments tech­ni­ques pen­dant la pha­se de déve­lo­p­pe­ment du système IA, les mesu­res à appli­quer pen­dant son uti­li­sa­ti­on, les moy­ens appro­priés pour inter­pré­ter les résul­tats du système IA et, dans le cas des per­son­nes con­cer­nées, les con­nais­sances néces­saires pour com­prend­re com­ment les décis­i­ons pri­ses avec l’ai­de de l’IA auront un impact sur elles. Dans le cad­re de l’ap­pli­ca­ti­on du pré­sent règle­ment, l’IA liter­a­cy dev­rait four­nir à tous les acteurs con­cer­nés de la chaî­ne de valeur de l’IA les infor­ma­ti­ons néces­saires pour assurer la con­for­mi­té appro­priée et sa bon­ne application.

En out­re, la mise en œuvre géné­ra­li­sée de mesu­res d’al­pha­bé­ti­sa­ti­on en matiè­re d’IA et l’in­tro­duc­tion d’ac­tions de sui­vi appro­priées pour­rai­ent con­tri­buer à amé­lio­rer les con­di­ti­ons de tra­vail et, en fin de comp­te, à main­te­nir la con­so­li­da­ti­on et la voie d’in­no­va­ti­on de l’IA de con­fi­ance dans l’U­ni­on. Le Con­seil euro­pé­en de l’in­tel­li­gence arti­fi­ci­el­le (le “Con­seil”) dev­rait aider la Com­mis­si­on à pro­mou­voir les outils d’é­du­ca­ti­on à l’in­tel­li­gence arti­fi­ci­el­le, la sen­si­bi­li­sa­ti­on du public et la com­pré­hen­si­on des avan­ta­ges, des ris­ques, des garan­ties, des droits et des obli­ga­ti­ons liés à l’uti­li­sa­ti­on des systè­mes d’in­tel­li­gence arti­fi­ci­el­le. En coopé­ra­ti­on avec les par­ties pren­an­tes con­cer­nées, la Com­mis­si­on et les États mem­bres dev­rai­ent faci­li­ter l’é­la­bo­ra­ti­on de codes de con­duite volon­tai­res pour pro­mou­voir l’é­du­ca­ti­on à l’IA par­mi les per­son­nes impli­quées dans le déve­lo­p­pe­ment, le fonc­tion­ne­ment et l’uti­li­sa­ti­on de l’IA.

(57) ‘test en con­di­ti­ons réel­lesL’ex­pres­si­on “essai tem­po­rai­re d’un système d’in­tel­li­gence arti­fi­ci­el­le” dési­gne l’es­sai tem­po­rai­re d’un système d’in­tel­li­gence arti­fi­ci­el­le pour sa fina­li­té dans des con­di­ti­ons réel­les, en dehors d’un labo­ra­toire ou d’un aut­re envi­ron­ne­ment simulé, en vue de recu­eil­lir des don­nées fia­bles et robu­stes et d’éva­luer et de véri­fier la con­for­mi­té du système d’in­tel­li­gence arti­fi­ci­el­le avec les exi­gen­ces du pré­sent règle­ment, et elle n’é­quiv­aut pas à la mise sur le mar­ché ou à la mise en ser­vice du système d’in­tel­li­gence arti­fi­ci­el­le au sens du pré­sent règle­ment, pour autant que tou­tes les con­di­ti­ons énon­cées aux artic­les 57 ou 60 soi­ent remplies ;

(58) ’sujetPour les beso­ins des tests en situa­ti­on réel­le, on entend par “per­son­ne phy­si­que” une per­son­ne phy­si­que qui par­ti­ci­pe à des tests en situa­ti­on réelle ;

(59) ‘con­sen­te­ment éclai­réLe ter­me “test” dési­gne l’ex­pres­si­on lib­re, spé­ci­fi­que, sans ambi­guï­té et volon­tai­re par un sujet de sa volon­té de par­ti­ci­per à un test par­ti­cu­lier dans des con­di­ti­ons de la vie réel­le, après avoir été infor­mé de tous les aspects du test qui sont per­tin­ents pour la décis­i­on du sujet de participer ;

(60) ‘deep fakeLe ter­me “con­te­nu” dési­gne des images, des sons ou des vidé­os géné­rés par des IA ou mani­pulés qui res­sem­blent à des per­son­nes, des objets, des lieux, des enti­tés ou des évé­ne­ments exi­stants et qui paraî­trai­ent fausse­ment authen­ti­ques ou véri­di­ques à une personne ;

(61) ‘vio­la­ti­on géné­ra­li­séesigni­fie tout acte ou omis­si­on con­trai­re à la légis­la­ti­on de l’U­ni­on pro­té­geant l’in­té­rêt des per­son­nes, qui :

(a) a por­té att­ein­te ou est sus­cep­ti­ble de por­ter att­ein­te aux inté­rêts coll­ec­tifs d’in­di­vi­dus rési­dant dans au moins deux États mem­bres aut­res que l’É­tat membre dans lequel il se trouve :

(i) l’ac­te ou l’o­mis­si­on a pris nais­sance ou a eu lieu ;

(ii) le four­nis­seur con­cer­né, ou, le cas échéant, son repré­sen­tant auto­ri­sé, est loca­li­sé ou éta­b­li ; ou

(iii) le déployeur est éta­b­li, lorsque l’in­frac­tion est com­mi­se par le déployeur ;

(b) a causé, cau­se ou est sus­cep­ti­ble de cau­ser un pré­ju­di­ce aux inté­rêts coll­ec­tifs d’in­di­vi­dus et pré­sen­te des carac­té­ri­sti­ques com­mu­nes, y com­pris la même pra­tique illi­ci­te ou le même inté­rêt à être lésé, et se pro­duit de maniè­re con­co­mi­tan­te, com­mi­se par le même opé­ra­teur, dans au moins trois États membres ;

(62) ‘infras­truc­tu­re cri­tiqueL’ex­pres­si­on “infras­truc­tu­re cri­tique” dési­gne l’in­fras­truc­tu­re cri­tique tel­le que défi­nie à l’ar­tic­le 2, point (4), de la direc­ti­ve (UE) 2022/2557 ;

(63) ‘modè­le AI à usa­ge géné­ralsigni­fie un modè­le d’IA, y com­pris lorsqu’un tel modè­le d’IA est for­mé avec une gran­de quan­ti­té de don­nées par auto-super­vi­si­on à l’é­chel­le, qui pré­sen­te une géné­ra­li­té signi­fi­ca­ti­ve et est capa­ble d’exé­cu­ter de maniè­re com­pé­ti­ti­ve un lar­ge éven­tail de tâches distinc­tes, indé­pen­dam­ment de la maniè­re dont le modè­le est pla­cé sur le mar­ché, et qui peut être inté­g­ré dans une varié­té de systè­mes ou d’ap­pli­ca­ti­ons en aval, à l’ex­cep­ti­on des modè­les d’IA qui sont uti­li­sés pour la recher­che, le déve­lo­p­pe­ment ou les acti­vi­tés de pro­to­typa­ge avant d’êt­re pla­cés sur le marché ;

(97) La noti­on de modè­les d’IA à usa­ge géné­ral dev­rait être clai­re­ment défi­nie et distin­guée de la noti­on de systè­mes d’IA afin de per­mett­re une cer­ti­tu­de juri­di­que. La défi­ni­ti­on dev­rait être basée sur les carac­té­ri­sti­ques fonc­tion­nel­les clés d’un modè­le d’IA à usa­ge géné­ral, en par­ti­cu­lier la géné­ra­li­té et la capa­ci­té à exé­cu­ter de maniè­re com­pé­ti­ti­ve une lar­ge gam­me de tâches distinc­tes. Ces modè­les sont géné­ra­le­ment for­més sur de gran­des quan­ti­tés de don­nées, par le biais de dif­fé­ren­tes métho­des, tel­les que l’app­ren­tis­sa­ge auto-super­vi­sé, non super­vi­sé ou par ren­force­ment. Les modè­les d’IA à usa­ge géné­ral peu­vent être mis sur le mar­ché de dif­fé­ren­tes maniè­res, par le biais de biblio­t­hè­ques, d’in­ter­faces de pro­gram­ma­ti­on d’ap­pli­ca­ti­ons (API), par télé­char­ge­ment direct ou sous for­me de copie phy­si­que. Ces modè­les peu­vent être modi­fi­és ou affi­nés en de nou­veaux modè­les. Bien que les modè­les AI soi­ent des com­po­sants essen­tiels des systè­mes AI, ils ne con­sti­tu­ent pas à eux seuls des systè­mes AI. Les modè­les AI néces­si­tent l’a­jout d’aut­res com­po­sants, com­me par exemp­le une inter­face uti­li­sa­teur, pour deve­nir des systè­mes AI. Les modè­les AI sont géné­ra­le­ment inté­g­rés dans les systè­mes AI et en font par­tie. Le pré­sent règle­ment pré­voit des règles spé­ci­fi­ques pour les modè­les d’IA à usa­ge géné­ral et pour les modè­les d’IA à usa­ge géné­ral qui pré­sen­tent des ris­ques sys­té­mi­ques, qui dev­rai­ent éga­le­ment s’ap­pli­quer lorsque ces modè­les sont inté­g­rés ou font par­tie d’un système d’IA. Il con­vi­ent de com­prend­re que les obli­ga­ti­ons impo­sées aux four­nis­seurs de modè­les d’IA à usa­ge géné­ral doi­vent s’ap­pli­quer dès que les modè­les d’IA à usa­ge géné­ral sont mis sur le marché.

Lorsque le four­nis­seur d’un modè­le d’IA à usa­ge géné­ral intèg­re un modè­le per­son­nel dans son pro­pre système d’IA qui est mis à dis­po­si­ti­on sur le mar­ché ou mis en ser­vice, ce modè­le doit être con­sidé­ré com­me étant pla­cé sur le mar­ché et, par con­sé­quent, les obli­ga­ti­ons pré­vues par le pré­sent règle­ment pour les modè­les doi­vent con­tin­uer à s’ap­pli­quer en plus de cel­les appli­ca­bles aux systè­mes d’IA. En tout état de cau­se, les obli­ga­ti­ons pré­vues pour les modè­les ne dev­rai­ent pas s’ap­pli­quer lorsqu’un modè­le pro­pre est uti­li­sé pour des pro­ce­s­sus pure­ment inter­nes qui ne sont pas essen­tiels à la four­ni­tu­re d’un pro­duit ou d’un ser­vice à des tiers et que les droits des per­son­nes phy­si­ques ne sont pas affec­tés. Comp­te tenu de leurs effets néga­tifs poten­tiels importants, les modè­les d’IA à usa­ge géné­ral pré­sen­tant un ris­que sys­té­mi­que dev­rai­ent tou­jours être sou­mis aux obli­ga­ti­ons per­ti­nen­tes pré­vues par le pré­sent règle­ment. La défi­ni­ti­on ne dev­rait pas cou­vr­ir les modè­les d’IA uti­li­sés avant leur mise sur le mar­ché dans le seul but d’ac­ti­vi­tés de recher­che, de déve­lo­p­pe­ment et de pro­to­typa­ge. Cela ne pré­ju­ge pas de l’ob­li­ga­ti­on de se con­for­mer au pré­sent règle­ment lorsque, à la suite de tel­les acti­vi­tés, un modè­le est mis sur le marché.

(99) Les grands modè­les d’IA géné­ra­tifs sont un exemp­le typi­que de modè­le d’IA à usa­ge géné­ral, étant don­né qu’ils per­met­tent une géné­ra­ti­on fle­xi­ble de con­te­nu, par exemp­le sous la for­me de tex­te, d’au­dio, d’i­mages ou de vidéo, qui peut faci­le­ment s’ad­ap­ter à un lar­ge éven­tail de tâches distinctes.

(64) ‘des capa­ci­tés à fort impactLes capa­ci­tés de l’IA sont des capa­ci­tés qui cor­re­spon­dent ou dépas­sent les capa­ci­tés enre­gi­strées dans les modè­les d’IA géné­ra­li­stes les plus avancés ;

(98) Alors que la géné­ra­li­té d’un modè­le pour­rait, ent­re aut­res, éga­le­ment être déter­mi­née par un cer­tain nombre de paramè­tres, les modè­les com­portant au moins un bil­li­on de paramè­tres et ent­raî­nés avec une gran­de quan­ti­té de don­nées grâ­ce à l’au­to-super­vi­si­on à l’é­chel­le dev­rai­ent être con­sidé­rés com­me pré­sen­tant une géné­ra­li­té signi­fi­ca­ti­ve et per­met­tant de réa­li­ser de maniè­re com­pé­ti­ti­ve une lar­ge gam­me de tâches distinctes.

(65) ‘ris­que sys­té­mi­queOn entend par “ris­que” un ris­que spé­ci­fi­que aux capa­ci­tés à fort impact des modè­les d’in­tel­li­gence arti­fi­ci­el­le à usa­ge géné­ral, ayant un impact signi­fi­ca­tif sur le mar­ché de l’U­ni­on en rai­son de leur por­tée ou en rai­son d’ef­fets néga­tifs réels ou rai­sonnablem­ent pré­vi­si­bles sur la san­té publi­que, la sécu­ri­té, la sécu­ri­té publi­que, les droits fon­da­men­taux ou la socié­té dans son ensem­ble, qui peut être pro­pa­gé à l’é­chel­le de la chaî­ne de valeur ;

(66) ’système AI à usa­ge géné­ralOn entend par “système d’in­tel­li­gence arti­fi­ci­el­le” un système d’in­tel­li­gence arti­fi­ci­el­le basé sur un modè­le d’in­tel­li­gence arti­fi­ci­el­le à usa­ge géné­ral et capa­ble de ser­vir à une varié­té de fins, aus­si bien pour une uti­li­sa­ti­on direc­te que pour une inté­gra­ti­on dans d’aut­res systè­mes d’in­tel­li­gence artificielle ;

(100) Lorsqu’un modè­le d’IA à usa­ge géné­ral est inté­g­ré dans un système d’IA ou en con­sti­tue une par­tie, ce système doit être con­sidé­ré com­me un système d’IA à usa­ge géné­ral si, grâ­ce à cet­te inté­gra­ti­on, ce système a la capa­ci­té de ser­vir à une mul­ti­tu­de de fins. Un système AI à usa­ge géné­ral peut être uti­li­sé direc­te­ment ou être inté­g­ré dans d’aut­res systè­mes AI.

(67) ‘opé­ra­ti­on à point flot­tant’ dési­gne tou­te opé­ra­ti­on ou affec­ta­ti­on mathé­ma­tique impli­quant des nom­bres à vir­gu­le flot­tan­te, qui sont un sous-ensem­ble des nom­bres réels typi­quement repré­sen­tés sur les ordi­na­teurs par un entier de pré­cis­i­on fixe sca­lé par un entier expo­sant d’u­ne base fixe ;

(68) ‘four­nis­seur en aval’ signi­fie un four­nis­seur d’un système IA, y com­pris un système IA à usa­ge géné­ral, qui intèg­re un modè­le IA, indé­pen­dam­ment du fait que le modè­le IA soit four­ni par lui-même et inté­g­ré ver­ti­cal­e­ment ou four­ni par une aut­re enti­té sur la base de rela­ti­ons contractuelles.

Les four­nis­seurs et les déployeurs de systè­mes d’in­tel­li­gence arti­fi­ci­el­le doi­vent prend­re des mesu­res pour assurer, dans tou­te la mesu­re du pos­si­ble, un niveau suf­fi­sant d’al­pha­bé­ti­sa­ti­on en intel­li­gence arti­fi­ci­el­le de leur per­son­nel et des aut­res per­son­nes char­gées de l’ex­plo­ita­ti­on et de l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le en leur nom, en tenant comp­te de leurs con­nais­sances tech­ni­ques, de leur expé­ri­ence, de leur édu­ca­ti­on et de leur for­ma­ti­on ain­si que du con­tex­te dans lequel les systè­mes d’in­tel­li­gence arti­fi­ci­el­le doi­vent être uti­li­sés, et en prenant en con­sidé­ra­ti­on les per­son­nes ou les grou­pes de per­son­nes sur les­quels les systè­mes d’in­tel­li­gence arti­fi­ci­el­le doi­vent être utilisés.

(26) Afin d’in­tro­dui­re un ensem­ble pro­por­ti­onné et effi­cace de règles con­traignan­tes pour les systè­mes d’IA, il con­vi­ent de sui­v­re une appro­che clai­re­ment défi­nie et basée sur les ris­ques. Cet­te appro­che dev­rait adap­ter le type et le con­te­nu de ces règles à l’in­ten­si­té et à l’é­ten­due des ris­ques que les systè­mes d’IA peu­vent géné­rer. Il est donc néces­saire d’in­terd­ire cer­tai­nes pra­ti­ques inac­cep­ta­bles en matiè­re d’IA, de défi­nir des exi­gen­ces pour les systè­mes d’IA à haut ris­que et des obli­ga­ti­ons pour les explo­itants con­cer­nés, et de défi­nir des obli­ga­ti­ons de trans­pa­rence pour cer­ta­ins systè­mes d’IA.

(29) Les tech­ni­ques de mani­pu­la­ti­on basées sur l’IA peu­vent être uti­li­sées pour per­sua­der des per­son­nes de s’en­ga­ger dans des com­porte­ments non sou­hai­tés, ou pour les trom­per en les pous­sant à prend­re des décis­i­ons d’u­ne maniè­re qui sub­ver­tit et affec­te leur auto­no­mie, leur pri­se de décis­i­on et leur liber­té de choix. La mise sur le mar­ché, la mise en ser­vice ou l’uti­li­sa­ti­on de cer­ta­ins systè­mes d’in­tel­li­gence arti­fi­ci­el­le dans le but ou avec l’ef­fet de per­tur­ber maté­ri­el­le­ment le com­porte­ment humain, en causant des dom­mages importants, en par­ti­cu­lier des effets néga­tifs suf­fi­sam­ment importants sur la san­té phy­si­que ou psy­cho­lo­gi­que ou sur les inté­rêts finan­ciers, sont par­ti­cu­liè­re­ment dan­ge­reux et dev­rai­ent donc être inter­dits. De tels systè­mes IA déploi­ent des com­po­sants sub­li­minaux tels que des sti­mu­li audio, image, vidéo que les per­son­nes ne peu­vent pas per­ce­voir, car ces sti­mu­li sont au-delà de la per­cep­ti­on humaine, ou d’aut­res tech­ni­ques mani­pu­la­tri­ces ou décep­ti­ves qui sub­ver­tis­sent ou affec­tent l’au­to­no­mie, la pri­se de décis­i­on ou le lib­re choix de la per­son­ne de tel­le maniè­re que les per­son­nes ne sont pas con­sciem­ment con­sci­en­tes de ces tech­ni­ques ou, si elles en sont con­sci­en­tes, peu­vent enco­re être déçues ou ne sont pas en mesu­re de les con­trô­ler ou d’y rési­ster. Cela pour­rait être faci­li­té, par exemp­le, par des inter­faces machi­ne-cer­ve­au ou la réa­li­té vir­tu­el­le, dans la mesu­re où elles per­met­tent un degré de con­trô­le plus éle­vé sur les sti­mu­li pré­sen­tés aux per­son­nes, dans la mesu­re où ils peu­vent maté­ri­el­le­ment per­tur­ber leur com­porte­ment de maniè­re signi­fi­ca­ti­ve­ment pré­ju­di­cia­ble. En out­re, les systè­mes d’IA peu­vent éga­le­ment exploi­ter d’u­ne aut­re maniè­re les vul­né­ra­bi­li­tés d’u­ne per­son­ne ou d’un grou­pe spé­ci­fi­que de per­son­nes en rai­son de leur âge, d’un han­di­cap au sens de la direc­ti­ve (UE) 2019/882 du Par­le­ment euro­pé­en et du Con­seil , ou d’u­ne situa­ti­on socia­le ou éco­no­mi­que spé­ci­fi­que sus­cep­ti­ble de rend­re ces per­son­nes plus vul­né­ra­bles à l’ex­plo­ita­ti­on, tel­les que les per­son­nes vivant dans une pau­vre­té extrê­me ou les mino­ri­tés eth­ni­ques ou religieuses.

De tels systè­mes IA peu­vent être mis sur le mar­ché, mis en ser­vice ou uti­li­sés dans le but ou avec l’ef­fet de dis­trai­re maté­ri­el­le­ment le com­porte­ment d’u­ne per­son­ne et d’u­ne maniè­re qui cau­se ou est rai­sonnablem­ent sus­cep­ti­ble de cau­ser un pré­ju­di­ce important à cet­te per­son­ne ou à une aut­re ou à des grou­pes de per­son­nes, y com­pris des pré­ju­di­ces qui peu­vent s’ac­cu­mu­ler au fil du temps et dev­rai­ent donc être inter­dits. Il n’est peut-être pas pos­si­ble de sup­po­ser qu’il y a une inten­ti­on de dis­tord­re un com­porte­ment lorsque la dis­tor­si­on résul­te de fac­teurs exter­nes au système d’in­tel­li­gence arti­fi­ci­el­le qui sont hors du con­trô­le du four­nis­seur ou du déployeur, à savoir des fac­teurs qui ne sont peut-être pas pré­vi­si­bles et qu’il n’est donc pas pos­si­ble pour le four­nis­seur ou le déployeur du système d’in­tel­li­gence arti­fi­ci­el­le d’at­té­nuer. En tout état de cau­se, il n’est pas néces­saire pour le four­nis­seur ou le déployeur d’a­voir l’in­ten­ti­on de cau­ser un pré­ju­di­ce important, à con­di­ti­on que ce pré­ju­di­ce résul­te des pra­ti­ques de mani­pu­la­ti­on ou d’ex­plo­ita­ti­on de l’IA. Les inter­dic­tions de tel­les pra­ti­ques d’IA sont com­plé­men­tai­res aux dis­po­si­ti­ons con­te­nues dans la direc­ti­ve 2005/29/CE du Par­le­ment euro­pé­en et du Con­seil , en par­ti­cu­lier les pra­ti­ques com­mer­cia­les déloya­les ent­raînant des pré­ju­di­ces éco­no­mi­ques ou finan­ciers pour les con­som­ma­teurs sont inter­di­tes en tou­tes cir­con­stances, qu’el­les soi­ent mises en place par le biais de systè­mes d’IA ou d’u­ne aut­re maniè­re. Les inter­dic­tions de pra­ti­ques de mani­pu­la­ti­on et d’ex­plo­ita­ti­on pré­vues par le pré­sent règle­ment ne dev­rai­ent pas affec­ter les pra­ti­ques léga­les dans le cad­re de trai­te­ments médi­caux tels que le trai­te­ment psy­cho­lo­gi­que d’u­ne mala­die men­ta­le ou la réé­du­ca­ti­on phy­si­que, lorsque ces pra­ti­ques sont effec­tuées con­for­mé­ment à la loi et aux nor­mes médi­cal­es appli­ca­bles, par exemp­le avec le con­sen­te­ment expli­ci­te des per­son­nes ou de leurs repré­sen­tants légaux. En out­re, les pra­ti­ques com­mer­cia­les com­mu­nes et légiti­mes, par exemp­le dans le domaine de la publi­ci­té, qui sont con­for­mes à la légis­la­ti­on appli­ca­ble, ne dev­rai­ent pas être con­sidé­rées en elles-mêmes com­me con­sti­tu­ti­ves de pra­ti­ques mani­pu­la­tri­ces IA nuisibles.

1. Les pra­ti­ques d’IA sui­van­tes doi­vent être interdites :

(a) la mise sur le mar­ché, la mise en ser­vice ou l’uti­li­sa­ti­on d’un système IA qui recourt à des tech­ni­ques sub­li­mi­na­les au-delà de la con­sci­ence d’u­ne per­son­ne ou à des tech­ni­ques déli­bé­ré­ment mani­pu­la­tri­ces ou décep­ti­ves, dans le but ou avec pour effet de défor­mer maté­ri­el­le­ment le com­porte­ment d’u­ne per­son­ne ou d’un grou­pe de per­son­nes en com­pro­met­tant gra­ve­ment leur capa­ci­té à prend­re une décis­i­on en con­nais­sance de cau­se, les amenant ain­si à prend­re une décis­i­on qu’ils n’au­rai­ent pas pri­se autre­ment, d’u­ne maniè­re qui cau­se ou est rai­sonnablem­ent sus­cep­ti­ble de cau­ser un pré­ju­di­ce important à cet­te per­son­ne, à une aut­re per­son­ne ou à un grou­pe de personnes ;

(28) Out­re les nombreu­ses uti­li­sa­ti­ons béné­fi­ques de l’IA, cel­le-ci peut éga­le­ment être détour­née et four­nir des outils nou­veaux et puis­sants pour des pra­ti­ques de mani­pu­la­ti­on, d’ex­plo­ita­ti­on et de con­trô­le social. De tel­les pra­ti­ques sont par­ti­cu­liè­re­ment dan­ge­reu­ses et abu­si­ves et dev­rai­ent être inter­di­tes car elles cont­re­di­sent les valeurs de l’U­ni­on en matiè­re de respect de la dignité humaine, de liber­té, d’é­ga­li­té, de démo­cra­tie et de règ­le de droit, ain­si que les droits fon­da­men­taux inscrits dans la Char­te, y com­pris le droit à la non-dis­cri­mi­na­ti­on, à la pro­tec­tion des don­nées et à la vie pri­vée et les droits de l’enfant.

(b) la mise sur le mar­ché, la mise en ser­vice ou l’uti­li­sa­ti­on d’un système d’in­tel­li­gence arti­fi­ci­el­le qui exploi­te l’u­ne quel­con­que des vul­né­ra­bi­li­tés d’u­ne per­son­ne phy­si­que ou d’un grou­pe spé­ci­fi­que de per­son­nes en rai­son de leur âge, de leur han­di­cap ou d’u­ne situa­ti­on socia­le ou éco­no­mi­que par­ti­cu­liè­re, dans le but ou avec l’ef­fet de per­tur­ber maté­ri­el­le­ment le com­porte­ment de cet­te per­son­ne ou d’u­ne per­son­ne appar­tenant à ce grou­pe d’u­ne maniè­re qui cau­se ou est rai­sonnablem­ent sus­cep­ti­ble de cau­ser un pré­ju­di­ce important à cet­te per­son­ne ou à une aut­re personne ;

(c) la mise sur le mar­ché, la mise en ser­vice ou l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le pour l’éva­lua­ti­on ou la clas­si­fi­ca­ti­on de per­son­nes phy­si­ques ou de grou­pes de per­son­nes sur une péri­ode don­née, sur la base de leur com­porte­ment social ou de carac­té­ri­sti­ques per­son­nel­les ou de per­son­na­li­té con­nues, dédui­tes ou pré­di­tes, le score social abou­tis­sant à l’un ou l’aut­re ou aux deux suivants :

(i) trai­te­ment pré­ju­di­cia­ble ou inju­ste de cer­tai­nes per­son­nes phy­si­ques ou de cer­ta­ins grou­pes de per­son­nes dans des con­tex­tes soci­aux sans rap­port avec les con­tex­tes dans les­quels les don­nées ont été initia­le­ment géné­rées ou collectées ;

(ii) trai­te­ment pré­ju­di­cia­ble ou inju­ste de cer­tai­nes per­son­nes phy­si­ques ou de cer­ta­ins grou­pes de per­son­nes, qui est inju­sti­fié ou dis­pro­por­ti­onné par rap­port à leur com­porte­ment social ou à sa gravité ;

(31) Les systè­mes d’in­tel­li­gence arti­fi­ci­el­le per­met­tant le scoring social de per­son­nes phy­si­ques par des acteurs publics ou pri­vés peu­vent con­dui­re à des résul­tats dis­cri­mi­na­toires et à l’ex­clu­si­on de cer­ta­ins grou­pes. Ils peu­vent vio­ler le droit à la dignité et à la non-dis­cri­mi­na­ti­on ain­si que les valeurs d’é­ga­li­té et de justi­ce. De tels systè­mes d’in­tel­li­gence arti­fi­ci­el­le éva­lu­ent ou clas­sent des per­son­nes phy­si­ques ou des grou­pes de per­son­nes sur la base de mul­ti­ples points de don­nées rela­tifs à leur com­porte­ment social dans de mul­ti­ples con­tex­tes ou de carac­té­ri­sti­ques per­son­nel­les ou de per­son­na­li­té con­nues, dédui­tes ou pré­di­tes sur cer­tai­nes péri­odes de temps. Le score social obte­nu par ces systè­mes d’in­tel­li­gence arti­fi­ci­el­le peut con­dui­re à un trai­te­ment pré­ju­di­cia­ble ou inju­ste de per­son­nes phy­si­ques ou de grou­pes entiers de ces per­son­nes dans des con­tex­tes soci­aux sans rap­port avec le con­tex­te dans lequel les don­nées ont été initia­le­ment géné­rées ou coll­ec­tées, ou à un trai­te­ment pré­ju­di­cia­ble dis­pro­por­ti­onné ou inju­sti­fié par rap­port à la gra­vi­té de leur com­porte­ment social. Les systè­mes d’IA qui met­tent en œuvre de tel­les pra­ti­ques de scoring inac­cep­ta­bles et qui abou­tis­sent à des résul­tats aus­si pré­ju­di­cia­bles ou iné­qui­ta­bles dev­rai­ent donc être inter­dits. Cet­te inter­dic­tion ne dev­rait pas affec­ter les pra­ti­ques d’éva­lua­ti­on léga­les des per­son­nes phy­si­ques qui sont menées à des fins spé­ci­fi­ques con­for­mé­ment au droit de l’U­ni­on et au droit national.

(d) the pla­cing on the mar­ket, the put­ting into ser­vice for this spe­ci­fic pur­po­se, or the use of an AI system for making risk assess­ments of natu­ral per­sons in or to assess or pre­dict the risk of a natu­ral per­son com­mit­ting a cri­mi­nal offence, based only on the pro­fil­ing of a natu­ral per­son or on asses­sing its per­so­na­li­ty traits and cha­rac­te­ri­stics ; this pro­hi­bi­ti­on shall not app­ly to AI systems used to sup­port the human assess­ment of the invol­vement of a per­son in a cri­mi­nal acti­vi­ty, which is alre­a­dy based on objec­ti­ve and veri­fia­ble facts direct­ly lin­ked to a cri­mi­nal activity ;

(42) Con­for­mé­ment à la pré­somp­ti­on d’in­no­cence, les per­son­nes phy­si­ques dans l’U­ni­on dev­rai­ent tou­jours être jugées sur leur com­porte­ment réel. Les per­son­nes phy­si­ques ne dev­rai­ent jamais être jugées sur la base d’un com­porte­ment pré­dit par l’IA, fon­dé uni­quement sur leur pro­fil, leurs traits de per­son­na­li­té ou leurs carac­té­ri­sti­ques, tel­les que leur natio­na­li­té, leur lieu de nais­sance, leur lieu de rési­dence, le nombre de leurs det­tes, leur niveau d’en­det­te­ment ou leur type de véhi­cu­le, sans qu’il exi­ste un soup­çon rai­sonnable que cet­te per­son­ne soit impli­quée dans une acti­vi­té cri­mi­nel­le, fon­dé sur des faits objec­tifs véri­fi­a­bles et sans éva­lua­ti­on humaine de cet­te acti­vi­té. Par con­sé­quent, les éva­lua­tions des ris­ques effec­tuées à l’é­gard de per­son­nes phy­si­ques en vue d’éva­luer la pro­ba­bi­li­té de leur délit ou de préd­ire l’oc­cur­rence d’u­ne infrac­tion péna­le réel­le ou poten­ti­el­le sur la seu­le base de leur pro­fi­la­ge ou de l’éva­lua­ti­on de leurs traits de per­son­na­li­té et de leurs carac­té­ri­sti­ques dev­rai­ent être inter­di­tes. En tout état de cau­se, cet­te inter­dic­tion ne doit pas se réfé­rer ou tou­ch­er aux ana­ly­ses de ris­que qui ne sont pas fon­dées sur le pro­fi­la­ge des indi­vi­dus ou sur leurs traits de per­son­na­li­té et leurs carac­té­ri­sti­ques, tel­les que les systè­mes d’in­tel­li­gence arti­fi­ci­el­le uti­li­sant des ana­ly­ses de ris­que pour éva­luer la pro­ba­bi­li­té de frau­de finan­ciè­re des ent­re­pri­ses sur la base de tran­sac­tions suspec­tes ou les outils d’ana­ly­se de ris­que pour préd­ire la loca­li­sa­ti­on de stu­pé­fi­ants ou de mar­chan­di­ses illi­ci­tes par les auto­ri­tés doua­niè­res, par exemp­le sur la base des itin­é­rai­res de tra­fic connus.

(e) la mise sur le mar­ché, la mise en ser­vice à cet­te fin spé­ci­fi­que, ou l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le qui cré­ent ou éten­dent des bases de don­nées de recon­nais­sance facia­le par le scra­ping non ciblé d’i­mages facia­les pro­venant d’In­ter­net ou de séquen­ces CCTV ;

(43) La mise sur le mar­ché, la mise en ser­vice à cet­te fin spé­ci­fi­que ou l’uti­li­sa­ti­on de systè­mes IA qui cré­ent ou éten­dent des bases de don­nées de recon­nais­sance facia­le par le scra­ping non ciblé d’i­mages facia­les pro­venant d’In­ter­net ou d’i­mages de télé­vi­si­on en cir­cuit fer­mé dev­rai­ent être inter­di­tes, car cet­te pra­tique ajou­te au sen­ti­ment de sur­veil­lan­ce de mas­se et peut con­dui­re à de gra­ves vio­la­ti­ons des droits fon­da­men­taux, y com­pris le droit à la vie privée.

(f) la mise sur le mar­ché, la mise en ser­vice à cet­te fin spé­ci­fi­que, ou l’uti­li­sa­ti­on de systè­mes IA pour infé­rer les émo­ti­ons d’u­ne per­son­ne phy­si­que dans les domain­es du tra­vail et des éta­blis­se­ments d’ens­eig­ne­ment, sauf lorsque l’uti­li­sa­ti­on du système IA est desti­née à être mise en place ou mise sur le mar­ché pour des rai­sons médi­cal­es ou de sécurité ;

(44) Il exi­ste de sérieu­ses pré­oc­cu­pa­ti­ons quant à la base sci­en­ti­fi­que des systè­mes d’in­tel­li­gence arti­fi­ci­el­le visa­nt à iden­ti­fier ou à neu­tra­li­ser les émo­ti­ons, d’autant plus que l’ex­pres­si­on des émo­ti­ons varie con­sidé­ra­blem­ent d’u­ne cul­tu­re et d’u­ne situa­ti­on à l’aut­re, et même au sein d’un même indi­vi­du. Par­mi les prin­ci­paux incon­vé­ni­ents de ces systè­mes figu­rent leur fia­bi­li­té limi­tée, leur man­que de spé­ci­fi­ci­té et leur géné­ra­li­té rest­rein­te. Par con­sé­quent, les systè­mes d’IA iden­ti­fi­ant ou blo­quant les émo­ti­ons ou les inten­ti­ons des per­son­nes phy­si­ques sur la base de leurs don­nées bio­mé­tri­ques peu­vent con­dui­re à des résul­tats dis­cri­mi­na­toires et peu­vent être intru­sifs pour les droits et les liber­tés des per­son­nes con­cer­nées. Comp­te tenu du désé­qui­lib­re des pou­voirs dans le con­tex­te du tra­vail ou de l’é­du­ca­ti­on, com­bi­né à la natu­re intru­si­ve de ces systè­mes, ces der­niers pour­rai­ent con­dui­re à un trai­te­ment pré­ju­di­cia­ble ou iné­qui­ta­ble de cer­tai­nes per­son­nes phy­si­ques ou de grou­pes entiers de cel­les-ci. Par con­sé­quent, la mise sur le mar­ché, la mise en ser­vice ou l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le desti­nés à être uti­li­sés pour détec­ter l’é­tat émo­ti­on­nel des indi­vi­dus dans des situa­tions liées au tra­vail et à l’é­du­ca­ti­on dev­rai­ent être inter­di­tes. Cet­te inter­dic­tion ne dev­rait pas cou­vr­ir les systè­mes d’in­tel­li­gence arti­fi­ci­el­le mis sur le mar­ché uni­quement pour des rai­sons médi­cal­es ou de sécu­ri­té, tels que les systè­mes desti­nés à un usa­ge thérapeutique.

(g) la mise sur le mar­ché, la mise en ser­vice à cet­te fin spé­ci­fi­que ou l’uti­li­sa­ti­on de systè­mes de caté­go­ri­sa­ti­on bio­mé­tri­que qui caté­go­ri­sent indi­vi­du­el­le­ment des per­son­nes phy­si­ques sur la base de leurs don­nées bio­mé­tri­ques afin de dédui­re ou d’in­fé­rer leur race, leurs opi­ni­ons poli­ti­ques, leur appar­ten­an­ce à un syn­di­cat, leurs con­vic­tions reli­gieu­ses ou phi­lo­so­phi­ques, leur vie sexu­el­le ou leur ori­en­ta­ti­on sexu­el­le ; cet­te inter­dic­tion ne cou­vre pas tout éti­que­ta­ge ou fil­tra­ge d’en­sem­bles de don­nées bio­mé­tri­ques obte­nus de maniè­re illi­ci­te, tels que des images, sur la base de don­nées bio­mé­tri­ques ou la caté­go­ri­sa­ti­on de don­nées bio­mé­tri­ques dans le domaine de l’ap­pli­ca­ti­on de la loi ;

(30) Les systè­mes de caté­go­ri­sa­ti­on bio­mé­tri­que fon­dés sur les don­nées bio­mé­tri­ques des per­son­nes phy­si­ques, tel­les que le visa­ge ou les emprein­tes digi­ta­les d’un indi­vi­du, et desti­nés à dédui­re ou à infé­rer les opi­ni­ons poli­ti­ques, l’ap­par­ten­an­ce à un syn­di­cat, les con­vic­tions reli­gieu­ses ou phi­lo­so­phi­ques, la race, la vie sexu­el­le ou l’o­ri­en­ta­ti­on sexu­el­le d’un indi­vi­du dev­rai­ent être inter­dits. Cet­te inter­dic­tion ne dev­rait pas cou­vr­ir l’é­ti­que­ta­ge, le fil­tra­ge ou la caté­go­ri­sa­ti­on légaux des ensem­bles de don­nées bio­mé­tri­ques acquis con­for­mé­ment à la légis­la­ti­on de l’U­ni­on ou natio­na­le en fonc­tion des don­nées bio­mé­tri­ques, com­me le tri des images en fonc­tion de la cou­leur des che­veux ou des yeux, qui peut par exemp­le être uti­li­sé dans le domaine de l’ap­pli­ca­ti­on de la loi.

(40) Con­for­mé­ment à l’ar­tic­le 6 bis du Pro­to­co­le no 21 sur la posi­ti­on du Royau­me-Uni et de l’Ir­lan­de à l’é­gard du domaine de la liber­té, de la sécu­ri­té et de la justi­ce, annexé au TEU et au TFEU, l’Ir­lan­de n’est pas liée par les règles énon­cées à l’ar­tic­le 5, para­gra­phe 1, pre­mier ali­néa, point (g), dans la mesu­re où elle s’ap­pli­que à l’uti­li­sa­ti­on de systè­mes de caté­go­ri­sa­ti­on bio­mé­tri­que pour les acti­vi­tés de coopé­ra­ti­on poli­ciè­re et de coopé­ra­ti­on judi­ciai­re en matiè­re péna­le, Artic­le 5(1), pre­mier ali­néa, point (d), dans la mesu­re où elle s’ap­pli­que à l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on auto­ma­tique cou­verts par cet­te dis­po­si­ti­on, l’ar­tic­le 5, para­gra­phe 1, pre­mier ali­néa, point (h), les artic­les 5, para­gra­phes 2 à 6, et l’ar­tic­le 26, para­gra­phe 10, du pré­sent règle­ment, adop­té sur la base de l’ar­tic­le 16 du TFEU, qui con­cer­nent le trai­te­ment de don­nées à carac­tère per­son­nel par les États mem­bres lors de l’e­xer­ci­ce d’ac­ti­vi­tés rele­vant du cha­pit­re 4 ou du cha­pit­re 5 du tit­re V de la troi­siè­me par­tie du TFEU, lorsque l’Ir­lan­de n’est pas liée par les règles régis­sant les for­mes de coopé­ra­ti­on judi­ciai­re en matiè­re péna­le ou de coopé­ra­ti­on poli­ciè­re qui exi­gent le respect des dis­po­si­ti­ons éta­b­lies sur la base de l’ar­tic­le 16 du TFEU.

(41) Con­for­mé­ment aux artic­les 2 et 2a du Pro­to­co­le n° 22 sur la posi­ti­on du Dane­mark, annexé au TEU et au TFEU, le Dane­mark n’est pas lié par les règles énon­cées à l’ar­tic­le 5(1), pre­mier ali­néa, point (g), dans la mesu­re où elles s’ap­pli­quent à l’uti­li­sa­ti­on de systè­mes de caté­go­ri­sa­ti­on bio­mé­tri­que pour les acti­vi­tés de coopé­ra­ti­on poli­ciè­re et de coopé­ra­ti­on judi­ciai­re en matiè­re péna­le, artic­le 5(1), pre­mier ali­néa, point (d), dans la mesu­re où il s’ap­pli­que à l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on auto­ma­tique cou­verts par cet­te dis­po­si­ti­on, l’ar­tic­le 5, para­gra­phe 1, pre­mier ali­néa, points (h), (2) à (6) et l’ar­tic­le 26, para­gra­phe 10, du pré­sent règle­ment adop­té sur la base de l’ar­tic­le 16 du TFEU ou sou­mis à son appli­ca­ti­on, qui se rap­portent au trai­te­ment de don­nées à carac­tère per­son­nel effec­tué par les États mem­bres lors de l’exé­cu­ti­on d’ac­ti­vi­tés rele­vant du cha­pit­re 4 ou du cha­pit­re 5 du tit­re V de la par­tie trois du TFEU.

(h) l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance ‘en temps réel’ dans des lieux acce­s­si­bles au public à des fins d’ap­pli­ca­ti­on de la loi, sauf si et dans la mesu­re où cet­te uti­li­sa­ti­on est stric­te­ment néces­saire à l’un des objec­tifs suivants :

(i) la recher­che ciblée de vic­ti­mes spé­ci­fi­ques d’en­lè­ve­ment, de trai­te d’êtres humains ou d’ex­plo­ita­ti­on sexu­el­le d’êtres humains, ain­si que la recher­che de per­son­nes disparues ;

(ii) la pré­ven­ti­on d’u­ne men­ace spé­ci­fi­que, sub­stan­ti­el­le et immi­nen­te pour la vie ou la sécu­ri­té phy­si­que de per­son­nes phy­si­ques ou d’u­ne men­ace réel­le et actu­el­le ou réel­le et pré­vi­si­ble d’u­ne attaque terroriste ;

(iii) la loca­li­sa­ti­on ou l’i­den­ti­fi­ca­ti­on d’u­ne per­son­ne soup­çon­née d’a­voir com­mis une infrac­tion péna­le, aux fins d’u­ne enquête ou d’u­ne pour­suite péna­le ou de l’ap­pli­ca­ti­on d’u­ne pei­ne péna­le pour les infrac­tions visées à l’an­ne­xe II et punis­sa­bles dans l’É­tat membre con­cer­né par une pei­ne pri­va­ti­ve de liber­té ou une ordon­nan­ce de déten­ti­on pour une péri­ode maxi­ma­le d’au moins quat­re ans.

Le point (h) du pre­mier ali­néa s’ap­pli­que sans pré­ju­di­ce de l’ar­tic­le 9 du règle­ment (UE) 2016/679 pour le trai­te­ment de don­nées bio­mé­tri­ques à des fins aut­res que l’ap­pli­ca­ti­on de la loi.

(32) L’uti­li­sa­ti­on de systè­mes d’IA pour l’i­den­ti­fi­ca­ti­on bio­mé­tri­que “en temps réel” et à distance de per­son­nes phy­si­ques dans des lieux acce­s­si­bles au public à des fins d’ap­pli­ca­ti­on de la loi est par­ti­cu­liè­re­ment intru­si­ve pour les droits et liber­tés des per­son­nes con­cer­nées, dans la mesu­re où elle peut affec­ter la vie pri­vée d’u­ne gran­de par­tie de la popu­la­ti­on, sus­ci­ter un sen­ti­ment de sur­veil­lan­ce con­stan­te et dissua­der indi­rec­te­ment l’e­xer­ci­ce de la liber­té d’as­so­cia­ti­on et d’aut­res droits fon­da­men­taux. Les inexac­ti­tu­des tech­ni­ques des systè­mes d’in­tel­li­gence arti­fi­ci­el­le desti­nés à l’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance de per­son­nes phy­si­ques peu­vent con­dui­re à des résul­tats biai­sés et ent­raî­ner des effets dis­cri­mi­na­toires. Ces éven­tuels résul­tats biai­sés et effets dis­cri­mi­na­toires sont par­ti­cu­liè­re­ment per­tin­ents en ce qui con­cer­ne l’â­ge, l’eth­ni­ci­té, la race, le sexe ou les han­di­caps. En out­re, le carac­tère immé­di­at de l’im­pact et les pos­si­bi­li­tés limi­tées de con­trô­les ou de cor­rec­tions sup­p­lé­men­tai­res con­cer­nant l’uti­li­sa­ti­on de ces systè­mes en temps réel font peser des ris­ques accrus sur les droits et les liber­tés des per­son­nes con­cer­nées dans le cad­re d’ac­ti­vi­tés d’ap­pli­ca­ti­on de la loi ou affec­tées par de tel­les activités.

(33) L’uti­li­sa­ti­on de ces systè­mes à des fins d’ap­pli­ca­ti­on de la loi dev­rait donc être inter­di­te, sauf dans des situa­tions énu­mé­rées de maniè­re exhaus­ti­ve et défi­nies de maniè­re rest­ric­ti­ve, lorsque leur uti­li­sa­ti­on est stric­te­ment néces­saire pour att­eind­re un inté­rêt public sub­stan­tiel, dont l’im­portance dépas­se les ris­ques. Ces situa­tions com­pren­nent la recher­che de cer­tai­nes vic­ti­mes de cri­mes, y com­pris les per­son­nes disparues ; cer­tai­nes men­aces cont­re la vie ou la sécu­ri­té phy­si­que de per­son­nes phy­si­ques ou une attaque ter­ro­ri­ste ; et la loca­li­sa­ti­on ou l’i­den­ti­fi­ca­ti­on des auteurs ou des suspects des infrac­tions énu­mé­rées dans une anne­xe au pré­sent règle­ment, lorsque ces infrac­tions sont punis­sa­bles dans l’É­tat membre con­cer­né par une pei­ne pri­va­ti­ve de liber­té ou une ordon­nan­ce de déten­ti­on pour une durée maxi­ma­le d’au moins quat­re ans et tel­les qu’el­les sont défi­nies par la légis­la­ti­on de cet État membre. Un tel seuil pour la pei­ne de pri­son ou l’or­don­nan­ce de déten­ti­on, con­for­mé­ment au droit natio­nal, con­tri­bue à garan­tir que l’in­frac­tion dev­rait être suf­fi­sam­ment gra­ve pour justi­fier poten­ti­el­le­ment l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel”.

En out­re, la liste des infrac­tions four­nie dans une anne­xe au pré­sent règle­ment est basée sur les 32 infrac­tions énu­mé­rées dans la décis­i­on-cad­re du Con­seil 2002/584/JHA , en tenant comp­te du fait que cer­tai­nes de ces infrac­tions sont, en pra­tique, sus­cep­ti­bles d’êt­re plus per­ti­nen­tes que d’aut­res, en ce sens que le recours à l’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel” pour­rait, fore­see­ab­ly, be neces­sa­ry and pro­por­tio­na­te to high­ly vary­ing degrees for the prac­ti­cal pur­su­it of the loca­li­sa­ti­on or iden­ti­fi­ca­ti­on of a per­pe­tra­tor or suspect of the dif­fe­rent cri­mi­nal offen­ces listed and regar­ding the pro­ba­b­ly dif­fe­ren­ces in the serious­ness, pro­ba­bi­li­ty and sca­le of the harm or pos­si­ble nega­ti­ve con­se­quen­ces. Une men­ace immi­nen­te pour la vie ou la sécu­ri­té phy­si­que de per­son­nes phy­si­ques pour­rait éga­le­ment résul­ter d’u­ne per­tur­ba­ti­on gra­ve d’u­ne infras­truc­tu­re cri­tique, tel­le que défi­nie à l’ar­tic­le 2, point (4), de la direc­ti­ve (UE) 2022/2557 du Par­le­ment euro­pé­en et du Con­seil, lorsque la per­tur­ba­ti­on ou la des­truc­tion d’u­ne tel­le infras­truc­tu­re cri­tique ent­raî­nerait une men­ace immi­nen­te pour la vie ou la sécu­ri­té phy­si­que d’u­ne per­son­ne, y com­pris en portant gra­ve­ment att­ein­te à la four­ni­tu­re de biens de base à la popu­la­ti­on ou à l’e­xer­ci­ce des fonc­tions essen­ti­el­les de l’É­tat. En out­re, le pré­sent règle­ment dev­rait pré­ser­ver la pos­si­bi­li­té pour les auto­ri­tés char­gées de l’ap­pli­ca­ti­on de la loi, du con­trô­le des fron­tiè­res, de l’im­mi­gra­ti­on ou de l’a­si­le de pro­cé­der à des con­trô­les d’i­den­ti­té en pré­sence de la per­son­ne con­cer­née, con­for­mé­ment aux con­di­ti­ons fixées par le droit de l’U­ni­on et le droit natio­nal pour de tels con­trô­les. En par­ti­cu­lier, les auto­ri­tés char­gées de l’ap­pli­ca­ti­on de la loi, du con­trô­le des fron­tiè­res, de l’im­mi­gra­ti­on ou de l’a­si­le dev­rai­ent pou­voir uti­li­ser des systè­mes d’in­for­ma­ti­on, con­for­mé­ment au droit de l’U­ni­on ou au droit natio­nal, pour iden­ti­fier les per­son­nes qui, lors d’un con­trô­le d’i­den­ti­té, refu­sent d’êt­re iden­ti­fi­ées ou sont dans l’im­pos­si­bi­li­té de décla­rer ou de prou­ver leur iden­ti­té, sans devoir obte­nir une auto­ri­sa­ti­on pré­alable en ver­tu du pré­sent règle­ment. Il pour­rait s’a­gir, par exemp­le, d’u­ne per­son­ne impli­quée dans un crime, qui n’est pas dis­po­sée à révé­ler son iden­ti­té aux auto­ri­tés char­gées de l’ap­pli­ca­ti­on de la loi ou qui n’est pas en mesu­re de le fai­re en rai­son d’un acci­dent ou d’u­ne con­di­ti­on médicale.

(34) Afin de garan­tir que ces systè­mes soi­ent uti­li­sés de maniè­re responsable et pro­por­ti­onnée, il est éga­le­ment important d’é­ta­b­lir que, dans cha­cu­ne de ces situa­tions énu­mé­rées de maniè­re exhaus­ti­ve et défi­nies de maniè­re rest­ric­ti­ve, cer­ta­ins élé­ments doi­vent être pris en comp­te, notam­ment en ce qui con­cer­ne la natu­re de la situa­ti­on don­nant lieu à la deman­de et les con­sé­quen­ces de l’uti­li­sa­ti­on pour les droits et liber­tés de tou­tes les per­son­nes con­cer­nées, ain­si que les garan­ties et con­di­ti­ons pré­vues pour cet­te uti­li­sa­ti­on. En out­re, l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel” dans des lieux acce­s­si­bles au public à des fins d’ap­pli­ca­ti­on de la loi ne dev­rait être mise en œuvre que pour con­firm­er l’i­den­ti­té de l’in­di­vi­du spé­ci­fi­quement visé et dev­rait être limi­tée à ce qui est stric­te­ment néces­saire en ce qui con­cer­ne la péri­ode de temps, ain­si que le champ géo­gra­phi­que et per­son­nel, en tenant comp­te en par­ti­cu­lier des preu­ves ou des indi­ca­ti­ons rela­ti­ves aux men­aces, aux vic­ti­mes ou au per­pe­tra­tor. L’uti­li­sa­ti­on du système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que en temps réel et à distance dans des lieux acce­s­si­bles au public ne dev­rait être auto­ri­sée que si l’au­to­ri­té char­gée de l’ap­pli­ca­ti­on de la loi con­cer­née a pro­cé­dé à une éva­lua­ti­on de l’im­pact sur les droits fon­da­men­taux et, sauf dis­po­si­ti­on con­trai­re du pré­sent règle­ment, a enre­gi­stré le système dans la base de don­nées pré­vue par le pré­sent règle­ment. La base de don­nées de réfé­rence des per­son­nes dev­rait être appro­priée pour chaque cas d’uti­li­sa­ti­on dans cha­cu­ne des situa­tions men­ti­onnées ci-dessus.

(94) Tout trai­te­ment de don­nées bio­mé­tri­ques impli­qué dans l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le pour l’i­den­ti­fi­ca­ti­on bio­mé­tri­que à des fins d’ap­pli­ca­ti­on de la loi doit être con­for­me à l’ar­tic­le 10 de la direc­ti­ve (UE) 2016/680, qui auto­ri­se un tel trai­te­ment uni­quement lorsqu’il est stric­te­ment néces­saire, sous réser­ve de garan­ties appro­priées pour les droits et liber­tés du sujet des don­nées, et lorsqu’il est auto­ri­sé par le droit de l’U­ni­on ou des États mem­bres. Une tel­le uti­li­sa­ti­on, lorsqu’el­le est auto­ri­sée, doit éga­le­ment respec­ter les prin­cipes énon­cés à l’ar­tic­le 4 (1) de la direc­ti­ve (UE) 2016/680, y com­pris la léga­li­té, l’é­qui­té et la trans­pa­rence, la limi­ta­ti­on des fina­li­tés, l’e­xac­ti­tu­de et la limi­ta­ti­on du stockage.

2. L’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel” dans des lieux acce­s­si­bles au public à des fins d’ap­pli­ca­ti­on de la loi pour l’un quel­con­que des objec­tifs men­ti­onnés au para­gra­phe 1, pre­mier ali­néa, point (h), ne peut être déployée, aux fins énon­cées dans ce point, que pour con­firm­er l’i­den­ti­té de l’in­di­vi­du spé­ci­fi­quement visé et doit tenir comp­te des élé­ments suivants :

(a) la natu­re de la situa­ti­on don­nant lieu à l’uti­li­sa­ti­on pos­si­ble, en par­ti­cu­lier la gra­vi­té, la pro­ba­bi­li­té et l’am­pleur des dom­mages qui serai­ent causés si le système n’é­tait pas utilisé ;

(b) les con­sé­quen­ces de l’uti­li­sa­ti­on du système pour les droits et liber­tés de tou­tes les per­son­nes con­cer­nées, en par­ti­cu­lier la gra­vi­té, la pro­ba­bi­li­té et l’am­pleur de ces conséquences.

En out­re, l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que en temps réel dans des lieux publics à des fins d’ap­pli­ca­ti­on de la loi pour l’un des objec­tifs men­ti­onnés au para­gra­phe 1, pre­mier ali­néa, point (h), du pré­sent artic­le doit être assor­tie des garan­ties et con­di­ti­ons néces­saires et pro­por­ti­onnées en ce qui con­cer­ne leur uti­li­sa­ti­on, con­for­mé­ment à la légis­la­ti­on natio­na­le qui en auto­ri­se l’uti­li­sa­ti­on, notam­ment en ce qui con­cer­ne les limi­ta­ti­ons tem­po­rel­les, géo­gra­phi­ques et per­son­nel­les. L’uti­li­sa­ti­on du système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que en temps réel dans les lieux acce­s­si­bles au public ne peut être auto­ri­sée que si l’au­to­ri­té char­gée de fai­re respec­ter la loi a pro­cé­dé à une éva­lua­ti­on de l’im­pact sur les droits fon­da­men­taux, com­me pré­vu à l’ar­tic­le 27, et a enre­gi­stré le système dans la base de don­nées de l’UE con­for­mé­ment à l’ar­tic­le 49. Tou­te­fois, en cas d’ur­gence dûment justi­fi­ée, l’uti­li­sa­ti­on de tels systè­mes peut com­men­cer sans enre­gi­stre­ment dans la base de don­nées de l’UE, à con­di­ti­on que cet enre­gi­stre­ment soit effec­tué sans retard injustifié.

(35) Tou­te uti­li­sa­ti­on d’un système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel” dans des lieux acce­s­si­bles au public à des fins d’ap­pli­ca­ti­on de la loi dev­rait être sou­mi­se à une auto­ri­sa­ti­on expres­se et spé­ci­fi­que d’u­ne auto­ri­té judi­ciai­re ou d’u­ne auto­ri­té admi­ni­stra­ti­ve indé­pen­dan­te d’un État membre dont la décis­i­on est con­traignan­te. Cet­te auto­ri­sa­ti­on dev­rait, en prin­ci­pe, être obte­nue avant l’uti­li­sa­ti­on du système d’i­den­ti­fi­ca­ti­on auto­ma­tique en vue de l’i­den­ti­fi­ca­ti­on d’u­ne ou de plu­sieurs per­son­nes. Des excep­ti­ons à cet­te règ­le dev­rai­ent être auto­ri­sées dans des situa­tions dûment justi­fi­ées pour des rai­sons d’ur­gence, à savoir lorsque la néces­si­té d’uti­li­ser les systè­mes con­cer­nés est tel­le qu’il est effec­ti­ve­ment et objec­ti­ve­ment impos­si­ble d’ob­te­nir une auto­ri­sa­ti­on avant le début de l’uti­li­sa­ti­on du système d’IA. Dans de tel­les situa­tions d’ur­gence, l’uti­li­sa­ti­on du système IA dev­rait être limi­tée au strict mini­mum néces­saire et dev­rait être sou­mi­se à des garan­ties et con­di­ti­ons appro­priées, tel­les que déter­mi­nées par le droit natio­nal et spé­ci­fi­ées dans le con­tex­te de chaque cas indi­vi­du­el d’uti­li­sa­ti­on urgen­te par l’au­to­ri­té d’ap­pli­ca­ti­on de la loi elle-même. En out­re, l’au­to­ri­té char­gée de fai­re respec­ter la loi dev­rait, dans de tel­les situa­tions, deman­der cet­te auto­ri­sa­ti­on tout en four­nis­sant les rai­sons pour les­quel­les elle n’a pas pu la deman­der plus tôt, sans délai et au plus tard dans les 24 heu­res. En cas de refus d’u­ne tel­le auto­ri­sa­ti­on, l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que en temps réel liés à cet­te auto­ri­sa­ti­on doit ces­ser immé­dia­te­ment et tou­tes les don­nées rela­ti­ves à cet­te uti­li­sa­ti­on doi­vent être mises au rebut et sup­p­ri­mées. Ces don­nées com­pren­nent les don­nées d’en­trée direc­te­ment acqui­ses par un système d’i­den­ti­fi­ca­ti­on auto­ma­tique au cours de l’uti­li­sa­ti­on de ce système, ain­si que les résul­tats et les sor­ties de l’uti­li­sa­ti­on liée à cet­te auto­ri­sa­ti­on. Elles ne doi­vent pas inclu­re les don­nées acqui­ses léga­le­ment en ver­tu d’u­ne aut­re légis­la­ti­on de l’U­ni­on ou natio­na­le. En tout état de cau­se, aucu­ne décis­i­on pro­dui­sant un effet juri­di­que néga­tif sur une per­son­ne ne dev­rait être pri­se sur la seu­le base des résul­tats du système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance.

3. Aux fins du para­gra­phe 1, pre­mier ali­néa, point (h), et du para­gra­phe 2, tou­te uti­li­sa­ti­on à des fins d’ap­pli­ca­ti­on de la loi d’un système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel” dans des lieux acce­s­si­bles au public est sou­mi­se à une auto­ri­sa­ti­on pré­alable déli­v­rée par une auto­ri­té judi­ciai­re ou une auto­ri­té admi­ni­stra­ti­ve indé­pen­dan­te dont la décis­i­on est con­traignan­te pour l’É­tat membre dans lequel l’uti­li­sa­ti­on doit avoir lieu, sur deman­de moti­vée et con­for­mé­ment aux règles détail­lées de la légis­la­ti­on natio­na­le visées au para­gra­phe 5. Tou­te­fois, dans une situa­ti­on d’ur­gence dûment justi­fi­ée, l’uti­li­sa­ti­on de ce système peut com­men­cer sans auto­ri­sa­ti­on, à con­di­ti­on que cet­te auto­ri­sa­ti­on soit deman­dée sans retard inju­sti­fié, au plus tard dans les 24 heu­res. En cas de refus d’u­ne tel­le auto­ri­sa­ti­on, l’uti­li­sa­ti­on est arrê­tée avec effet immé­di­at et tou­tes les don­nées, ain­si que les résul­tats et les pro­duc­tions de cet­te uti­li­sa­ti­on, sont immé­dia­te­ment effa­cées et détruites.

L’au­to­ri­té judi­ciai­re com­pé­ten­te ou une auto­ri­té admi­ni­stra­ti­ve indé­pen­dan­te dont la décis­i­on est con­traignan­te ne peut accor­der l’au­to­ri­sa­ti­on que s’il est éta­b­li, sur la base de preu­ves objec­ti­ves ou d’in­di­ca­ti­ons clai­res à son inten­ti­on, que l’uti­li­sa­ti­on du système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel” en que­sti­on est néces­saire et pro­por­ti­onnée à l’un des objec­tifs visés au para­gra­phe 1, pre­mier ali­néa, point (h), tels qu’i­den­ti­fi­és dans la deman­de et, en par­ti­cu­lier, qu’el­le se limi­te à ce qui est stric­te­ment néces­saire en ce qui con­cer­ne la péri­ode de temps ain­si que la por­tée géo­gra­phi­que et per­son­nel­le. En sta­tu­ant sur la deman­de, cet­te auto­ri­té tient comp­te des élé­ments men­ti­onnés au para­gra­phe 2. Aucu­ne décis­i­on pro­dui­sant un effet juri­di­que néga­tif sur une per­son­ne ne peut être pri­se sur la seu­le base des résul­tats du système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel”.

4. Sans pré­ju­di­ce du para­gra­phe 3, tou­te uti­li­sa­ti­on d’un système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel” dans des lieux acce­s­si­bles au public à des fins d’ap­pli­ca­ti­on de la loi est noti­fi­ée à l’au­to­ri­té de sur­veil­lan­ce du mar­ché con­cer­née et à l’au­to­ri­té natio­na­le char­gée de la pro­tec­tion des don­nées con­for­mé­ment aux règles natio­na­les visées au para­gra­phe 5. La noti­fi­ca­ti­on con­ti­ent, au mini­mum, les infor­ma­ti­ons spé­ci­fi­ées au para­gra­phe 6 et n’in­clut pas de don­nées opé­ra­ti­on­nel­les sensibles.

5. Un État membre peut déci­der de pré­voir la pos­si­bi­li­té d’au­to­ri­ser, en tout ou en par­tie, l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel” dans des lieux acce­s­si­bles au public à des fins d’ap­pli­ca­ti­on de la loi, dans les limi­tes et sous les con­di­ti­ons énon­cées au para­gra­phe 1, pre­mier ali­néa, point (h), et aux para­gra­phes 2 et 3. Les États mem­bres con­cer­nés éta­blis­sent dans leur légis­la­ti­on natio­na­le les règles détail­lées néces­saires à la deman­de, à l’ob­ten­ti­on et à l’e­xer­ci­ce des auto­ri­sa­ti­ons visées au para­gra­phe 3, ain­si qu’au con­trô­le et à la com­mu­ni­ca­ti­on des infor­ma­ti­ons y affé­ren­tes. Ces règles pré­cis­ent éga­le­ment, par­mi les objec­tifs énu­mé­rés au para­gra­phe 1, pre­mier ali­néa, point h), y com­pris ceux qui con­cer­nent les infrac­tions visées au point h) iii), ceux pour les­quels les auto­ri­tés com­pé­ten­tes peu­vent être auto­ri­sées à uti­li­ser ces systè­mes à des fins d’ap­pli­ca­ti­on de la loi. Les États mem­bres noti­fi­ent ces règles à la Com­mis­si­on au plus tard 30 jours après leur adop­ti­on. Les États mem­bres peu­vent intro­dui­re, con­for­mé­ment à la légis­la­ti­on de l’U­ni­on, des lois plus rest­ric­ti­ves con­cer­nant l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance.

(37) En out­re, il est appro­prié de pré­voir, dans le cad­re exhaus­tif fixé par le pré­sent règle­ment, que cet­te uti­li­sa­ti­on sur le ter­ri­toire d’un État membre con­for­mé­ment au pré­sent règle­ment ne dev­rait être pos­si­ble que si et dans la mesu­re où l’É­tat membre con­cer­né a déci­dé de pré­voir expres­sé­ment la pos­si­bi­li­té d’au­to­ri­ser une tel­le uti­li­sa­ti­on dans ses règles détail­lées de droit natio­nal. En con­sé­quence, les États mem­bres restent libres, en ver­tu du pré­sent règle­ment, de ne pas pré­voir une tel­le pos­si­bi­li­té dans son inté­gra­li­té ou de ne pré­voir une tel­le pos­si­bi­li­té que pour cer­ta­ins des objec­tifs sus­cep­ti­bles de justi­fier une uti­li­sa­ti­on auto­ri­sée iden­ti­fi­és dans le pré­sent règle­ment. Ces règles natio­na­les doi­vent être noti­fi­ées à la Com­mis­si­on dans un délai de 30 jours à comp­ter de leur adoption.

(38) L’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le pour l’i­den­ti­fi­ca­ti­on bio­mé­tri­que en temps réel et à distance de per­son­nes phy­si­ques dans des lieux acce­s­si­bles au public à des fins d’ap­pli­ca­ti­on de la loi impli­que néces­saire­ment le trai­te­ment de don­nées bio­mé­tri­ques. Les règles du pré­sent règle­ment qui inter­di­sent, sous réser­ve de cer­tai­nes excep­ti­ons, une tel­le uti­li­sa­ti­on, qui sont fon­dées sur l’ar­tic­le 16 du TFEU, dev­rai­ent s’ap­pli­quer en tant que lex spe­cia­lis dans le respect des règles rela­ti­ves au trai­te­ment des don­nées bio­mé­tri­ques con­te­nues dans l’ar­tic­le 10 de la direc­ti­ve (UE) 2016/680, régle­mentant ain­si de maniè­re exhaus­ti­ve une tel­le uti­li­sa­ti­on et le trai­te­ment des don­nées bio­mé­tri­ques impli­quées. Par con­sé­quent, cet­te uti­li­sa­ti­on et ce trai­te­ment ne dev­rai­ent être pos­si­bles que dans la mesu­re où ils sont com­pa­ti­bles avec le cad­re fixé par le pré­sent règle­ment, sans qu’il y ait de mar­ge, en dehors de ce cad­re, pour que les auto­ri­tés com­pé­ten­tes, lorsqu’el­les agis­sent à des fins d’ap­pli­ca­ti­on de la loi, uti­li­sent de tels systè­mes et trai­tent ces don­nées en rela­ti­on avec ceux-ci sur la base des motifs énu­mé­rés à l’ar­tic­le 10 de la direc­ti­ve (UE) 2016/680. Dans ce con­tex­te, le pré­sent règle­ment n’est pas desti­né à four­nir la base juri­di­que pour le trai­te­ment des don­nées à carac­tère per­son­nel en ver­tu de l’ar­tic­le 8 de la direc­ti­ve (UE) 2016/680. Tou­te­fois, l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que en temps réel et à distance dans des lieux acce­s­si­bles au public à des fins aut­res que l’ap­pli­ca­ti­on de la loi, y com­pris par les auto­ri­tés com­pé­ten­tes, ne dev­rait pas être cou­ver­te par le cad­re spé­ci­fi­que con­cer­nant cet­te uti­li­sa­ti­on à des fins d’ap­pli­ca­ti­on de la loi éta­b­li par le pré­sent règle­ment. Une tel­le uti­li­sa­ti­on à des fins aut­res que l’ap­pli­ca­ti­on de la loi ne dev­rait donc pas être sou­mi­se à l’ob­li­ga­ti­on d’ob­te­nir une auto­ri­sa­ti­on en ver­tu du pré­sent règle­ment et des règles détail­lées appli­ca­bles du droit natio­nal qui peu­vent don­ner effet à cet­te autorisation.

(39) Tout trai­te­ment de don­nées bio­mé­tri­ques et d’aut­res don­nées à carac­tère per­son­nel impli­qué dans l’uti­li­sa­ti­on de systè­mes d’in­tel­li­gence arti­fi­ci­el­le pour l’i­den­ti­fi­ca­ti­on bio­mé­tri­que, aut­re que celui lié à l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que en temps réel et à distance dans des lieux acce­s­si­bles au public à des fins d’ap­pli­ca­ti­on de la loi tel­le que régle­men­tée par le pré­sent règle­ment, dev­rait con­tin­uer à respec­ter tou­tes les exi­gen­ces résul­tant de l’ar­tic­le 10 de la direc­ti­ve (UE) 2016/680. Pour des rai­sons aut­res que l’ap­pli­ca­ti­on de la loi, l’ar­tic­le 9(1) du règle­ment (UE) 2016/679 et l’ar­tic­le 10(1) du règle­ment (UE) 2018/1725 inter­di­sent le trai­te­ment de don­nées bio­mé­tri­ques sous réser­ve d’ex­cep­ti­ons limi­tées tel­les que pré­vues dans ces artic­les. En appli­ca­ti­on de l’ar­tic­le 9, para­gra­phe 1, du règle­ment (UE) 2016/679, l’uti­li­sa­ti­on de l’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance à des fins aut­res que l’ap­pli­ca­ti­on de la loi a déjà fait l’ob­jet de décis­i­ons d’in­ter­dic­tion par les auto­ri­tés natio­na­les de pro­tec­tion des données.

6. Les auto­ri­tés natio­na­les de sur­veil­lan­ce du mar­ché et les auto­ri­tés natio­na­les char­gées de la pro­tec­tion des don­nées des États mem­bres qui ont été infor­mées de l’uti­li­sa­ti­on de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que à distance “en temps réel” dans des lieux acce­s­si­bles au public à des fins d’ap­pli­ca­ti­on de la loi sou­met­tent à la Com­mis­si­on des rap­ports annu­els sur cet­te uti­li­sa­ti­on. cet­te fin, la Com­mis­si­on four­nit aux États mem­bres et aux auto­ri­tés natio­na­les char­gées de la sur­veil­lan­ce du mar­ché et de la pro­tec­tion des don­nées un modè­le com­prenant des infor­ma­ti­ons sur le nombre de décis­i­ons pri­ses par les auto­ri­tés judi­ciai­res com­pé­ten­tes ou par une auto­ri­té admi­ni­stra­ti­ve indé­pen­dan­te dont la décis­i­on est con­traignan­te pour les deman­des d’au­to­ri­sa­ti­on pré­sen­tées con­for­mé­ment au para­gra­phe 3, ain­si que sur leur résultat.

(36) Afin de s’ac­quit­ter de leurs tâches con­for­mé­ment aux exi­gen­ces fixées dans le pré­sent règle­ment ain­si que dans les règles natio­na­les, l’au­to­ri­té de sur­veil­lan­ce du mar­ché con­cer­née et l’au­to­ri­té natio­na­le char­gée de la pro­tec­tion des don­nées doi­vent être infor­mées de chaque uti­li­sa­ti­on du système d’i­den­ti­fi­ca­ti­on bio­mé­tri­que en temps réel. Les auto­ri­tés de sur­veil­lan­ce du mar­ché et les auto­ri­tés natio­na­les char­gées de la pro­tec­tion des don­nées qui ont été noti­fi­ées dev­rai­ent sou­mett­re à la Com­mis­si­on un rap­port annu­el sur l’uti­li­sa­ti­on des systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que en temps réel.

7. La Com­mis­si­on publie des rap­ports annu­els sur l’uti­li­sa­ti­on, à des fins d’ap­pli­ca­ti­on de la loi, de systè­mes d’i­den­ti­fi­ca­ti­on bio­mé­tri­que en temps réel et à distance dans des lieux acce­s­si­bles au public, sur la base de don­nées agré­gées dans les États mem­bres, sur la base des rap­ports annu­els visés au para­gra­phe 6. Ces rap­ports annu­els ne con­ti­en­nent pas de don­nées opé­ra­ti­on­nel­les sen­si­bles rela­ti­ves aux acti­vi­tés d’ap­pli­ca­ti­on de la loi concernées.

8. Le pré­sent artic­le n’af­fec­te pas les inter­dic­tions qui s’ap­pli­quent lorsqu’u­ne pra­tique AI enfreint d’aut­res lois de l’Union.

(45) Les pra­ti­ques inter­di­tes par le droit de l’U­ni­on, y com­pris le droit rela­tif à la pro­tec­tion des don­nées, le droit rela­tif à la non-dis­cri­mi­na­ti­on, le droit rela­tif à la pro­tec­tion des con­som­ma­teurs et le droit rela­tif à la con­cur­rence, ne dev­rai­ent pas être affec­tées par le pré­sent règlement.

Cha­pit­re III Systè­mes d’in­tel­li­gence arti­fi­ci­el­le à haut risque

Sec­tion 1 Clas­si­fi­ca­ti­on des systè­mes d’in­tel­li­gence arti­fi­ci­el­le à haut risque

Artic­le 6 Règles de clas­si­fi­ca­ti­on des systè­mes d’IA à haut risque