Au cours des négo­cia­ti­ons (→ 4), ce point cen­tral – qui déter­mi­ne l’ap­pli­ca­bi­li­té maté­ri­el­le de l’A­IA – a été l’un des plus con­tro­ver­sés, et on ne peut pas dire que le résul­tat soit réus­si. Le pro­jet de la Com­mis­si­on d’avril 2021 (https://dtn.re/dzZqxl)angelehnte Défi­ni­ti­on des termes.

L’AIA défi­nit désor­mais un AIS com­me suit (art. 3, point 1, et con­sidé­rant 12) :

“système d’IA”, un système assi­s­té par ordi­na­teur con­çu pour fonc­tion­ner de maniè­re plus ou moins auto­no­me et qui, une fois opé­ra­ti­on­nel, peut s’ad­ap­ter et dédui­re, à par­tir des entrées reçues pour des objec­tifs expli­ci­tes ou impli­ci­tes, la maniè­re de pro­dui­re des sor­ties tel­les que des pré­dic­tions, du con­te­nu, des recom­man­da­ti­ons ou des décis­i­ons sus­cep­ti­bles d’af­fec­ter des envi­ron­ne­ments phy­si­ques ou virtuels ;

Il s’a­git donc de

• un “système assi­s­té par ordi­na­teur” (donc pas un système bio­lo­gi­que, par exemp­le – la trans­plan­ta­ti­on d’un cer­ve­au ne serait donc pas une mise sur le mar­ché d’un AIS),

• qui est con­çu pour fonc­tion­ner de maniè­re plus ou moins auto­no­me, et

• qui peut s’ad­ap­ter après son entrée en ser­vice et

• qui déduit, à par­tir des entrées reçues pour des objec­tifs expli­ci­tes ou impli­ci­tes, la maniè­re de pro­dui­re des sor­ties tel­les que des pré­dic­tions, du con­te­nu, des recom­man­da­ti­ons ou des décis­i­ons sus­cep­ti­bles d’af­fec­ter des envi­ron­ne­ments phy­si­ques ou virtuels”.

En fin de comp­te, deux élé­ments sont déter­mi­nants, mais ils ne font qu’un :

• Le système est con­çu pour un fonc­tion­ne­ment auto­no­me inter­pré­té com­me tel. Cela signi­fie, selon le con­sidé­rant 12, qu’il “ne repo­se pas exclu­si­ve­ment sur des règles défi­nies par des per­son­nes phy­si­ques pour l’exé­cu­ti­on auto­ma­tique d’opé­ra­ti­ons”, mais qu’il “agit, dans une cer­taine mesu­re, indé­pen­dam­ment de tou­te inter­ven­ti­on humaine et est capa­ble de fonc­tion­ner sans inter­ven­ti­on humaine” ; et

• il peut dédui­re un out­put à par­tir d’un input, étant enten­du qu’il ne s’a­git pas de n’im­por­te quel­le déduc­tion, mais de “pro­ce­s­sus d’app­ren­tis­sa­ge, de rai­son­ne­ment et de modé­li­sa­ti­on” (Con­sidé­rant 12 ; “Infé­rence”).

Cela laisse tou­te­fois ouver­te la que­sti­on de savoir ce que l’on entend par l’au­to­no­mie néces­saire dans l’entreprise.

La base d’un AIS est avant tout App­ren­tis­sa­ge auto­ma­tique (ML ; Q10) (con­sidé­rant 12 : “l’app­ren­tis­sa­ge auto­ma­tique, qui con­si­ste à app­rend­re, à par­tir de don­nées, com­ment att­eind­re cer­ta­ins objec­tifs”). Il serait en soi logi­que d’uti­li­ser ici la distinc­tion men­ti­onnée ent­re modè­les déduc­tifs et induc­tifs (→ 10) et de com­prend­re l’AIS com­me un ML qui, à la dif­fé­rence des modè­les sta­ti­sti­ques déter­mi­ni­stes, ne procè­de pas de maniè­re déduc­ti­ve, c’est-à-dire qui n’ap­pli­que pas ou pas seu­le­ment des règles pré­dé­fi­nies, mais qui défi­nit des règles ou app­rend au moins à pon­dé­rer des paramè­tres pré­dé­fi­nis. Un AIS serait donc, par exemp­le, un modè­le qui app­rend, à par­tir de don­nées d’app­ren­tis­sa­ge, dans quel­le mesu­re la sur­face du ter­rain, en tant que paramèt­re pré­dé­fi­ni, a un impact sur les prix de l’im­mo­bi­lier, et aucun AIS ne serait un modè­le qui appli­que des paramè­tres et des pon­dé­ra­ti­ons défi­nis à de nou­vel­les don­nées – par exemp­le un simp­le Excel avec une for­mu­le correspondante.

La distinc­tion n’est tou­te­fois pas si clai­re. Selon le con­sidé­rant 12, l’A­IA cou­vre éga­le­ment, en tant qu’AIS, les “con­cepts fon­dés sur la logi­que et la con­nais­sance, déduits d’in­for­ma­ti­ons codées ou de repré­sen­ta­ti­ons sym­bo­li­ques de la tâche à accom­plir”. C’est le cas de l’exemp­le men­ti­onné : l’Ex­cel uti­li­sé pour cal­cu­ler les prix de l’im­mo­bi­lier est un con­cept basé sur la logi­que et les con­nais­sances, qui déri­ve de la tâche codée (la for­mu­le Excel) (cal­cu­le les prix de l’im­mo­bi­lier en fonc­tion des don­nées d’en­trée). Le fait que ce con­cept, c’est-à-dire la for­mu­le Excel, repo­se sur un ent­raî­ne­ment n’a pas d’im­portance en soi, car Excel n’app­rend pas en cours d’uti­li­sa­ti­on. Si l’on se basait uni­quement sur la distinc­tion ent­re démar­che déduc­ti­ve et induc­ti­ve, tous ces systè­mes serai­ent exclus de la définition.

Il ne peut en tout cas pas s’a­gir d’un modè­le en cours de fonc­tion­ne­ment, après la mise en ser­vice, con­ti­n­ue à être modi­fi­ée, pour deux rai­sons : D’u­ne part, selon le libel­lé de la dis­po­si­ti­on, l’é­lé­ment d’ad­ap­ta­bi­li­té n’est pas obli­ga­toire, mais illu­stra­tif. D’aut­re part, les modè­les d’app­ren­tis­sa­ge ne serai­ent pas cou­verts par l’A­IA, ce qui con­cer­ne la gran­de majo­ri­té des systè­mes uti­li­sés, y com­pris les LLM répan­dus, ce qui n’est évi­dem­ment pas l’in­ten­ti­on. Or, un système for­mé n’est pas vrai­ment auto­no­me en fonc­tion­ne­ment – il trai­te les don­nées d’en­trée en fonc­tion de ses paramè­tres, qui peu­vent cer­tes avoir été app­ris lors d’u­ne pha­se d’en­traî­ne­ment, mais qui ne chan­gent plus (jus­qu’à une mise à jour et sous réser­ve du cas excep­ti­on­nel où un système con­ti­n­ue à s’en­traî­ner en fonc­tion­ne­ment, com­me cela peut être le cas par exemp­le pour les systè­mes de lut­te cont­re la frau­de). De ce point de vue, la plu­part des systè­mes sont déter­mi­ni­stes et non autonomes.

On ne peut pas non plus se con­ten­ter de Pha­se de déve­lo­p­pe­ment regar­der. Au cours du déve­lo­p­pe­ment, un modè­le peut cer­tes app­rend­re, et com­me l’ob­jec­tif du pro­ce­s­sus d’app­ren­tis­sa­ge n’est décrit que de maniè­re fonc­tion­nel­le (par exemp­le, clas­si­fi­ca­ti­on fia­ble d’i­mages, géné­ra­ti­on d’un tex­te ayant un sens) et non tech­ni­que, le pro­ce­s­sus d’app­ren­tis­sa­ge n’est pas déter­mi­né à un niveau tech­ni­que (la maniè­re dont les paramè­tres doi­vent être réglés pour att­eind­re l’ob­jec­tif d’app­ren­tis­sa­ge n’est pas pré­dé­fi­nie, d’où l’en­traî­ne­ment). Or, le libel­lé de l’ar­tic­le 3, point 1, fait expli­ci­te­ment réfé­rence au “fonc­tion­ne­ment” et non à l’en­traî­ne­ment – l’en­traî­ne­ment est évo­qué dans l’AI Act (→ 36), mais pas dans la défi­ni­ti­on du système d’IA, et il n’est pas non plus obli­ga­toire, con­trai­re­ment au test. On ne peut donc pas cher­cher l’au­to­no­mie néces­saire uni­quement dans l’entraînement.

La que­sti­on de savoir de quoi il s’a­git reste donc ouver­te. Le site OCDE a tou­te­fois publié un mémo­ran­dum d’ac­com­pa­gne­ment pour sa défi­ni­ti­on par­al­lè­le du “système IA” en mars 2024, qui s’ex­prime un peu plus clai­re­ment sur l’au­to­no­mie requise :

L’au­to­no­mie du système IA (con­te­nue à la fois dans la défi­ni­ti­on ori­gi­na­le et dans la défi­ni­ti­on révi­sée d’un système IA) dési­gne le degré auquel un système peut app­rend­re ou agir sans inter­ven­ti­on humaine suite à la délé­ga­ti­on d’au­to­no­mie et à l’au­to­ma­tisa­ti­on des pro­ce­s­sus par des humains. La super­vi­si­on humaine peut inter­ve­nir à n’im­por­te quel sta­de du cycle de vie du système IA, par exemp­le lors de la con­cep­ti­on du système IA, de la coll­ec­te et du trai­te­ment des don­nées, du déve­lo­p­pe­ment, de la véri­fi­ca­ti­on, de la vali­da­ti­on, du déploie­ment ou de l’ex­plo­ita­ti­on et de la sur­veil­lan­ce. Cer­ta­ins systè­mes d’IA peu­vent géné­rer des sor­ties sans que ces sor­ties soi­ent expli­ci­te­ment décri­tes dans l’ob­jec­tif du système d’IA et sans ins­truc­tions spé­ci­fi­ques d’un être humain.

L’au­to­no­mie dans l’entre­pri­se ne se réfè­re donc pas à la fonc­tion du système en tant que tel­le, qui est géné­ra­le­ment déter­mi­née, com­me nous l’a­vons indi­qué, mais à ce qu’il fait avec les don­nées d’en­trée : un système est auto­no­me lorsqu’il peut fonc­tion­ner selon les don­nées d’en­trée sans inter­ven­ti­on humaine et qu’il génè­re ain­si une sor­tie qui n’est pas expli­ci­te­ment pré­dé­fi­nie. Le non-déter­mi­nis­me est donc à recher­cher dans le trai­te­ment des don­nées et se rap­por­te à le rap­port ent­re les intrants et les extrants.

On peut cer­tes oppo­ser à cela qu’il n’y a pas non plus de véri­ta­ble auto­no­mie. Si le système est ent­raî­né, son trai­te­ment des don­nées est déter­mi­né par les paramè­tres du système. Le même input doit pro­dui­re le même out­put, à moins qu’u­ne fonc­tion alé­a­toire ne soit inté­g­rée. C’est sou­vent le cas, par exemp­le dans les modè­les d’O­pe­nAI (le rég­la­ge de la tempé­ra­tu­re per­met de con­trô­ler ce fac­teur dans une cer­taine mesu­re), mais même un géné­ra­teur alé­a­toire est fon­da­men­ta­le­ment déter­mi­né (les géné­ra­teurs non déter­mi­ni­stes four­nis­sent des valeurs dif­fé­ren­tes pour des con­di­ti­ons initia­les iden­ti­ques, mais com­me le logi­ciel est déter­mi­ni­ste en soi, un fac­teur exter­ne tel que la désin­té­gra­ti­on radio­ac­ti­ve doit être pris en comp­te pour la ran­do­mi­sa­ti­on, et ce fac­teur obéit aux lois de la nature).

L’AIA est tou­te­fois une loi avec un objec­tif et non une con­sidé­ra­ti­on de phi­lo­so­phie natu­rel­le. Il faut donc l’in­ter­pré­ter de maniè­re fonc­tion­nel­le, notam­ment en ce qui con­cer­ne les con­sé­quen­ces juri­di­ques qui dev­rai­ent cou­vr­ir les situa­tions pour les­quel­les elles ont été con­çues. En gui­se de résul­tat inter­mé­di­ai­re, l’au­to­no­mie requi­se doit donc être att­ein­te au niveau de l’A­IA. Trai­te­ment des don­nées Le pro­ce­s­sus de pro­duc­tion doit se fai­re de maniè­re à ce que le résul­tat pui­s­se être con­sidé­ré par un être humain com­me nor­mal. ne sem­ble pas déter­mi­née.

Il s’a­git en fin de comp­te d’u­ne for­me de test de Turing (→ 6) : L’AIA enre­gist­re un système en tant que système d’IA s’il res­sem­ble à un système d’IA. La règ­le géné­ra­le de l’au­to­ri­té autri­chi­en­ne de pro­tec­tion des don­nées va éga­le­ment dans ce sens (→ 1) :

Pour sim­pli­fier, il s’a­git de systè­mes infor­ma­ti­ques capa­bles d’exé­cu­ter des tâches, qui requiè­rent nor­ma­le­ment l’in­tel­li­gence humaine. Cela signi­fie que ces systè­mes peu­vent résoud­re des pro­blè­mes, app­rend­re, prend­re des décis­i­ons et inter­agir avec leur envi­ron­ne­ment, com­me le font les humains.

Un AIS est donc un système qui, en fonc­tion­ne­ment, lors de la géné­ra­ti­on d’un out­put, est com­po­sé de dif­fér­ents, a prio­ri sans que ce choix soit pure­ment alé­a­toire et sans qu’il sui­ve une ins­truc­tion humaine direc­te, et qui rem­plit donc une fonc­tion qui dev­rait fai­re pen­ser à un être humain. Cela expli­que éga­le­ment la distinc­tion avec le système déter­mi­né : une per­son­ne à qui l’on indi­que en détail com­ment pro­cé­der ne doit plus réflé­chir. Il ne sera donc pas pos­si­ble de dire avec pré­cis­i­on si tous les systè­mes relè­vent ou non de l’AIA.

AIS sont par exemple

• Les chat­bots

• Systè­mes de recom­man­da­ti­on sur les ser­vices de streaming

• Des assi­stants vocaux qui app­ren­nent grâ­ce à l’in­ter­ac­tion avec l’utilisateur

• des véhi­cu­les auto­no­mes qui adapt­ent leur con­duite grâ­ce à des cap­teurs et des don­nées environnementales

• Systè­mes de recon­nais­sance facia­le dont la pré­cis­i­on est amé­lio­rée par l’utilisation

• Outils de tra­duc­tion basés sur la ML

• Systè­mes de détec­tion des frau­des dans les ban­ques, qui app­ren­nent à recon­naît­re les modè­les suspects

• systè­mes de dia­gno­stic dans le domaine de la santé

• les pla­tes-for­mes d’app­ren­tis­sa­ge per­son­na­li­sées (déjà lorsqu’el­les génè­rent des inter­val­les de répé­ti­ti­on basés sur les résul­tats d’apprentissage)

• Filt­re anti-spam

A con­di­ti­on que la démar­che ne soit pas déter­mi­ni­ste. De tel­les logi­ques sont déter­mi­ni­stes, il n’y a pas de com­po­san­te d’app­ren­tis­sa­ge ou de déduc­tion (à con­di­ti­on que le système ne soit pas lui-même tom­bé sur cet­te corrélation).

Pas d’AIS sont par exemple

• Cal­culs Excel, avec tou­te­fois la réser­ve qu’un docu­ment Excel pour­rait éga­le­ment être pro­gram­mé en AIS

• des bases de don­nées tel­les que MySQL, qui four­nis­sent des infor­ma­ti­ons à la demande

• Logi­ciels de trai­te­ment d’i­mages, dans la mesu­re où ils sont déter­mi­ni­stes, c’est-à-dire qu’ils ne génè­rent pas d’i­mages et ne sont pas non plus basés sur un LLM

• Cli­ents de mes­sa­ge­rie qui dépla­cent les e‑mails dans des dos­siers selon des règles fixes

• le navi­ga­teur avec lequel ChatGPT est utilisé

• Filt­re anti-spam basé uni­quement sur des listes blanches/noires

• un logi­ciel déter­mi­ni­ste géné­ré par ou à l’ai­de d’un SIA (cela dev­rait con­cer­ner aujour­d’hui une gran­de par­tie des logi­ciels lorsque le déve­lo­p­pe­ment est assi­s­té par IA, par exemp­le lors de l’uti­li­sa­ti­on de Git­hub Copilot)

Divers aut­res exemp­les d’ap­pli­ca­ti­on se trou­vent d’ail­leurs dans l’at­las d’Al­go­rithm Watch (https://dtn.re/ggJqKy).

De même, un modè­le AI n’est pas un AIS, c’est-à-dire une tech­no­lo­gie fon­da­men­ta­le qui n’a pas enco­re trou­vé d’ap­pli­ca­ti­on (→ 39).

L’AIS peut alors même un pro­duit (par exemp­le, un AIS pour éva­luer l’ap­ti­tu­de des can­di­dats à un emploi), ou il peut être uti­li­sé com­me “.système embar­qué“ou “embedded AI” peut fai­re par­tie d’un aut­re pro­duit (par exemp­le, un système de con­trô­le). Dans le cas des systè­mes de com­man­de, le pro­duit cor­re­spond­ant ne devi­ent donc pas un AIS dans son ensem­ble, com­me il res­sort de l’ar­tic­le 6, para­gra­phe 1, et de l’ar­tic­le 25, para­gra­phe 3 – il reste sou­mis aux règles appli­ca­bles aux pro­duits cor­re­spond­ants, mais l’ ”embedded AIS” devi­ent un HRAIS par son instal­la­ti­on, si le pro­duit est cou­vert par l’an­ne­xe 1 (→ 28). Ce n’est que lorsque le fab­ri­cant du pro­duit met à dis­po­si­ti­on sur le mar­ché ou met en ser­vice le com­po­sant AIS en son nom pro­pre qu’il devi­ent four­nis­seur du HRAIS (artic­le 25, para­gra­phe 3). Lors de l’éva­lua­ti­on de la con­for­mi­té, le système de com­man­de dev­ra néan­mo­ins être éva­lué dans le con­tex­te du système glo­bal. Pour d’aut­res SIA, une répar­ti­ti­on n’est pos­si­ble que si la com­po­san­te IA peut être clai­re­ment distin­guée des aut­res com­po­san­tes (par exemp­le, dans un système de recru­tement qui sépa­re clai­re­ment un modu­le IA pour le clas­se­ment des can­di­dats de la gesti­on des can­di­da­tures retenues).

La qua­li­fi­ca­ti­on d’AIS en tant que tel­le ne dit rien sur le ris­que qui y est lié – notam­ment par­ce que les ris­ques ne décou­lent pas de la tech­no­lo­gie, mais des con­di­ti­ons de son uti­li­sa­ti­on. L’AI Act répar­tit les cas d’uti­li­sa­ti­on de l’AIS en quat­re caté­go­ries, même si ce n’est pas expres­sis ver­bis (→ 16). En out­re, l’AIS con­naît la GPAI, dont la régle­men­ta­ti­on a con­sti­tué une piè­ce de rési­stance lors des négo­cia­ti­ons (→ 39 et suivantes).

Non. Tout d’a­bord, l’UE ne peut régle­men­ter que dans le cad­re de son man­dat, c’est-à-dire uni­quement les acti­vi­tés rele­vant du champ d’ap­pli­ca­ti­on du droit de l’U­ni­on. Cela exclut les acti­vi­tés des États mem­bres qui con­cer­nent la sécu­ri­té natio­na­le. Ensuite, cer­ta­ins systè­mes d’IA sont exclus de l’A­IA (art. 2) :

• AIS, qui sont exclu­si­ve­ment à des fins mili­taires et le sécu­ri­té natio­na­le (art. 2, al. 3), ce qui place l’A­IA à la limi­te du droit européen ;

• AIS, qui est exclu­si­ve­ment desti­né A des fins de recher­che est déve­lo­p­pé et uti­li­sé (art. 2, al. 6) afin de ne pas ent­ra­ver la liber­té de la recher­che (les AIS dont les pos­si­bi­li­tés d’uti­li­sa­ti­on ne font qu’en­gl­ober la recher­che tom­bent tou­te­fois sous le coup de l’A­IA ; con­sidé­rant 23) ;

• AIS, le Par­ti­cu­liers à des fins non com­mer­cia­les (artic­le 2, para­gra­phe 10 ; par exemp­le, l’uti­li­sa­ti­on pri­vée de ChatGPT pour l’or­ga­ni­sa­ti­on d’un mariage) ;

• FOSS (art. 2, para­gra­phe 12), c’est-à-dire les logi­ciels (ou modè­les) libres et à code source ouvert, à con­di­ti­on que la dis­tri­bu­ti­on ouver­te soit auto­ri­sée et que les uti­li­sa­teurs pui­s­sent uti­li­ser, modi­fier et redis­tri­buer le modè­le gra­tui­te­ment, et sous réser­ve que les logi­ciels libres restent cou­verts s’il s’a­git d’un HRAIS (→ 28), s’ils ou leur uti­li­sa­ti­on con­sti­tu­ent une pra­tique inter­di­te (→ 27) ou s’ils inter­agis­sent direc­te­ment avec les uti­li­sa­teurs ou sont uti­li­sés pour géné­rer du con­te­nu (art. 50 → 37) ;

• AIS pen­dant la Pha­se de recher­che, de test et de déve­lo­p­pe­ment avant la mise sur le mar­ché ou la mise en ser­vice, sauf en cas de tests en con­di­ti­ons réel­les (art. 2, al. 8). Mais les four­nis­seurs d’AIS doi­vent bien enten­du aus­si respec­ter les exi­gen­ces pen­dant ces pha­ses ou plutôt prépa­rer leur respect.

Mal­gré son nom, l’A­IA n’est ni une régle­men­ta­ti­on glo­ba­le de l’in­tel­li­gence arti­fi­ci­el­le, ni un droit du com­porte­ment sur le mar­ché, mais un droit de la sécu­ri­té des pro­duits. Il s’in­spi­re des prin­cipes étab­lis de la régle­men­ta­ti­on des pro­duits dans le mar­ché inté­ri­eur euro­pé­en, notam­ment dans les régle­men­ta­ti­ons “New Approach”.

Le “Nou­vel­le appro­che”(ou “Nou­vel­le appro­che” ; voir à ce sujet la com­mu­ni­ca­ti­on de la Com­mis­si­on COM(2003)0240 de 2003, https://dtn.re/0mGegd)) est un con­cept que l’UE a intro­duit dans les années 1980 pour la régu­la­ti­on du mar­ché inté­ri­eur : au lieu d’é­dic­ter des règles tech­ni­ques détail­lées, l’UE défi­nit des exi­gen­ces essen­ti­el­les pour les pro­duits com­me con­di­ti­on pré­alable à l’ac­cès au mar­ché. Des exi­gen­ces plus détail­lées sont ensuite déve­lo­p­pées par des orga­nis­mes de nor­ma­li­sa­ti­on euro­pé­ens (par exemp­le le CEN, le CENELEC ou l’ET­SI). Ces nor­mes ne sont pas obli­ga­toires, mais leur respect con­fè­re une pré­somp­ti­on de con­for­mi­té aux pro­duits con­cer­nés (dans l’A­IA : art. 40.

La preuve de la con­for­mi­té est ensuite appor­tée dans le Pro­cé­du­re d’éva­lua­ti­on de la con­for­mi­téL’éva­lua­ti­on doit être effec­tuée par le fab­ri­cant lui-même (auto­cer­ti­fi­ca­ti­on) ou par un orga­nis­me noti­fié indé­pen­dant. Cet­te éva­lua­ti­on doit être effec­tuée avant la mise sur le mar­ché du pro­duit, donc de l’AIS, c’est-à-dire avant que le ris­que d’AIS ne se manifeste.

Le mar­quage CE indi­que que le fab­ri­cant a véri­fié la con­for­mi­té du pro­duit, que la pro­cé­du­re d’éva­lua­ti­on de la con­for­mi­té appli­ca­ble a été sui­vie et que les spé­ci­fi­ca­ti­ons sont respec­tées. Pour plus d’in­for­ma­ti­ons, voir le Gui­de bleu de la Com­mis­si­on euro­pé­en­ne, le Gui­de pour la mise en œuvre de la légis­la­ti­on euro­pé­en­ne sur les pro­duits 2022 du 29 juin 2022 (https://dtn.re/hrqXlb).

L’AI Act reprend cet­te appro­che, mais avec quel­ques spécificités :

• L’AIA ne régle­men­te pas une tech­no­lo­gie, mais son uti­li­sa­ti­on. Mais il exi­ge le respect exi­gen­ces fon­da­men­ta­les à tous les HRAIS, con­for­mé­ment aux artic­les 8 à 15. Des cas d’uti­li­sa­ti­on spé­ci­fi­ques sont défi­nis par des inter­dic­tions ponc­tu­el­les (→ 27) et par les critères de clas­si­fi­ca­ti­on com­me HRAIS (→ 28).

• L’at­tri­bu­ti­on des obli­ga­ti­ons se fait par le biais des dif­fér­ents rôles des acteurs tout au long de la chaî­ne de créa­ti­on de valeur (→ 20 et sui­van­tes). Ce que sont en prin­ci­pe les “pro­duc­teurs” dans la New Approach, ce sont les four­nis­seurs dans l’A­IA, et les “uti­li­sa­teurs” sont les exploitants.

• En prin­ci­pe, le four­nis­seur (→ 20) du HRAIS doit avoir un Pro­cé­du­re de con­for­mi­té à moins que des inté­rêts publics par­ti­cu­liers ne justi­fi­ent une excep­ti­on (art. 16, let. f, et art. 46). La pro­cé­du­re d’éva­lua­ti­on de la con­for­mi­té est défi­nie à l’art. 43. Pour HRAIS dans le domaine de la bio­mé­trie (anne­xe III, ch. 1), le four­nis­seur peut choi­sir de pro­cé­der à une auto­cer­ti­fi­ca­ti­on (pro­cé­du­re inter­nequi fixe l’an­ne­xe VI) ou un orga­nis­me noti­fié (art. 29 et sui­vants → 56) (pro­cé­du­re exter­ne(voir l’an­ne­xe VII).

L’ad­mis­si­bi­li­té de l’au­to­cer­ti­fi­ca­ti­on pré­sup­po­se l’e­xi­stence de nor­mes har­mo­ni­sées (art. 40) ou de spé­ci­fi­ca­ti­ons com­mu­nes (art. 41) pour tous les aspects du HRAIS, c’est-à-dire de con­cré­ti­sa­ti­ons har­mo­ni­sées des exi­gen­ces essen­ti­el­les ou de leur mise en œuvre. En l’ab­sence de ces nor­mes, le four­nis­seur n’a d’aut­re choix que de pas­ser par un orga­nis­me noti­fié (art. 43). Pour les aut­res cas d’uti­li­sa­ti­on à haut ris­que selon l’an­ne­xe III, la pro­cé­du­re d’au­to­cer­ti­fi­ca­ti­on s’ap­pli­que en géné­ral (art. 43, al. 2), et pour les SIHA qui relè­vent d’u­ne régle­men­ta­ti­on de pro­duits selon l’an­ne­xe I, sec­tion A (p. ex. les dis­po­si­tifs médi­caux), la pro­cé­du­re appli­ca­ble est éga­le­ment valable pour l’éva­lua­ti­on de la con­for­mi­té selon l’A­IA (art. 43, al. 3).

• Pour chaque HRAIS, le four­nis­seur doit four­nir une Décla­ra­ti­on de con­for­mi­té UE et la con­ser­ver à l’in­ten­ti­on des auto­ri­tés pen­dant 10 ans à comp­ter de la mise sur le mar­ché ou de la mise en ser­vice de l’HRAIS (art. 16, let. g, et art. 47). Avec la décla­ra­ti­on de con­for­mi­té, il exprime que l’HRAIS est con­for­me aux exi­gen­ces cor­re­spond­an­tes et qu’il en est responsable (art. 47, al. 2 et 4). La décla­ra­ti­on de con­for­mi­té doit con­te­nir les infor­ma­ti­ons visées à l’an­ne­xe V et être tra­duite dans une lan­gue “aisé­ment com­pré­hen­si­ble” par les auto­ri­tés natio­na­les com­pé­ten­tes (art. 47, al. 2).

• Le four­nis­seur d’ac­cès doit four­nir le Mar­que CE (art. 16, let. h, et art. 48). Il indi­que ain­si qu’il assu­me la responsa­bi­li­té de la con­for­mi­té aux exi­gen­ces de l’A­IA et, le cas échéant, aux aut­res exi­gen­ces appli­ca­bles au pro­duit (art. 30 de l’or­don­nan­ce sur la sur­veil­lan­ce du mar­ché, https://dtn.re/h4EI0Y).

• La mise sur le mar­ché et la mise en ser­vice ne sont pas auto­ri­sées tant que l’éva­lua­ti­on de la con­for­mi­té n’a pas été effec­tuée, et une nou­vel­le éva­lua­ti­on de la con­for­mi­té est requi­se en cas de modi­fi­ca­ti­on sub­stan­ti­el­le du SIAM (art. 43, al. 5).

• Dans la mesu­re où un four­nis­seur spé­ci­fi­que au sec­teur Les exi­gen­ces de l’A­IA doi­vent géné­ra­le­ment être cou­ver­tes dans le cad­re défini.

• De plus, les HRAIS doi­vent être publiés dans une revue publi­que. Base de don­nées être enre­gi­strés (art. 49).

Les HRAIS ne sont pas inter­dits – l’A­IA est en ce sens tout à fait favorable à l’in­no­va­ti­on. Seuls sont inter­dits quel­ques domain­es d’ap­pli­ca­ti­on ou cas d’uti­li­sa­ti­on qui ont été jugés par­ti­cu­liè­re­ment indé­si­ra­bles pour la socié­té (→ 27).

Inver­se­ment, il con­vi­ent de respec­ter les exi­gen­ces, con­di­ti­ons et rest­ric­tions en vigueur par­al­lè­le­ment, par exemp­le en matiè­re de pro­tec­tion des don­nées, de loyau­té, de droit du tra­vail ou de pro­prié­té intellec­tu­el­le. L’AIA n’est guè­re auto­ri­sé à cet égard, à l’ex­cep­ti­on de la pro­tec­tion des don­nées (→ 1).

L’AIA distin­gue dif­fér­ents niveaux ou clas­ses de ris­ques dans la régle­men­ta­ti­on. Ce qui est déter­mi­nant, c’est avant tout l’uti­li­sa­ti­on con­crè­te d’un AIS et non ses carac­té­ri­sti­ques tech­ni­ques en tant que tel­les ou les don­nées uti­li­sées pour l’en­traî­ne­ment ou lors de l’uti­li­sa­ti­on ou d’aut­res critères qui pour­rai­ent éga­le­ment se prêter à une clas­si­fi­ca­ti­on des ris­ques. Cet­te dif­fé­ren­cia­ti­on est en prin­ci­pe judi­cieu­se ; elle est tou­te­fois assez grossiè­re et ne peut pas tenir comp­te de tou­tes les cir­con­stances con­crè­tes, par ana­lo­gie avec la clas­si­fi­ca­ti­on léga­le de cer­tai­nes don­nées per­son­nel­les com­me étant sen­si­bles. L’AIA con­naît quat­re niveaux de ris­que pour les AIS : ris­que inac­cep­ta­ble, ris­que éle­vé, ris­que limi­té ou ris­que de trans­pa­rence et tout le reste :

• AIS inter­dit: les AIS ou les cas d’uti­li­sa­ti­on pré­sen­tant des ris­ques inac­cep­ta­bles sont géné­ra­le­ment inter­dits en tant que “pra­tique inter­di­te” (art. 5 → 27).

• HRAIS: AIS ou cas d’uti­li­sa­ti­on dans des domain­es sen­si­bles tels que les infras­truc­tures cri­ti­ques, l’é­du­ca­ti­on, l’em­ploi, les ser­vices publics essen­tiels ou l’ap­pli­ca­ti­on de la loi ; ils sont sou­mis aux exi­gen­ces qui con­sti­tu­ent la par­tie prin­ci­pa­le de l’A­IA. L’ar­tic­le 6 régit la clas­si­fi­ca­ti­on d’un AIS en tant que HRAIS (→ 28).

• AIS avec ris­ques de trans­pa­rence: ce sont des AIS qui ne sont pas des HRAIS, mais qui sont desti­nés à inter­agir direc­te­ment avec des per­son­nes phy­si­ques, qui génè­rent du con­te­nu ou qui sont desti­nés à la recon­nais­sance des émo­ti­ons ou à la caté­go­ri­sa­ti­on bio­mé­tri­que (art. 50 → 37). Des exi­gen­ces limi­tées s’ap­pli­quent ici, qui visent avant tout la transparence.

• Aut­res AISPour tous les aut­res AIS, l’AIS ne con­ti­ent que des pre­scrip­ti­ons mar­gi­na­les (→ 38).

Les obli­ga­ti­ons d’u­ne clas­se de ris­que s’ap­pli­quent éga­le­ment aux clas­ses supérieures.

Pri­ma vista, l’A­IA défi­nit une cin­quiè­me caté­go­rie de ris­ques : les AIS qui “pré­sen­tent un ris­que”, selon l’art. 79. Il s’a­git d’A­IA pré­sen­tant des ris­ques par­ti­cu­liers selon l’art. 3 n° 19 de l’or­don­nan­ce sur la sur­veil­lan­ce du mar­ché (https://dtn.re/JgakBQ)), c’est-à-dire des ris­ques accrus et aty­pi­ques pour la san­té, la sécu­ri­té ou les droits fon­da­men­taux. Il ne s’a­git pas néces­saire­ment d’un HRAIS, même si cela dev­rait nor­ma­le­ment être le cas. Si une auto­ri­té de sur­veil­lan­ce du mar­ché (→ 43) a des rai­sons de pen­ser que de tels ris­ques exi­stent, elle exami­ne l’AIS con­cer­né et, si l’hy­po­thè­se est con­fir­mée, en infor­me les auto­ri­tés natio­na­les com­pé­ten­tes. Les explo­itants ont éga­le­ment des obli­ga­ti­ons par­ti­cu­liè­res dans le cad­re d’un tel système, mais désor­mais uni­quement s’il s’a­git d’un SIH.

Tou­te­fois, les exi­gen­ces maté­ri­el­les pour ces AIS ne sont pas plus éle­vées, il s’a­git uni­quement d’un con­trô­le par­ti­cu­lier et, si néces­saire, de l’ap­pli­ca­ti­on de la con­for­mi­té. Ces AIS ne con­sti­tu­ent donc pas une caté­go­rie de ris­que à part entiè­re et, à moins qu’ils ne soi­ent éga­le­ment des HRAIS, ce qui dev­rait tou­te­fois être le cas la plu­part du temps, ils ne sont guè­re sou­mis à des exigences.

Les GPAIM n’ent­rent pas dans ces clas­ses de ris­que par­ce qu’ils n’ont pas de domaine d’ap­pli­ca­ti­on spé­ci­fi­que qui pour­rait être clas­sé en con­sé­quence. Ce n’est que lorsqu’el­les devi­en­nent des GPAIS qu’el­les ent­rent dans une clas­se de ris­que en tant qu’AIS.

L’AIA défi­nit plu­sieurs rôles qui impli­quent des obli­ga­ti­ons et des responsa­bi­li­tés dif­fé­ren­tes en ce qui con­cer­ne les AIS – et en par­tie aus­si les AMPI. Il suit en cela le stan­dard de la légis­la­ti­on euro­pé­en­ne sur la sécu­ri­té des pro­duits en faisant la distinc­tion ent­re four­nis­seur, explo­itant, impor­ta­teur et dis­tri­bu­teur, mais il con­naît éga­le­ment des rôles :

• Four­nis­seur (Fournisseur/AIS et GPAI) : L’en­ti­té (c’est-à-dire la per­son­ne phy­si­que ou mora­le) qui met un AIS sur le mar­ché et qui assu­me la responsa­bi­li­té prin­ci­pa­le de la con­for­mi­té aux exi­gen­ces (→ 20) ;

• Opé­ra­teur (Déployeur/AIS) : enti­té déployant un AIS ou une GPAI (→ 21) ;

• Impor­ta­teur (Importateur/AIS) : enti­té qui impor­te pour la pre­miè­re fois dans l’UE un AIS ou une AISG d’un four­nis­seur de pays tiers (→ 23) ;

• Reven­deurs (Distributeur/AIS) : enti­té qui pro­po­se un AIS sur le mar­ché com­mun­au­tai­re sans être elle-même un four­nis­seur ou un impor­ta­teur (→ 24) ;

• Fab­ri­cant du pro­duit (Pro­duct Manufacturer/AIS) : enti­té qui fab­ri­que un pro­duit dans lequel un AIS est intégré ;

• Repré­sen­tant auto­ri­sé (Repré­sen­tant) : Il s’a­git, selon l’art. 3, point 5, d’un orga­nis­me dans l’UE qui a été auto­ri­sé par écrit par le four­nis­seur d’ac­cès à rem­plir en son nom les obli­ga­ti­ons ou à exé­cu­ter les pro­cé­du­res pré­vues par le pré­sent règle­ment. Les repré­sen­tants ont les obli­ga­ti­ons de con­trô­le et de coopé­ra­ti­on pré­vues à l’art. 22.

• Per­son­ne con­cer­née: La per­son­ne con­cer­née n’est pas défi­nie léga­le­ment, mais il s’a­git des per­son­nes dont les don­nées sont trai­tées par un AIS. Elles ont cer­ta­ins droits en ver­tu de l’A­IA (en plus des droits pré­vus par le RGPD).

Si une enti­té joue plu­sieurs rôles à la fois, les exi­gen­ces s’ap­pli­quent de maniè­re cumu­la­ti­ve (con­sidé­rant 83). Le con­sidé­rant 83 cite l’exemp­le du dis­tri­bu­teur qui est éga­le­ment impor­ta­teur, ce qui est exclu par les défi­ni­ti­ons léga­les (un dis­tri­bu­teur four­nit un AIS “à l’ex­cep­ti­on du four­nis­seur ou de l’im­por­ta­teur” ; artic­le 3, point 7). Le four­nis­seur, qui met en ser­vice son AIS et en est l’ex­plo­itant, est plus évident.

En out­re, l’A­IA défi­nit le “Acteur”(opé­ra­teur) ; il s’a­git d’un ter­me géné­ri­que désignant les four­nis­seurs, les fab­ri­cants de pro­duits, les explo­itants, les agents, les impor­ta­teurs et les dis­tri­bu­teurs (art. 3, point 8). Il n’est pas sou­vent uti­li­sé dans l’A­IA, en géné­ral uni­quement pour faci­li­ter la réfé­rence et sans défi­nir les con­sé­quen­ces juri­di­ques pour les acteurs.

L’AIA est d’a­bord appli­ca­ble dans l’UE. Mais il sera intro­duit dans le EEE-Il s’ap­pli­quera alors éga­le­ment à la Nor­vè­ge, à l’Is­lan­de et au Liech­ten­stein. Actu­el­le­ment, l’A­IA est en cours d’ex­amen dans l’EEE (https://dtn.re/LxZNyE)Le pro­jet de loi ne sera for­mel­le­ment inté­g­ré dans le droit de l’EEE qu’a­près une décis­i­on du comi­té mixte.

Com­me le RGPD, l’AI Act vise à éta­b­lir une cer­taine pro­tec­tion de base et un champ d’ap­pli­ca­ti­on de niveau au sein de l’EEE (con­sidé­rant 22). Il doit donc éga­le­ment cou­vr­ir cer­ta­ins cas ayant une com­po­san­te inter­ré­gio­na­le. Dans ce con­tex­te, l’A­IA fait la distinc­tion ent­re les dif­fér­ents rôles dans la chaî­ne de valeur, rai­son pour laquel­le → 17 a été pla­cé en tête.

Selon les artic­les 2 et 3 (les deux dis­po­si­ti­ons sont déter­mi­nan­tes ensem­ble pour le champ d’ap­pli­ca­ti­on), il s’ap­pli­que du point de vue ter­ri­to­ri­al et per­son­nel com­me suit :

• Pour Four­nis­seur (four­nis­seur d’accès) :

• indé­pen­dam­ment de l’em­pla­ce­ment du four­nis­seur, lorsqu’un AIS ou un GPAIM est mis en ser­vice dans l’UE (artic­le 2, para­gra­phe 1, point a) ; et

• lorsque la pro­duc­tion du système est uti­li­sée dans l’UE (let. c → 19) ;

• pour Opé­ra­teur (Deployer) :

• si le Deployer est éta­b­li ou se trouve dans l’UE (lett­re b). Le ter­me “éta­blis­se­ment” dev­rait être inter­pré­té de maniè­re lar­ge, par ana­lo­gie avec le RGPD ;

• si l’out­put du système est uti­li­sé dans l’UE (à nou­veau, lett­re c) ;

• pour Impor­ta­teur (impor­ta­teur) : s’il est éta­b­li dans l’UE et impor­te un AIS (art. 3, point 6) ;

• pour Reven­deurs (dis­tri­bu­teur) : lorsque l’AIS est mis à dis­po­si­ti­on sur les mar­chés de l’UE, indé­pen­dam­ment de la loca­li­sa­ti­on du dis­tri­bu­teur (art. 3, point 7) ;

• pour Fab­ri­cant du pro­duit (Manu­fac­tu­rer) : lorsqu’ils met­tent sur le mar­ché ou en ser­vice dans l’UE un AIS avec leur pro­duit en leur pro­pre nom (art. 2, al. 1, let. e) ;

• pour (UE)Repré­sen­tant des four­nis­seurs d’ac­cès étran­gers (art. 2, para­gra­phe 1, point f)) ;

• pour per­son­nes con­cer­nées dans l’UE (art. 2, al. 1, let. g).

Une ent­re­pri­se sui­s­se peut donc être sou­mi­se à l’A­IA notam­ment si :

• vend un AIS dans ou vers l’UE (en tant que con­cep­teur, impor­ta­teur ou distributeur),

• vend un aut­re pro­duit dans l’UE qui uti­li­se un AIS com­me composant,

• Pro­duc­tion géné­rée uti­li­sée dans l’UE (→ 19).

Out­put est décrit à l’art. 2, al. 1, let. c :

c) les four­nis­seurs et les explo­itants de systè­mes d’IA étab­lis ou situés dans un pays tiers, lorsque la sor­tie géné­rée par le système d’IA est uti­li­sée dans l’Union ;

Un tex­te ou une image géné­rés par IA en font cer­tai­ne­ment par­tie. Tou­te­fois, l’A­IA ne con­ti­ent pas de défi­ni­ti­on pro­pre de la sor­tie géné­rée, con­trai­re­ment à l’in­put (art. 3, point 33). Le ter­me est uti­li­sé plus fré­quem­ment, mais tou­jours sans descrip­ti­on pré­cise (par exemp­le au con­sidé­rant 12 pour la défi­ni­ti­on de l’AIS → 13).

Mais à cer­ta­ins end­roits, l’out­put est uti­li­sé de maniè­re con­cep­ti­on lar­ge dans la mesu­re où l’on sup­po­se une uti­li­sa­ti­on uni­for­me de cet­te noti­on (par exemp­le à l’an­ne­xe III, ch. 8, let. b, HRAIS en cas d’uti­li­sa­ti­on pour influen­cer une élec­tion ou un vote : un AIS n’est pas con­sidé­ré com­me un HRAIS si son out­put ne con­cer­ne pas direc­te­ment des per­son­nes phy­si­ques, com­me c’est le cas pour un outil d’or­ga­ni­sa­ti­on de cam­pa­gne : dans ce cas, l’out­put ne peut pas être uni­quement le résul­tat de l’IA géné­ra­ti­ve). Il est donc logi­que, comp­te tenu de l’ob­jec­tif de pro­tec­tion de l’A­IA, d’in­clu­re éga­le­ment les signaux de com­man­de géné­rés par l’IA dans la noti­on d’output.

Il est donc plus important de savoir quand l’out­put est uti­li­sé dans l’UE. Il ne peut s’a­gir de tout débor­de­ment. Il fau­dra plutôt con­sidé­rer une cer­taine Sen­si­bi­li­té de l’im­pact dans l’UE, qui, par ana­lo­gie aux règles de con­duite sur le mar­ché, ne peut être con­cré­ti­sée que par une ori­en­ta­ti­on. Le con­sidé­rant 22, qui vise à empêcher le con­tour­ne­ment mais pas à cou­vr­ir n’im­por­te quel effet dans l’UE, par­le d’ ”inten­ti­on” et cite com­me exemp­le une con­stel­la­ti­on dans laquel­le il est clair qu’il n’y a pas seu­le­ment un effet de débor­de­ment, plai­de éga­le­ment en ce sens :

Afin d’é­vi­ter que le pré­sent règle­ment ne soit con­tour­né […], il con­vi­ent que le pré­sent règle­ment s’ap­pli­que éga­le­ment aux four­nis­seurs et aux explo­itants de systè­mes d’in­tel­li­gence arti­fi­ci­el­le étab­lis dans un pays tiers, dans la mesu­re où l’in­ten­ti­on est d’uti­li­ser dans l’U­ni­on la sor­tie géné­rée par ce système.

et

C’est le cas, par exemp­le, lorsqu’un acteur éta­b­li dans l’U­ni­on sous-trai­te cer­ta­ins ser­vices à un acteur éta­b­li dans un pays tiers dans le cad­re d’u­ne acti­vi­té qui doit être exer­cée par un système d’IA […]. Dans ces cir­con­stances, le système d’IA exploi­té par l’ac­teur éta­b­li dans un pays tiers […] pour­rait four­nir à l’ac­teur con­trac­tuel éta­b­li dans l’U­ni­on la sor­tie de ce système d’IA résul­tant de ce traitement […]. 

Un four­nis­seur peut donc ne pas tom­ber sous le coup de l’A­IA du seul fait de l’uti­li­sa­ti­on de l’out­put tant que celui-ci n’est pas desti­né à être uti­li­sé dans l’UE, c’est-à-dire qu’il est uti­li­sé con­for­mé­ment à sa desti­na­ti­on dans l’UE. Le Gui­de bleu (→ 15), qui reste tou­te­fois vague, peut appor­ter une cer­taine con­cré­ti­sa­ti­on à cet égard.

Le champ d’ap­pli­ca­ti­on est déjà suf­fi­sam­ment lar­ge. Si un col­la­bo­ra­teur d’u­ne ent­re­pri­se sui­s­se envoie un cour­ri­el à un col­lè­gue fran­çais en uti­li­sant un tex­te géné­ré par IA, ou si une pré­sen­ta­ti­on con­tenant une image géné­rée par IA ou un comp­te ren­du tran­scrit par IA est envoy­ée à un desti­na­tai­re dans l’UE, cela dev­rait suf­fi­re, à moins que l’on ne dédui­se du critère du carac­tère sen­si­ble un seuil de mini­mis qui s’ap­pli­quer­ait en plus de l’e­xi­gence d’orientation.

La que­sti­on doit tou­te­fois rester ouver­te pour l’in­stant – on peut sup­po­ser que l’E­AIB (→ 53) pro­po­se­ra des con­cré­ti­sa­ti­ons à ce sujet. Pour les acteurs non euro­pé­ens qui ne sont que des explo­itants de SIAH et pour ceux qui ne s’oc­cup­ent que de SIAH non à haut ris­que, cet­te que­sti­on ne joue tou­te­fois pas un rôle aus­si important que pour les four­nis­seurs de SIAH.

En rai­son de la défi­ni­ti­on léga­le du four­nis­seur, on peut en out­re se deman­der si l’uti­li­sa­ti­on de l’out­put seul peut suf­fi­re ou si en out­re, une mise sur le mar­ché ou une mise en ser­vice dans l’UE est pré­su­mée. Plu­sieurs argu­ments s’op­po­sent tou­te­fois à cet­te interprétation :

• Le con­sidé­rant 22 étend le champ d’ap­pli­ca­ti­on aux SIH “même s’ils ne sont pas mis sur le mar­ché, mis en ser­vice ou uti­li­sés dans l’Union”.

• En ce qui con­cer­ne les four­nis­seurs, l’art. 2 ne dev­rait plus du tout men­ti­on­ner l’uti­li­sa­ti­on de l’out­put dans cet­te inter­pré­ta­ti­on, car la mise en cir­cula­ti­on dans l’UE suf­fit à elle seu­le (art. 2, al. 1). En revan­che, pour l’ex­plo­itant, la men­ti­on de l’out­put se justi­fierait éga­le­ment si la mise sur le mar­ché ou la mise en ser­vice sont exi­gées du fournisseur.

• L’in­ter­pré­ta­ti­on stric­te con­dui­rait à une situa­ti­on dans laquel­le un explo­itant peut être sou­mis à l’A­IA, mais pas le four­nis­seur du système cor­re­spond­ant. Étant don­né que les obli­ga­ti­ons de l’ex­plo­itant pré­sup­po­sent, du moins en par­tie, que le four­nis­seur a lui aus­si rem­pli ses obli­ga­ti­ons (par exemp­le en ce qui con­cer­ne la con­ser­va­ti­on des don­nées log, qui n’est pas pos­si­ble si le four­nis­seur n’a pas veil­lé à ce que le HRAIS soit en mesu­re d’en­re­gi­strer les don­nées), un par­al­lé­lis­me est plus proche.

• La défi­ni­ti­on léga­le du four­nis­seur per­met de con­clu­re qu’u­ne mise sur le mar­ché ou une mise en ser­vice n’est une con­di­ti­on pré­alable à la qua­li­té de four­nis­seur que si un orga­nis­me ne déve­lo­p­pe pas lui-même un AIS, mais le fait déve­lo­p­per. Dans le cas d’un AIS déve­lo­p­pé en inter­ne, le déve­lo­p­pe­ment de l’AIS est déjà suf­fi­sant selon cet­te inter­pré­ta­ti­on (→ 20).

• Pour des rai­sons de pro­tec­tion, les auto­ri­tés et les tri­bu­naux sui­v­ront pro­ba­blem­ent une inter­pré­ta­ti­on lar­ge, c’est-à-dire qu’ils se con­t­en­te­ront de l’out­put. Les expé­ri­en­ces fai­tes avec l’in­ter­pré­ta­ti­on du RGPD en matiè­re de droits fon­da­men­taux plai­dent en tout cas en ce sens.

Jus­qu’à ce que la que­sti­on soit cla­ri­fi­ée, il con­vi­ent donc de par­tir du prin­ci­pe que l’uti­li­sa­ti­on de l’out­put con­for­mé­ment à sa desti­na­ti­on est suffisante.

On peut tou­te­fois se deman­der si une Uti­li­sa­ti­on com­me Sor­tie est néces­saire. Cela dev­rait être le cas : Celui qui sou­hai­te que des tex­tes géné­rés par IA soi­ent uti­li­sés dans l’UE pour­ra cer­tes tom­ber sous le coup de l’A­IA même s’il uti­li­se une cap­tu­re d’é­cran avec le tex­te cor­re­spond­ant. En revan­che, ceux qui génè­rent des tex­tes pour illu­strer le fonc­tion­ne­ment d’un LLM et qui uti­li­sent des tex­tes géné­rés com­me exemp­les et non en rai­son de leur con­te­nu réel n’uti­li­sent guè­re d’out­put dans l’UE.