- noyb a déposé une plainte contre OpenAI pour violation des droits d’accès et de rectification ; OpenAI ne peut pas exclure de manière juridiquement sûre les données personnelles erronées dans le modèle.
- Débat juridique : l’impossibilité technique ne justifie pas une violation des principes de protection des données ; l’analogie possible du modèle avec le “savoir dans la tête” est discutée.
noyb, l’organisation de Max Schrems, a déposé le 29 avril 2024 une demande auprès de l’autorité autrichienne de protection des données. Plainte contre OpenAI a été déposée.
La plainte concerne un utilisateur de ChatGPT, apparemment une personne publique, qui avait constaté que ChatGPT était un date de naissance erronée avait indiqué. A la demande de l’utilisateur concerné, OpenAI avait répondu qu’il n’était pas possible d’empêcher le système de donner une réponse erronée. Certes, les Filtre La date de naissance ne peut cependant pas être filtrée sans que d’autres données soient également concernées. Le blocage de l’ensemble des données de l’utilisateur serait donc contraire au droit d’expression et d’information.
Sur le fond, noyb fait valoir que le Droit d’accès a été violé parce que OpenAI n’a pas fourni d’informations sur les données personnelles dans le modèle (uniquement sur le compte de l’utilisateur), bien que des données personnelles soient manifestement incluses.
En outre, le Droit d’information n’a pas été respecté. Le droit d’expression ne couvre pas le traitement de données personnelles erronées et une impossibilité technique de correction ne constitue pas une justification :
Dans le cas présent, cependant, le répondant ne peut pas invoquer sa liberté d’expression. Dans le domaine de la protection des données, les déclarations mensongères de faits ne relèvent pas du champ d’application de la protection de la liberté d’expression. En outre, la (fausse) date de naissance du plaignant n’apporterait rien à un débat d’intérêt public. Le répondant n’a pas non plus été en mesure de citer une quelconque disposition légale au titre de l’article 85 du GDPR qui permettrait de s’écarter du principe d’exactitude en faveur du droit du plaignant d’exprimer une opinion – qui n’est pas applicable en l’espèce.
Il convient de souligner que la prétendue impossibilité technique d’effacer ou de rectifier la date de naissance du sujet des données sans bloquer d’autres éléments d’information pertinents ne constitue en aucun cas une justification valable pour déroger au principe d’exactitude visé à l’article 5, paragraphe 1, point d), du GDPR. Le fait qu’un logiciel développé par un responsable du traitement ne soit pas conforme à la loi rend le traitement tout simplement illégal – mais jamais la loi inapplicable.
noyb exige donc une enquête et des mesures correctives et suggère une amende. OpenAI aux Etats-Unis serait en outre le responsable – il y aurait au moins une coresponsabilité avec la société irlandaise d’OpenAI, qui n’aurait été créée que pour la forme.
Cependant, une déclaration inexacte d’un LLM n’est pas nécessairement “fausse” – si le destinataire doit être conscient que les déclarations ne sont rien d’autre que des “mensonges”. probabilités statistiques ne sont pas exactes. De telles déclarations approximatives ne sont fausses que si elles sont présentées comme des faits, c’est-à-dire si la compréhension légitime du public ne correspond pas à la réalité. On peut en outre se demander si un droit d’accès ne devrait pas être exclu parce que les données personnelles sont en quelque sorte présentes dans le “cerveau” du modèle – un être humain ne devrait en tout cas pas donner d’informations sur ses pensées.
Le fait qu’un LLM ne puisse en principe pas être modifié de manière ciblée, mais uniquement au fil du temps en fonction de l’entraînement, fait effectivement penser à un cerveau. Si le Modèle donc comme une personne ce qu’il n’est évidemment pas de lege lata, mais qui ne serait pas totalement absurde en tant qu’analogie large -, il n’y aurait pas de droit d’accès du point de vue de la protection des données, car le “knowledge in your head” n’est pas à renseigner (voir à ce propos ici). Une telle analogie ne serait pas nécessairement erronée, même dans l’optique du droit d’auteur, ou pourrait en tout cas résoudre certaines difficultés. L’entraînement serait une jouissance de l’œuvre, qui serait libre et ne dépendrait pas d’une réglementation sur les restrictions, et l’output pourrait à son tour faire l’objet de droits d’auteur qui reviendraient au “donneur d’ordre”, c’est-à-dire au propriétaire du modèle, conformément aux réglementations existantes. Du point de vue du droit fiscal, la “personne modèle IA” devrait être localisée sur le lieu du marché ou chez le bénéficiaire de la prestation pour justifier un établissement stable ou un principe de bénéficiaire comme pour la TVA. Non pas qu’une IA soit semblable à un être humain (c’est plutôt l’inverse qui est à craindre), mais certaines analogies s’imposent.