noyb, die Organisation von Max Schrems, hat am 29. April 2024 bei der österreichischen Datenschutzbehörde eine Beschwerde gegen OpenAI eingereicht.
Die Beschwerde betrifft einen Nutzer von ChatGPT, offenbar eine öffentliche Person, der festgestellt hatte, dass ChatGPT ein falsches Geburtsdatum angegeben hatte. Auf Anfrage des betreffenden Nutzers hatte OpenAI geantwortet, es sei nicht möglich, das System an der falschen Antwort zu hindern. Zwar sollen Filter eine Bekanntgabe von Personendaten verhindern, das Geburtsdatum könne aber nicht ausgefiltert werden, ohne dass auch weitere Daten betroffen wären. Angaben des Nutzers insgesamt zu sperren verstiesse sodann gegen das Recht auf Meinungsäusserung und Information.
In der Sache macht noyb geltend, das Auskunftsrecht sei verletzt, weil OpenAI keine Angaben zu Personendaten im Modell gemacht hat (nur zum Nutzeraccount), obwohl offensichtlich Personendaten enthalten seien.
Ferner sei auch das Berichtungsrecht verletzt. Das Recht auf Meinungsäusserung decke keine Bearbeitung falscher Personendaten, und eine technische Unmöglichkeit der Korrektur sei keine Rechtfertigung:
In the present case, however, the respondent cannot invoke its freedom of expression. In the area of data protection, untrue statements of fact do not fall within the scope of protection of freedom of expression. Furthermore, the (false) date of birth of the complainant would not contribute anything to a debate of public interest. The respondent was also unable to cite any legal provision under Article 85 GDPR that would allow a departure from the principle of accuracy in favour of the complainant’s right to express an opinion – which is not applicable here.
It must be stressed that the claimed technically impossibility to erase or rectify the data subject’s date of birth without blocking other relevant pieces of information is by no means a valid justification to derogate to the principle of accuracy under Article 5(1)(d) GDPR. The fact that a software developed by a controller is unable to comply with the law makes the processing simply unlawful – but never the law inapplicable.
noyb verlangt deshalb eine Untersuchung und Abhilfemassnahmen und regt eine Busse an. OpenAI in den USA sei zudem der Verantwortliche – zumindest bestehe eine Mitverantwortung mit der irischen Gesellschaft von OpenAI, die wohl nur pro forma errichtet worden sei.
Allerdings ist eine unzutreffende Aussage eines LLMs nicht unbedingt “falsch” – dann nicht, wenn dem Empfänger klar sein muss, dass Aussagen nichts als statistische Wahrscheinlichkeiten sind. Solche näherungsweisen Aussagen sind nur falsch, wenn sie als Faktum dargestellt werden, d.h. wenn das berechtigte Verständnis der Verkehrskreise nicht der Wirklichkeit entspricht. Man kann sich ferner fragen, ob ein Auskunftsrecht nicht ausgeschlossen sein müsste, weil Personendaten im Modell gewissermassen im “Gehirn” vorhanden sind – ein Mensch müsste zu seinen Gedanken jedenfalls keine Auskunft erteilen.
Die Tatsache, dass ein LLM grundsätzlich nicht gezielt, sondern nur im Lauf der Zeit trainingsbedingt zu ändern ist, erinnert tatsächlich an ein Gehirn. Würde das Modell deshalb wie eine Person behandelt – was es de lege lata natürlich nicht ist, was als weite Analogie aber nicht ganz abwegig wäre –, würde in datenschutzrechtlicher Hinsicht wie angesprochen kein Auskunftsanspruch bestehen, weil “knowledge in your head” nicht zu beauskunften ist (dazu hier). Eine solche Analogie wäre auch als urheberrechtlicher Optik nicht unbedingt falsch, oder jedenfalls könnte sie einige Schwierigkeiten lösen. Das Training wäre Werkgenuss, der frei und nicht auf eine Schrankenregelung angewiesen ist, und am Output könnten seinerseits urheberrechtliche Befugnisse bestehen, die entsprechend bestehender Regelungen dem “Auftraggeber”, also dem Eigner des Modells zustünden. In steuerrechtlicher Hinsicht müsste die “Person AI-Modell” wohl am Marktort bzw. beim Leistungsempfänger lokalisiert werden, um eine Betriebsstätte oder ein Empfängerprinzip wie bei der MwSt. zu begründen. Nicht dass eine AI menschenähnlich wäre (eher das Umgekehrte ist zu befürchten), aber gewisse Analogien drängen sich auf.