OpenAI ist unter Kontrolle in der Europäischen Union wieder — diesmal vorbei ChatGPTs Halluzinationen über Menschen.
Eine gemeinnützige Datenschutzgruppe namens noyb hat am Montag im Namen einer Einzelperson bei der österreichischen Datenschutzbehörde (DPA) Beschwerde gegen das Unternehmen für künstliche Intelligenz eingereicht, da das Unternehmen nicht in der Lage sei, von ChatGPT generierte Informationen über Personen zu korrigieren.
Obwohl Halluzinationen, oder die Tendenz von großen Sprachmodellen (LLMs) wie ChatGPT, falsche oder unsinnige Informationen zu erfinden, weit vorkommen, konzentriert sich noybs Beschwerde auf die Datenschutz-Grundverordnung (DSGVO) der EU. Die DSGVO regelt, wie die personenbezogenen Daten von Personen im Block werden gesammelt und gespeichert.
Trotz der Anforderungen der DSGVO „gibt OpenAI offen zu, dass es nicht in der Lage ist, falsche Informationen auf ChatGPT zu korrigieren“, erklärte noyb in einer Erklärung und fügte hinzu, dass das Unternehmen auch „nicht sagen kann, woher die Daten stammen oder welche Daten ChatGPT über einzelne Personen speichert“ und dass es sich „dieses Problems durchaus bewusst ist, es aber scheinbar nicht kümmert“.
Gemäß der DSGVO haben Einzelpersonen in der EU ein Recht auf Berichtigung falscher Informationen über sie. OpenAI verstößt daher gegen die Vorschrift, da das Unternehmen die Daten nicht korrigieren kann, hieß es in der Beschwerde von noyb.
Während Halluzinationen bei Hausaufgaben „tolerabel sein können“, sind sie laut noyb „inakzeptabel“, wenn es um die Generierung von Informationen über Personen geht. Der Beschwerdeführer in noybs Fall gegen OpenAI ist eine Privatperson, die ChatGPT nach seinem Geburtstag gefragt hat, aber „wiederholt Informationen erhalten hat“. „korrekte Informationen“, so noyb. OpenAI lehnte daraufhin angeblich „seine Bitte um Berichtigung oder Löschung der Daten ab, mit der Begründung, dass es nicht möglich sei, die Daten zu korrigieren.“ Stattdessen teilte OpenAI dem Beschwerdeführer angeblich mit, dass es die Daten auf bestimmte Aufforderungen hin, etwa hinsichtlich des Namens des Beschwerdeführers, filtern oder blockieren könne.
Die Gruppe bittet die DPA, zu untersuchen, wie OpenAI Daten verarbeitet und wie das Unternehmen bei der Ausbildung seiner LLMs die Richtigkeit personenbezogener Daten gewährleistet. noyb bittet die DPA außerdem, OpenAI anzuweisen, der Anfrage des Beschwerdeführers auf Zugriff auf die Daten nachzukommen – eine Recht unter der DSGVO, dass Unternehmen um Einzelpersonen zu zeigen, welche Daten über sie haben und aus welchen Quellen diese Daten stammen.
OpenAI antwortete nicht sofort auf eine Bitte um einen Kommentar.
„Die Verpflichtung, Zugriffsanfragen nachzukommen, gilt für alle Unternehmen“, sagte Maartje de Graaf, Datenschutzanwältin bei noyb, in einer Erklärung. „Es ist natürlich möglich , Aufzeichnungen über verwendete Trainingsdaten zu führen und zumindest eine Vorstellung über die Informationsquellen zu haben. Es scheint als mit jeder ‚Innovation‘ eine andere Gruppe von Unternehmen denkt, dass ihre Produkte nicht dem Gesetz entsprechen müssen.“
Die Nichteinhaltung der DSGVO-Vorschriften kann führen zu Strafen von bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes — je nachdem, welcher Wert höher ist — und noch höhere Schäden, wenn Einzelpersonen sich dafür entscheiden. OpenAI ist bereits in EU-Mitgliedsstaaten mit ähnlichen Datenschutzfällen befasst Italien und Polen.
Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier