Der CEO von OpenAI möchte, dass dieselben Datenschutzbestimmungen, die für Ärzte und Anwälte gelten, genutzt werden, um die Daten der ChatGPT-Nutzer vor Klagen zu schützen.
Kyle Grillot/Bloomberg via Getty Images
Die wöchentlichen Nutzer von ChatGPT machen 10 % der erwachsenen Weltbevölkerung aus — und Sam Altman möchte, dass ihre Chatbot-Gespräche privat bleiben. Der CEO von OpenAI hat wiederholt gesagt, dass er dieselben Datenschutzbestimmungen für KI-Chatbots will, die normalerweise Ärzten, Anwälten und Therapeuten gewährt werden, um zu vermeiden, kompromittierende Benutzerdaten an Gerichte weitergeben zu müssen.
In einem kürzlichen Blogbeitrag zum Thema ChatGPT für Teenager bekräftigte Altman seinen Standpunkt zu Datenschutzbestimmungen für KI: „Menschen sprechen mit KI über zunehmend persönliche Dinge; es unterscheidet sich von früheren Technologiegenerationen, und wir glauben, dass dies eines der persönlich sensibelsten Konten sein könnte, die Sie jemals haben werden.“
„Wenn Sie mit einem Arzt über Ihre Krankengeschichte oder mit einem Anwalt über eine rechtliche Situation sprechen, haben wir entschieden, dass es im besten Interesse der Gesellschaft ist, dass diese Informationen privilegiert behandelt und mit höherem Schutz versehen werden“, schrieb Altman. „Wir glauben, dass derselbe Schutzgrad für Gespräche mit KI gelten muss, an die sich Menschen zunehmend für sensible Fragen und private Anliegen wenden.“
Aber es gibt bis heute keine derartigen rechtlichen Schutzmaßnahmen für Chatbot-Nutzer; in einem Interview im Juli mit Podcaster Theo Von warnte Altman davor, dass Gerichte OpenAI zwingen könnten, die privaten Gespräche seiner Nutzer zu teilen. Bereits wurde OpenAI von einem Bundesgericht dazu verpflichtet Halten Sie an privaten Chat-Protokollen fest, und das bringt OpenAI in Gefahr, sowohl Nutzer zu verärgern als auch in rechtliche Auseinandersetzungen verwickelt zu werden.
Das hängt davon ab, wen man fragt und was sie wollen.
„Unternehmen ziehen es immer vor, Regeln zu haben, die sie vor Haftung schützen, und Befürworter wollen immer Zugang zu Informationen haben, die sie nutzen können, um gegen Probleme zu klagen“, sagte Peter Swire, Rechtsprofessor am Georgia Tech Scheller College of Business mit Schwerpunkt auf Datenschutz und Cybersicherheit. „Das passiert in jedem Sektor die ganze Zeit.“
Der Weg zu KI-Datenschutzmaßnahmen wird nicht einfach sein. Allein in den letzten Monaten haben sich KI-Unternehmen mit Chatbot auseinandergesetzt Rechtsstreitigkeiten, staatliche Durchgreifen bei der KI-Therapie, einer Stanford Studie auf die Risiken von Therapie-Chatbots hinweist und Kongressanhörungen zu den breiteren Schäden von KI. Inzwischen ist OpenAI aktiv die Grenzen verschieben im Umgang mit sensiblen Daten von Nutzern.
Befürworter von KI-Regulierungen haben eine Liste von Gründen, warum die Reichweite von KI-Unternehmen eingeschränkt werden sollte, was Altmans ideales Szenario möglicherweise noch weiter außer Reichweite drängt.
Strenge Datenschutzbestimmungen gelten für Ärzte, Anwälte und Therapeuten, weil „es so wichtig ist, dass Individuen ehrlich zu diesen Personen sprechen“, sagte Swire. Was die Chatbots betrifft, die dieselben Privilegien erhalten, erklärte Swire, er könne sich ein System vorstellen, in dem Privilegien „unter begrenzten Umständen“ gewährt werden, wo eine „klare Ankündigung“ erfolgt, dass der Chatbot als Anwalt oder Arzt fungieren wird. Aber das ist ein „sehr anderer Vorschlag“, als jede Interaktion mit einem Chatbot „wie das sensibelste psychiatrische Gespräch“ zu behandeln, sagte er.
„Wenn der Chatbot in der Rolle eines Arztes oder Anwalts agieren soll, dann lohnt es sich zu prüfen, ob in diesen speziellen Umständen ein privilegierter Schutz in Betracht gezogen werden könnte“, sagte Swire.
Laut Mayu Tobin-Miyaji, einer juristischen Mitarbeiterin, die sich auf KI und Menschenrechte beim gemeinnützigen Electronic Privacy Information Center spezialisiert hat, könnten Datenschutzmaßnahmen möglicherweise auf geprüfte LLMs unter der Aufsicht von Ärzten und anderen, „die lizenziert und qualifiziert sind“, ausgeweitet werden. Tobin-Miyaji denkt, dass heutige Chatbots solche Schutzmaßnahmen nicht erhalten werden, aber diejenigen, die „diesen Prozess beaufsichtigen“, könnten es.
Doch scheinen Befürworter der psychischen Gesundheit die Gesetzgeber in eine ganz andere Richtung zu drängen.
Mitch Prinstein, Leiter der Strategie und Integration in der Psychologie bei der American Psychological Association, drängte den Kongress während einer kürzlichen Anhörung darauf, KI zu verbieten, „sich als Psychologe oder Therapeut falsch darzustellen“ und Offenlegungen zu „mandatieren“, dass „Benutzer mit einem Bot interagieren“.
„[Sicherheitsbedenken] werden nicht verschwinden, wenn es Vertraulichkeitsschutz gibt“, sagte Tobin-Miyaji.
„Es sollte mehr Transparenz- und Rechenschaftsmechanismen geben, damit die Öffentlichkeit versteht, wann sie Daten eingibt, wie diese Daten verwendet werden, wohin sie weitergegeben werden, [und] wie sich das möglicherweise auf die Datenschutz- und Autonomierechte der Menschen auswirken könnte“, fuhr sie fort.
Wenn Chatbot-Nutzer denken, dass ihre privaten Gespräche als Beweismittel vor Gericht verwendet werden könnten, werden sie sich dann noch wohl fühlen, so viel zu teilen? Einige Nutzer scheinen bereits nervös zu sein.
Ein Mai- gerichtlicher Beschluss verlangte von OpenAI, ChatGPT-Gespräche – sogar gelöschte – auf unbestimmte Zeit zu speichern. OpenAI erklärte, dass auf die Daten nur unter „strengen rechtlichen Protokollen“ zugegriffen werden kann und dass es gegen die Anordnung vorgeht, aber Nutzer äußerten sofort ihre Bedenken auf Reddit $RDDT, was zeigt, wie schnell sich die öffentliche Wahrnehmung von ChatGPT ändern kann.
„Auch wenn es nie ans Licht der Öffentlichkeit gelangt, scheint allein die Tatsache, dass ein einzelner Anwalt möglicherweise die temporären Chats von Menschen überprüfen muss, ein Datenschutzproblem an sich zu sein“, erklärte ein Reddit-Nutzer schrieb.
Ein anderer warnte, dass Benutzer „davon ausgehen sollten, dass alles, was Sie online veröffentlichen, in irgendeiner Form oder Gestalt öffentlich wird.“ A dritter sagte: „Niemals. Vertrauen. Unternehmen. Mit. Sensiblen. Daten.“
Eine kürzlich durchgeführte Studie über ChatGPT-Benutzer von OpenAI und Harvard-Forschern ergab, dass sich etwa 77% der Gespräche um praktische Anleitungen, Schreiben und Informationssuche drehen, während nur 1,9% der analysierten Nachrichten sich auf Beziehungen und „sozio-emotionale Themen“ beziehen. Obwohl dies ein kleiner Prozentsatz der aktuellen Nutzung des Chatbots ist, sagt OpenAI, dass sensible Chats zunehmen; der Mangel an Schutzmaßnahmen und das wachsende Bewusstsein, dass Chatprotokolle in Gerichtsverfahren einfließen könnten, könnten ändern, wie Benutzer letztendlich mit ChatGPT interagieren und damit das Datenschutz-Narrativ, auf das OpenAI – und Altman – setzen, erschüttern.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
