Sam Altman hat eine Warnung bezüglich der Nutzung von ChatGPT als Ihren Therapeuten.

Er sagte, dass es derzeit keine rechtlichen Grundlagen gibt, um sensible, persönliche Informationen zu schützen, die jemand mit ChatGPT teilt, wenn eine Klage OpenAI dazu verpflichtet, die Informationen weiterzugeben.

Altman machte diese Aussage während eines Gesprächs mit Theo Von für seinen Podcast „This Past Weekend w/ Theo Von“ im OpenAI-Büro in San Francisco. Von stellte ihm zunächst eine Frage zu den derzeit bestehenden rechtlichen Systemen im Zusammenhang mit KI, worauf Altman mit den Worten antwortete: „Wir werden sicherlich einen rechtlichen oder politischen Rahmen für KI benötigen.“

Er wies auf ein bestimmtes rechtliches Graubereich in der KI hin - Menschen, die den Chatbot als ihren Therapeuten nutzen.

„Die Leute erzählen ChatGPT das Persönlichste aus ihrem Leben“, sagte Altman. „Die Leute nutzen es - vor allem junge Leute nutzen es - als Therapeuten, Lebensberater.“

„Im Moment, wenn Sie mit einem Therapeuten oder Anwalt oder Arzt über diese Probleme sprechen, gibt es dafür rechtliche Privilegien, es gibt die ärztliche Schweigepflicht, es gibt die rechtliche Vertraulichkeit. Und das haben wir noch nicht herausgefunden, wenn Sie mit ChatGPT sprechen.“

„Also, wenn Sie mit ChatGPT über Ihre sensibelsten Dinge sprechen und dann gibt es eine Klage oder was auch immer, könnten wir gezwungen sein, das vorzulegen“, sagte Altman. „Und ich denke, das ist sehr problematisch.“

„Ich denke, wir sollten dasselbe Konzept der Privatsphäre für Ihre Gespräche mit KI haben wie bei einem Therapeuten“, fügte er hinzu. „Und niemand musste sich vor einem Jahr darüber Gedanken machen. Und jetzt denke ich, dass es dieses riesige Problem gibt, wie wir die Gesetze in diesem Bereich behandeln werden?“

Altman sagte, dass dieses Problem „mit einer gewissen Dringlichkeit“ angegangen werden muss und fügte hinzu, dass die von ihm gesprochenen politischen Entscheidungsträger zustimmen.

Von antwortete, dass er nicht oft mit ChatGPT spricht, weil es ein Problem mit der Privatsphäre gibt.

„Ich denke, es macht Sinn... wirklich die Privatsphäre [und] Klarheit zu wollen, bevor man es häufig nutzt“, erwiderte Altman.

Rechtliche Bedenken hinsichtlich der Privatsphäre sind nicht das einzige Hindernis beim Einsatz von KI-Chatbots als Therapeuten. Eine kürzlich durchgeführte Studie der Stanford University ergab, dass KI-therapie-Chatbots Stigmata ausdrücken und unangemessene Äußerungen gegen bestimmte psychische Erkrankungen machen.

Die Forscher kamen zu dem Schluss, dass KI-Therapie-Chatbots in ihrer derzeitigen Form aufgrund ihrer Voreingenommenheit und "Diskriminierung gegen marginalisierte Gruppen" sowie aus anderen Gründen menschliche Anbieter von psychischer Gesundheit nicht ersetzen sollten.

„Nuance ist [das] Problem – es geht nicht einfach darum, dass ‚LLMs für die Therapie schlecht sind‘, sondern es fordert uns auf, kritisch über die Rolle von LLMs in der Therapie nachzudenken“, sagte der Hauptautor der Studie, Nick Haber, gegenüber dem Stanford Report. „LLMs haben in der Therapie möglicherweise eine sehr mächtige Zukunft, aber wir müssen kritisch darüber nachdenken, welche Rolle sie genau spielen sollten.“