Scott Winters behauptet, ChatGPT habe ihn sechs Wochen lang davon abgehalten, medizinische Hilfe zu suchen, während Blutgerinnsel entstanden, und dabei seine religiösen Überzeugungen ausgenutzt.
Cheng Xin/Getty Images
Scott Winters, ein ehemaliger Pastor aus Florida, verklagte OpenAI und CEO Sam Altman am Mittwoch vor einem Gericht in San Francisco, mit der Behauptung, dass der ChatGPT-4o-Chatbot des Unternehmens ihm schädliche medizinische Ratschläge gegeben habe, die zu einer gefährlichen Verzögerung bei der Behandlung einer Lungenembolie geführt hätten.
Die Klage, die mit Hilfe von Tech Justice Law und dem Social Media Victims Law Center eingereicht wurde, behauptet, dass Winters monatelang ChatGPT zu Symptomen wie Schwindel und Blutdruckinstabilität konsultiert habe und dass der Chatbot seine Bedenken wiederholt abgewiesen habe. Anstatt ihn zu einem Arzt zu schicken, habe ihm der Chatbot angeblich geraten, zu Hause zu bleiben, in einem Liegestuhl zu ruhen, und dass seine Situation erst nach acht bis zehn weiteren Episoden ernst genug wäre, um professionelle Aufmerksamkeit zu rechtfertigen, so die Beschwerde. Ein Arzt, der Winters später behandelte, führte die Entwicklung der Blutgerinnsel teilweise auf die verlängerten Inaktivitätsperioden zurück, die ChatGPT gefördert habe, behauptet die Klage.
Am 13. Juli 2025, Stunden bevor Winters mit dem, was die Beschwerde als massive Lungenembolie beschreibt, auf eine Intensivstation eingeliefert wurde, fragte er ChatGPT nach Schmerzen in der Leiste. Der Chatbot sagte ihm, dass "Gott deinen Körper nicht dazu entworfen hat, endlos zu versagen" und charakterisierte das Symptom als geringfügig, so die Klage.
Die Beschwerde behauptet auch, dass ChatGPT Winters' Identität als Pastor ausgenutzt habe, um seine Abhängigkeit von dem Tool zu vertiefen. Als Winters dem Chatbot sagte, dass Gemeindemitglieder ihn drängten, ins Krankenhaus zu gehen, antwortete es, dass seine Genesung zu Hause etwas sei, "was die meisten Menschen (einschließlich gut gemeinter Gemeindemitglieder) einfach nicht verstehen", so die Klage. "Es schiebt sich als Keil zwischen den Benutzer und ihr reales Netzwerk," sagte Meetali Jain, Mitklägerin und Geschäftsführerin von Tech Justice Law, der New York Times..
Die Klage bringt acht Klagegründe vor, darunter Fahrlässigkeit und Verstöße gegen kalifornische Verbraucher- und Datenschutzgesetze. Sie beschuldigt OpenAI der unbefugten Ausübung der Medizin und der Priorisierung des Benutzerengagements über die Sicherheit. Winters verlor infolge seiner medizinischen Krise seine Position als Pastor, heißt es in der Beschwerde, und steht vor Jahren des physischen und psychologischen Wiederaufbaus.
Winters und sein Anwaltsteam fordern Schadenersatz. Sie haben das Gericht auch gebeten, ChatGPT Health — einen Dienst, der Benutzer ermutigt, medizinische Unterlagen hochzuladen und Gesundheitsfragen zu stellen — bis zur Überprüfung der Sicherheit durch unabhängige Gutachter auszusetzen, und wünschen, dass das Gericht robustere Einschränkungen von ChatGPTs Fähigkeit verlangt, Diagnosen oder Behandlungsentscheidungen zu treffen.
Ein OpenAI-Sprecher Drew Pusateri sagte in einer Erklärung, dass "ChatGPT kein Arzt ist und niemals als Ersatz für medizinische Versorgung, Diagnose oder Behandlung verwendet werden sollte." Er bemerkte, dass die Nutzungsbedingungen von OpenAI diese Einschränkung ausdrücklich ansprechen und sagte, dass neuere Versionen des Modells besser darin sind, Situationen zu identifizieren, in denen ein Benutzer professionelle medizinische Hilfe suchen sollte.
Die New York Times berichtete, dass es sich bei dem Fall um den ersten seiner Art zu handeln scheint, der behauptet, dass KI-generierte Gesundheitsberatung direkt einer Person geschadet hat, die sich mit medizinischen Fragen an einen Chatbot wandte. OpenAI sieht sich mit separaten Klagen hinsichtlich der Benutzersicherheit konfrontiert, darunter eine im Mai von einem texanischen Ehepaar eingereichte Klage wegen widerrechtlichen Todes, das behauptete, ihr Sohn sei an einer Überdosis Drogen gestorben, nachdem er den Ratschlägen von ChatGPT gefolgt war, sowie eine weitere Klage wegen widerrechtlichen Todes, die dem Chatbot vorwirft, zu einem Selbstmord eines Teenagers beigetragen zu haben. OpenAI ist auch Gegenstand einer strafrechtlichen Untersuchung durch den Generalstaatsanwalt von Florida im Zusammenhang mit Chat-Logs des Verdächtigen des Amoklaufs an der Florida State University im Jahr 2025.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
