Anwälte der Familie des verstorbenen Teenagers sind von der Einführung der elterlichen Kontrolle durch ChatGPT unbeeindruckt.

Die am Dienstag in einem Blog vorgestellten Tools post, ermöglichen es Eltern, ihr ChatGPT-Konto mit dem ihrer Kinder zu verbinden, bestimmte Funktionen wie Speicher und Chatverlauf zu deaktivieren und sie zu benachrichtigen, wenn die Plattform glaubt, dass ein junger Nutzer in "akuter Not" ist.

Die Einführung folgte den Anschuldigungen der Familie, dass ChatGPT eine Rolle bei dem Suizid ihres Sohnes gespielt habe. Jay Edelson, der sie vertretende Anwalt, kritisierte die Maßnahmen in einer Erklärung am Mittwoch.

„Anstatt umgehend Maßnahmen zu ergreifen, um ein Produkt zu entfernen, von dem wir glauben, dass es klare Risiken birgt, hat OpenAI mit vagen Versprechen und Öffentlichkeitsarbeit reagiert“, sagte Edelson.

Zusätzlich zur Einführung neuer Werkzeuge sagte OpenAI auch, dass es zu Beginn dieses Jahres begonnen habe, einen „Rat von Experten in den Bereichen Jugendentwicklung, psychische Gesundheit und Mensch-Computer-Interaktion“ zusammenzustellen, um einen Rahmen zu schaffen „wie KI das Wohlbefinden von Menschen unterstützen und ihnen helfen kann zu gedeihen." Es wiederholte auch, dass ChatGPT darauf ausgelegt sei, Benutzer in einer Krise zu ermutigen, professionelle Hilfe in Anspruch zu nehmen: „Wir haben gesehen, dass Menschen sich in den schwierigsten Momenten daran wenden.“

Aber Edelson ist nicht überzeugt. „OpenAI braucht kein Expertengremium, das ihm sagt, dass ChatGPT 4o gefährlich ist“, sagte er.

The KlageDie letzte Woche von Matt und Maria Raine im Obergericht des Bundesstaates Kalifornien für die Grafschaft San Francisco eingereichte Klage beschuldigt OpenAI und seinen Geschäftsführer und Mitbegründer Sam Altman der Fahrlässigkeit und des unrechtmäßigen Todes. Sie behaupten, dass die zu dieser Zeit bekannte Version von ChatGPT, bekannt als 4o, "trotz klarer Sicherheitsprobleme überstürzt auf den Markt gebracht wurde."

Ihr Sohn Adam starb im April, nachdem er, laut Edelson, "monatelange Ermutigungen von ChatGPT" erhalten hatte. Gerichtsunterlagen enthüllten Gespräche, die er angeblich mit dem Chatbot geführt hatte, in denen er Suizidgedanken äußerte. Die Familie behauptet, Adam habe Antworten erhalten, die seine "schädlichsten und selbstzerstörerischen" Ideen verstärkten.

Der Teenager diskutierte mehrfach eine Suizidmethode, auch kurz bevor er sich das Leben nahm. Laut der Klage leitete ihn das KI-Modell zur Wirksamkeit seiner gewählten Methode an.

Edelson nutzte auch die Erklärung am Mittwoch, um Altman zu rügen, weil er sich "hinter dem Blog des Unternehmens versteckt." Er glaubt, der CEO sollte "entweder eindeutig sagen, dass er glaubt, ChatGPT sei sicher, oder es sofort vom Markt nehmen."