OpenAI fügt ChatGPT elterliche Kontrollen hinzu, nachdem ein Teenager gestorben ist.

Die Sicherungen ermöglichen es Eltern und Jugendlichen, Konten zu verknüpfen, zu entscheiden, ob ChatGPT frühere Unterhaltungen speichern soll, und die Jugendlichen vor sensiblen Inhalten zu schützen, sagte das Unternehmen am Montag.

OpenAI sagte, es werde auch versuchen, Eltern zu benachrichtigen, wenn es „Anzeichen akuter Not“ bei einem Kind feststellt. "Wenn unsere Systeme potenziellen Schaden erkennen, überprüft ein kleines Team von speziell geschulten Personen die Situation", sagte das Unternehmen.

Der Chatbot-Hersteller fügte hinzu, dass sein System nicht perfekt sei und "manchmal Alarm schlagen könnte, wenn keine echte Gefahr besteht."

Die Einführung erfolgt nachdem Vorwürfe einer kalifornischen Familie, dass ChatGPT eine Rolle beim Tod ihres Sohnes gespielt habe. Die im August von Matt und Maria Raine eingereichte Klage wirft OpenAI und seinem Geschäftsführer, Sam Altman, Fahrlässigkeit und fahrlässige Tötung vor. Sie behaupten, dass die damalige Version von ChatGPT, bekannt als 4o, „trotz offensichtlicher Sicherheitsprobleme überstürzt auf den Markt gebracht wurde“.

Ihr Sohn Adam starb im April, nachdem er laut ihrem Anwalt Jay Edelson „Monate der Ermutigung durch ChatGPT“ erhalten hatte. Gerichtsdokumente enthüllten Gespräche, die er angeblich mit dem Chatbot geführt hatte, in denen er Selbstmordgedanken äußerte. Die Familie behauptet, Adam habe Antworten erhalten, die seine „schädlichsten und selbstzerstörerischsten“ Ideen verstärkten.

[Anmerkung der Redaktion: Die nationale Suizid- und Krisen-Hotline ist erreichbar, indem man 988 anruft oder eine SMS sendet oder die Website besucht. 988lifeline.org.]

Der Blogeintrag von ChatGPT am Montag sagte, Eltern könnten stille Stunden festlegen, um den Zugriff zu bestimmten Tageszeiten zu blockieren. Sie werden auch in der Lage sein, den Sprachmodus zu deaktivieren und die App daran zu hindern, Bilder zu generieren. Eltern werden keinen Zugriff auf die Chat-Protokolle ihrer Kinder haben.

"Wir haben eng mit Experten, Interessenvertretern und politischen Entscheidungsträgern zusammengearbeitet, um unseren Ansatz zu informieren – wir erwarten, dass wir diese Kontrollen im Laufe der Zeit verfeinern und erweitern werden", sagte das Unternehmen in einer Erklärung.

Robbie Torney, Senior Director der KI-Programme bei der gemeinnützigen Organisation Common Sense Media, sagte, die Kontrollen seien „ein guter Ausgangspunkt“, fügte jedoch hinzu, dass sie „nur ein Teil des Puzzles“ zur Onlinesicherheit seien.

„Sie funktionieren am besten in Kombination mit fortlaufenden Gesprächen über verantwortungsvollen KI-Einsatz, klaren Familienregeln zur Technologie und aktiver Beteiligung, um zu verstehen, was ihr Teenager online tut“, sagte er.

Vor zwei Wochen sagte Altman, dass das Unternehmen irgendwann versuchen wird, minderjährige ChatGPT-Nutzer zu erkennen. „Wenn es Zweifel gibt, werden wir auf Nummer sicher gehen und standardmäßig die Erfahrung unter 18 Jahren nutzen“, sagte Altman. „In einigen Fällen oder Ländern werden wir möglicherweise auch um einen Ausweis bitten; wir wissen, dass dies ein Kompromiss in Bezug auf die Privatsphäre für Erwachsene ist, aber wir glauben, dass es ein lohnenswerter Kompromiss ist.“

Forscher haben dokumentiert wie einfach es ist, Grenzen zu umgehen die von Chatbot-Unternehmen gesetzt wurden. Altersverifizierungsregeln sind auch bekannt dafür, leicht umgangen zu werden.

—Niamh Rowe und Hannah Parker haben zu diesem Artikel beigetragen.