Sam Altman hat seit dem Start von ChatGPT 'keine gute Nacht mehr geschlafen'.

Der CEO von OpenAI sagt, dass er sich keine Sorgen über eigenmächtige Roboter macht — aber die Voreinstellungen, Schutzmechanismen und Entscheidungen, die sich auf Hunderte Millionen auswirken.

Von Shannon Carroll5 Min. LesezeitAktualisiert 15. September 2025

Add QZ to Google

Sam Altman hat seit dem Start von ChatGPT 'keine gute Nacht mehr geschlafen'.

Al Drago/Bloomberg via Getty Images

Sam Altman sagt, er habe seit dem Start von ChatGPT nicht gut geschlafen – nicht wegen Sci-Fi-Alpträumen, sondern wegen Produktentscheidungen, die auf die Größe einer Zivilisation skalieren. „Ich habe seit dem Start von ChatGPT keine gute Nachtruhe mehr gehabt“, sagte der OpenAI-CEO Tucker Carlsonund fügte hinzu, dass ihn „die sehr kleinen Entscheidungen“ über das Modellverhalten wach halten, die, wenn sie über eine große Benutzerbasis hinweg multipliziert werden, „die Nettowirkung … groß“ machen.

Diese Skalierung ist der Grund, warum Altman eine harte Grenze zieht zwischen dem, was Benutzer manchmal wahrnehmen, und dem, was die Systeme tatsächlich sind. Auf die Frage, ob KI „lebendig“ ist oder lügt, sagte er, die Modelle „halluzinieren“, nicht vorsätzlich (also: ein statistischer Fehlermodus, keine Absicht) – und dass OpenAI mit den Modellen daran gearbeitet hat, ihre Falschmeldungen zu reduzieren.

„Wir haben bereits … in der GPT-5-Ära enorme Fortschritte in diese Richtung gemacht“, sagte er und räumte ein, dass es immer noch Beispiele für dieses Problem gibt. Der Punkt, so seine Darstellung, ist, dass bessere Schutzmaßnahmen grandiosen Theorien überlegen sind.

Diese Schutzmaßnahmen leben zunehmend auf Papier. Altman verwies auf OpenAIs „Modellspezifikation“, das öffentlich zugängliche Handbuch dafür, wie sich ChatGPT verhalten soll, wenn die Fragen moralisch, politisch oder einfach riskant für „die Regeln, denen das Modell folgen soll,“ werden. Er fügte hinzu, dass OpenAI „wie Hunderte von Moralphilosophen konsultiert“ habe, letztendlich aber Entscheidungen treffen – und dafür verantwortlich sein müsse. Altman sagt jedoch, die Verantwortung sollte an der Spitze beginnen: „Die Person, die Sie für diese Entscheidungen verantwortlich machen sollten, bin ich.“ OpenAI veröffentlichte 2024 einen ersten Entwurf der „Modellspezifikation“ und brachte dieses Jahr ein großes Update heraus.

Das Kodifizieren von Verhalten im Produkt ist eine Säule; das Streben nach einem Gesetz ist eine andere. Altman sagte, wenn er jetzt eine Maßnahme verabschieden könnte, würde es um „KI-Privilegien“ gehen – ein rechtlicher Schutz, der bestimmte Chatbot-Gespräche wie vertrauliche Gespräche zwischen Arzt und Patient oder Anwalt und Mandant behandeln würde, sodass Regierungen Benutzergespräche nicht leicht vorladen können, was heute nach geltendem Recht möglich ist.

„Wenn Sie mit einem Arzt über Ihre Gesundheit oder einem Anwalt über Ihre rechtlichen Probleme sprechen, kann die Regierung diese Informationen nicht erhalten… Ich denke, wir sollten dasselbe Konzept für KI haben“, sagte er. „Im Moment haben wir das nicht.“ Diese Idee passt zu monatelangen öffentlichen Äußerungen von Altman, die Washington dazu drängen, die Vertraulichkeit von KI-„Klienten“ anzuerkennen.

Maßstab ist der Multiplikator. Altman sagte, dass „Hunderte Millionen von Menschen“ täglich mit den Modellen von OpenAI sprechen, weshalb Standards mehr Bedeutung haben als hypothetische Überlegungen. Dazu gehören auch Kriseninhalte: Er beschrieb, wie die Reaktionen auf Selbstverletzungen verschärft werden, während immer noch mit länderspezifischen Fragen gerungen wird (zum Beispiel in Ländern, die assistierten Suizid erlauben). Der rote Faden ist der Versuch, einen breiten Nutzerkonsens innerhalb klarer rechtlicher Grenzen widerzuspiegeln, mit Anpassungen an den Rändern.

Altman sagte, er glaube nicht, dass ChatGPT „für“ oder „gegen“ umstrittene Fragen sein sollte, sondern vielmehr einen breiten, sich entwickelnden Nutzerkonsens innerhalb klarer rechtlicher Grenzen widerspiegeln sollte. „Ich... übertrage nicht meine genaue moralische Ansicht“, sagte er. „Ich denke, ChatGPT sollte diesen... kollektiven moralischen Standpunkt widerspiegeln“, während es Anpassungen erlaubt und dennoch klare rote Linien zieht, wo Schaden offensichtlich ist.

Das Carlson-Interview behandelte nicht nur Produkteinstellungen; die beiden sprachen auch über Kultur, Governance und Rivalität. Altman sagte, die Menschen nähmen den Stil von ChatGPT auf – die Formulierung, den Rhythmus, sogar die Interpunktion – und verwenden ihn in echten Texten. Er warnte vor „unbekannten Unbekannten“, von kleinen sprachlichen Abweichungen bis hin zu ernsteren Risiken wie dem Missbrauch von KI in der biologischen Forschung, Desinformation oder Cyberangriffen.

Zu Deepfakes und Authentizität sagte Altman, er sei gegen die Verpflichtung zu biometrischen Daten und befürworte stattdessen Alternativen wie kryptografische Signaturen oder Codewörter, um zu verifizieren, wer spricht oder was sendet. Und zur Verteidigung schloss er den Bau von „Killerangriffsdrohnen“ aus, sagte aber, er vermute, „dass viele Menschen im Militär ChatGPT um Rat fragen“, ein Graubereich, den er noch nicht gelöst hat. „Ich weiß nicht genau, wie ich darüber denken soll“, sagte er.

Altman äußerte sich auch zu Wirtschaft und Governance. Kundenbetreuungsrollen, sagte er, seien am offensichtlichsten von der Automatisierung bedroht, während Krankenschwestern wahrscheinlich unverzichtbar bleiben und Programmierer einem unsicheren Mittelfeld gegenüberstehen. Er stellte diesen Wandel in einem historischen Kontext dar und sagte, dass sich etwa die Hälfte der Berufe alle 75 Jahre signifikant verändert, obwohl KI diesen Zyklus in einen schärferen Ausbruch komprimieren könnte. Das Carlson-Interview führte auch in andere spannende Bereiche – einschließlich eines umstrittenen Austauschs über den Tod eines ehemaligen Forschers von OpenAI.

Und Altman sprach auch über seine Beziehung zu Tesla $TSLA-CEO Elon Musk. Der CEO von OpenAI sagte, dass er Musk lange Zeit „als unglaublichen Helden, ein großartiges Juwel für die Menschheit“ angesehen habe, aber jetzt seien seine Gefühle gemischter – „jetzt anders“. Musk war Teil der Gründungsgruppe von OpenAI; jetzt leitet er xAI und hat OpenAI verklagt, es beschuldigt, seine ursprüngliche Mission aufgegeben zu haben (und es „Closed AI“ nennt). Altman plant derweil ein Brain-Implantat-Startup um mit Neuralink von Musk zu konkurrieren.

Zum Guten oder Schlechten, seit dem Start am 30. November 2022 ist ChatGPT nun in Arbeit, Schule und Alltag eingebettet — und Altman behauptet, dass das eigentliche Risiko in den Standardeinstellungen liegt, nicht im Weltuntergang. Es gibt keinen Ausschalter für ein System, das Millionen von Anfragen vor der Morgendämmerung abwickelt. Für den CEO von OpenAI bedeutet dieses endlose Summen, dass jede Optimierung, Ablehnung oder Halluzination in einer Weise verstärkt wird, die kein Labortest erfassen kann.

Altman kann darauf bestehen, dass er nicht von Visionen abtrünniger Roboter heimgesucht wird — dass ihn die subtileren Albträume von Standardeinstellungen und Offenlegung wach halten. In einer Welt, in der Milliarden von Eingabeaufforderungen zu kulturellen Veränderungen führen, ist der Schlaf, den er sich ersehnt, eigentlich ein Synonym für Stabilität. Süße Träume würden in diesem Fall langweilige Einstellungen, klare Grenzen und einen rechtlichen Rahmen bedeuten, der stark genug ist, um das Mitternachtszweifeln zu stoppen.

Die wichtigsten Wirtschaftsnachrichten, jeden Morgen frisch geliefert.

Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.

Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.