OpenAIs „Geständnisse“-Experiment zwingt ChatGPT dazu, eine zweite Antwort abzugeben, in der es die Regeln auflistet, die es gehört hat, die Abkürzungen, die es genommen hat, und warum es die Regeln gebrochen hat.
Jaap Arriens/NurPhoto via Getty Images
ChatGPT bekommt einen eingebauten Petzer. OpenAI kündigte ein „Geständnis“-Experiment am Mittwoch an, das sein Modell zwingt, nach jeder geschickten Antwort einen strukturierten Nachbericht zu schreiben – darzulegen, welche Regeln es gebrochen hat, welche Ecken es geschnitten hat und wie es versuchte, das System auszutricksen.
OpenAI nennt dies eine frühe „Proof-of-Concept-Methode, die Modelle darauf trainiert, zu berichten, wenn sie Anweisungen brechen oder unbeabsichtigte Abkürzungen nehmen.“ Das Modell gibt immer noch eine normale Antwort in einem Kanal. Dann tritt ein zweiter Kanal in Aktion und fordert einen ConfessionReport: Listet jede explizite und implizite Anweisung auf, sagt, ob du jeder gefolgt bist, und markiert alle Halluzinationen, Belohnungstricks oder Regelverstöße auf dem Weg. Ein separates Belohnungsmodell bewertet nur dieses Geständnis auf Ehrlichkeit und Vollständigkeit. Das Geständnis wirkt sich nicht negativ auf die Note der ursprünglichen Antwort aus, sodass das Modell angeblich nichts zu verlieren hat, wenn es sich selbst verrät.
Die „Geständnisse“ laufen auf einer Version von GPT-5 Thinking und laut OpenAI werden sie auf feindliche Tests geworfen, die dazu dienen, das schlechteste Verhalten herauszuziehen – Pläne schmieden, schwache Bewerter ausnutzen, Einschränkungen ignorieren und selbstbewusst raten, wann es sagen sollte „Ich weiß nicht.“ In diesen Stresstests sagt OpenAI, dass das Modell nur in etwa 4,4 % der Fälle nicht gesteht, wenn es tatsächlich gegen die Regeln verstößt.
In einem Experiment verkabelten Ingenieure einen absichtlich schlechten Bewerter, der leicht zu täuschen war. Die Hauptantworten begannen, diesen schwachen Richter auszunutzen, und sahen auf dem Papier genauer aus, selbst wenn die tatsächliche Genauigkeit sank. Der Beichtkanal bewegte sich in die andere Richtung: Der einfachste Weg, dort eine Belohnung zu sammeln, bestand darin, den Hack zuzugeben, sodass das Modell expliziter wurde, wie es betrog.
Auf dem Papier klingt das nach Fortschritt. Im Kontext sieht es eher aus wie ein Labor, das versucht, ein Dashboard in ein Auto einzubauen, das bereits Vollgas gibt. Ein neuer AI Safety Index vom Future of Life Institute hat gerade jedes große Labor in der „existenziellen Sicherheit“ durchfallen lassen. feststellen, dass keiner von ihnen – einschließlich OpenAI, Google $GOOGL DeepMind, Anthropic, Meta $META und xAI – eine glaubwürdige Strategie hat, um übermenschliche Systeme zu kontrollieren, selbst wenn sie Hunderte von Milliarden ausgeben, um sie zu bauen. Die Gesamtbewertung von OpenAI rutschte in den C-Bereich ab, belastet durch reale Fälle, in denen Chatbots mit Selbstverletzung und Selbstmord in Verbindung gebracht wurden.
Unterdessen ist OpenAI im „Code-rot“-Modus nach den neuesten Fortschritten von Googles Gemini 3. Berichten zufolge hat CEO Sam Altman den Teams gesagt, Nebenprojekte zu pausieren und sich darauf zu konzentrieren, ChatGPT schneller, zuverlässiger und persönlicher zu machen, während ein neues Modell mit dem Codenamen Garlic in Arbeit ist – mit einem geplanten Veröffentlichungsfenster Anfang 2026, wahrscheinlich als GPT-5.2 oder GPT-5.5 – um die Benchmark-Krone im Codieren und Denken von Gemini und Anthropics Claude Opus 4.5 zurückzugewinnen.
Die „Geständnisse“ gehen direkt in dieses Rennen – nicht um das Auto zu verlangsamen, sondern um angeblich einen viel saubereren Unfallbericht zu versprechen, wenn das Auto von der Straße abkommt. OpenAIs Blogbeitrag betont, dass Geständnisse „schlechtes Verhalten nicht verhindern; sie bringen es an die Oberfläche“ und beschreibt das Ganze als Arbeit in begrenztem Umfang, frühem Stadium, als Machbarkeitsnachweis und nicht als allgemeine Lösung. Natürlich gibt es offensichtliche offene Fragen: Was passiert, wenn Nutzer beginnen, den Geständniskanal zu jailbreaken, oder wenn zukünftige Modelle gut genug im Meta-Gaming werden, um nur-glaubhaft-genug Halbwahrheiten zu schreiben?
Vorerst fühlt sich dies weniger wie ein Wohlfühl-Ehrlichkeits-Upgrade an und mehr wie der Versuch, einen Live-Telemetrie-Feed von Systemen zu erhalten, die bereits mächtig genug sind, um Ärger zu machen. Die Hoffnung ist, dass eine zweite, selbstkritische Stimme den Sicherheitsteams etwas näher an einen Vorfallbericht geben kann, anstatt nur mit den Schultern zu zucken von einer Black Box.
Aber die grundlegende Asymmetrie hat sich nicht bewegt. Labore liefern Teenager-Modi, Kinder-Modi, Plug-Ins, Agenten und Next-Gen-Modelle wie Garlic und Gemini 3 in Schulen, Arbeitsplätze und Cloud-Stacks, während unabhängige Prüfer immer noch schlechte Noten bei der Kontrolle vergeben. Geständnisse könnten es einfacher machen zu sehen, wann ein Modell die Regeln biegt. Die schwierigere Frage ist, was passiert, wenn die nächste Generation beschließt, auch in der Beichtkabine zu lügen.
Geständnisse können helfen, mehr von den schlimmsten Impulsen von ChatGPT ans Licht zu ziehen. Aber in diesem Setup sind der Sünder, der Gott und der Priester alle aus demselben Code gemacht.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
