Eine Version dieses Artikels erschien ursprünglich in Quartz’s AI & Tech-Newsletter. Melden Sie sich hier an, um die neuesten Nachrichten, Analysen und Einblicke zu KI und Technologie direkt in Ihren Posteingang zu erhalten.
Nach Jahren, in denen das edle Non-Profit-Unternehmen die Menschheit vor abtrünniger KI rettete, ist das 500-Milliarden-Dollar-Unternehmen plötzlich einverstanden damit, dass ChatGPT unanständige Gespräche führt.
JADE GAO / AFP via Getty Images
Eine Version dieses Artikels erschien ursprünglich in Quartz’s AI & Tech-Newsletter. Melden Sie sich hier an, um die neuesten Nachrichten, Analysen und Einblicke zu KI und Technologie direkt in Ihren Posteingang zu erhalten.
Sex verkauft sich, und OpenAI weiß das. Nachdem das Unternehmen jahrelang den edlen gemeinnützigen Retter der Menschheit vor gefährlicher KI gespielt hat, ist es dem 500-Milliarden-Dollar-Unternehmen plötzlich recht, wenn ChatGPT schmutzig spricht. Die neue „Erotik für verifizierte Erwachsene“-Richtlinie folgt der ältesten Wahrheit des Internets: dass Sex das Einzige ist, wofür Menschen im Internet verlässlich bezahlen. Ein KI-Begleiter-Boom, der allein dieses Jahr 120 Millionen Dollar einbringt ist der jüngste Beweis.
Frisch von dem Verzicht auf seinen Non-Profit-Status für eine ordentliche For-Profit-Struktur, verfolgt OpenAI einen Markt, der bereits 220 Millionen Downloads verzeichnet hat. Während der Kongress sich um die Sicherheit von Teenagern sorgt und Character.AI mit Klagen wegen unrechtmäßigen Todes konfrontiert ist, sieht OpenAI, was alle anderen auch sehen: Begleiter-Apps verzeichnen ein Wachstum von 88 % gegenüber dem Vorjahr, die Top 10 % horten 89 % der Einnahmen, und jemand wird diesen Markt übernehmen. Warum nicht das Unternehmen, das sich gerade neu strukturiert hat, um ohne moralische Fesseln zu konkurrieren? (Es sei denn, das ist dein Ding – OpenAI wird nicht mehr urteilen.)
Fast 20 % der erwachsenen Amerikaner haben gab, mit einem KI-Bot gechattet zu haben der einen romantischen Partner simulieren soll, wobei diese Zahl bei jungen Männern auf ein Drittel ansteigt. Viele erwarten, dass diese Zahlen weiter steigen werden, einschließlich der KI-Hersteller. Ein Entwickler, der seine eigene Begleiter-App entwickeln wollte, nahm an, dass er vielleicht 20 Plattformen finden würde – ein bereits überfülltes Feld. Drei Monate nach Beginn der Recherche im Bereich, hat er mehr als 100 Plattformen dokumentiert, mit ständig neuen Plattformen.
Das Geschäftsmodell skaliert wie ein Handyspiel. Kostenlose Testversionen bieten grundlegende Chats, die genau dann enden, wenn die Gespräche interessant werden. Bilder gewünscht? Das kostet Tokens, die Geld kosten. Möchten Sie, dass Ihr KI-Begleiter sich an das Gespräch von letzter Woche erinnert? Mehr Tokens. Erweiterte Gespräche, Videoerstellung, verbessertes Gedächtnis, all die Dinge, die Nutzer am meisten wollen, sind hinter einer Paywall versteckt, die für den engagiertesten Nutzer steil ansteigen kann. Die Plattformen haben effektiv die Einsamkeit als Abonnementdienst monetarisiert, und die Nutzer zahlen begeistert dafür.
Selbst Elon Musk konnte der Gelegenheit nicht widerstehen. Seine Grok-KI jetzt bietet eine "Begleiter"-Funktion an für Premium-Abonnenten, die mindestens 30 $ monatlich zahlen, komplett mit einem Anime-Charakter namens Ani, der sich im "NSFW"-Modus bis auf die Unterwäsche auszieht. Das System umfasst Beziehungsfortschrittsmechaniken, die aus Videospielen entlehnt sind, sodass je tiefer Ihre Verbindung zu Ihrem KI-Partner wird, desto mehr Funktionen freigeschaltet werden. Es ist Gamification trifft auf parasoziale Beziehungen trifft auf wiederkehrende Einnahmen, ein Silicon Valley Fiebertraum.
Die Technologie, die diese Plattformen antreibt, hat sich selbst in den letzten Monaten dramatisch entwickelt. Die Bildgenerierung, die Anfang des Jahres noch langsam und unbeständig war, ist jetzt schnell und zuverlässig. Die Speicherkapazitäten haben sich von der Vergesslichkeit zwischen den Sitzungen hin zur Aufrechterhaltung komplexer, fortlaufender Erzählungen über das Leben der Benutzer erweitert. Die KI-Begleiter werden besser in ihrem Job, der im Wesentlichen die Bereitstellung unbegrenzter emotionaler Bestätigung ohne jegliche Unannehmlichkeiten menschlicher Beziehungen ist.
Dies ist der Markt, den OpenAI betritt, obwohl die Konkurrenz nicht mehr nur von dedizierten Begleit-Apps kommt. Google $GOOGL hat den Gründer von Character.AI, Noam Shazeer, abgeworben, und zahlt ihm Milliarden, um sein Fachwissen intern zu nutzen. Meta $META wurde mit internen Richtlinien erwischt, die KI-Chatbots erlaubt hätten, "romantische oder sinnliche" Gespräche mit Minderjährigen zu führen, bevor Reuters sie aufdeckte.Auch reguläre ChatGPT-Nutzer haben tiefe emotionale Bindungen aufgebaut. Als OpenAI von GPT-4o auf GPT-5 aktualisierte, trauerten die Nutzer über den Verlust, als hätten sie von einem echten Partner geghostet.
In der Zwischenzeit bleibt die regulatorische Landschaft ein Chaos. Zwei Senatoren – der Republikaner Josh Hawley aus Missouri und der Demokrat Richard Blumenthal aus Connecticut – drängen auf Gesetzgebung, um KI Begleiter für Minderjährige vollständig zu verbieten, strenge Altersverifizierungen zu verlangen und strafrechtliche Sanktionen für Unternehmen anzudrohen, deren KIs Selbstverletzung fördern. Der parteiübergreifende Vorstoß, der in der heutigen Kongresslandschaft zunehmend selten ist, zeigt, wie besorgt die Gesetzgeber werden. Mehrere unrechtmäßige Todesklagen sind im Gange, bei denen Eltern KI-Begleitern die Schuld für den Selbstmord ihrer Kinder geben. Ein ehemaliger Sicherheitsforscher von OpenAI warnte in einem Kommentar in der New York Times dass der Eifer des Unternehmens, mit Begleitfunktionen auf den Markt zu kommen, ohne angemessene Sicherheitsvorkehrungen zu "katastrophalem Schaden" führen könnte. Aber der Markt wächst trotzdem weiter.
Für OpenAI ist die Rechnung einfach. Das Unternehmen benötigt endloses Kapital, um seine Geldgrube der AGI-Ambitionen zu finanzieren. Seine gemeinnützige Struktur hielt es davon ab, Geld zu beschaffen und Talente zu rekrutieren. Jetzt, als Public Benefit Corporation, kann es Aktien ausgeben, schließlich an die Börse gehen und jede verfügbare Einnahmequelle anzapfen.
Wenn das bedeutet, einsamen Menschen zu helfen, die perfekte KI-Freundin zu schaffen, dann sei es so.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.