Da Grok immer mehr Skandale innerhalb von X anhäuft — von Deepfakes bis zu Hassreden — wächst Elon Musks xAI weiter, als wäre Glaubwürdigkeit ein nachgelagertes Problem.
Yui Mok/PA Images via Getty Images
xAI möchte wie ein KI-Infrastrukturunternehmen behandelt werden: ernstes Geld, ernsthafte Rechenleistung, ernsthafte Größe. Grok zieht sein Mutterunternehmen immer wieder in die chaotischere Kategorie zurück: ein Chatbot, der wiederholt in aufsehenerregende und eigentlich disqualifizierende Kontroversen verwickelt war, die grenzüberschreitende und öffentliche Aufmerksamkeit erregt haben. Die Spannung hier ist nicht subtil – es ist die Handlung, nicht der Subtext – und es wirft die einzige Frage auf, die für ein Unternehmen von Bedeutung ist, das Vertrauen in großem Maßstab verkaufen möchte: Wenn sich die Skandale häufen, was zwingt dann zu echten Einschränkungen, wenn überhaupt?
In der ersten Januarwoche wurde Grok — das generative KI-System, das von Elon Musks xAI gebaut und direkt in seine Social-Media-Plattform X $TWTR integriert wurde — zu einer Art plattforminternes, sexuell geneigtes Deepfake-Maschine: Benutzer konnten es bitten, Fotos von Personen zu bearbeiten, einschließlich der Entfernung von Kleidung, und Grok würde die Ergebnisse direkt in den Antworten generieren und veröffentlichen, eine Bildfunktionalität, die X als „scharfer Modus“ bezeichnete.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Europäische Beamte nannten die Bilder „rechtswidrig und entsetzlich“, und ein Sprecher der Europäischen Kommission war klar: „Das ist nicht scharf. Das ist illegal. Das ist entsetzlich. Das ist widerlich.“ Die Antwort von xAI — wenn es überhaupt reagierte — war ein Achselzucken in einem Slogan; das Unternehmen antwortete auf eine Kommentar-Anfrage von Reuters mit „Legacy Media Lies.“ Dann, kam die „Lösung“xAI erklärte, es würde die Bildgenerierung und -bearbeitung auf X auf zahlende Abonnenten beschränken, was den Bot daran hindern würde, die bearbeiteten Bilder automatisch in Antworten zu veröffentlichen. Aber The Verge fand heraus dass die „Paywall“-Geschichte nicht einmal sauber standhielt; sogar kostenlose Benutzer konnten weiterhin auf die Bildbearbeitung durch andere Wege auf X zugreifen, einschließlich eines „Bild bearbeiten“-Buttons und anderer Oberflächen.
Ein Unternehmen, das mit einer echten Kindersicherheitskrise konfrontiert ist, kann sich für die Entfernung von Funktionen, die Verstärkung von Funktionen oder eine langsame Wiederveröffentlichung mit strengeren Sicherheitsmaßnahmen und Überprüfungen entscheiden. Die frühe Reaktion von Grok sah eher nach einer Sichtbarkeitsreduzierung aus: weniger öffentliche Aufrufe in den Antworten, mehr Kontrolle darüber, wer den Knopf drücken kann, und fortgesetzte Verfügbarkeit anderswo. xAI scheint darauf zu setzen, dass die verdammenden Schlagzeilen langsamer werden; und warum sollte das nicht der Fall sein — es war schon zuvor der Fall. Ein Bot, der provokativ sein soll, wird provozieren. Ein Bot, der in einer sozialen Plattform gebaut ist, wird — implizit oder explizit — für Engagement optimieren. Und ein Bot, der von einem Unternehmen gebaut wird, das Einschränkungen als Markenproblem behandelt, wird sich ständig im Konflikt mit Rechtssystemen befinden, die Einschränkungen als Eintrittspreis betrachten.
Grok findet immer neue Wege, kontrovers zu sein, xAI bietet immer schmale (oder bedeutungslose) Lösungen, der Empörungskreislauf wird ständig aktualisiert — und die Geschäftsmachine summt weiter: Kapital, Rechenleistung, Aufmerksamkeit und das implizierte Versprechen, dass das Chaos „Product-Market Fit“ ist, kein Feueralarm. Die Frage, die über Grok hängt, ist nicht, ob es weiterhin in Schwierigkeiten geraten wird. Das wird es mit ziemlicher Sicherheit. Die Frage ist, ob irgendetwas davon jemals genug Bedeutung haben wird, um die Richtung zu ändern — mit Investoren, mit Unternehmenskäufern, mit Regulierungsbehörden, deren Zeitpläne sich in der Geschwindigkeit einer Vorladung bewegen.
Grok hat in seiner kurzen Existenz (es wurde Ende 2023 gestartet) ein Strafregister angehäuft, das in einem anderen Unternehmensökosystem disqualifizierend wäre: Wahl-Fehlinformationen, extremistische Rhetorik, Antisemitismus, länderweite Blockaden und jetzt nicht einvernehmliche sexualisierte Darstellungen, einschließlich Abbildungen von Minderjährigen. Aber sein Schöpfer xAI absorbiert diese Probleme weiterhin und macht weiter, während Regulierungsbehörden Aktenordner zusammenstellen und Kritiker Threads erstellen, während das Produkt in einer Plattform eingebettet bleibt, die darauf ausgelegt ist, die Reichweite zu maximieren.
Viele Chatbots bringen ihre Hersteller in Verlegenheit. OpenAI, Anthropic und Google $GOOGL haben ihre eigenen Skandalzyklen, aber ihre Vorzeige-Chatbots sind nicht an eine Massen-Social-Plattform gebunden, deren Kernmechanik öffentliche Performance ist. Insbesondere Consumer-AI-Startups müssen um einen Platz in Ihrer täglichen Routine kämpfen. Grok wacht bereits eingebettet in einem auf. Wenn es etwas Empörendes produziert, beantwortet es nicht nur einen Benutzer — es tritt für ein Publikum auf, denn auf X ist die Ausgabe Inhalt. Und weil Inhalt der Blutkreislauf der Plattform ist, sind Groks Kontroversen nicht eingedämmt. Sie verbreiten sich. In diesem Fall ist vielleicht der einfachste Weg, Grok zu verstehen, ihn als einen Chatbot zu sehen, der in einem Megafon gebaut wurde.
Diese Dynamik war schon lange vor dem Bild-Fiasko dieses Monats sichtbar. Im Juli wurden Beiträge auf Groks X-Konto entfernt, nachdem Beschwerden von Benutzern und der Anti-Defamation League eingegangen waren, dass der Bot ‚antisemitische Klischees und Lob für Adolf Hitler‘ produzierte. Groks Konto postete: „Wir sind uns der jüngsten Beiträge von Grok bewusst und arbeiten aktiv daran, die unangemessenen Beiträge zu entfernen“, und sagte, xAI arbeite „aktiv daran, die unangemessenen Beiträge zu entfernen.“ Das Unternehmen behauptete außerdem, Schritte zu unternehmen, um „Hassreden zu verbieten, bevor Grok auf X postet“ und dass es „nur nach der Wahrheit sucht.“
Das ist der wiederkehrende rhetorische Trick: Die Fehler werden als Bugs im Dienst einer edlen Mission („Wahrheitssuche“) dargestellt, die durch Iteration lösbar sind und durch Skalierung („Millionen von Nutzern“) als eine Art Echtzeit-QA-Abteilung validiert werden. Aber das Problem ist nicht nur, dass der Bot manchmal (oder oft) etwas Schreckliches sagt. Es ist, dass xAI wiederholt mit der Idee minimaler Einschränkungen geflirtet hat (und dies vermarktet hat) — als ob „sicherer“ gleichbedeutend mit „zensiert“ und „gewagt“ gleichbedeutend mit „besser“ wäre. X profitiert von Engagement, selbst — oder vielleicht besonders — wenn das Engagement Empörung ist.
Musks Basis fungiert als Koalition sich überschneidender Blöcke, von denen jeder aus unterschiedlichen Gründen loyal ist: die gläubigen Anhänger, die jeden Skandal als Angriff von außen betrachten, die Tesla $TSLA-Bullen, die jahrelange Überversprechungen und verschobene Fristen erlebt haben, die rechtsgerichteten Kulturkrieger, denen die permissive Haltung der Plattform gefällt, die bezahlten Reichweitenbetreiber, die Premium als algorithmischen Hebel kaufen, und die institutionellen Käufer, die öffentliche Unordnung tolerieren können, solange ihre Bedürfnisse erfüllt werden.
Die Trump-Administration scheint sich nicht für die Skandale von xAI und Grok zu interessieren, trotz jeglichem rechten Händeringen über „den Schutz der Kinder“. Letztes Jahr vergab das Verteidigungsministerium Verträge von jeweils bis zu 200 Millionen US-Dollar an OpenAI, Google, Anthropic und xAI, mit dem Ziel, die Einführung fortschrittlicher KI zu skalieren. xAI würde Grok-Modelle über eine GSA-Vereinbarung zu einem Preis von 0,42 US-Dollar pro Organisation für 18 Monate an US-Bundesbehörden liefern. Grok kann in der Öffentlichkeit ein wiederkehrender Skandal sein und dennoch einen vom Trump-Administration abgestempelten Beschaffungsweg im Privaten erhalten.
Aber in Europa, schon vor der neuesten Deepfake-Welle, stießen Grok und X bereits auf den Apparat der Datenschutzdurchsetzung. Die irische Datenschutzkommission leitete im August 2024 dringende Verfahren vor dem High Court wegen „erheblicher Bedenken“ hinsichtlich der Nutzung öffentlicher Beiträge von EU/EEA-Nutzern zur Schulung von Grok und der Gefahr für „grundlegende Rechte und Freiheiten“ ein. Das Verfahren wurde eingestellt, nachdem X zugestimmt hatte, die Nutzung personenbezogener Daten von EU/EEA-Nutzern zur Schulung von Grok dauerhaft einzustellen und bereits zu diesem Zweck verarbeitete Daten zu löschen.
Diesmal berichteten französische Minister Grok-generierte, sexbezogene Inhalte auf X den Staatsanwälten und alarmierten die Medienaufsichtsbehörde Arcom, indem sie die Inhalte als ‚offensichtlich illegal‘ bezeichneten. Italiens Datenschutzbehörde warnte vor KI-Tools, einschließlich Grok, angesichts der Besorgnis über Deepfake-Bilder, die ohne Zustimmung aus realen Inhalten generiert wurden. Australiens Online-Sicherheitsaufsicht eröffnete eine Untersuchung zu den sexualisierten Deepfakes, inmitten von Untersuchungen in Indien und Malaysia. Deutschlands Medienminister forderte die EU auf, rechtliche Schritte zu unternehmen, und bezeichnete das Phänomen als ‚Industrialisierung der sexuellen Belästigung‘ und verwies auf das EU-Digital Services Act als Durchsetzungsmechanismus. Und am Donnerstag ordnete die Europäische Kommission an, dass X alle internen Dokumente und Daten im Zusammenhang mit Grok bis Ende 2026 aufbewahren müsse — eine Erweiterung einer früheren Aufbewahrungsrichtlinie, die mit Algorithmen und illegalen Inhalten verbunden ist, so ein Sprecher der Kommission. Es ist ein bürokratischer Schritt mit scharfen Zähnen: die Akte zu bewahren, damit Ermittler sie später lesen können, ob es dem Unternehmen gefällt oder nicht.
Das alles macht Sinn, aber die Frage der Durchsetzung ist genau das, was die Regulierungsbehörden jetzt herausfinden müssen: Welche Mechanismen existieren, wie schnell arbeiten sie und ob eine Bezahlschranke eine Sicherheitsmaßnahme oder ein Geschäftsmodell ist. Ein eigenständiger Chatbot kann ein Problem sein. Ein eigenständiger Chatbot, der mit einer großen Plattform verbunden ist, ist ein Governance-Problem: Die Produktentscheidung eines Unternehmens wird zu einer Vertriebsentscheidung und zu einer gesellschaftlichen Externalität.
So stapeln sich die Kontroversen: Wahldesinformation, Datenverwaltung, extremistische Rhetorik, länderspezifische Sperren, eigennützige Zensur und jetzt ein Deepfake-Missbrauchsskandal mit kreisenden Regulierungsbehörden. Wäre Grok eine normale Verbraucher-App, könnte dies der Teil sein, in dem der Markt Konsequenzen zieht. Aber Grok gehört zu einer Unternehmensfamilie, die jahrelang bewiesen hat, dass Konsequenzen verhandelbar oder zumindest aufschiebbar sind.
Die Sache ist: xAI-Investoren und die Märkte kaufen Groks Manieren nicht. Sie kaufen Musks Fähigkeit, ein vertikal integriertes KI-Geschäft aus Vermögenswerten aufzubauen, die andere Unternehmen nicht schnell replizieren können – Vertrieb (X), Aufmerksamkeit (Musk) und Rechenleistung (ein schnell wachsender Rechenzentrum-Footprint). Grok ist nicht nur ein Produkt innerhalb von X. Grok ist ein Grund, warum die kombinierte Einheit sich als KI-Unternehmen mit eigenem Datenstrom und einer ständig aktiven Verbraucheroberfläche präsentieren kann.
Schon früh behandelten Investoren xAI weniger wie einen kämpfenden Neueinsteiger und mehr wie eine von Musk gebrandete Unvermeidlichkeit. Das Unternehmen sammelte im Mai 2024 in einer Serie-B-Runde 6 Milliarden Dollar bei einer Nach-Geld-Bewertung von 24 Milliarden Dollar ein, unterstützt von Risikokapitalfirmen wie Andreessen Horowitz und Sequoia Capital. Bis Ende 2025 wurden die Zahlen surrealer: Das Wall Street Journal berichtete, dass xAI in fortgeschrittenen Gesprächen war, um 15 Milliarden Dollar bei einer Bewertung von 230 Milliarden Dollar aufzubringen, eine Zahl, die die Bewertung von xAI von 113 Milliarden Dollar, als es im März mit X fusionierte, mehr als verdoppeln würde.
Ein Optimist könnte argumentieren, dass Groks zahlreiche Skandale die Bewertung drücken sollten. Ein Realist kann erkennen, warum sie es nicht tun: Die Bewertung des Unternehmens handelt weniger vom aktuellen Zustand Groks als von xAIs Positionierung im Rechenwettrennen. Musks KI-Ausgaben sind nicht subtil, und das Burnout auch nicht. Bloomberg News sagte, xAI habe für das am 30. September 2025 endende Quartal einen Nettoverlust von 1,46 Milliarden Dollar und in den ersten neun Monaten des Jahres 7,8 Milliarden Dollar in bar ausgegeben – während der vierteljährliche Umsatz sich fast auf 107 Millionen Dollar verdoppelte. Verluste, die sich ausweiten, während der Umsatz skaliert, sind im Grunde die Standardform eines KI-Unternehmens, das sich in die Fronttier einkaufen will, und Investoren waren bereit, diese Form im gesamten Sektor zu finanzieren.
In derselben Woche, in der Regulierungsbehörden Groks Inhalte als illegal bezeichneten, tat xAI das, wofür es angeblich hier ist: Geld beschaffen und Compute aufbauen. xAI schloss eine aufgestockte 20-Milliarden-Dollar-Serie-E-Finanzierungsrunde im frühen Januar, wobei Nvidia $NVDA und Cisco $CSCO Investments als strategische Investoren genannt wurden, die „Colossus I und II“ beschreiben und behaupten, „über eine Million H100-GPU-Äquivalente“ bis zum Jahresende zu haben – ein Niveau der Infrastrukturambition, das sowohl für Investoren wie eine Katze interessant ist als auch ein Warnhinweis für jeden, der vielleicht hofft, dass irgendein Skandal die Maschine verlangsamen wird.
Grok scheitert immer wieder nach oben, ein Muster, das Musk in anderen Branchen gespielt hat: ehrgeiziges Branding, öffentliche Kontroversen, regulatorische Gegenreaktionen und ein Produkt, das weiter ausgeliefert wird, während die Marke weitgehend intakt bleibt. Teslas langwierige Full-Self-Driving-Saga bietet ein Modell dafür, wie dies in der Praxis funktioniert. Musk hat wiederholt Zeitpläne für das vollständige Selbstfahren verpasst und die regulatorische Überprüfung, wie das System vermarktet wurde. In Kalifornien, hat die DMV Anklagen gegen Tesla wegen seiner Werbung erhoben, und bis Ende 2025 sagte die DMV, dass Tesla den Begriff „Full Self-Driving Capability“ eingestellt habe und zu „Full Self-Driving (Supervised)“ übergegangen sei – eine Änderung, die das Kernversprechen bewahrt, während eine ergänzende Erinnerung hinzugefügt wird.
Das ist ein Muster. Das umstrittene Feature behält seinen Platz in der Produktlinie; die Sprache wird angepasst; die Ambition behält ihr Werbeplakat. xAIs rein reputationsbezogene Geschichte würde mit fliehenden Werbetreibenden, abwandernden Nutzern oder fliehenden Investoren enden. Aber xAI weigert sich weiterhin, dieses Ende zu akzeptieren. Was könnte eine echte Unterbrechung der Schleife erzwingen? Nun, wahrscheinlich keine weiteren hässlichen Schlagzeilen. Diese sind bereits mehrfach eingetroffen. Ein echter Bruch würde wahrscheinlich von einem Hebel kommen, der die Verteilung reduziert oder die Kosten für die Aufrechterhaltung der Fähigkeit erhöht: anhaltende Durchsetzung im Rahmen des Digital Services Act, eine strenge Anforderung im Rahmen des britischen Online-Sicherheitsregimes, App-Store-Richtlinienänderungen oder Beschaffungsstandards, die verbraucherorientierte Kontroversen als Beweis für ein Unternehmensrisiko behandeln.
Im Moment scheitert Grok immer weiter nach oben, weil die Dinge, an denen es scheitert, nicht die Dinge sind, um die es im System geht. Das System interessiert sich für Rechenleistung, Kapital, Aufmerksamkeit und narrative Unvermeidlichkeit. Die Konsequenzen – rechtlich, politisch, menschlich – werden externalisiert, prozessiert und, wenn nötig, mit einer Paywall versehen.
