hoto by Fatemeh Bahrami/Anadolu via Getty Images
Präsident Donald Trump befahl am Freitagnachmittag jeder Bundesbehörde, die KI-Technologie von Anthropic nicht mehr zu verwenden. An diesem Abend bezeichnete das Pentagon das Unternehmen als Lieferkettenrisiko, eine Bezeichnung, die normalerweise chinesischen Firmen vorbehalten ist, die der Spionage verdächtigt werden, und eine, die bedeutet, dass es jedes Unternehmen, das Geschäfte mit dem Verteidigungsministerium macht, zwingen könnte, zu beweisen, dass es die Werkzeuge von Anthropic nicht verwendet.
Bereits am nächsten Tag schlugen die USA im Iran zu, während die Werkzeuge von Anthropic noch im Hauptquartier des Militärs im Nahen Osten, dem Central Command, liefen und für Ziel- und Nachrichtensysteme verwendet wurden. Trump hatte den Behörden sechs Monate Zeit gegeben, die Technologie auslaufen zu lassen, ein stillschweigendes Eingeständnis, dass man KI nicht über Nacht aus militärischen Operationen entfernen kann.
Der Bruch zwischen der Regierung und Anthropic dreht sich nominell um Leitplanken. Das Unternehmen erklärte, es weigere sich, seine Werkzeuge für autonome Waffen oder Massenüberwachung zu verwenden, und würde sich nicht bewegen, als Beamte pauschale Erlaubnis verlangten, die Technologie in jedem rechtmäßigen Szenario zu verwenden. Der Geschäftsführer von Anthropic, Dario Amodei, sagte, das Unternehmen könne dem nicht guten Gewissens zustimmen. Trump antwortete, indem er Anthropic als ein „radikal-linkes, wach auf“-Unternehmen bezeichnete, das niemals diktieren würde, wie das Militär kämpft.
Innerhalb weniger Stunden nach dem Verbot kündigte OpenAI einen neuen Deal an, um seine Modelle in geheimen Pentagon-Umgebungen einzusetzen. Der Geschäftsführer von OpenAI, Sam Altman, enthüllte ein bemerkenswertes Detail: Die Vereinbarung enthält dieselben Verbote gegen Massenüberwachung und autonome Waffen, die Anthropic angestrebt hatte. Das Pentagon, er schrieb auf X $TWTR, „stimmt mit diesen Prinzipien überein, spiegelt sie in Gesetz und Politik wider, und wir haben sie in unser Abkommen aufgenommen.“
Also scheinen das Unternehmen, das auf die schwarze Liste gesetzt wurde, und das Unternehmen, das belohnt wurde, funktional ähnliche Bedingungen gesichert zu haben. Der Unterschied ist höchstwahrscheinlich Politik oder genauer gesagt die Wahrnehmung von Gehorsam, die diese Regierung vom privaten Sektor zu verlangen scheint. Der Präsident von OpenAI gab 25 Millionen Dollar an ein pro-Trump Super-PAC im letzten Jahr. Anthropic stellte Beamte der Biden-Administration ein und setzte sich für KI-Regulierung ein.
Wie ein ehemaliger militärischer KI-Beamter aus Trumps erster Amtszeit es ausdrückte: Anthropic zahlt den Preis dafür, dass es sich nicht verbeugt hat.
Die politischen Manöver würden weniger bedeuten, wenn sie sich nicht gegen tatsächliche Kriegsführung abspielen würden. Das Wall Street Journal berichtete dass Claude, die KI von Anthropic, in die Iran-Operation am Samstag eingebettet war und für Geheimdienstbewertungen, Zielidentifikation und Kampfsimulationen verwendet wurde. Das Zentralkommando lehnte es ab, sich zu spezifischen Systemen zu äußern, die in laufende Operationen eingebunden sind.
Dann kam eine schwierigere Frage. Als ein Fehlzielvorfall angeblich mehr als 150 Schulkinder im Iran tötete, fragten externe Beobachter sofort ob die KI zu dem Fehler beigetragen haben könnte. Die ehrliche Antwort ist, dass niemand außerhalb des Pentagons es weiß und das Pentagon nichts sagt. Verteidigungsminister Pete Hegseth, der seine Amtszeit auf aggressive KI-Adoption gesetzt hat, hat wenig Anreiz, offen zu sein.
Zielungsfehler sind nicht neu, aber die Einführung von generativer KI in die Zielkette ist es schon. Dies ist eine Technologie, die noch Fakten halluziniert, Bilder falsch interpretiert, und über das Denken stolpert in unkritischen kommerziellen Umgebungen. Sie im Krieg einzusetzen, wo die Konsequenzen einer falschen Antwort in Körpern gemessen werden, stellt einen Sprung dar, den niemand, weder das Militär noch andere, rigoros getestet hat.
Die Verbraucherreaktion hat den Siegeszug kompliziert. Die Claude-App von Anthropic schoss an die Spitze des App Stores. Eine Graswurzel-Boykottkampagne forderte die Nutzer auf, ChatGPT aufgrund des Pentagon-Deals von OpenAI fallen zu lassen. Auf X, sah sich Altman einer Flut von gezielten Fragen gegenüber: Wenn OpenAIs Vertrag alle legalen Nutzungen erlaubt, wie kann er dann gleichzeitig Massenüberwachung und autonome Waffen verbieten, die kein explizites gesetzliches Verbot haben? Wenn OpenAI die gleichen roten Linien sicherte, die Anthropic wollte, warum konnte das Pentagon diese Bedingungen dann nicht von Anthropic akzeptieren? Die Widersprüche sind über die Diskussion hinaus von Bedeutung.
Diese Unternehmen stehen in einem erbitterten Wettbewerb um zahlende Nutzer, Unternehmenskunden und Ingenieurtalente. Keines von beiden ist profitabel. Beide verbrennen Milliarden und haben in den letzten Wochen weitere zig Milliarden aufgebracht, um im Rennen zu bleiben. Die Pentagon-Verträge sind jeweils etwa 200 Millionen Dollar wert, was nicht der größte Scheck ist, den eines der beiden Unternehmen dieses Jahr einlösen wird, aber plötzlich die größte Bedrohung für beide Geschäfte darstellt.
Für Anthropic reicht eine Risikobewertung der Lieferkette weit über das Pentagon hinaus. Jedes Unternehmen, das Geschäfte mit der Bundesregierung macht, und dazu gehören auch Anthropics größte Unterstützer Amazon $AMZN und Google $GOOGL, muss möglicherweise nachweisen, dass sie Claude nicht verwenden. Das ist eine Frage, die sich durch Unternehmensverkäufe, Cloud-Partnerschaften und Investitionsentscheidungen weit über die Verteidigung hinaus auswirken könnte.
Für OpenAI bedeutet die Kalkulation einer Vereinbarung über die Verwendung von Geheimdiensten etwas anderes als ein Posten in einer Vertragsverhandlung. Es ist etwas anderes, wenn Bomben aktiv fallen und es keine klaren Antworten auf Fragen zu Sicherheitsvorkehrungen, Zielungsfehlern und toten Kindern gibt. Die Wahrnehmung, dass Ihr Chatbot hilft, Bombenziele auszuwählen, ist kein Markenproblem, das ein paar Antworten in sozialen Medien lösen können.