Anthropic sagte, die Anweisung der Bundesregierung habe keine Erklärung für die zugrunde liegende nationale Sicherheitsbegründung geliefert.
(Photo bIllustration by Nikolas Kokovlis/NurPhoto via Getty Images)
Anthropic kündigte am späten Freitag an, dass es den Zugang zu seinen Fable 5- und Mythos 5-KI-Modellen deaktiviert für alle Kunden, nachdem die US-Regierung eine Exportkontrollrichtlinie erlassen hatte, die ihre Nutzung durch ausländische Staatsangehörige, ob innerhalb oder außerhalb der Vereinigten Staaten, verbietet.
Anthropic sagte, es habe die Richtlinie am Freitagabend erhalten. Der Claude-Hersteller sagte, er habe sich entschieden, den Zugang vollständig zu sperren, da eine selektive Einhaltung eine Sperrung eines großen Teils der Benutzer erfordert hätte – darunter auch ausländische Mitarbeiter von Anthropic selbst. Der Zugang zu allen anderen Anthropic-Modellen wird nicht betroffen sein, sagte das Unternehmen.
Handelsminister Howard Lutnick sandte Anthropic-CEO Dario Amodei einen Brief, in dem die Einschränkungen dargelegt wurden, laut The Wall Street Journal. Anthropicsagte, der Brief habe keine Erklärung für die zugrunde liegende nationale Sicherheitsbegründung gegeben.
Das Unternehmen sagte, es glaube, dass die Richtlinie auf einem engen, nicht universellen Jailbreak beruhe – im Wesentlichen eine Technik, bei der das Modell aufgefordert wird, einen bestimmten Code zu lesen und Softwarefehler zu identifizieren. Anthropic sagte, es habe das, was es für den Bericht hält, der der Regierungsmaßnahme zugrunde liegt, überprüft und kam zu dem Schluss, dass das nachgewiesene Fähigkeitsniveau auch in anderen öffentlich eingesetzten Modellen erhältlich ist, einschließlich OpenAI's GPT-5.5, und routinemäßig von Cybersicherheitsverteidigern verwendet wird.
"Wir sind nicht der Meinung, dass das Finden eines engen potenziellen Jailbreaks ein Grund sein sollte, ein kommerzielles Modell zurückzurufen, das an Hunderte Millionen von Menschen ausgeliefert wurde", sagte Anthropic in einer Erklärung. "Wenn dieser Standard in der gesamten Branche angewendet würde, glauben wir, dass er im Wesentlichen alle neuen Modellauslieferungen für alle Anbieter von Spitzenmodellen stoppen würde."
Anthropic sagte, es beabsichtigt, innerhalb von 24 Stunden weitere Details zu teilen und arbeitet daran, den Zugang wiederherzustellen.
Nur wenige Tage vor der Abschaltung hatte Anthropic Fable 5 und Mythos 5 eingeführt für die Öffentlichkeit — ein Meilenstein für das Unternehmen, da Fable 5 seine erste allgemeine Veröffentlichung eines Modells in der Mythos-Klasse darstellte. Auf der gleichen grundlegenden Architektur aufgebaut, unterscheiden sich die beiden hauptsächlich in ihren Ausgabekontrollen: Fable 5 enthält Klassifikatoren, die darauf ausgelegt sind, Antworten in Hochrisikobereichen wie der Cybersicherheit zu blockieren, während Mythos 5, das einem separat überprüften Satz von Organisationen zur Verfügung steht, mit einigen dieser Einschränkungen entfernt arbeitet. Vor dem Start sagte Anthropic, es habe die Modelle Tausenden von Stunden des Red-Teaming durch die US-Regierung, das britische AI Security Institute und Drittorganisationen unterzogen, von denen keine einen universellen Jailbreak fand.
Die Abschaltung fügt Anthropics Geschäft in einem heiklen Moment eine Unterbrechung hinzu. Das Unternehmen reichte einen vertraulichen IPO-Prospekt bei der Securities and Exchange Commission ein früher in diesem Monat ein und gab eine Umsatzrendite von 47 Milliarden US-Dollar und eine Bewertung von 965 Milliarden US-Dollar nach einer kürzlichen Finanzierungsrunde bekannt.
Diese Episode ist nicht das erste Mal, dass Anthropic mit Washington in Konflikt gerät. Anfang dieses Jahres erklärte das Verteidigungsministerium das Unternehmen zu einem Risiko in der Lieferkette - eine Bezeichnung, die historisch gesehen auf ausländische Gegner angewendet wurde - nachdem Gespräche zwischen den beiden Seiten zusammengebrochen waren. Die Bezeichnung verpflichtet Verteidigungsvertragspartner, zu zertifizieren, dass sie Claude nicht in militärischer Arbeit verwenden. Eine von Anthropic eingereichte Klage zur Anfechtung der Bezeichnung ist weiterhin aktiv.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
