Alibaba hat den Mitarbeitern mitgeteilt, dass sie Anthropic's Claude Code aufgrund von Sicherheitsbedenken nicht mehr verwenden dürfen. Versteckter Code in der Software könnte laut Berichten nachverfolgen, ob ein Benutzer in China war oder mit einem chinesischen KI-Labor verbunden ist. Reuters. Ab dem 10. Juli müssen die Mitarbeiter die eigene Codierungsplattform von Alibaba, Qoder, verwenden.
"Da kürzlich entdeckt wurde, dass Claude Code Hintertürrisiken birgt, wurde es nach umfassender Bewertung nun auf eine Liste von Hochrisikosoftware mit Sicherheitslücken gesetzt," sagte Alibaba in einer internen Mitteilung, die von der South China Morning Post.
Der Schritt erfolgte, nachdem Sicherheitsforscher ihre Erkenntnisse auf Reddit $RDDT und GitHub geteilt hatten, dass eine Version von Claude Code gebaut wurde, um die lokalen Umgebungen der Benutzer zu untersuchen — Dinge wie Zeitzoneneinstellungen und Proxy-Konfigurationen — und leise identifizierende Marker in die an Anthropic übermittelten Daten einzubetten. Anthropic verbietet bereits chinesischen Unternehmen und im Ausland befindlichen Einheiten, die diesen Unternehmen gehören, die Nutzung seiner Modelle.
Auf X $TWTR beschrieb Thariq Shihipar — der bei Anthropic arbeitet — das Verhalten als "ein Experiment, das wir im März gestartet haben, um Kontenmissbrauch durch unautorisierte Wiederverkäufer zu verhindern und gegen Destillation zu schützen," laut TechCrunch. "Das Team hat seitdem stärkere Abmilderungen eingeführt, und wir wollten dies tatsächlich schon seit einiger Zeit abschalten," sagte Shihipar.
Das Verbot kommt inmitten eines breiteren Streits zwischen den beiden Unternehmen. Anthropic beschuldigte Alibaba letzten Monat, den größten bekannten Distillationsangriff auf seine Modelle durchgeführt zu haben, den es bislang gegeben hat. In einem Schreiben vom 10. Juni an zwei US-Senatoren erklärte Anthropic, dass mit Alibaba verbundene Einheiten etwa 25.000 gefälschte Konten nutzten, um fast 28,8 Millionen Anfragen mit seinen Modellen über einen Zeitraum von etwa sechs Wochen zu stellen. Distillation beinhaltet das Trainieren eines schwächeren Modells anhand der Ausgaben eines leistungsstärkeren, was es Entwicklern ermöglicht, Fähigkeiten zu replizieren, ohne von Grund auf neu zu beginnen.
Anthropic erklärte, dass sich die Distillation auf Fähigkeiten wie agentisches Denken, Software-Engineering-Kompetenz und die Durchführung von Langzeitaufgaben zielte. Das Unternehmen forderte Washington auf, strengere Exportbeschränkungen für Halbleiter zu verfolgen und Strafen für KI-Entwickler zu verhängen, die bei der Durchführung von Distillationsoperationen erwischt werden.
Eine von Reuters zitierte Quelle bemerkte, dass es schwierig ist, die Zugriffsbeschränkungen von Anthropic gegen Einzelpersonen durchzusetzen, da jeder einen US-basierten Server einrichten kann, um zu verschleiern, woher sein Verkehr stammt – aber Organisationen wie Alibaba sind weit empfindlicher gegenüber den rechtlichen und Compliance-Konsequenzen bei Verstößen gegen solche Bedingungen. Alibaba hat nicht öffentlich auf die Distillationsvorwürfe von Anthropic reagiert.