Eine kleine Gruppe erhielt am Tag der Ankündigung Zugriff auf das Modell, indem sie eine Mischung aus Taktiken anwandte, darunter Anmeldedaten von einem externen Auftragnehmer.
NurPhoto / Getty Images
Anthropics Mythos-AI-Cybersicherheitsmodell – das Unternehmen beschreibt es als fähig, Schwachstellen in allen wichtigen Betriebssystemen und Webbrowsern zu identifizieren und auszunutzen – wurde von einer kleinen Gruppe unautorisierter Nutzer, berichtete Bloomberg.
Anthropic sagte, es untersuche den Bericht. "Wir untersuchen einen Bericht über unautorisierten Zugang zur Claude Mythos Preview über eine unserer Drittanbieter-Umgebungen", sagte ein Unternehmenssprecher in einer Stellungnahme gegenüber Bloomberg. Das Unternehmen fügte hinzu, dass es keine Anzeichen dafür gefunden habe, dass der Vorfall in seine eigene Infrastruktur eingedrungen sei oder sich außerhalb der Drittanbieter-Umgebung ausgebreitet habe.
Laut Bloomberg ereignete sich der Vorfall genau an dem Tag, an dem Anthropic die Ankündigung des Modells veröffentlichte. Die Methoden der Benutzer umfassten die Nutzung von Systemzugängen, die ein Mitglied durch Vertragsbewertung für einen Anthropic-Anbieter erworben hatte, sowie den Einsatz von Erkundungswerkzeugen, die typischerweise in der Werkzeugkiste eines Cybersicherheitsforschers zu finden sind. Wissen darüber, wie Anthropic seine Modellendpunkte strukturiert – Informationen, die Berichten zufolge offengelegt wurden, als Mercor, ein KI-Trainings-Startup, einen Datenverstoß erlitt – ermöglichte es der Gruppe, Mythos online zu lokalisieren.
Bloomberg berichtet, dass die Personen durch eine private Discord-Community verbunden sind, die sich der Aufdeckung von Informationen über KI-Modelle vor deren Veröffentlichung widmet, mit automatisierten Bots, die ungesicherte Plattformen wie GitHub nach relevanten Details durchsuchen. Obwohl die Gruppe Mythos weiterhin regelmäßig nutzt, sagte die Quelle gegenüber Bloomberg, dass sie sicherheitsrelevante Anfragen meidet und stattdessen auf harmlose Aufgaben wie grundlegende Webentwicklung setzt, in der Hoffnung, unter dem Radar von Anthropic zu bleiben. Bloomberg zitierte die Quelle auch mit der Aussage, dass die Gruppe Zugang zu anderen unveröffentlichten Anthropic-Modellen hat.
Durch ein kontrolliertes Rollout-Programm namens Project Glasswing hat Anthropic Mythos einer ausgewählten Gruppe von Partnern zur Verfügung gestellt dazu gehören Apple $AAPL, Amazon $AMZN und Cisco $CSCO und andere. Anthropic strukturierte die Einladung aufgrund von Bedenken, dass die offensiven Fähigkeiten des Tools – die gegen Sicherheitsinfrastrukturen von Unternehmen eingesetzt werden könnten, anstatt sie zu verteidigen – eine weite Verbreitung zu riskant machten. Amazon bietet Mythos auch über seine Bedrock-Plattform einer geprüften Liste von Organisationen an.
Der Vorfall hebt die Schwierigkeit hervor, den Zugang zu leistungsstarken KI-Tools zu kontrollieren, selbst wenn die Verteilung stark eingeschränkt ist. Bloomberg weist auch darauf hin, dass Banken und Regierungsbehörden auf beiden Seiten des Atlantiks darauf drängen, in das Early-Access-Programm aufgenommen zu werden, in der Hoffnung, das Tool zu nutzen, um ihre eigenen Systeme auf Schwachstellen zu überprüfen.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
