Anthropic sagt, dass Claude Mythos in der Lage ist, Software-Schwachstellen autonom zu finden und auszunutzen, und dabei alle bis auf die fähigsten Sicherheitsforscher übertrifft.
NurPhoto / Getty Images
Anthropic kündigte am Dienstag das Projekt Glasswing an, eine Cybersicherheitsinitiative, die bis zu 100 Millionen US-Dollar in Nutzungsgutschriften für Claude Mythos Preview bereitstellt, ein unveröffentlichtes Frontier-Modell, von dem das Unternehmen sagt, dass es autonom Software-Schwachstellen finden und ausnutzen kann, auf einem Niveau, das alle außer den erfahrensten menschlichen Sicherheitsforschern übertrifft.
Anstatt einer öffentlichen Veröffentlichung hat Anthropic Claude Mythos Preview auf 12 Startpartner beschränkt – darunter Amazon $AMZN Web Services, Apple $AAPL, Broadcom $AVGO, Cisco $CSCO, CrowdStrike $CRWD, Google $GOOGL, JPMorganChase, die Linux Foundation, Microsoft $MSFT, Nvidia $NVDA und Palo Alto Networks $PANW – die es alle ausschließlich für defensive Sicherheitszwecke einsetzen werden. Mehr als 40 weitere Organisationen, die kritische Software-Infrastrukturen aufbauen oder warten, werden ebenfalls Zugang erhalten.
In den letzten Wochen hat Anthropic Mythos Preview genutzt, um Tausende von Zero-Day-Schwachstellen in jedem wichtigen Betriebssystem und Webbrowser, sagte das Unternehmen. Zu den spezifischen Entdeckungen gehörte ein seit 27 Jahren bestehender Fehler in OpenBSD und eine separate Schwachstelle in der Videobearbeitungsbibliothek FFmpeg – eine, die trotz fünf Millionen Durchläufen durch automatisierte Testtools etwa 16 Jahre lang unentdeckt blieb. Das Modell verknüpfte auch mehrere Schwachstellen im Linux-Kernel, um die vollständige Kontrolle über eine Maschine von einem gewöhnlichen Benutzerkonto aus zu erreichen.
Es wurde keine spezielle Ausbildung in Cybersicherheit in den Aufbau von Mythos Preview investiert, bemerkte Anthropic – die Fähigkeit des Modells, Software auf Schwachstellen zu testen, ist ein Nebenprodukt derselben allgemeinen Fortschritte im Codieren und Denken, die es in anderen Bereichen definieren, was bedeutet, dass die Attribute, die ihm helfen, Fehler zu beheben, untrennbar von denen sind, die zur Ausnutzung verwendet werden könnten.
Anthropic spendet neben den Nutzungsguthaben 4 Millionen Dollar in direkten Spenden, darunter 2,5 Millionen Dollar an Alpha-Omega und die Open Source Security Foundation über die Linux Foundation sowie 1,5 Millionen Dollar an die Apache Software Foundation. Partner, die den Nutzungsguthabenpool aufbrauchen, zahlen 25 Dollar pro Million Eingangstokens und 125 Dollar pro Million Ausgangstokens. Das Modell ist über die Claude API, Amazon Bedrock, Google Cloud Vertex AI und Microsoft Foundry zugänglich.
„Die Gefahren, dies falsch zu machen, sind offensichtlich, aber wenn wir es richtig machen, gibt es eine echte Chance, ein grundlegend sichereres Internet und eine sicherere Welt zu schaffen, als wir sie vor der Einführung von KI-gestützten Cyberfähigkeiten hatten“, sagte CEO Dario Amodei in einem Beitrag auf X $TWTR, laut CNBC.
In schriftlichen Bemerkungen, die zusammen mit der Ankündigung von Anthropic veröffentlicht wurden, gab CrowdStrike-CTO Elia Zaitsev eine deutliche Warnung: Das Modell „zeigt, was jetzt für Verteidiger im großen Maßstab möglich ist, und Angreifer werden unweigerlich versuchen, dieselben Fähigkeiten auszunutzen“, und Aufgaben, die einst Monate Arbeit erforderten, „finden jetzt in Minuten mit KI statt“, laut Die New York Times.
Anthropic sagte, es sei in laufenden Gesprächen mit US-Regierungsbeamten, einschließlich der Cybersecurity and Infrastructure Security Agency, über die Fähigkeiten des Modells. Innerhalb von 90 Tagen, sagte das Unternehmen, plane es, einen öffentlichen Bericht über gefundene und behobene Schwachstellen zu veröffentlichen sowie Empfehlungen, wie sich Sicherheitspraktiken entwickeln sollten.
Die Existenz des Modells war bereits öffentlich bekannt geworden, nachdem interne Entwurfsmaterialien an einem ungesicherten Ort auf den Servern von Anthropic aufgetaucht waren; das Unternehmen führte die Offenlegung auf eine Fehlkonfiguration in einem Drittanbieter-Content-Management-Tool zurück. In diesen Dokumenten wurde das Modell unter dem Codenamen "Capybara" erwähnt.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
