OpenAI ist ein KI-Modell entwickelt, das sich auf Cybersicherheit konzentriert für ein eingeschränktes Programm namens "Trusted Access for Cyber," laut einem neuen Bericht, was es in direkten Wettbewerb mit Anthropics Claude Mythos Preview stellt.
Das Unternehmen entwickelt eine sicherheitsorientierte KI für sein eingeschränktes "Trusted Access for Cyber"-Programm.
Cheng Xin / Getty Images
OpenAI ist ein KI-Modell entwickelt, das sich auf Cybersicherheit konzentriert für ein eingeschränktes Programm namens "Trusted Access for Cyber," laut einem neuen Bericht, was es in direkten Wettbewerb mit Anthropics Claude Mythos Preview stellt.
Details des Modells und des Programms sind begrenzt. Axios berichtete über die Entwicklung, die OpenAI als Rivalen zu Anthropic auf dem aufstrebenden Markt für fortschrittliche KI-Systeme positioniert, die für offensive und defensive Sicherheitsarbeit gebaut werden.
Projekt Glasswing, Anthropics begleitende Initiative, stellte bis zu 100 Millionen Dollar in Nutzungsguthaben bereit und beschränkte die anfängliche Einführung des Modells auf zwölf Partner — darunter Amazon $AMZN Web Services, Apple $AAPL, Broadcom $AVGO, Cisco $CSCO, CrowdStrike $CRWD, Google $GOOGL, JPMorganChase, die Linux Foundation, Microsoft $MSFT, Nvidia $NVDA und Palo Alto Networks $PANW — die vertraglich verpflichtet sind, es ausschließlich für defensive Sicherheitsarbeit zu nutzen. Mehr als 40 weitere Organisationen, die kritische Software-Infrastruktur erstellen oder warten, erhielten ebenfalls Zugang.
Anthropic sagt, dass das Modell Software-Schwächen auf dem Niveau der besten menschlichen Sicherheitsforscher finden und ausnutzen kann. Bei Tests entdeckte Mythos Preview Tausende zuvor unbekannter Schwachstellen in beliebten Betriebssystemen und Browsern. Zum Beispiel fand es einen 27 Jahre alten Fehler in OpenBSD und einen FFmpeg-Fehler, den automatisierte Werkzeuge bei fünf Millionen früheren Überprüfungen übersehen hatten.
Anthropic wies darauf hin, dass Mythos Preview kein spezielles Sicherheitstraining erhielt. Seine Fähigkeit, Schwachstellen zu finden, ergibt sich aus allgemeinen Verbesserungen im Code-Verständnis und logischen Denken, nicht aus gezielter Vorbereitung. Dies hat sowohl Vorteile als auch Risiken, da die gleichen Fähigkeiten, die ihm helfen, Schwächen zu beheben, auch dazu führen könnten, dass es diese ausnutzt.
Claude Mythos Vorschau erstmals öffentlich aufgetaucht nachdem interne Entwurfsunterlagen in einem ungeschützten, öffentlich zugänglichen Datenspeicher auf den Servern von Anthropic hinterlassen wurden. Das Unternehmen führte die Offenlegung auf einen Konfigurationsfehler in einem externen Content-Management-Tool zurück. Diese Dokumente identifizierten das Modell unter dem internen Codenamen "Capybara" und gaben an, dass es Claude Opus 4.6 bei Benchmarks in den Bereichen Cybersicherheit, Programmierung und akademisches Denken übertroffen hatte; sie beschrieben das System auch als Teil der Hierarchie von Anthropic, der über der Opus-Linie angesiedelt wäre.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.