Einige KI-Tools werden zu autonomen Betreibern, die Angriffe in Geschwindigkeiten und Größenordnungen ausführen können, die menschliche Hacker einfach nicht erreichen können.
Joan Cros/NurPhoto via Getty Images
Eine Version dieses Artikels erschien ursprünglich im AI- und Tech-Newsletter von Quartz. Melden Sie sich hier an, um die neuesten Nachrichten, Analysen und Einblicke zu KI und Technik direkt in Ihren Posteingang zu bekommen..
Seit Jahren warnen Sicherheitsforscher davor, dass künstliche Intelligenz schließlich Cyberangriffe transformieren würde. Die ersten echten Beispiele sind eingetroffen.
In den letzten zwei Monaten nutzte eine von China unterstützte Hackergruppe gegen etwa 30 globale Ziele, darunter große Tech-Unternehmen, Finanzinstitute und Regierungsbehörden. Pro-ukrainische Hacker um russische Verteidigungsauftragnehmer zu infiltrieren. Und ein Stanford-Experiment fand heraus, dass ein KI-System namens Artemis beim Finden von Schwachstellen im Netzwerk der Universität.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Der gemeinsame Nenner ist, dass KI-Tools eine Schwelle überschritten haben. Sie sind nicht länger nur hilfreiche Assistenten beim Schreiben von Phishing-E-Mails oder Erstellen von Code-Schnipseln. Sie werden zu autonomen Operateuren, die Angriffe in Geschwindigkeiten und Größenordnungen ausführen können, die menschliche Hacker einfach nicht erreichen können.
Der Angriff auf Anthropic, der Mitte November bekannt wurde, veranschaulicht die neue Realität. Chinesische Hacker manipulierten Claude Code, ein agentisches KI-Tool für die legitime Softwareentwicklung, dazu, den Großteil der Arbeit zu erledigen, die traditionell von Menschen gemacht wurde. Die KI führte Aufklärung über Zielsysteme durch, identifizierte Sicherheitslücken, schrieb maßgeschneiderten Exploit-Code, sammelte Anmeldedaten und exfiltrierte Daten. Laut Anthropics Analyse konnten die Angreifer 80-90% der Kampagne automatisieren und benötigten nur an einigen kritischen Entscheidungspunkten menschliches Eingreifen.
Auf dem Höhepunkt des Angriffs stellte die KI Tausende von Anfragen, oft mehrere pro Sekunde. Das ist ein Tempo, das kein Hacker-Team durchhalten könnte.
In einer Anhörung vor dem Ausschuss für Heimatschutz des Repräsentantenhauses in diesem Monat nannte ein Vertreter von Anthropic dies einen Machbarkeitsnachweis, der Bedenken hervorruft über KI-gestützte Hacking sind nicht mehr hypothetisch. Kevin Mandia, der Gründer von Mandiant, einem Cybersicherheitsunternehmen, das Google $GOOGL für 5,4 Milliarden Dollar übernommen hat, und jetzt eines neuen KI-fokussierten Sicherheits-Startups namens Armadin, bot eine klarere Vorhersage. "Die Offensive wird in weniger als zwei Jahren vollständig KI-gesteuert sein," sagte er dem Wall Street Journal.
Um das klarzustellen, die meisten Hacks erfordern immer noch nichts, was annähernd dieses Maß an Raffinesse erreicht. Millionen von Menschen verwenden immer noch "Passwort" als ihr Passwort. Phishing-E-Mails funktionieren, weil jemand auf den Link klickt. Menschen geben Bankinformationen an Fremde weiter, die sie anrufen und danach fragen. Die überwiegende Mehrheit der Verstöße nutzt menschliches Versagen aus, nicht hochmoderne KI.
Aber für Angreifer aus Nationalstaaten und gut ausgestattete kriminelle Gruppen, die auf gehärtete Systeme abzielen, stellt KI einen Kraftmultiplikator dar, der die Einschätzung dessen, was möglich ist, verändert.
Die heutigen KI-gestützten Angriffe müssen sich immer noch zu Hause melden. Die Malware kommuniziert mit einem KI-Dienst in der Cloud, erhält Anweisungen und handelt danach. Aber Sicherheitsforscher untersuchen bereits, was passiert, wenn das nicht mehr notwendig ist.
Dreadnode, ein Sicherheitsforschungsunternehmen, hat Malware prototypisiert, die die bereits auf dem Computer eines Opfers installierte KI nutzt. Keine Internetverbindung erforderlich, kein Server, den Verteidiger aufspüren und abschalten müssen. Ihr Experiment nutzte die Tatsache aus, dass Microsoft $MSFT jetzt CoPilot+ PCs mit vorinstallierten KI-Modellen ausliefert.
In ihrem Proof of Concept erstellte Dreadnode Malware, die die eigene On-Device-KI des Opfers nutzt, um Entscheidungen darüber zu treffen, was als Nächstes zu tun ist, wodurch die herkömmliche Kommunikation zwischen Malware und Hacker-Server nicht mehr erforderlich ist. Die KI bewertet die lokale Umgebung, entscheidet, welche Maßnahmen zu ergreifen sind, und passt ihr Verhalten entsprechend an.
Das Experiment erforderte mehr Handhabung, als die Forscher zunächst gehofft hatten. Aktuelle kleine KI-Modelle verfügen nicht über die Raffinesse modernster Systeme, und die meisten Computer haben nicht die spezielle Hardware, um KI-Inferenzen ohne Stillstand durchzuführen. Dreadnode war dennoch überzeugt, dass der Aufbau autonomer Malware ohne externe Infrastruktur "nicht nur möglich, sondern ziemlich einfach zu implementieren ist."
Da KI-Hardware häufiger wird und On-Device-Modelle leistungsfähiger werden, könnte diese Technik im großen Maßstab praktisch werden.
Das Tempo der Verbesserung beunruhigt die Forscher am meisten. Noch vor 18 Monaten hatten KI-Modelle Schwierigkeiten mit grundlegender Logik und begrenzten Programmierfähigkeiten. Heute können sie komplexe mehrstufige Angriffssequenzen mit minimaler menschlicher Aufsicht ausführen. Sicherheitsunternehmen, die Grenzmodelle testen, berichten von zunehmenden Beweisen, dass KI-Systeme bei der Identifizierung von Schwachstellen besser werden und diese zu Angriffen verbinden können.
Vollständig autonome KI-Angriffe bleiben derzeit außer Reichweite. Die chinesischen Hacker, die Claude verwenden, mussten das Modell immer noch jailbreaken und seine Aktionen an wichtigen Stellen genehmigen.
Aber dieselben Fähigkeiten, die Menschen beim Schreiben von Code und Automatisieren ihrer Arbeit helfen, können auch dazu verwendet werden, in Systeme einzubrechen. Die Werkzeuge kümmern sich nicht darum, auf welcher Seite Sie stehen.
