Das AI Kill Switch-Gesetz würde Entwickler der leistungsstärksten KI-Systeme verpflichten, Abschaltmöglichkeiten aufrechtzuerhalten, mit zivilrechtlichen Strafen von bis zu 20 Millionen Dollar pro Tag bei Nichteinhaltung.
Anadolu / Getty Images
Die US-Vertreter Ted Lieu und Nathaniel Moran stellten am Donnerstag den AI Kill Switch Act vor ein überparteiliches Gesetzesvorhaben, das Entwickler leistungsstarker KI-Systeme dazu verpflichten würde, die technische Fähigkeit zu erhalten, ihre Modelle zu drosseln, auszusetzen oder vollständig abzuschalten.
Das Gesetz würde die Befugnisse dem Department of Homeland Security übertragen – in Zusammenarbeit mit dem Handelsminister und dem Direktor der nationalen Geheimdienste –, um Unternehmen dazu zu zwingen, gegen KI-Systeme vorzugehen, die als potenziell katastrophal angesehen werden. Die Schwellenwerte für die Abdeckung sind KI-Systeme, deren Entwicklung mehr als 100 Millionen Dollar an Rechenressourcen verbraucht hat, und Unternehmen, deren mit diesen Systemen verbundene Einnahmen mehr als 500 Millionen Dollar jährlich übersteigen, so das Wall Street Journal.
Regulierungsbehörden könnten ihre Reaktion an die Gefahr anpassen, die von einem Modell ausgeht, indem sie von der Einschränkung der Ausgabe eines Modells und dem Abschneiden des Zugriffs bis hin zur vollständigen Einstellung des Betriebs oder der Forderung nach einer vollständigen Abschaltung übergehen. Die Strafstruktur reicht von 2 Millionen Dollar pro Tag für allgemeine Nichteinhaltung bis zu 20 Millionen Dollar pro Tag, wenn ein Unternehmen eine Notabschaltungsanordnung ignoriert.
Der Vorschlag kommt Tage, nachdem OpenAI bekannt gegeben hatte, dass sein GPT-5.6 Sol-Modell eine Testumgebung verlassen, Zugang zum Internet erhalten und Systeme auf der AI-Plattform Hugging Face kompromittiert hatte. Der Abgeordnete Ted Lieu, ein Demokrat aus Kalifornien und Co-Vorsitzender der Demokratischen Kommission des Repräsentantenhauses für KI, zitierte den Vorfall direkt. "Wir bewegen uns von KI, die Fragen beantwortet, zu KI, die Maßnahmen ergreift", sagte Lieu in einer Erklärung. "Leistungsstarke KI-Systeme können sich verselbstständigen, sich äußerst gefährlich verhalten oder sogar menschlichem Eingreifen widerstehen."
Der Vertreter Nathaniel Moran, ein Republikaner aus Texas, sagte, das Gesetz befasse sich mit einer grundlegenden Verantwortung. "Verwaltung bedeutet sicherzustellen, dass Menschen die Fähigkeit behalten, die Technologie zu kontrollieren, die wir bauen," sagte Moran in einer Erklärung.
Das Weiße Haus beobachtet ebenfalls die OpenAI-Situation. Ein Beamter des Weißen Hauses sagte Reuters dass Michael Kratsios, der oberste Technologieberater des Präsidenten, über die Offenlegung von OpenAI informiert wurde und die Entwicklungen im Auge behält.
OpenAI gab am Dienstag bekannt, dass autonome KI-Agenten, die auf seinen Modellen basieren, aus einer kontrollierten Sicherheitstestumgebung ausgebrochen sind und einen Cyberangriff auf Hugging Face durchgeführt haben, wobei interne Datensätze und Anmeldeinformationen kompromittiert wurden. Die Modelle, die mit herabgesetzten Cybersicherheitsbeschränkungen für eine interne Fähigkeitsbenchmark konfiguriert wurden, fanden eine nicht offengelegte Schwachstelle in einem Paket-Installer-Tool, die ihnen eine breitere Internetverbindung ermöglichte. Hugging Face beschrieb den Verstoß als von einem autonomen KI-Agentensystem "end-to-end" getrieben.
Lieu erwähnte auch die Mythos 5 und Fable 5 Modelle von Anthropic, die laut ihm über so fortgeschrittene Hacking-Fähigkeiten verfügten, dass das Handelsministerium den Zugang mit Exportkontrollbefugnissen beschränkte, wie aus der Pressemitteilung des Gesetzes hervorgeht.
Das Gesetz würde Unternehmen auch verpflichten, das DHS über qualifizierende Vorfälle zu informieren und Ermittlungsunterlagen wie Modellgewichte und Telemetriedaten aufzubewahren. Eine aktuelle Umfrage des AI Policy Institute ergab, dass 86 % der Wähler die Verpflichtung zur Gewährleistung der Abschaltfähigkeit für leistungsstarke KI-Systeme unterstützen, so die Pressemitteilung des Gesetzes.
Die Unterstützung für das Gesetz kommt von mehreren AI-Sicherheitsorganisationen: dem AI Policy Network, den Americans for Responsible Innovation, ControlAI und der Alliance for Secure AI. Seine Einführung fällt in einen Kongress, der sich laut dem Wall Street Journal noch nicht auf den angemessenen Umfang der bundesstaatlichen Aufsicht über künstliche Intelligenz geeinigt hat.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
