Google $GOOGL DeepMind CEO Demis Hassabis rief am Dienstag die USA auf, eine KI-Standardstelle nach dem Vorbild der Financial Industry Regulatory Authority zu schaffen, dem privaten, von der Industrie finanzierten Wachhund, der die Wall Street unter der Aufsicht der Securities and Exchange Commission überwacht.
Hassabis, ein Nobelpreisträger, legte den Plan in einem Essay dar, den er am Dienstag auf X $TWTR unter dem Titel "Ein Rahmen für Frontier-KI und das Aufbrechen eines neuen Zeitalters" veröffentlichte. Er sagte, "dringendes Handeln" sei notwendig, um Risiken im Zusammenhang mit künstlicher allgemeiner Intelligenz zu adressieren, die seiner Beschreibung nach wahrscheinlich nur noch wenige Jahre entfernt sei. "Wir haben bereits die Herausforderungen gesehen, die Frontmodelle für die Cybersicherheit darstellen, und andere Bedrohungen wie nukleare und biologische Risiken könnten bald auftreten, da die Fähigkeiten weiter fortschreiten", schrieb er.
Der vorgeschlagene Körper würde als öffentlich-private Partnerschaft unter föderaler Aufsicht strukturiert sein, mit einem Vorstand, der aus unabhängigen technischen Experten, Open-Source-Vertretern und Regierungsbeamten besteht, gemäß CNBC. Hassabis sagte, die Industrie würde wahrscheinlich die Rechnung tragen, und dass die Organisation erhebliche finanzielle Unterstützung benötigen würde, um erstklassiges technisches Personal einzustellen und die rechenintensiven Bewertungen durchzuführen, die für großangelegte Modultests erforderlich sind.
Anfangs würden Grenzlaboratorien ihre Modelle freiwillig vor der Veröffentlichung dem Gremium vorlegen - mit einem Zeitrahmen von bis zu 30 Tagen - . Nachdem das System bewiesen hatte, dass es funktionierte, stellt sich Hassabis vor, dass die Einhaltung der Anforderungen zur Voraussetzung für jedes Modell würde, um für amerikanische Nutzer zugänglich zu werden. Laut Axios, würde das Rahmenwerk jedes Modell der Frontier-Klasse abdecken - inländisch oder ausländisch, proprietär oder mit offenem Gewicht - mit Berechtigungsschwellen, die aktualisiert werden, wenn die Fähigkeiten wachsen. Hassabis sagte, er wolle, dass das Gremium vor Jahresende betriebsbereit ist.
Tests würden laut Hassabis auf gefährliche Cyber-, biologische und Täuschungsfähigkeiten prüfen. Spezifische Prüfungen könnten das Suchen nach Versuchen umfassen, Sicherheitsbarrieren zu umgehen und zu überprüfen, dass von KI generierte Bilder digitale Wasserzeichen tragen.
Hassabis sagte gegenüber Axios, dass der Umgang der Verwaltung mit den Anthropic-Mythos- und Fable-Modellen im letzten Monat - den er als "eine Art Weckruf" bezeichnete - gezeigt habe, dass Washington eine formale Governance-Struktur benötigt, anstatt improvisierter, fallweiser Antworten. Er sagte, die Gespräche, die er mit der Verwaltung geführt habe, seien positiv verlaufen.
Der Aufruf erfolgt etwa einen Monat nachdem Hassabis und Anthropic-CEO Dario Amodei gemeinsam die Weltführer auf einer geschlossenen G7-Sitzung in Évian-les-Bains, Frankreich, aufgefordert hatten, ein von den USA geführtes KI-Governance-Rahmenwerk zu unterstützen.. An diesem Treffen nahmen Präsident Donald Trump und andere G7-Staats- und Regierungschefs sowie Führungskräfte mehrerer großer Technologieunternehmen teil. Aus diesem Treffen gingen keine konkreten Verpflichtungen hervor. OpenAI-CEO Sam Altman hat laut CNBC separat zu einem ähnlichen internationalen Standardgremium aufgerufen.
Hassabis sagte, dass andere führende Laborleiter auf hoher Ebene zustimmen, dass die Branche in diese Richtung gehen muss, obwohl Anthropic's Dario Amodei ein eigenes FAA-ähnliches Gremium gefordert hat, das die Befugnis hat, unsichere Modelle direkt zu blockieren.