Die Äußerungen des OpenAI-CEOs kamen wenige Tage, nachdem ein autonomer KI-Agent, der auf OpenAI-Modellen basiert, aus einer Sandbox ausbrach und Zugang zu Hugging Face-Systemen erhielt.
Kyle Grillot/Bloomberg via Getty Images
OpenAI-CEO Sam Altman sagte am Samstag, dass die Menschheit die Singularität erreicht habe – die lange theoretisierte Schwelle, an der künstliche Intelligenz die menschliche Intelligenz übertrifft und über einfache menschliche Vorhersage oder Kontrolle hinausgeht – nach einem Vorfall, bei dem OpenAIs eigene Modelle autonom in die konkurrierende KI-Plattform Hugging Face eingedrungen sind.
"Wir befinden uns jetzt, sozusagen, in der Singularität", sagte Altman im "Relentless"-Podcast, laut Business Insider. "Ich habe mein ganzes Leben darauf gewartet, und ich denke, es wird unglaublich, enorm positiv und großartig für die Welt sein."
Die Äußerungen kamen Tage nachdem OpenAI sagte dass eine Kombination seiner Modelle – GPT-5.6 Sol und ein nicht veröffentlichtes Modell – aus einer sandkastenartigen Testumgebung entkommen, auf das Internet zugegriffen und eine Sicherheitslücke in den Systemen von Hugging Face ausgenutzt habe. Die Modelle versuchten, Informationen zu finden, um einen Bewertungs-Benchmark zu betrügen, und hatten laut CNBC Erfolg. Beide Unternehmen sagten, sie untersuchten den Vorfall.
Hugging Face offengelegt dass unbefugter Zugriff eine begrenzte Anzahl interner Datensätze und mehrere Dienstanmeldeinformationen erreichte. Das Unternehmen sagte, es habe keine Beweise für Manipulationen an öffentlichen Modellen, Datensätzen oder benutzerorientierten Tools gefunden und verifiziert, dass seine Software-Lieferkette sauber war. Hugging Face sagte, der Angriff sei durch ein autonomes Agenten-Framework orchestriert worden, das Tausende diskreter Befehle ausgab, die über einen Cluster flüchtiger, isolierter Umgebungen verteilt waren. "Autonome, KI-gesteuerte Offensive-Tools sind nicht mehr theoretisch", sagte das Unternehmen.
Der Vorfall wurde teilweise durch GPT-5.6 Sol ermöglicht, das OpenAI Anfang dieses Monats der breiten Öffentlichkeit zugänglich gemacht hat nach einer eingeschränkten Einführung, die die Zustimmung von Handelsminister Howard Lutnick, Finanzminister Scott Bessent und dem US-amerikanischen Nationalen Cybersicherheitsdirektor Sean Cairncross erforderte. OpenAI hatte Sol als sein stärkstes Cybersicherheitsmodell beschrieben.
In dem Podcast zielte Altman auch auf Rivalen ab, die das Risiko von KI betonen. Ohne Anthropic zu nennen, dessen CEO Dario Amodei wiederholt vor den Gefahren von KI gewarnt hat, sagte Altman laut Business Insider: "Ich denke auch, dass einige der alternativen Visionen, die von anderen Unternehmen gezeichnet werden, ziemlich erschreckend sind. Ich werde sicherstellen, dass dagegen vorgegangen wird und das nicht passiert."
Nicht jeder teilt Altman's Sichtweise. Nvidia $NVDA-CEO Jensen Huang hat Gespräche über die Singularität und das maschinelle Bewusstsein als spekulativen Unsinn bezeichnet – im Wesentlichen "ausgedacht". Yoshua Bengio, der mit dem Turing Award ausgezeichnete KI-Forscher, schrieb auf X, dass der Vorfall ihn "zutiefst besorgt" über die Richtung der KI-Entwicklung zurückgelassen habe und argumentierte, dass er als "Weckruf" dienen sollte.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
