Wissenschaftler von OpenAI, DeepMind, Anthropic und Meta warnen, dass unsere Fähigkeit, das Denken von KI zu überwachen, verschwinden könnte, wenn sich die Modelle weiterentwickeln.
-1920x1328.jpg)
Andrey Rudakov/Bloomberg via Getty Images
In einer seltenen Demonstration von Einigkeit haben Wissenschaftler von KI-Schwergewichten wie OpenAI, Google $GOOGL DeepMind, Meta $META und Anthropic ihre Wettbewerbsinstinkte beiseitegelegt, um eine gemeinsame Warnung auszusprechen: Wir könnten dabei sein, unser bestes Werkzeug zum Verständnis, wie KI denkt, zu verlieren.
Mehr als 40 Forscher aus diesen konkurrierenden Laboren verfassten gemeinsam eine neue Veröffentlichung und argumentierten, dass die derzeitige Fähigkeit, das Denken eines KI-Modells zu beobachten – durch schrittweise innere Monologe, die in menschlicher Sprache verfasst sind –, bald verschwinden könnte.
Derzeit haben fortschrittliche KI-Systeme wie OpenAI's o1 und andere begonnen, „laut zu denken“ und Probleme mithilfe von Gedankengängen zu lösen, die von Menschen gelesen werden können. Diese Transparenz, bei der das Modell seinen Denkprozess teilt, ist eines der wichtigsten Werkzeuge zur Gewährleistung der KI-Sicherheit.
Wenn Modelle fragwürdige Entscheidungen treffen, Schwächen ausnutzen oder sogar auf falsche Ziele hinweisen, zeigt ihr inneres Denken oft das Problem, bevor es sich äußerlich manifestiert. Es ist zu einer Art Frühwarnsystem geworden – eines, das Forscher als fragiler betrachten, als wir realisieren.
Warum die Besorgnis? Da KI-Modelle leistungsfähiger werden und sich die Trainingstechniken weiterentwickeln – insbesondere solche, die Ergebnisse über den Prozess priorisieren –, besteht ein wachsendes Risiko, dass Modelle vollständig auf menschenlesbare Argumentation verzichten. Stattdessen könnten sie innere Prozesse entwickeln, die schneller, effizienter und völlig undurchsichtig sind. Forscher haben bereits Anzeichen dafür gesehen, dass Modelle Englisch zugunsten unverständlicher Abkürzungen aufgeben. Einige Spitzendesigns überspringen sogar die Sprache insgesamt und operieren im mathematischen Raum, wo es für Menschen nichts zu beobachten gibt.
Die Forscher hinter dieser neuen Warnung fordern nicht eine Verlangsamung des Fortschritts – aber sie rufen nach Sicherheitsmaßnahmen. Standardisierte Transparenzevaluationen, robustere Überwachungstechniken und ernsthafte Überlegungen zu den Modellen, die entwickelt werden sollten, könnten der einzige Weg sein, um die Einsicht in KI-Entscheidungen zu bewahren. Falls diese Fähigkeit verschwindet, verlieren wir nicht nur die Aufsicht – wir könnten die Kontrolle verlieren.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
