KI-Forscher glauben, dass die Fixierung der Branche auf große Sprachmodelle eine Art Tunnelblick erzeugt hat, der den Weg zu wirklich intelligenten Maschinen verdeckt.
Benjamin Girette / Bloomberg via Getty Images
Eine Version dieses Artikels erschien ursprünglich in Quartz’s AI & Tech Newsletter. Melden Sie sich hier an, um die neuesten Nachrichten, Analysen und Einblicke zu KI & Technologie direkt in Ihrem Posteingang zu erhalten..
Yann LeCun half bei der Entwicklung der Technologie, die ChatGPT antreibt. Jetzt setzt er auf die Idee, dass große Sprachmodelle eine Sackgasse sind.
Im November verließ LeCun Meta das sich der Entwicklung von „Superintelligenz“ widmet, mit dem gleichen Ansatz für große Sprachmodelle, dem LeCun zunehmend skeptisch gegenüberstand.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Um es zu leiten, holte sich Zuckerberg Alexandr Wang von Scale AI, einen 28-Jährigen, der ein Daten-Labeling-Unternehmen aufgebaut hatte, aber kein KI-Forschungsprogramm. Anstatt Bleiben Sie als älterer Staatsmann dabei In jemand anderem Labor, der 65-jährige Turing-Preisträger entschied sich, neu anzufangen.
Sein neues Unternehmen, Advanced Machine Intelligence Labs, startete seine Website im Januar mit einer gezielten Erklärung: "Echte Intelligenz beginnt nicht in der Sprache. Sie beginnt in der Welt."
LeCun ist nicht allein in dieser Überzeugung. Ein wachsender Chor prominenter KI-Forscher glaubt, dass die Fixierung der Industrie auf Sprachmodelle eine Art Tunnelblick erzeugt hat und dass der Weg zu wirklich intelligenten Maschinen durch etwas namens "Weltmodelle" führt.
Das Problem mit den heutigen KI-Systemen, LeCun hat seit Jahren argumentiert, ist, dass sie tatsächlich nichts verstehen. Große Sprachmodelle werden darauf trainiert, vorherzusagen, welches Wort als nächstes in einer Sequenz kommt.
Sie sind erstaunlich gut darin geworden, gut genug, um Gedichte zu schreiben, Code zu debuggen und medizinische Lizenzprüfungen zu bestehen. Aber im Grunde sind sie Mustererkennungsmaschinen, die keine interne Repräsentation davon haben, wie die Realität funktioniert.
Das zeigt sich auf offensichtliche Weise. Bitten Sie eine Video-Generierungs-KI, jemanden zu zeigen, der eine Tasse Kaffee abstellt und sie eine Minute später wieder aufnimmt, und die Tasse könnte die Farbe ändern, sich über den Tisch bewegen oder ganz verschwinden. Die KI hat keine Objektpermanenz – eine kognitive Fähigkeit, die die meisten Kinder im Alter von einem Jahr beherrschen.
LeCun glaubt, dass diese Einschränkung nicht nur ein technisches Problem ist, das mit mehr Daten und größeren Modellen gelöst werden kann. Seiner Ansicht nach können aktuelle Systeme nicht im Voraus planen, weil sie Ursache und Wirkung in der physischen Welt nicht verstehen.
Sie haben nie etwas berührt, nie einen Raum navigiert, nie mit den Konsequenzen ihrer Handlungen umgegangen. Sie haben alles gelesen, aber nichts erlebt.
Was LeCun und andere stattdessen vorschlagen, sind KI-Systeme, die um interne Modelle herum aufgebaut sind, wie die Welt tatsächlich funktioniert. Denken Sie daran, wie Sie sich vorstellen können, eine Kaffeetasse zu greifen, bevor Sie es tun, vorhersehen, dass sie warm und schwer sein wird, und antizipieren, wie sich Ihr Arm bewegen muss.
Die heutige KI kann ein Gedicht über Kaffee schreiben. Sie kann Ihnen keine Tasse einschenken. Dies ist die Art von Verständnis, die diese Forscher in Maschinen einbauen wollen.
Das Konzept hat ernsthafte Talente und Gelder angezogen. Fei-Fei Li, manchmal als die "Patin" der KI bezeichnet, verließ Stanford, um World Labs zu gründen, das kürzlich ein Produkt namens Marble auf den Markt gebracht hat, das aus Textaufforderungen erforschbare 3D-Umgebungen generiert.
Google $GOOGL DeepMind hat Genie 3 entwickelt, ein System, das fotorealistische virtuelle Welten schafft, in denen KI-Agenten durch Versuch und Irrtum lernen können. Nvidias Jensen Huang hat Weltmodelle gefördert als Schlüssel zur "physischen KI", die Roboter und autonome Fahrzeuge betreiben kann. Selbst Elon Musks xAI hat sich dem Rennen angeschlossen, indem es Personal von Nvidia $NVDA einstellt, um Weltmodelle für Videospiele zu entwickeln.
Trotz aller Begeisterung bleiben Weltmodelle eine Nebenwette. Die größten Schecks in der KI gehen immer noch an Sprachmodellunternehmen. OpenAI, Anthropic und Google investieren Zig Milliarden in die Skalierung des Ansatzes, von dem LeCun sagt, dass er zum Scheitern verurteilt ist.
LeCun ist nicht der Erste, der diese Bedenken äußert, und er ist nicht allein. Forscher haben in Frage gestellt, ob Sprachmodelle seit dem Debüt von GPT-3 echte Intelligenz erreichen können, und das Konzept der Weltmodelle gibt es seit Jahrzehnten.
Weltmodelle stehen vor eigenen Hindernissen. Der Bau genauer Simulationen ist teuer, und es ist unklar, ob virtuelle Trainingsumgebungen jemals die volle Komplexität der Realität erfassen können. Es gibt auch keine Garantie, dass in der Simulation erlernte Fähigkeiten reibungslos in die physische Welt übertragen werden.
Aber LeCun hat eine Geschichte, unmodische Ideen zu unterstützen. In den 1980er Jahren, setzte er sich für neuronale Netze ein, als ein großer Teil des Feldes weitergezogen war. Und wenn er mit Weltmodellen richtig liegt, könnte Meta am Ende das kaufen, was es nicht bauen wollte. LeCun hat bereits seinen ehemaligen Arbeitgeber als ersten potenziellen Kunden von AMI vorgeschlagen.
