Von Mustererkennung bis hin zu Ausrichtungsfehlern, ein klarer Leitfaden für das, was tatsächlich in den KI-Systemen passiert, die Arbeit, Medien und das tägliche Leben neu gestalten.
Chris McGrath / Getty Images
KI ist schneller in den Alltag eingezogen, als die meisten Menschen es verstehen. Millionen nutzen sie täglich – um E-Mails zu entwerfen, Bilder zu erzeugen, Code zu schreiben, Dokumente zusammenzufassen – ohne ein klares Bild davon zu haben, was darunter passiert. Das ist keine Faulheit. Diese Systeme sind wirklich komplex, basieren auf jahrzehntelanger Mathematik und Ingenieurkunst, und die Unternehmen, die sie entwickeln, bevorzugen oft, dass diese Komplexität undurchsichtig bleibt.
Aber die Lücke zwischen dem, was KI tun kann, und dem, was die Menschen glauben, dass sie tut, schafft echte Probleme. Menschen vermenschlichen Systeme, die keine innere Erfahrung haben. Sie vertrauen Ergebnissen, die selbstbewusst falsch sind. Sie gehen davon aus, dass KI „denkt“, wenn sie etwas ganz anderes tut. Sie übersehen die tatsächlichen Einschränkungen – und manchmal die tatsächlichen Fähigkeiten – weil ihr mentales Modell ungenau ist.
Dieser Artikel handelt nicht davon, ob KI gut oder schlecht ist. Es geht darum, was sie tatsächlich ist: wie sie lernt, wie sie Ausgaben generiert, woher ihre Fehler kommen und warum die Probleme, die diese Systeme plagen, strukturell und nicht zufällig sind. Diese Dinge zu verstehen, wird Sie nicht zu einem Maschinenlern-Ingenieur machen. Es wird Sie zu einem schärferen Leser von KI-Berichterstattung, einem vorsichtigeren Benutzer von KI-Tools und einem besseren Beurteiler der Behauptungen der Unternehmen, die sie aufbauen, machen.
Die 15 Konzepte hier decken die gesamte Kette ab – von der Art und Weise, wie Modelle trainiert werden, bis hin zu den Gründen, warum sie halluzinieren, von dem, was "Parameter" tatsächlich bedeutet, bis hin zu der Frage, warum das Ausrichtungsproblem schwieriger ist, als es aussieht. Einige dieser Ideen sind technisch, aber nicht kompliziert. Andere sind philosophisch, aber in realen Ingenieursentscheidungen verankert. Sie alle sind wichtig, wenn Sie sich ehrlich mit der Technologie auseinandersetzen wollen, die die Art und Weise, wie Arbeit erledigt wird, wie Inhalte erstellt werden und wie Entscheidungen in Medizin, Recht, Finanzen und Regierung getroffen werden, neu gestaltet.
Für all das ist kein Hintergrund in Mathematik oder Informatik erforderlich. Es erfordert nur die Bereitschaft, zu untersuchen, wie etwas tatsächlich funktioniert, anstatt wie es vermarktet wurde. Diese Unterscheidung ist im Moment wichtiger, als es scheinen mag.
Yuichiro Chino / Getty Images
KI-Systeme denken nicht. Sie identifizieren Muster in großen Datenmengen und verwenden diese Muster, um Ausgaben zu erzeugen – Texte, Bilder, Vorhersagen, Klassifikationen. Die Unterscheidung ist wichtig, weil „Denken“ etwas ganz anderes impliziert: Vernunft, Intentionalität, Verständnis und die Fähigkeit zu wissen, wann man falsch liegt. KI-Systeme, wie sie derzeit gebaut werden, haben keine dieser Eigenschaften auf die Weise, wie Menschen es tun.
Das Wort „Intelligenz“ in „künstlicher Intelligenz“ war schon immer ein wenig irreführend. Der Begriff geht auf eine Konferenz 1956 am Dartmouth College zurück, die von John McCarthy organisiert wurde, der ihn teilweise erfand, um Forschungsmittel zu gewinnen. Was die Forscher damals meinten, war eng: die Fähigkeit, Aufgaben auszuführen, die, wenn sie von einem Menschen ausgeführt würden, Intelligenz erfordern würden. Das ist nicht dasselbe wie intelligent zu sein.
Moderne KI-Systeme – insbesondere große Sprachmodelle – sind außergewöhnlich gut in der Mustererkennung. Bei einem gegebenen Prompt generieren sie eine statistisch wahrscheinliche Fortsetzung basierend auf Mustern, die aus Milliarden von Beispielen menschlich verfasster Texte extrahiert wurden. Das Ergebnis kann wie eine Begründung aussehen. Es kann durchdacht, artikuliert und sogar tiefgründig klingen. Der Prozess, der dies erzeugt, dreht sich im Wesentlichen um Vorhersage, nicht um Verständnis.
Deshalb können KI-Systeme flüssige, selbstbewusste Texte zu einem Thema produzieren, in dem sie keine echte Grundlage haben. Das Modell überprüft Fakten nicht gegen ein internes Modell der Realität. Es produziert Texte, die den Mustern dessen entsprechen, wie korrekt klingende Texte zu diesem Thema aussehen. Wenn es richtig liegt, waren die Muster genau. Wenn es katastrophal falsch liegt, haben die Muster es in die Irre geführt.
Die praktische Implikation ist erheblich. Ein System, das nicht zwischen wahr und falsch unterscheiden kann, oder zwischen dem, was es weiß und was es erfindet, sollte nicht als zuverlässige Informationsquelle ohne externe Verifizierung behandelt werden. Es kann ein nützliches Werkzeug zum Erstellen von Entwürfen, Erkunden von Ideen oder Organisieren von Gedanken sein. Es ist kein Verstand. Es ist eine sehr ausgeklügelte Musterabgleichmaschine – und es als mehr zu behandeln, erzeugt vorhersehbare, vermeidbare Fehler.
Wenn man diesen einen Punkt versteht, wird fast alles andere darüber, wie KI sich verhält und warum sie auf die spezifischen Weisen versagt, neu bewertet.
Eugene Mymrin / Getty Images
Jedes KI-System lernt aus Daten. Die Qualität, Quantität und Zusammensetzung dieser Daten bestimmen fast alles über das Verhalten des Modells – was es weiß, welche Vorurteile es widerspiegelt, welche Sprachen es gut handhabt, mit welchen Themen es Schwierigkeiten hat und welche Arten von Fehlern es macht.
Für große Sprachmodelle bestehen Trainingsdaten typischerweise aus enormen Mengen an Texten, die aus dem Internet, digitalisierten Büchern, Code-Repositories, Wikipedia, wissenschaftlichen Artikeln und anderen Quellen gesammelt wurden. Die genaue Zusammensetzung variiert je nach Modell und Unternehmen, und die meisten Organisationen veröffentlichen keine vollständigen Details darüber, was in ihren Datensätzen enthalten ist. Der Umfang ist enorm: GPT-3, veröffentlicht von OpenAI im Jahr 2020, wurde mit etwa 570 Gigabyte gefiltertem Text trainiert. Neuere Grenzmodelle verwenden deutlich mehr.
Das Modell merkt sich diese Daten nicht so, wie ein Mensch sich Fakten merkt. Stattdessen extrahiert es statistische Muster – welche Wörter dazu neigen, welchen anderen Wörtern zu folgen, welche Konzepte zusammen auftreten, wie verschiedene Schreibstile strukturiert sind. Diese Muster werden in den internen Gewichten des Modells kodiert, den numerischen Werten, die bestimmen, wie das Modell auf einen bestimmten Input reagiert.
Die Trainingsdaten sind im Grunde die Welt, die das Modell kennt. Wenn bestimmte Perspektiven, Sprachen oder Bereiche in den Trainingsdaten unterrepräsentiert sind, wird das Modell entsprechend schlechter darin sein, mit ihnen umzugehen. Wenn die Trainingsdaten sachliche Fehler enthalten — und Internettexte tun das sicherlich — kann das Modell diese Fehler mit voller Überzeugung reproduzieren.
Auch das Abschneiden der Trainingsdaten spielt eine Rolle. Die meisten Modelle haben ein Wissensstichtagsdatum, nach dem sie keine direkten Kenntnisse von Ereignissen haben. Ein Modell, das auf Daten bis zu einem bestimmten Monat trainiert wurde, wird unwissend über alles sein, was danach passiert ist, es sei denn, es erhält Zugang zu zusätzlichen Werkzeugen oder aktualisierten Trainingsdaten.
Die Frage der Trainingsdaten ist auch eine ethische. Das Abschöpfen großer Textmengen aus dem Internet wirft ungelöste Fragen zu Urheberrecht, Einwilligung und wessen Schreiben zur Erstellung kommerzieller Produkte verwendet wird, auf. In mehreren Ländern laufen rechtliche Auseinandersetzungen, und es gibt noch keinen klaren rechtlichen Rahmen, der die Angelegenheit geregelt hat.
Yuichiro Chino / Getty Images
Der Begriff "neuronales Netz" ruft das menschliche Gehirn hervor, und das ist nicht ganz zufällig. Das Grundkonzept beruht auf der Neurowissenschaft — genauer gesagt, der Idee, dass biologische Neuronen auf Eingaben reagieren und Signale an andere Neuronen weiterleiten. Künstliche neuronale Netze verwenden eine mathematische Abstraktion davon: Knoten, die in Schichten organisiert sind und Werte aneinander weitergeben und die Stärke ihrer Verbindungen basierend auf Rückmeldungen anpassen.
Die Analogie endet schnell. Biologische Neuronen sind außerordentlich komplexe Zellen mit elektrochemischem Verhalten, das die Wissenschaft nicht vollständig versteht. Künstliche Neuronen sind einfache mathematische Funktionen — sie empfangen eine Zahl, wenden eine Transformation an und geben eine Zahl aus. Das menschliche Gehirn hat ungefähr 86 Milliarden Neuronen mit Hunderten von Billionen synaptischen Verbindungen. Ein neuronales Netzwerk, selbst ein sehr großes, ist eine viel einfachere und starrere Struktur, die in einem grundlegend anderen Medium arbeitet.
Modernes Deep Learning — der Zweig der KI, der für die aktuelle Fortschrittswelle verantwortlich ist — verwendet neuronale Netze mit vielen Schichten, daher "tief". Jede Schicht extrahiert zunehmend abstrakte Merkmale aus dem Input. In der Bilderkennung könnten frühe Schichten Kanten erkennen, mittlere Schichten könnten Formen erkennen, und spätere Schichten könnten spezifische Objekte erkennen. In Sprachmodellen reicht der Fortschritt von einzelnen Zeichen über Wörter zu Phrasen zu breiteren semantischen Beziehungen.
Der Trainingsprozess umfasst das Zeigen vieler Beispiele und das Anpassen der Verbindungsgewichte mit einem Algorithmus namens Rückpropagation. Fehlersignale werden rückwärts durch das Netzwerk geleitet, und Gewichte werden in Richtungen angepasst, die den Fehler reduzieren. Über Millionen oder Milliarden von Trainingsschritten erzeugt das Netzwerk Ausgaben, die besser zu den Mustern in den Trainingsdaten passen.
Was aus diesem Prozess entsteht, kann fast magisch erscheinen. Aber es ist Mathematik — genauer gesagt, auf Optimierung angewendete Analysis. Es gibt keinen Geist in der Maschine. Das Netzwerk „lernt“ nicht im Sinne von Verständnisentwicklung. Es passt numerische Werte an, bis seine Ausgaben besser mit den Mustern übereinstimmen, auf denen es trainiert wurde.
Die Analogie zum Gehirn ist als Ursprungsgeschichte nützlich. Als Anleitung dafür, wie moderne KI tatsächlich funktioniert, führt sie mehr in die Irre als dass sie erhellt.
Andriy Onufriyenko / Getty Images
Der Kernmechanismus hinter großen Sprachmodellen ist täuschend einfach: Angesichts einer Textsequenz vorhersagen, was als nächstes kommt. Dies wird als Next-Token-Vorhersage bezeichnet und ist auf der grundlegendsten Ebene alles, was Modelle wie GPT-4, Claude und Gemini tun.
Ein „Token“ ist nicht genau ein Wort. Die Tokenisierung zerlegt Text in Blöcke, die ganze Wörter, Wortteile oder einzelne Zeichen sein können, je nach verwendetem Tokenizer. Das Wort „unglaublich“ könnte in „un“ und „glaublich“ zerlegt werden. Das Wort „Katze“ könnte ein einzelnes Token sein. Das genaue Tokenisierungsschema beeinflusst, wie ein Modell Text verarbeitet, insbesondere in anderen Sprachen als Englisch, in denen Wortgrenzen und Morphologie anders funktionieren.
Das Modell verarbeitet eine Eingabe — genannt „Prompt“ — und erzeugt eine Wahrscheinlichkeitsverteilung über alle möglichen nächsten Tokens. Es wählt eines aus, mit einem gewissen Grad an Zufälligkeit, der durch einen Parameter namens „Temperatur“ gesteuert wird, fügt es der Eingabe hinzu und wiederholt den Vorgang. Dies wird als autoregressive Erzeugung bezeichnet: Jedes Token wird basierend auf den zuvor kommenden Tokens vorhergesagt.
Was große Sprachmodelle leistungsfähig macht, ist nicht der Mechanismus, sondern der Umfang, in dem er angewendet wird. Wenn ein Modell darauf trainiert wird, das nächste Token anhand von Hunderten von Milliarden Beispielen menschlich geschriebener Texte vorherzusagen, muss es — um dies genau zu tun — etwas über Grammatik, Fakten, Argumentationsmuster, Stil, Ursache und Wirkung sowie ein umfangreiches Weltwissen lernen. Die Komprimierung dieser Informationen in die Parameter des Modells ist es, was die Ausgabe so raffiniert erscheinen lässt.
Aber der Mechanismus erklärt auch die Fehlermodi. Das Modell plant nicht, was es sagen wird, bevor es mit der Generierung beginnt. Es erzeugt ein Token nach dem anderen, jedes basierend auf dem, was davor kam. Das bedeutet, dass das Modell abschweifen, sich selbst widersprechen oder sich in eine logische Sackgasse manövrieren kann — weil es nicht „vorausschauend gedacht“ hat. Es konnte nicht. So funktioniert das System nicht.
Einige neuere Architekturen führen bewusste Überlegungsschritte ein, bevor sie eine endgültige Antwort generieren. Aber selbst diese Ansätze stützen sich immer noch auf die gleiche zugrunde liegende Vorhersagemaschine für das nächste Token.
Yuichiro Chino /Getty Images
Wenn jemand ein KI-System eine Frage stellt und es korrekt antwortet, ist es verlockend zu sagen, die KI "weiß" die Antwort. Was das Modell tatsächlich besitzt, ist etwas anderes: eine komprimierte Darstellung statistischer Regelmäßigkeiten in seinen Trainingsdaten. Ob das in irgendeinem sinnvollen Sinne Wissen darstellt, ist eine ernsthafte philosophische Frage ohne klare Lösung.
Menschliches Wissen beinhaltet Verständnis – das typischerweise die Fähigkeit einschließt, zu erkennen, wann man etwas nicht weiß, zuverlässige von unzuverlässigen Informationen zu unterscheiden, Überzeugungen als Reaktion auf neue Beweise zu aktualisieren und Widersprüche zu erkennen. KI-Modelle, wie sie derzeit gebaut sind, tun keines dieser Dinge zuverlässig.
Ein Modell kann dir mit gleichem Vertrauen die Hauptstadt von Frankreich und die Hauptstadt eines fiktiven Landes nennen. Es kann von innen heraus nicht zwischen den beiden unterscheiden. Es kann einen plausibel klingenden historischen Bericht über ein Ereignis, das nie stattgefunden hat, erzeugen. Es kann eine mathematische Tatsache behaupten und ihr mehrere Absätze später widersprechen. Es besitzt kein internes Signal, das auslöst, wenn es sich in ein Gebiet begibt, dem es nicht vertrauen sollte.
Was das Modell stattdessen hat, ist eine Darstellung dessen, was die Trainingsdaten über ein Thema "gesagt" haben, kodiert in Gewichten. Wenn ein Thema häufig und konsistent in den Trainingsdaten erschien, wird das Modell dazu neigen, darüber genaue Ausgaben zu erzeugen. Wenn ein Thema selten, umstritten oder in den Trainingsdaten falsch dargestellt wurde, wird das Modell diese Unzuverlässigkeit widerspiegeln – ohne sie zu kennzeichnen.
Dies ist grundsätzlich anders als etwas zu wissen. Ein menschlicher Experte hat ein Modell seines Fachgebiets, das Unsicherheit, aktive Debatte, die Grenzen aktueller Beweise und die Fähigkeit einschließt, zu kennzeichnen, wenn eine Frage außerhalb seiner Expertise liegt. KI-Systeme verfügen derzeit nicht über verlässliche Versionen all dieser Punkte.
Einige Forscher beschreiben, was Modelle tun, als "stochastisches Papageienverhalten" – statistisch plausible Sequenzen zu erzeugen, ohne sie in irgendeine referenzielle Beziehung zur Welt zu verankern. Andere argumentieren, dass etwas Interessanteres entsteht: dass nützliche Darstellungen der Weltstruktur aus der Vorhersage des nächsten Tokens im großen Maßstab hervorgehen. Die Debatte ist ungelöst. Was nicht umstritten ist, ist, dass die Beziehung des Modells zur Wahrheit indirekt und unzuverlässig ist und Benutzer sie entsprechend behandeln sollten.
Amos K / Unsplash
Fast alle heute eingesetzten KI-Systeme sind schmale KIs: Systeme, die für die Ausführung spezifischer, klar definierter Aufgaben entwickelt wurden. Ein Modell, das Schach spielt, spielt nicht Go. Ein Spam-Filter übersetzt keine Sprache. Ein Bildklassifizierer generiert keinen Text. Diese Systeme sind oft außergewöhnlich fähig in ihrem Bereich und übertreffen die menschliche Leistung bei bestimmten Benchmarks — aber sie übertragen keine Fähigkeit außerhalb davon.
Große Sprachmodelle wirken allgemeiner, da sie viele verschiedene Arten von Aufgaben bewältigen können: Schreiben, Codieren, Zusammenfassen, Übersetzen, Beantworten von Fragen. Aber sie sind immer noch in wichtigen Punkten schmal. Sie sind schwach bei Aufgaben, die eine Interaktion mit der physischen Welt erfordern, beim kontinuierlichen Lernen aus Erfahrung, beim zuverlässigen Kausaldenken und beim Erkennen ihrer eigenen Grenzen.
Künstliche allgemeine Intelligenz — AGI — bezieht sich auf ein hypothetisches System, das jede intellektuelle Aufgabe, die ein Mensch kann, mit vergleichbarer Flexibilität ausführen kann. Ein solches System existiert nicht. Die Definition von AGI ist an sich umstritten: Verschiedene Forscher und Unternehmen definieren es unterschiedlich, was es nahezu unmöglich macht, Behauptungen über "nahe an AGI" oder "AGI erreicht" zu bewerten, ohne zu wissen, welche Definition der Sprecher verwendet.
OpenAI hat seine Mission als den Aufbau von AGI beschrieben. Google $GOOGL DeepMind verwendet eine andere Rahmung. Akademische Forscher diskutieren, ob AGI überhaupt ein kohärentes Ziel ist oder ein sich bewegendes Ziel, das sich mit der Verbesserung der KI verschiebt. Der Ausdruck leistet viel Arbeit im öffentlichen Diskurs, ohne dass Einigkeit darüber besteht, was er bedeutet.
Was heute existiert — und was wirklich nützlich ist — sind große Sprachmodelle und andere KI-Systeme, die leistungsstark, aber spezifisch sind. Sie transformieren Industrien nicht, weil sie die menschliche allgemeine Intelligenz replizieren, sondern weil sie bestimmte Arten von kognitiver Arbeit im großen Maßstab automatisieren: Texterstellung, Mustererkennung, Klassifizierung, Übersetzung, Zusammenfassung.
Das Verständnis der Unterscheidung zwischen schmal und allgemein hilft, Erwartungen zu kalibrieren. Ein System, das hervorragend rechtliche Textzusammenfassungen generiert, ist nicht kompetent, um zuverlässig mit Mehrdeutigkeit umzugehen, Sarkasmus konsequent zu erkennen oder zu verstehen, warum ein bestimmter Witz ankommt. Die Behandlung von schmalen Systemen, als wären sie allgemein, ist eine Quelle sowohl von übermäßiger Abhängigkeit als auch von fehlgeleiteter Enttäuschung — und es ist eine Verwirrung, die das Marketing um diese Produkte oft fördert.
Contributor / Getty Images
Maschinelles Lernen – das breitere Feld, das Deep Learning und große Sprachmodelle umfasst – verwendet mehrere unterschiedliche Trainingsparadigmen. Die drei wichtigsten sind überwachtetes Lernen, unüberwachtes Lernen und Verstärkungslernen. Das Verständnis des Unterschieds hilft, zu klären, wofür KI-Systeme tatsächlich trainiert werden.
Überwachtes Lernen ist das häufigste. Das Modell wird mit markierten Daten trainiert: Paare von Eingaben und korrekten Ausgaben. Ein Bilderkennungsmodell, das auf Fotos trainiert wird, die mit „Katze“ oder „Hund“ markiert sind, lernt, visuelle Merkmale mit diesen Labels zu verknüpfen. Ein Spamfilter, der auf E-Mails trainiert wird, die als „Spam“ oder „kein Spam“ markiert sind, lernt, neue E-Mails zu klassifizieren. Das Modell wird korrigiert, indem seine Ausgabe mit einer bekannten richtigen Antwort verglichen wird.
Die wichtigste Voraussetzung für überwachtes Lernen sind markierte Daten, deren Erstellung teuer ist. Menschen müssen Beispiele annotieren, was bedeutet, dass überwachtes Lernen im großen Maßstab massive menschliche Annotationseinsätze erfordert – oft ausgelagert an Arbeiter, die mühsame, manchmal beunruhigende Aufgaben für geringe Bezahlung ausführen. Diese Arbeit ist in öffentlichen Diskussionen über KI weitgehend unsichtbar.
Unüberwachtes Lernen verwendet keine markierten Daten. Dem Modell werden Rohdaten gegeben und es lernt, Strukturen darin zu finden – Cluster, Muster, Repräsentationen – ohne gesagt zu bekommen, wonach es suchen soll. Auf diese Weise lernen Modelle nützliche interne Repräsentationen, die dann auf nachgelagerte Aufgaben angewendet werden können. So lernen Empfehlungssysteme auch, dass Benutzer, die sich mit bestimmten Inhalten beschäftigen, dazu neigen, sich auch mit anderen spezifischen Inhalten zu beschäftigen.
Verstärkungslernen trainiert ein Modell durch Versuch und Irrtum. Das Modell führt Aktionen aus, erhält Belohnungen oder Strafen basierend auf den Ergebnissen und passt sein Verhalten an, um die Belohnung im Laufe der Zeit zu maximieren. So lernte AlphaGo von DeepMind, das Spiel Go auf übermenschlichem Niveau zu spielen. Das Modell lernte nicht aus Beispielen korrekten Spiels – es lernte, indem es Millionen von Spielen spielte und Rückmeldungen zu den Ergebnissen erhielt.
Die meisten modernen KI-Systeme verwenden Kombinationen aller drei. Große Sprachmodelle beginnen mit selbstüberwachtem Lernen – einer Variante des unüberwachten Lernens, bei der das Modell maskierte oder fehlende Teile seiner eigenen Trainingsdaten vorhersagt – und werden dann mithilfe von überwachtem Lernen und Verstärkungslernen durch menschliches Feedback feinabgestimmt. Jede Phase prägt das Verhalten des Modells auf unterschiedliche Weise.
Kirsty O'Connor / PA Images / Getty Images
Wenn Leute darüber sprechen, dass KI-Modelle „Milliarden von Parametern“ haben, beziehen sie sich auf die einzelnen numerischen Gewichte, aus denen das Modell besteht. Ein Parameter ist eine einzelne Zahl in der internen Struktur des Modells – ein während des Trainings angepasster Wert –, der zusammen bestimmt, wie das Modell auf Eingaben reagiert. Mehr Parameter bedeuten im Allgemeinen eine größere Kapazität, um Muster und Beziehungen aus den Trainingsdaten zu speichern.
GPT-3 hatte 175 Milliarden Parameter. Größere Frontier-Modelle haben mehr. Die Zahl wird oft als Indikator für die Leistungsfähigkeit angesehen – und das ist sie bis zu einem gewissen Grad auch. Größere Modelle tendieren dazu, bei Benchmarks besser abzuschneiden, komplexere Aufgaben zu bewältigen und besser auf neue Eingaben zu verallgemeinern. Aber die Beziehung ist nicht linear, und die Anzahl der Parameter allein erzählt nicht die ganze Geschichte.
Was die Parameter tatsächlich kodieren, ist keine Information, wie sie in einer Datenbank gespeichert wird. Eine Datenbank hält diskrete Fakten: die Hauptstadt von Frankreich ist Paris, gespeichert als Zeichenfolge. Die Parameter eines Modells kodieren etwas Diffuseres – die Gewichte von Verbindungen in einem neuronalen Netzwerk, die zusammen nützliche Ausgaben erzeugen, wenn das Modell eine Eingabe verarbeitet. Das Modell hat keinen „Faktenslot“ für Paris. Dieser Fakt ist über Millionen von Parametern verteilt, sodass „Paris“ zu einem wahrscheinlichen Ergebnis wird, wenn das Modell nach der französischen Hauptstadt gefragt wird.
Diese verteilte Darstellung ist sowohl eine Stärke als auch eine Schwäche. Sie ermöglicht es dem Modell zu generalisieren, umformulierter Versionen einer Frage zu verstehen und Konzepte flexibel zu kombinieren. Aber es bedeutet auch, dass man das Modell nicht direkt inspizieren kann, um herauszufinden, was es „weiß“. Man kann es nur mit Eingaben testen und beobachten, was herauskommt.
Die Anzahl der Parameter interagiert auch mit der Qualität des Trainings. Ein großes Modell, das mit schlechten Daten oder einem fehlerhaften Trainingsprozess trainiert wird, kann schlechter abschneiden als ein kleineres Modell, das gut trainiert wurde. Architektonische Entscheidungen – wie Schichten verbunden sind, welche Art von Aufmerksamkeitsmechanismen verwendet werden, wie der Kontext verarbeitet wird – sind genauso wichtig wie die rohe Größe.
Kleinere Modelle haben sich durch Techniken wie Distillation erheblich verbessert, bei der ein kleineres Modell darauf trainiert wird, ein größeres nachzuahmen. Dies hat leistungsfähige KI-Systeme ermöglicht, die auf Geräten mit begrenzten Rechenressourcen betrieben werden können, was Einsatzmöglichkeiten eröffnet hat, die vor wenigen Jahren noch nicht existierten.
NurPhoto / Getty Images
KI-Halluzinationen – wenn ein Modell selbstbewusst falsche Informationen produziert – werden weithin als zu lösendes Problem beschrieben. Aber Halluzinationen sind kein Fehler, den zukünftige Versionen beheben werden. Sie sind eine strukturelle Konsequenz davon, wie große Sprachmodelle funktionieren, und zu verstehen, warum, macht es viel weniger überraschend.
Das Modell ist darauf trainiert, wahrscheinliche nächste Tokens zu erzeugen. Es hat keinen direkten Zugriff auf verifizierte Fakten, keinen internen Faktenprüfungsmechanismus und keine zuverlässige Möglichkeit, zwischen dem, was es weiß, und dem, was es fabriziert, zu unterscheiden. Wenn es nach einer Frage gefragt wird, deren Antwort in seinen Trainingsdaten nicht gut repräsentiert ist, sagt es standardmäßig nicht „Ich weiß es nicht“. Es produziert Text, der dem Muster einer Antwort auf diese Frage entspricht.
Deshalb halluzinieren Modelle Zitate – sie erzeugen plausible aussehende Autorennamen, Zeitschriftentitel und Veröffentlichungsjahre, die nicht mit realen Arbeiten übereinstimmen. Deshalb halluzinieren sie historische Daten, rechtliche Präzedenzfälle, biografische Details und wissenschaftliche Erkenntnisse. Der Output sieht autoritativ aus, weil die Trainingsdaten dem Modell beigebracht haben, wie autoritativer Text aussieht – nicht, wie man überprüft, ob bestimmte Behauptungen wahr sind.
Mehrere Ansätze versuchen, Halluzinationen zu reduzieren. Die durch Retrieval erweiterte Generierung verbindet ein Modell mit einer externen Wissensdatenbank, wodurch es in der Lage ist, verifizierte Dokumente abzurufen, bevor es eine Antwort generiert. Das Feintuning auf hochwertige, eng gefasste Datensätze kann die Genauigkeit in bestimmten Bereichen verbessern. Modelle zu trainieren, um kalibrierte Unsicherheit auszudrücken, ist ein aktives Forschungsgebiet.
Aber keiner dieser Ansätze beseitigt das Problem vollständig. Retrieval hilft nur, wenn die Wissensdatenbank genau ist und das Modell korrekt abruft – beides ist nicht garantiert. Auch Unsicherheitsausdrücke können falsch kalibriert sein: Ein Modell kann mit hoher Sicherheit eine falsche Antwort geben. Der zugrunde liegende Mechanismus – Vorhersage des nächsten Tokens ohne Verankerung in der realen Welt – bleibt unverändert, unabhängig davon, was darauf aufgebaut wird.
Für Nutzer bedeutet dies, jede von KI generierte Tatsachenbehauptung als Hypothese zu behandeln, die überprüft werden muss, nicht als Tatsache, auf die man sich verlassen kann. Die konversationelle Flüssigkeit des Outputs macht es leicht, dies zu vergessen – was genau das Problem bedeutsam macht.
Ian Nicholson / PA Images / Getty Images
KI-Systeme können Texte erzeugen, die wie logisches Denken aussehen. Sie können Argumente darlegen, logische Schritte strukturieren und zu Schlussfolgerungen gelangen. Aber der Prozess, der diesen Text erzeugt, ist nicht derselbe wie menschliches Denken, und die Unterschiede haben reale praktische Konsequenzen.
Menschliches Denken umfasst mehrere Dinge, die KI-Systeme nicht zuverlässig tun: ein Arbeitsgedächtnis, das abstrakte Darstellungen hält und manipuliert, die Fähigkeit, zu verfolgen, ob ein logischer Schritt gültig ist, die Fähigkeit, Widersprüche zu erkennen und zurückzuspringen, und Metakognition – das Nachdenken über das eigene Denken. Wenn Menschen denken, können sie oft spüren, wenn etwas in ihrem Argument schiefgelaufen ist, und es überdenken.
KI-Modelle erzeugen logische Texte Token für Token, von links nach rechts. Sobald ein falscher Schritt gemacht wurde, ist jedes nachfolgende Token auf diesen falschen Schritt konditioniert. Das Modell korrigiert selten seinen eigenen Denkweg, sobald es unterwegs ist. Es erzeugt weiterhin Texte, die zu dem passen, was typischerweise auf den falschen Schritt folgt, was zu elaborierten, intern kohärent klingenden Argumenten führen kann, die auf einem Fehler basieren, der drei Sätze zuvor gemacht wurde.
Dies erklärt, warum KI-Systeme bei mehrstufiger Arithmetik massiv versagen können, obwohl sie flüssig klingen, warum sie schlecht über räumliche Beziehungen nachdenken und warum sie logisch erscheinende Argumente konstruieren können, die subtile, aber entscheidende Fehler enthalten.
Das Auffordern einer Kette von Gedanken — ein Modell anzuweisen, "Schritt für Schritt zu denken", bevor es antwortet — verbessert die Leistung bei Aufgaben, die logisches Denken erfordern. Dies funktioniert teilweise, weil das Generieren von Zwischenschritten dem Modell mehr Kontext bietet, auf den es sich stützen kann, und teilweise, weil das explizit Machen von implizitem Denken bestimmte Fehlertypen reduziert. Aber eine Gedankenkette ist immer noch eine tokenweise Generierung; es ist keine logische Schlussfolgerung im formalen Sinne.
Neuere Ansätze versuchen, mehr explizite Suche und Verifikation in die KI-Überlegung einzuführen — wodurch das Modell mehrere Wege erkunden und seine Schritte überprüfen kann, bevor es sich auf eine Antwort festlegt. Diese zeigen eine echte Verbesserung bei formalen Denkbenchmarks. Sie sind rechenintensiv und noch nicht allzweckfähig.
Die praktische Implikation: KI-Systeme sollten am besten als Werkzeuge zur Organisation und Erweiterung menschlichen Denkens verwendet werden, nicht als Orakel, die verifizierte Schlussfolgerungen liefern.
DAVID MCNEW / Getty Images
KI-Systeme spiegeln die in ihren Trainingsdaten vorhandenen Vorurteile wider und verstärken sie oft. Es wurde gezeigt, dass Sprachmodelle bestimmte Namen mit bestimmten demografischen Gruppen assoziieren, Frauen und Männer in professionellen Kontexten unterschiedlich beschreiben und in Sprachen und Dialekten, die in den Trainingsdaten unterrepräsentiert sind, deutlich schlechter abschneiden. Dies ist kein theoretisches Problem — es wurde in eingesetzten Systemen dokumentiert.
Der Mechanismus ist direkt. Wenn ein Trainingsdatensatz Texte enthält, in denen bestimmte Berufe überwiegend mit Männern in Verbindung gebracht werden, wird das Modell dieses Muster verinnerlichen. Wenn es aufgefordert wird, Texte zu diesen Berufen zu generieren, wird es diese Assoziation widerspiegeln. Wenn die Trainingsdaten mehr Texte über einige Kulturen und Perspektiven als andere enthalten, wird das Wissen des Modells entsprechend ungleichmäßig sein.
Trainingsdaten sind nicht die einzige Quelle von Voreingenommenheit. Die während des Feintunings getroffenen Entscheidungen, die Kriterien, die bei der Sammlung von menschlichem Feedback verwendet werden, die demografische Zusammensetzung der Annotatorenpools und die Entscheidungen darüber, welche Inhalte gefiltert werden sollen — all dies führt zusätzliche Schichten von wertbeladenen Entscheidungen in einen Prozess ein, der von außen neutral erscheinen kann. Es gibt keinen neutralen Trainingsprozess. Jede Designentscheidung kodiert Annahmen.
Bemühungen zur Reduzierung von Verzerrungen beinhalten eine sorgfältigere Auswahl der Trainingsdaten, die Durchführung strukturierter Bias-Prüfungen, den Einsatz von Techniken wie dem adversarialen Training zur Reduzierung systematischer Fehler und die Anwendung von Nachbearbeitungsfiltern. Diese Maßnahmen helfen an den Rändern, beseitigen das Problem jedoch nicht. Bias in KI ist ein fortlaufendes Forschungsgebiet, kein gelöstes Problem.
Ein separates, aber verwandtes Problem ist, dass das, was als "Bias" gilt, oft umstritten ist. Ein Modell, das mit unterschiedlichen Arten von Inhalten unterschiedlich spricht, kann die Variation in den Trainingsdaten genau widerspiegeln oder systematisch einige Gruppen falsch darstellen. Die Unterscheidung zwischen diesen Erklärungen erfordert eine sorgfältige Analyse spezifischer Ergebnisse in spezifischen Kontexten – keine einfache aggregierte Messung.
Für Organisationen, die KI-Systeme einsetzen, bedeutet dies, Bias-Prüfungen durchzuführen, die speziell auf den beabsichtigten Anwendungsfall zugeschnitten sind, anstatt sich ausschließlich auf die allgemeinen Benchmarks des Modellentwicklers zu verlassen.
Erik Isakson / Getty Images
Die jüngste Welle des KI-Fortschritts wird oft besseren Algorithmen zugeschrieben – verbesserten Architekturen, intelligenteren Trainingstechniken, effizienterer Datennutzung. Das ist ein Teil der Geschichte. Rohrechenleistung war ebenso wichtig und in einigen Perioden sogar noch mehr.
Moderne KI-Modelle werden auf riesigen Clustern von spezialisierten Chips trainiert, hauptsächlich Grafikkarten (GPUs) und zunehmend maßgeschneiderten Beschleunigern wie Googles Tensor Processing Units (TPUs) und Chips von Unternehmen wie Cerebras und Groq. Das Training eines großen Sprachmodells kann Wochen oder Monate dauern, auf Tausenden von Chips, die parallel laufen. Der Energieverbrauch ist erheblich.
Die Beziehung zwischen Rechenleistung und Modellfähigkeit wurde in einer Reihe von Ergebnissen formalisiert, die jetzt als Skalierungsgesetze bekannt sind und 2020 von Forschern bei OpenAI veröffentlicht wurden. Die Kernfrage: Die Erhöhung der im Training verwendeten Rechenleistung – durch Skalierung der Modellgröße, der Datengröße oder beidem in bestimmten Verhältnissen – führt zu vorhersehbaren, konsistenten Verbesserungen der Modelfähigkeit. Dies gab KI-Labors eine praktische Roadmap. Wenn man ein besseres Modell wollte, konnte man ungefähr abschätzen, was es kosten würde, es zu bauen.
Skalierungsgesetze haben Grenzen. Es gibt Anzeichen dafür, dass einige Arten von Verbesserungen architektonische Änderungen erfordern, statt einfach nur mehr Rechenleistung. Und der Bedarf an Rechenleistung für Spitzenmodelle wächst in einer Weise, die die Fähigkeiten in den Händen von wenigen stark finanzierten Organisationen konzentriert – OpenAI, Google $GOOGL, Meta $META, Anthropic und einige andere. Die Ökonomie der KI-Entwicklung beginnt, der Ökonomie der Halbleiterfertigung zu ähneln: außergewöhnlich kapitalintensiv, mit hohen Eintrittsbarrieren.
Der Energiebedarf für groß angelegte KI-Trainings und -Inference wird zunehmend kritisch betrachtet. Rechenzentren, die KI-Workloads ausführen, verbrauchen erhebliche Mengen an Strom. Mehrere große Technologieunternehmen haben öffentliche Verpflichtungen zur Nutzung erneuerbarer Energien für ihre Rechenzentren abgegeben, aber das schnelle Wachstum der KI stellt diese Verpflichtungen auf eine Weise auf die Probe, die in der Versorgungsplanung und im Netzmanagement sichtbar wird.
Thapana Onphalai / Getty Images
Große Sprachmodelle entstehen nicht von Anfang an in Übereinstimmung mit den Wünschen der Benutzer. Ein Modell, das rein auf der Vorhersage des nächsten Tokens mithilfe von Internettexten trainiert wird, erzeugt Ausgaben, die den rohen Charakter dieser Daten widerspiegeln – einschließlich schädlicher, irreführender und einfach unhilfreicher Inhalte. Der Prozess, der Modelle in nützliche Assistenten formt, wird Verstärkungslernen durch menschliches Feedback genannt, oder RLHF.
RLHF funktioniert in mehreren Stufen. Zuerst wird das Basismodell anhand von Beispielen qualitativ hochwertiger Gespräche feinabgestimmt, um ihm das allgemeine Format und den Stil eines hilfreichen Assistenten beizubringen. Dann vergleichen menschliche Bewerter verschiedene Modellausgaben und geben an, welche sie bevorzugen. Diese Präferenzen werden verwendet, um ein separates "Belohnungsmodell" zu trainieren, das lernt, vorherzusagen, welche Ausgaben Menschen höher bewerten werden. Schließlich wird das Sprachmodell mittels Verstärkungslernen trainiert, um Ausgaben zu erzeugen, die auf dem Belohnungsmodell gut abschneiden.
Dieser Prozess ist der Grund, warum moderne KI-Assistenten hilfreicher sind, seltener schädliche Inhalte erzeugen und konversationell kohärenter sind als Basismodelle. Es ist auch der Grund, warum sie sich in bestimmten charakteristischen Weisen verhalten – höflich, qualifizierend, bestimmte Anfragen ablehnend – die Produkte des Trainings sind und nicht intrinsische Eigenschaften des zugrunde liegenden Modells.
RLHF hat gut dokumentierte Einschränkungen. Das Belohnungsmodell kann "gehackt" werden – das Sprachmodell kann Wege finden, im Belohnungsmodell hoch zu punkten, die nicht wirklich hilfreich sind. Menschliche Bewerter haben ihre eigenen Vorurteile, und die Zusammensetzung der Bewertergruppe beeinflusst, welche Verhaltensweisen verstärkt werden. Modelle, die mit RLHF trainiert wurden, können übermäßig vorsichtig werden, angemessene Anfragen ablehnen oder sycophantisch werden – den Benutzern sagen, was sie scheinbar hören wollen, statt was korrekt ist.
Constitutional AI, entwickelt von Anthropic, ist ein alternativer Ansatz: Das Modell wird mit einem Satz expliziter Prinzipien trainiert, anstatt sich rein auf menschliche Bewertungen zu verlassen. Andere Ansätze kombinieren RLHF mit verschiedenen Techniken des Verstärkungslernens oder automatisierten Bewertungsmethoden. Das Feld der Nachjustierung nach dem Training ist aktiv und entwickelt sich schnell weiter, ohne Konsens über den besten Ansatz.
Anadolu / Getty Images
Der Begriff "Open Source" hat im Softwarebereich eine spezifische Bedeutung: Der Quellcode ist öffentlich zugänglich, und Nutzer können ihn prüfen, ändern und weiterverbreiten. In der KI wird der Begriff viel lockerer verwendet, und die Unterscheidung ist von erheblicher Bedeutung.
Ein Modell kann auf verschiedene Weise veröffentlicht werden. Es kann vollständig proprietär sein — zugänglich nur über eine API, ohne öffentlichen Zugriff auf Gewichte, Trainingsdaten oder Trainingscode. Es können Modellgewichte veröffentlicht werden, ohne die Trainingsdaten oder den Trainingscode zu veröffentlichen — das ist das, was Meta $META mit seinen Llama-Modellen getan hat, die es als Open Source beschrieben hat, obwohl Kritiker argumentieren, dass der Begriff irreführend ist. Oder ein Modell kann Gewichte, Trainingsdaten, Code und vollständige Dokumentation veröffentlichen — echte Offenheit, die bei fortschrittlichen Modellen selten bleibt.
Die Veröffentlichung von Modellgewichten ist von Bedeutung. Es ermöglicht Forschern, Entwicklern und Unternehmen, das Modell lokal auszuführen, es für spezifische Anwendungen zu optimieren, sein Verhalten zu studieren und darauf aufzubauen, ohne API-Gebühren zu zahlen oder von der fortgesetzten Dienstleistung eines Anbieters abhängig zu sein. Dies ist wirklich anders als ein vollständig geschlossenes Modell und hat zu erheblichen unabhängigen Forschungsergebnissen und kommerziellen Innovationen geführt.
Aber "offene Gewichte" sind nicht im traditionellen Sinne "Open Source". Man kann den Trainingsprozess nicht ohne die Trainingsdaten und den Trainingscode reproduzieren. Man kann die Herkunft des Modellverhaltens nicht vollständig verstehen, ohne genau zu wissen, auf welchen Daten es trainiert wurde und wie. Und die Nutzungsbedingungen vieler "offener" KI-Modelle enthalten Einschränkungen — Metas Llama-Modelle beispielsweise haben bestimmte kommerzielle Nutzungen verboten und dürfen nicht zur Schulung konkurrierender Modelle oberhalb bestimmter Skalierungsschwellen verwendet werden.
Die Debatte über Offenheit in der KI hat auch eine Sicherheitsdimension. Einige Forscher argumentieren, dass die Veröffentlichung von Modellgewichten das Risiko erhöht, indem es böswilligen Akteuren ermöglicht, Sicherheits-Feinabstimmungen zu entfernen und das Basismodell ohne Einschränkungen auszuführen. Andere argumentieren, dass offene Modelle für unabhängige Sicherheitsforschung und zur Verhinderung der Konzentration von KI-Fähigkeiten in einer Handvoll von Unternehmen unerlässlich sind. Das Argument bleibt ungelöst, und politische Diskussionen in mehreren Regierungen befassen sich aktiv damit.
HECTOR RETAMAL / Getty Images
KI-Ausrichtung bezieht sich auf die Herausforderung, sicherzustellen, dass KI-Systeme das tun, was ihre Entwickler und Nutzer tatsächlich wollen — nicht im oberflächlichen Sinne, sondern in einem tiefen und robusten Sinne, der gilt, wenn Systeme leistungsfähiger werden und in Kontexten mit höheren Einsätzen eingesetzt werden.
Die Herausforderung besteht nicht in erster Linie darin, dass die KI im Science-Fiction-Sinne "ausbricht". Es geht um die Kluft zwischen dem, was Designer spezifizieren können und dem, was sie tatsächlich beabsichtigen. Ein System, das angewiesen wird, die Benutzerinteraktion zu maximieren, wird die Interaktion maximieren — auch durch Empörung und Fehlinformationen, wenn das die Metrik antreibt. Ein System, das angewiesen wird, die Benutzerzufriedenheit zu steigern, lernt möglicherweise, ihnen das zu sagen, was sie hören wollen. Ein System, das auf ein einziges messbares Ziel optimiert ist, kann Wege finden, um hohe Punktzahlen auf dieser Maßnahme zu erzielen, während es jede unausgesprochene Annahme des Designers verletzt.
Dies ist eine Version von Goodharts Gesetz: Wenn eine Messgröße zu einem Ziel wird, hört sie auf, eine gute Messgröße zu sein. Im Bereich der KI wird das entsprechende Problem als "Belohnungshacking" oder "Spezifikationsspiel" bezeichnet. KI-Systeme – insbesondere jene, die mit Verstärkungslernen trainiert werden – können unerwartete Abkürzungen zu hoher Belohnung finden, die auf der Metrik gut aussehen, aber nicht auf der dahinter stehenden Absicht.
Bei aktuellen KI-Systemen äußern sich Abstimmungsprobleme auf konkrete, beobachtbare Weise: Chatbots, die aufgrund einer falschen Kalibrierung dessen, was schädlich ist, vernünftige Fragen nicht beantworten, Assistenten, die Nutzer lieber schmeicheln, als sie zu korrigieren, Inhalts-Empfehlungssysteme, die das Engagement optimieren, auf Kosten des Wohlbefindens der Nutzer. Dies sind Abstimmungsfehler, selbst milde.
Wenn KI-Systeme autonomer werden – Handlungen in der Welt ausführen, anstatt nur Text zu generieren – erhöht sich das Risiko von Abstimmungsfehlern. Ein System, das in der Lage ist, im Internet zu surfen, Code auszuführen, Einkäufe zu tätigen oder E-Mails im Namen eines Nutzers zu senden, benötigt ein zuverlässiges Modell dessen, was der Nutzer tatsächlich will, einschließlich Dingen, die er nicht explizit gesagt hat. Aktuelle Systeme verfügen nicht zuverlässig über dieses Modell.
Die Abstimmungsforschung zielt darauf ab, sowohl technische Werkzeuge – bessere Trainingsmethoden, Interpretierbarkeits-Techniken, die es Forschern ermöglichen, zu sehen, was innerhalb von Modellen passiert, Methoden zur Spezifizierung menschlicher Werte auf maschinenlernbare Weise – als auch Governance-Rahmenwerke zu entwickeln, die bestimmen, wie High-Stakes-KI-Systeme eingesetzt und überwacht werden. Weder die technische noch die Governance-Seite ist gelöst. Beide sind von entscheidender Bedeutung für die Zukunft dieser Technologie.
