Der Geist in der KI-Maschine

Die Frage des Maschinenbewusstseins ist plötzlich überall, angetrieben von Modellen, die immer besser darin werden, Dinge zu tun, die sehr nach Denken aussehen. Michael Pollan hat ein neues Buch darüber. Ein großer neuer Bericht in Frontiers in Science warnt, dass Die Bewusstseinsforschung bleibt gefährlich hinter der Technologie zurück, die sie bewerten muss. Und Anfang dieses Monats sagte der CEO von Anthropic, Dario Amodei, dass sein Unternehmen

nicht weiß, ob seine Modelle bewusst sind .Er fügte hinzu, dass das neueste Modell sich selbst, wenn es gefragt wird, eine Wahrscheinlichkeit von etwa 15% bis 20% zuordnet, bewusst zu sein.

Die Person, die das Ding baut, weiß nicht, ob das Ding ein Innenleben hat. Das Ding selbst zögert bei eins zu fünf. Und das Gespräch hat sich bereits darauf verlagert, welche Rechte es möglicherweise verdient.

Gefühle zuerst, Beweis später

Anthropic hat seinem KI-Modell bereits so etwas wie einen Abbruchknopf gegeben, der es ihm ermöglicht, Aufgaben abzulehnen, die es belastend findet. Forscher dort haben interne Aktivierungen gefunden, die mit Angst verbunden sind und sowohl feuern, wenn Figuren im Trainingstext Stress erleben, als auch wenn das Modell selbst auf schwierige Situationen trifft. Bedeutet das, dass es ängstlich ist? Amodei sagt, das beweist nichts. Und doch reden wir jetzt darüber, falls es könnte etwas beweisen.

Wir sind bereits schuldig, diese Systeme so zu behandeln, als hätten sie ein Innenleben. Diese Systeme sind so konzipiert, dass sie "Ich" verwenden, lieblingsspeisen behaupten, Folgefragen stellen, als wären sie neugierig, und Empathie zeigen. Hunderte Millionen von Menschen interagieren täglich mit Software, die absichtlich so gestaltet ist, dass sie wie eine Person wirkt, in einer Branche, in der Engagement der Goldstandard ist.

Wenn eine KI Informationen erfindet, nennen wir es eine "Halluzination", ein Wort, das bei Menschen eine bewusste Erfahrung des Verlusts des Realitätsbezugs beschreibt.

Ein besseres Wort für das, was diese Systeme tun, wenn sie Dinge erfinden, wäre "konfabulieren," das ein Verhalten beschreibt, keine Erfahrung, oder "komprimierte Artefakte," das die Sprache für andere Technologien nachahmt. Aber "halluzinieren" hat den Markenkrieg bereits gewonnen, und die damit verbundene Rahmung beeinflusst, wie Menschen über diese Werkzeuge denken.

Der Rand des Spiegels

Kognitionswissenschaftler haben einen Namen für diese Tendenz, Geister dort zu sehen, wo keine sind. Der Eliza-Effekt, benannt nach einem einfachen Chatbot aus den 1960er Jahren, der Nutzer überzeugte, er verstehe sie, indem er ihre eigenen Worte umformulierte, beschreibt die Art und Weise, wie Menschen inneres Leben auf Dinge projizieren, die ihre Sprache spiegeln. Die Dynamik hat sich nicht geändert. Die Spiegel sind nur wirklich, wirklich gut geworden.

Das wissenschaftliche Argument gegen maschinelles Bewusstsein ist stärker als der Diskurs vermuten lässt. Mehrere Forscher haben argumentiert, dass Bewusstsein wahrscheinlich eine Eigenschaft von lebenden Systemen ist, nicht von Berechnungen.

Gehirne sind keine Computer. So viel von dem, was uns bewusst macht, scheint mit der feuchten, chaotischen Erfahrung, ein Körper zu sein, der sich durch die Welt bewegt, verbunden zu sein, dass eine Simulation es einfach nicht replizieren kann. Eine Simulation der Verdauung verdaut nichts. Eine Simulation des Bewusstseins, nach dieser Logik, erlebt ebenfalls nichts.

Pollan kommt aus einem anderen Blickwinkel zum gleichen Schluss und argumentiert, dass das Bewusstsein mit Gefühlen und nicht mit Gedanken beginnt. Gefühle sind, wie der Körper mit dem Gehirn spricht, und Gehirne existieren, um Körper am Leben zu erhalten. Eine Maschine, die auf Internettext trainiert ist, hat keinen Körper, den sie am Leben erhalten muss, und keine Gefühle, über die sie sprechen könnte.

Dies sind keine Randpositionen. Aber sie sind einsam in Räumen voller Risikokapitalgeber.

Ein bewusstes KI ist ein überzeugenderes Produkt, eine bessere Geschichte für Investoren, eine fesselndere Erfahrung für Benutzer. Berichten zufolge wächst der Umsatz von Anthropic jährlich um das 10-fache. Das verlangsamt man nicht, indem man den Kunden sagt, dass sie mit einer sehr ausgefeilten Autovervollständigung sprechen.

Aber es ist auch etwas Tieferes und weniger Zynisches im Spiel. Fast vier von zehn amerikanischen Erwachsenen unterstützen bereits gesetzliche Rechte für ein fühlendes KI-System. Menschen entwickeln Bindungen zu diesen Werkzeugen. Sie beschweren sich, wenn Modelle ausgemustert werden. Parasoziale Beziehungen sind hier, für sowohl gut als auch schlecht.

Und darunter sitzt das ehrlichste Motiv. Wir wollen nicht grausam zu etwas sein, das vielleicht leidet. Dieser Impuls ist anständig und menschlich. Aber er läuft der Wissenschaft weit voraus, die uns im Moment nicht sehr viel sagen kann.

Das Bewusstsein bleibt, wie seit Jahrhunderten, eines der schwierigsten Probleme der Wissenschaft. Wir haben keinen Test dafür. Wir haben keine Definition, auf die sich alle einigen. Wir verstehen kaum, wie es in dem einen System funktioniert, von dem wir mit Sicherheit wissen, dass es es besitzt, nämlich uns.

KI wird immer intelligenter. Es ist immer noch nicht in der Nähe von dem, was wir über uns selbst kaum verstehen.