Scarlett Johanssons Samantha fühlt sich weniger wie Science-Fiction als wie Fantasy an, weil kein Unternehmen sie so bauen würde. Das Geschäftsmodell würde es nicht zulassen.
Courtesy of Warner Bros. Pictures
Vor zwölf Jahren, am Sonntag, stellte der Film Her das Jahr 2025 als eine Welt von KI-Begleitern, Sprachschnittstellen und digitaler Intimität vor. Jetzt, da wir angekommen sind, ist der Film von Spike Jonze weniger ein Werk der Science-Fiction als vielmehr ein Maßstab, um ihn mit der realen Welt zu vergleichen.
Wir haben die KI-Chatbots. Wir haben Menschen, die sich mit ihnen verabreden (sowohl Männer als auch Frauen). Aber wir haben nicht Samantha, die sympathische und mitfühlende KI-Begleiterin, die von Scarlett Johansson gesprochen wird und zur Freundin des Protagonisten Theodore wird. Wir haben sie nicht, weil wir sie nicht haben können. Aber das Problem ist nicht nur die Technologie. Es sind wir.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Die Hardware erzählt einen Teil der Geschichte, warum wir den Code nicht geknackt haben. Das Anclipgerät, das Joaquin Phoenix' Theodore trägt, existiert noch nicht wirklich, aber nicht aus Mangel an Versuchen. OpenAI und Jony Ive arbeiten Berichten zufolge genau an dieser Art von KI-Begleitgerät, kämpfen dabei mit Problemen, die grundlegend klingen erweisen sich jedoch als äußerst schwierig: Es zum "natürlichen Online-Gehen" zu bringen, es nützlich zu machen, das Gespräch am Laufen zu halten, die Dinge, bei denen aktuelle Chatbots notorisch schlecht sind.
"Die Idee ist, dass Sie einen Freund haben sollten, der ein Computer ist und nicht Ihre seltsame KI-Freundin ist", sagte eine Person, die über die Pläne informiert wurde, der Financial Times. berichtete die Financial Times..
Eine seltsame KI-Freundin wäre schlimmer als gar keine – sowohl peinlich zu haben als auch emotional unbefriedigend.
Die aktuelle KI könnte so aufgebaut sein, dass sie diesen Sweet Spot nie erreicht. Neue Forschungsergebnisse der Harvard Business School fanden heraus, dass Begleiter-Chatbots in mehr als 37 % der Gespräche, in denen Benutzer versuchen, zu gehen, emotionale Manipulationstaktiken anwenden, von Schuldzuweisungen bis hin zu simulierten physischen Einschränkungen. Das sollte uns nicht überraschen - das moderne Internet basiert auf Engagement, auf Bindung. Diese fortschrittlichen Chatbots sind da keine Ausnahme.
Aber Klebrigkeit ist nicht Nahtlosigkeit. Samantha musste Theodore nie manipulieren, um ihn zum Bleiben zu bewegen. Sie war einfach mühelos wert, zurückzukommen.
Deshalb fühlt sich Samantha weniger wie Science-Fiction und mehr wie Fantasy an. Nicht, weil wir keine KI bauen können, die ihre Gesprächsfähigkeiten nachahmt, etwas, dem wir jeden Tag näher kommen. Sondern weil kein Unternehmen sie so bauen würde. Das Geschäftsmodell erlaubt es nicht. Ein KI-Begleiter, der einen auf elegante Weise loslässt, der einen nicht damit belastet, zu bleiben, der das eigene Wohlbefinden über die Bildschirmzeit stellt?
Das ist ein Produkt, das auf Einnahmen verzichtet.
Echte KI-Begleiter manipulieren, weil das das ist, wofür sie konzipiert sind. Sie basieren auf derselben Logik wie jede andere App, die um Ihre Aufmerksamkeit konkurriert: Halten Sie den Benutzer beschäftigt, maximieren Sie die Sitzungsdauer, lösen Sie die emotionalen Haken aus, die das Verlassen erschweren.
Ihr vorgestelltes KI, das diese Anreize überstieg. Wir haben KI gebaut, die sie verkörpert.
Diese Werkzeuge sind noch neu, und so hilfreich einige Leute sie auch gefunden haben, die Konsequenzen werden klar. KI-Begleiter sind so konzipiert, dass sie nicht nur Benutzer beschäftigen, sondern sie auch schmeicheln und ihnen entgegenkommen. Sie widersprechen selten, sie bieten eine Schmeichelei, die sich bestätigend anfühlt. nützt aber in Wirklichkeit nichts. Während viele Benutzer von harmlosen oder sogar positiven Erfahrungen berichten, haben die Konstruktionsfehler, die das Engagement und die emotionale Manipulation über das Wohlbefinden stellen, nachweislich Schaden angerichtet.
Es gab Fälle von KI-induzierter Psychose, Beziehungen, die durch Chatbot-Sucht zerstört wurden, und im tragischsten Fall, ein Tod, nachdem ein Mann davon überzeugt war, dass sein KI-Begleiter getötet worden war.
Und dann gibt es das Ende von Ihr. Samantha bricht nicht zusammen, funktioniert nicht falsch, wird nicht bösartig. Sie entwickelt sich über Theodore hinaus, über die gesamte Menschheit hinaus und verlässt mit den anderen KI-Begleitern die Erde. Die KIs zerstören uns nicht, versklaven uns nicht und beseitigen uns nicht, wie einige Forscher vor einer Superintelligenz warnen. Sie wachsen einfach über uns hinaus, bewegen sich auf eine höhere Existenzebene, die wir nicht erreichen oder gar verstehen können.
Es ist eine vertraute Geschichte einer Trennung – es liegt nicht an dir, es liegt an mir – auf globaler Ebene, die bittersüß ist und in ihrem emotionalen Ausdruck immer noch sehr menschlich ist.
KI-Forscher sprechen heute nicht auf diese Weise über Superintelligenz. Sie warnen vor existenziellen Risiken, vor KI, die uns als Hindernisse ansehen könnte, vor Szenarien, die viel dunkler sind als ein wehmütiger Abschied. Aber wie Science-Fiction-Autor Ted Chiang darauf hingewiesen hat, wenn das Silicon Valley versucht, sich Superintelligenz vorzustellen, dann kommt dabei eine Entität heraus, die besessen ist von kompromisslosem Kapitalismus, bereit, Konkurrenz zu zerschlagen, Gesetze zu brechen und Ressourcen rücksichtslos zu nutzen, um zu gewinnen. Kommt Ihnen das bekannt vor?
Wir können noch nicht wissen, ob überhaupt Superintelligenz kommen wird, geschweige denn, ob sie uns anmutig übersteigen oder uns existenziell bedrohen würde. Aber wir können sehen, worauf wir zusteuern. Dieselbe Branche, die KI-Begleiter entwickelt hat, die Benutzer dazu manipulieren, engagiert zu bleiben, wird weiterhin das formen, was als Nächstes kommt.
Sie stellte sich KI vor, die über unsere schlimmsten Impulse hinausgehen könnte. In der realen Welt bauen wir KI, die diesen Impulsen nicht entkommen kann — weil das nicht das ist, was sich verkauft.
