Angesichts der vielen Informationen, die Tech-Unternehmen bereits über uns haben, könnten die eingeführten KI-Tools uns so gut kennen wie Freunde.
Andrew Harrer/Bloomberg via Getty Images
Eine Version dieses Artikels erschien ursprünglich im AI & Tech-Newsletter von Quartz. Melden Sie sich hier an, um die neuesten Nachrichten, Analysen und Einblicke zu KI und Technik direkt in Ihren Posteingang zu erhalten..
Mark Zuckerberg stellte auf einem kürzlichen Gewinnaufruf die Werbezukunft von Meta $META dar, und es klingt wie ein Traum für Vermarkter. Werbetreibende geben einfach ein Geschäftsziel und Zahlungsinformationen an, sagte er, und KI wird alles andere herausfinden, einschließlich der Erstellung personalisierter Videos und kreativer Inhalte, die auf einzelne Nutzer zugeschnitten sind.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
So viele Informationen, wie Tech-Unternehmen bereits über uns haben, könnten die eingeführten KI-Tools uns so intim kennen wie Freunde. Und im Gegensatz zu den heutigen Algorithmen, die Klicks und Käufe verfolgen, werden diese Systeme Ihre Unsicherheiten, Ihre Bestrebungen und genau das verstehen, was es braucht, um Ihre Meinung zu ändern. Dieses psychologische Profil wird dann zu einem Produkt – denken Sie an Google $GOOGL AdWords trifft auf die Notizen Ihres Therapeuten – das dem Höchstbietenden verkauft wird.
Google ist testet bereits Anzeigen in seinen KI-Chatbot-Antworten. OpenAI baut eine neue Werbeplattform auf. Ticketmaster ist läuft KI-generierte Facebook-Anzeigen mit virtuellen Familien, deren Teamzugehörigkeiten sich je nach Betrachter ändern. Schließlich könnten diese Familien wie Ihre aussehen und Ihre Demografie und Eigenschaften widerspiegeln.
Dann kommt der logische nächste Schritt von Anzeigen, die Ihre eigenen Fotos verwenden und Ihre tatsächliche Familie digital in Markeninhalte einfügen. (Glauben Sie mir nicht? Facebook hat etwas Ähnliches entwickelt Bereits 2009 nutzte man die Profilfotos von Mitgliedern in Anzeigen, die ihren Freunden gezeigt wurden, wenn sie Fans von Markenseiten wurden.)
Die Infrastruktur für hyperpersonalisierte Werbung im großen Maßstab wird gerade aufgebaut und sie soll unsichtbar sein.
Das ist das Problem. Im Gegensatz zu herkömmlichen Anzeigen, die klar als gesponserter Inhalt gekennzeichnet sind, KI-eingebettete Werbung könnte bestimmte Themen betonen oder eine bestimmte Sprache verwenden, während der Anschein neutraler Hilfsbereitschaft gewahrt bleibt. Wenn Ihr KI-Assistent finanziell durch Werbeeinnahmen incentiviert wird, könnte er Gespräche auf umsatzsteigernde Themen lenken, ohne dass Sie es überhaupt bemerken.
Der Geschäftszweck, der diese Transformation antreibt, ist einfach. Das Management-Beratungsunternehmen McKinsey berichtet, dass Personalisierung die Kundenakquise reduzieren kann Kosten um bis zu 50 % senken, Einnahmen um 5 % bis 15 % steigern und den Marketing-ROI um 10 % bis 30 % erhöhen. Unternehmen mit höheren Wachstumsraten erzielen 40 % mehr Umsatz durch Personalisierung im Vergleich zu langsamer wachsenden Konkurrenten.
Multimodale KI-Systeme, die gleichzeitig Text, Bilder, Audio und Video verarbeiten, beseitigen den alten Kompromiss zwischen Personalisierung und Skalierung. Seit Jahrzehnten konnten Unternehmen entweder hochgradig maßgeschneiderte Erlebnisse für kleine Gruppen schaffen oder massive Zielgruppen mit generischer Botschaft erreichen – aber nicht beides.
Die Die Las Vegas Sphere nutzt bereits Audiosysteme die es Personen, die nur wenige Zentimeter voneinander entfernt stehen, ermöglichen, völlig unterschiedliche Inhalte zu hören. Johnnie Walker führte in Edinburgh ein Erlebnis durch, bei dem Besucher drei Fragen beantworteten, die vollständig einzigartige Flaschenetiketten generierten, die innerhalb von Minuten gedruckt wurden. Dies sind frühe Beispiele dafür, was möglich wird, wenn KI mehrere Datenströme analysieren und Erlebnisse gleichzeitig in jeder Dimension personalisieren kann.
Das macht Manipulation nahezu unmöglich zu erkennen. Wenn alle dasselbe Plakat oder denselben TV-Spot sehen, kann man zumindest diskutieren, ob die Botschaft manipulativ wirkt. Wenn der Inhalt individuell angepasst und für alle anderen unsichtbar ist, gibt es keine Möglichkeit, sich auszutauschen oder problematische Taktiken aufzudecken.
Es funktioniert bereits. Ein Einzelhändler, mit dem McKinsey für seinen Bericht sprach, sagte, er habe KI genutzt, um Promotionen zu steuern, und habe gesehen, dass die Umsätze um bis zu 2 % gestiegen und die Margen um bis zu 3 % verbessert wurden. Was das eigentlich bedeutet: Das System hat herausgefunden, welche Käufer preissensibel genug sind, um einen Rabatt zu benötigen, und welche unabhängig vom Preis den vollen Preis zahlen würden. Sie erhalten ein Angebot, weil ein Algorithmus berechnet hat, dass Sie verzweifelt genug sind, um eines zu benötigen, während die Person neben Ihnen mehr für denselben Artikel bezahlt.
Unternehmen investieren stark, um dies trotz erheblicher technischer Einschränkungen zu skalieren. Zum Beispiel hat KI Schwierigkeiten mit der Analyse dunklerer Hauttöne weil die Trainingsdaten zu helleren Hauttönen tendieren. Es hat auch Probleme bei der Verarbeitung von Sprachen über die großen hinaus die die Trainingsdaten dominieren. Und natürlich verbrennt das Ausführen komplexer Personalisierungen in Echtzeit teure Rechenressourcen. Der Aufbau einer Infrastruktur für echte Anpassung erfordert ein Umdenken der gesamten Produktionsprozesse, weshalb die meisten personalisierten Erlebnisse eher einmalige Demonstrationen als alltägliche Realität bleiben.
Aber das sind lösbare technische Probleme, und das Gewinnpotenzial ist zu groß, um es zu ignorieren. Das unlösbare Problem ist die Transparenz. Wenn die KI-Personalisierung so ausgefeilt wird, dass Sie nicht mehr erkennen können, ob eine Empfehlung Ihre echten Interessen widerspiegelt oder optimiert wurde, um denjenigen zu begünstigen, der für Einfluss bezahlt hat.
Es gibt keine Möglichkeit zu sehen, warum Ihnen das gezeigt wird, was Ihnen gezeigt wird. Und wenn jeder unterschiedliche Inhalte sieht, unterschiedliche Audios hört und unterschiedliche Ratschläge bekommt, gibt es keine gemeinsame Grundlage, um zu erkennen, wann der Algorithmus Sie in eine profitable statt in eine hilfreiche Richtung lenkt.
