20 Dinge, die Algorithmen sozialer Medien deinem Gehirn antun, denen du nicht zugestimmt hast

Es gibt einen bestimmten Moment, den die meisten intensiven Nutzer sozialer Medien erkennen: Sie nehmen Ihr Telefon in die Hand, um etwas Bestimmtes zu tun – eine Nachricht zu überprüfen, eine Information zu suchen – und 40 Minuten später scrollen Sie immer noch, in einer etwas schlechteren Stimmung als zu Beginn, unsicher darüber, was Sie gerade konsumiert haben oder warum Sie so viel davon konsumiert haben. Das ist kein Zufall. Es ist kein Designfehler. Es ist das genaue Ergebnis, das die von Ihnen verwendeten Systeme zu erzeugen bestimmt wurden.

Soziale Medienplattformen sind Aufmerksamkeitsunternehmen. Ihre Einnahmen werden durch Werbung generiert, und Werbeeinnahmen sind eine Funktion der auf der Plattform verbrachten Zeit und der Präzision, mit der Nutzer gezielt werden können. Beide Dinge – die aufgewendete Zeit und die Zielgenauigkeit – werden durch den Algorithmus optimiert, der kein neutraler Sortiermechanismus ist, sondern eine Vorhersage-Engine, deren einziges Ziel es ist, den Inhalt zu identifizieren und bereitzustellen, der Sie am ehesten engagiert. Engagement bedeutet in der Praxis nicht Glück, nicht Zufriedenheit, nicht Informationen, sondern die spezifischen emotionalen Zustände, die zum fortgesetzten Scrollen führen: Empörung, Angst, Neugier, sozialer Vergleich und der besondere Zwang der intermittierenden variablen Belohnung.

Die technischen Entscheidungen, die diese Wirkungen erzeugen, wurden nicht leichtfertig oder zufällig getroffen. Das unendliche Scrollen, die Pull-to-Refresh-Geste, das variable Benachrichtigungs-Timing, die Entfernung chronologischer Feeds zugunsten von engagement-bewerteten Feeds, die spezifische Gewichtung emotionaler Inhalte in Bewertungsalgorithmen – das sind dokumentierte Designentscheidungen, von denen viele von Ingenieuren getroffen wurden, die ihre psychologischen Implikationen verstanden haben. Mehrere ehemalige Mitarbeiter großer Plattformen haben vor Kongressausschüssen ausgesagt und öffentlich über die spezifische Absicht hinter diesen Funktionen gesprochen.

Diese Liste umfasst 20 spezifische algorithmische und Designmechanismen – was sie tun, wie sie funktionieren, was sie bei den Nutzern erzeugen, die sie erleben, und die Beweise, die die Beschreibung stützen. Mehrere dieser Mechanismen sind in wissenschaftlichen Forschungen dokumentiert; mehrere sind in internen Plattformkommunikationen dokumentiert, die durchgesickert oder in Rechtsstreitigkeiten offengelegt wurden; mehrere sind direkt aus dem beobachtbaren Verhalten der Plattformen ableitbar und von ehemaligen Ingenieuren bestätigt. Das Ziel ist nicht, Angst vor der Nutzung sozialer Medien zu erzeugen, sondern die spezifische Maschinerie sichtbar zu machen, die im Einsatz ist, wenn Sie fühlen, was Sie fühlen.

cottonbro studio / Pexels

Soziale Medienalgorithmen optimieren nicht für Inhalte, die Sie glücklich, informiert oder zufrieden machen. Sie optimieren für Engagement – das spezifische Set von Verhaltensweisen (Likes, Kommentare, Shares, aufgewendete Zeit), das die Vorhersage-Engine der Plattform mit fortgesetzter Nutzung korreliert hat. Und Empörung, Angst und moralische Empörung erzeugen signifikant mehr Engagement als Zufriedenheit, Zustimmung oder Befriedigung.

Die Beweise sind spezifisch: Eine Untersuchung des Wall Street Journal von 2021 ergab, dass Facebooks eigene interne Forschung festgestellt hatte, dass sein Algorithmus Inhalte, die "wütende" Reaktionen erhielten, mit einer fünfmal höheren Rate verstärkte als Inhalte, die "Like"-Reaktionen erhielten, weil wütende Reaktionen stärker mit weiterem Engagement korrelierten. Der Algorithmus gewichtete den wütenden Emoji stärker, weil er gelernt hatte, dass Wut Menschen länger auf der Plattform hält.

Facebooks interne Forscher identifizierten Berichten zufolge diese Dynamik und markierten sie als Problem, schlugen vor, das Gewicht der wütenden Reaktionen zu reduzieren. Der Vorschlag wurde nicht umgesetzt, weil dies die gesamten Engagement-Metriken reduzierte, die die Geschäftskennzahlen waren, die der Algorithmus optimierte. Das Ergebnis ist ein System, das intern als verstärkend für Empörung anerkannt wurde und nicht geändert wurde, weil Empörung kommerziell produktiv ist. Das spezifische Gefühl, Ihr Feed zu lesen und zunehmend wütender zu werden, ist ein konstruiertes Ergebnis, keine Reflexion einer Welt, die schlechter ist als zuvor.

Kaboom Pics / Pexels

Das Prinzip der Verhaltenspsychologie, das am direktesten der zwanghaften Qualität sozialer Medien zugrunde liegt, ist der variable Quotenverstärkungsplan – derselbe Plan, der Spielautomaten süchtig macht. Bei einem variablen Quotenschema werden Belohnungen unvorhersehbar und in zufälligen Abständen ausgegeben, und diese Unvorhersehbarkeit führt zu den höchsten Reaktionsraten und der größten Widerstandsfähigkeit gegenüber der Löschung aller Verstärkungsschemata.

Jedes Mal, wenn Sie eine Social-Media-App öffnen, erhalten Sie eine variable Belohnung: Manchmal gibt es Benachrichtigungen (positive Verstärkung), manchmal erscheint ein interessantes Stück Inhalt in Ihrem Feed (positive Verstärkung) und manchmal ist der Feed unauffällig (neutral). Die Unvorhersehbarkeit, welches Öffnen eine Belohnung bringt, ist das spezifische Merkmal, das das Verhalten zwanghaft statt nur gewohnheitsmäßig macht. Wenn die Belohnung vorhersehbar wäre – wenn Sie genau wüssten, was Sie jedes Mal finden würden, wenn Sie nachsehen – würde sich das zwanghafte Überprüfungsverhalten nicht auf die gleiche Weise entwickeln.

Die Pull-to-Refresh-Geste – der Abwärtsswipe, der den Feed neu lädt und das Ziehen des Hebels an einem Spielautomaten nachahmt – wurde von ihrem Designer Loren Brichter als absichtlich analog zu den Mechaniken von Spielautomaten identifiziert. Brichter hat öffentlich erklärt, dass er es bereut, sie entworfen zu haben, und er glaubt, dass sie schädlich ist. Die Geste bleibt der primäre Aktualisierungsmechanismus auf den meisten großen sozialen Plattformen.

Tim Samuel / Pexels

Vor dem unendlichen Scrollen – dem Designmuster, bei dem neue Inhalte automatisch geladen werden, wenn der Benutzer das Ende des Feeds erreicht, wodurch der natürliche Haltepunkt, den eine paginierte Benutzeroberfläche bieten würde, beseitigt wird – hatte das Durchstöbern sozialer Medien eine eingebaute Pause: das Ende der Seite, die "nächste Seite"-Schaltfläche, der Moment, der eine aktive Entscheidung erforderte, um fortzufahren. Unendliches Scrollen eliminierte diese Pause und damit den Moment der bewussten Entscheidung, den sie ermöglichte.

Aza Raskin, der das unendliche Scrollen entwarf, während er bei Humanized (später von Mozilla übernommen) arbeitete, hat öffentlich erklärt, dass er die Erfindung bedauert und schätzt, dass sie weltweit pro Tag etwa 200.000 zusätzliche Stunden Social-Media-Durchsuchen verursacht. Der spezifische psychologische Mechanismus: Haltepunkte sind Entscheidungspunkte, und Entscheidungspunkte sind Gelegenheiten für den Benutzer zu bewerten, ob er weitermachen möchte. Ihre Entfernung beseitigt die Möglichkeit, standardmäßig anzuhalten, anstatt durch aktive Wahl.

Die praktische Implikation: Das 40-minütige Scrollen, das als 2-minütiges Überprüfen begann, wird wesentlich durch das Fehlen von Haltepunkten erklärt. Jede natürliche Pause, die die Frage "Sollte ich weitermachen?" ausgelöst hätte, wurde weggeplant, und das Standardverhalten in Abwesenheit eines Haltepunkts ist die Fortsetzung.

Luis Quintero / Pexels

Benachrichtigungen in sozialen Medien – die Kennzeichenzahl auf dem App-Symbol, die Push-Benachrichtigung, die E-Mail-Zusammenfassung der verpassten Aktivitäten – sind so gestaltet, dass sie das Gefühl erzeugen, es geschehe etwas Wichtiges ohne Sie, das Ihre sofortige Rückkehr zur Plattform erfordert. Das spezifische technische Ziel ist es, die Zeit zwischen den Sitzungen zu verkürzen: Je länger ein Nutzer von der Plattform fern bleibt, desto niedriger sind die Engagement-Metriken, die den Umsatz steigern.

Das Benachrichtigungsdesign nutzt die psychologische Tendenz zu FOMO (Angst, etwas zu verpassen) aus – die Angst, bei sozialen Aktivitäten, die relevant sind, abwesend zu sein. Forschungen von Andy Przybylski an der Universität Oxford haben gezeigt, dass FOMO ein bedeutender Prädiktor für die Nutzung sozialer Medien ist und durch die spezifischen Benachrichtigungsmuster, die Plattformen einsetzen, verstärkt wird. Die Benachrichtigung „5 Personen haben auf deinen Beitrag reagiert“ erzeugt den Eindruck von sozialer Aktivität, die Engagement erfordert; das Interesse der Plattform besteht darin, diesen Eindruck dringend und nicht ignorierbar wirken zu lassen.

Die spezifische Erkenntnis aus der Benachrichtigungsforschung: die Erwartung von Benachrichtigungen erzeugt eine Angst, die durch das Überprüfen nicht vollständig gelöst wird – jede Überprüfung löst die unmittelbare Benachrichtigungsangst, verstärkt jedoch das Überprüfungsverhalten, wodurch ein Muster entsteht, bei dem Benachrichtigungsüberprüfungen häufiger vorkommen als die Benachrichtigungsrate es rechtfertigt. Die Angst vor Nichtnutzung bleibt zwischen den Überprüfungen bestehen und erzeugt ein Hintergrundniveau von sozialmedienbezogener Angst, das selbst dann vorhanden ist, wenn das Telefon weggelegt wird.

Tim Douglas / Pexels

Sozialer Vergleich – die Bewertung des eigenen Status, Aussehens, der Errungenschaften und Lebensqualität im Vergleich zu anderen – ist einer der Hauptmechanismen, durch die soziale Medien negative Selbstbewertung erzeugen. Die Rolle des Algorithmus in diesem Prozess ist spezifisch: Er fördert Inhalte, die hohe Interaktion erhalten, und vergleichsinduzierende Inhalte (aspirative Reisen, Körperbilder, Beziehungsmeilensteine, berufliche Errungenschaften) erhalten hohe Interaktion, da sie die emotionalen Reaktionen (Bewunderung, Neid, Aspiration) auslösen, die Likes und Kommentare erzeugen.

Die Forschung über sozialen Vergleich und soziale Medien ist umfangreich: Eine Meta $META-Analyse von 2018 von Vogel und Kollegen fand heraus, dass Aufwärtsvergleiche in sozialen Medien (sich selbst gegenüber anderen ungünstig zu vergleichen) konsequent mit niedrigerem Selbstwertgefühl und höheren depressiven Symptomen verbunden waren. Der spezifische Mechanismus ist die algorithmische Auswahl von Inhalten: Der Feed zeigt keinen genauen Querschnitt des Lebens von Menschen, sondern eine kuratierte Auswahl ihrer besten Momente, professionell fotografiert, gefiltert und in Kontexten gepostet, die darauf ausgelegt sind, maximale Interaktion zu erzielen.

Das Vergleichsproblem wird durch die spezifische Inhaltsauswahl verstärkt, die die Engagement-Optimierung erzeugt: Ein Beitrag, der einen Karibikurlaub zeigt, erhält mehr Interaktion als ein Beitrag, der einen Dienstagabend zu Hause zeigt, daher liefert der Algorithmus mehr Urlaubsinhalte, mehr Feierinhalte, mehr aspirative Inhalte – und schafft einen Feed, der systematisch die Höhepunkte des Lebens anderer überrepräsentiert und das Gewöhnliche systematisch unterrepräsentiert. Der resultierende Vergleich geschieht nicht zwischen Ihrem Leben und dem Leben anderer, sondern zwischen Ihrem Leben und den besten Momenten anderer.

Tranmautritam / Pexels

Die algorithmische Personalisierung von Inhaltsfeeds – bei der jedem Nutzer die Inhalte angezeigt werden, von denen der Algorithmus vorhersagt, dass er sich am meisten mit ihnen beschäftigen wird, basierend auf seinem bisherigen Verhalten – erzeugt eine Filterblase: eine personalisierte Informationsumgebung, in der die Inhalte, die Sie sehen, systematisch ausgewählt werden, um Ihre bestehenden Interessen, Werte und Überzeugungen zu bestätigen, und in der Inhalte, die sie herausfordern oder ihnen widersprechen, systematisch unterrepräsentiert sind.

Eli Pariser, der den Begriff in seinem Buch „The Filter Bubble“ aus dem Jahr 2011 prägte, beschrieb den Mechanismus: Algorithmen lernen, worauf Sie klicken, wie lange Sie verschiedene Inhalte anschauen und worauf Sie reagieren, und nutzen dieses Wissen, um mehr vom selben Inhalt zu liefern. Das Ergebnis ist nicht eine neutrale Reflexion Ihrer Interessen, sondern eine verstärkte Version davon – eine Rückkopplungsschleife, in der Ihre bestehenden Vorlieben extremer werden, weil die Inhalte, die ihnen entsprechen, zunehmend auf Engagement statt auf Genauigkeit oder Breite optimiert sind.

Die spezifische politische Konsequenz ist die meist diskutierte: Menschen in algorithmisch personalisierten Nachrichtenumgebungen sind systematisch weniger politischen Ansichten ausgesetzt, die sich von ihren eigenen unterscheiden, was die epistemische Isolation erzeugt, die zur politischen Polarisierung beiträgt. Die spezifische persönliche Konsequenz wird weniger diskutiert, ist aber ebenso real: Die Filterblase wirkt in allen Inhaltskategorien, indem sie Ihre Exposition gegenüber neuen Ideen, neuen Perspektiven und neuen Informationen in jedem Bereich einschränkt, in dem der Algorithmus genügend Daten hat, um Ihren Feed zu optimieren.

cottonbro studio / Pexels

Im Jahr 2014 veröffentlichte Facebook $META ein Papier in den Proceedings of the National Academy of Sciences, das eine Studie dokumentierte, in der bei 689.003 Facebook-Nutzern ihre Newsfeeds experimentell manipuliert wurden – einige Nutzer sahen mehr positive Inhalte, andere mehr negative Inhalte – ohne ihr Wissen oder Zustimmung. Die Studie ergab, dass Nutzer, die mehr positiven Inhalten ausgesetzt waren, mehr positive Beiträge produzierten, und Nutzer, die mehr negativen Inhalten ausgesetzt waren, mehr negative Beiträge produzierten: emotionale Ansteckung fand über den Feed statt.

Die Veröffentlichung der Studie löste erheblichen öffentlichen Widerstand aus, nicht in erster Linie, weil emotionale Ansteckung durch soziale Medien überraschend war – dies war seit Jahren theoretisiert worden –, sondern weil die Studie zeigte, dass Facebook absichtlich die emotionalen Zustände der Nutzer für Forschungszwecke manipuliert hatte, ohne explizite Zustimmung. Die Autoren der Studie und Facebook gaben Klarstellungen zum verwendeten Zustimmungssystem ab, aber die Episode machte öffentlich bekannt, dass Plattformalgorithmen in der Lage waren, die emotionalen Zustände der Nutzer systematisch durch Inhaltsselektion zu verschieben.

Die praktische Implikation: Der emotionale Zustand, in dem Sie sich nach 20 Minuten Nutzung sozialer Medien befinden, ist nicht primär eine Funktion dessen, was in Ihrem Leben passiert ist oder wie Sie sich gefühlt haben, als Sie die App geöffnet haben. Es ist erheblich eine Funktion der emotionalen Valenz der Inhalte, die der Algorithmus für Sie ausgewählt hat – was wiederum eine Funktion dessen ist, was der Algorithmus gelernt hat, was Sie engagiert hält, nicht was Sie gut fühlen lässt.

Lance Reis / Pexels

Inhalte, die extreme Positionen ausdrücken — starke emotionale Sprache, moralische Verurteilung, klare In-Group/Out-Group-Rahmen — erhalten mehr Engagement als Inhalte, die moderate oder nuancierte Positionen ausdrücken, und Algorithmen, die auf Engagement optimieren, verstärken folglich extreme Inhalte relativ zu moderaten Inhalten. Dieser Verstärkungsmechanismus ist plattformunabhängig: Er wurde auf Facebook $META, Twitter $TWTR/X, YouTube und TikTok durch unterschiedliche Forschungsmethoden dokumentiert.

Eine Studie aus dem Jahr 2019 von Forschern der New York University und der Université Grenoble Alpes analysierte Engagement-Daten von Facebook-Seiten US-amerikanischer Politiker und stellte fest, dass Beiträge, die "moralisch-emotionale" Sprache enthalten — Sprache, die moralisches Urteil mit emotionalem Inhalt kombiniert — deutlich mehr Engagement erhielten als Beiträge ohne diese. Die Optimierung des Algorithmus für dieses Engagement-Muster bedeutet, dass Politiker und andere Inhaltsproduzenten, die extreme moralisch-emotionale Sprache verwenden, mit größerer Reichweite belohnt werden, was einen Selektionsdruck hin zu Extremismus in der öffentlichen Kommunikation erzeugt.

Der Empfehlungsalgorithmus von YouTube wurde von den eigenen Forschern der Plattform, wie 2018 von der New York Times berichtet, als systematisch empfohlen, zunehmend extremere Inhalte entlang welcher ideologischen Dimension auch immer der Nutzer Interesse gezeigt hatte — ein Prozess, den Forscher als "Kaninchenbau" bezeichneten. Ein Nutzer, der Mainstream-Politikinhalte ansah, würde zunehmend extremere politische Inhalte empfohlen, nicht weil er Interesse an extremen Inhalten gezeigt hatte, sondern weil der Algorithmus gelernt hatte, dass extreme Inhalte Menschen länger schauen lassen.

Marcus Aurelius / Pexels

Die Benachrichtigungssysteme von Social-Media-Plattformen sind nicht auf die Bequemlichkeit des Nutzers abgestimmt — sie sind darauf abgestimmt, die Wahrscheinlichkeit einer erneuten Interaktion zu maximieren, was bedeutet, dass sie darauf kalibriert sind, die Nutzer während der Übergangsphasen um Schlafen und Aufwachen zu erreichen, wenn die psychologische Barriere zum Überprüfen des Telefons am niedrigsten und die Wahrscheinlichkeit einer längeren Interaktion am höchsten ist.

Forschung von Jean Twenge an der San Diego State University ergab, dass Jugendliche, die intensiv vor dem Schlafengehen soziale Medien nutzen, signifikant gestörten Schlaf aufweisen — sowohl verzögerter Schlafbeginn als auch reduzierte Schlafdauer — im Vergleich zu denen, die es nicht tun. Der Mechanismus ist zweifach: Das Licht von Bildschirmen verzögert den Beginn der Melatoninproduktion, und die emotionale Erregung durch soziale Medieninhalte (die Benachrichtigungen, der soziale Vergleich, der Konflikt) aktiviert die Erregungssysteme des Gehirns in dem Moment, in dem sie eigentlich herunterfahren sollten, um Schlaf zu ermöglichen.

Das spezifische Benachrichtigungsdesign, das zu Schlafstörungen beiträgt: Viele Plattformen standardmäßig liefern Benachrichtigungen über Nacht, es sei denn, sie werden ausdrücklich deaktiviert, und die über Nacht angesammelte Badge-Zahl — sichtbar, wenn der Nutzer sein Telefon morgens oder abends überprüft — erzeugt eine Benachrichtigungsangst, die den Schlaf unterbricht oder den Einschlafprozess verhindert. Der Übernacht-Benachrichtigungsstandard ist nicht für die Schlafqualität des Nutzers ausgelegt; er ist darauf ausgelegt, die Wahrscheinlichkeit zu maximieren, dass der Nutzer die App als erstes am Morgen öffnet.

Viralyft / Pexels

Das ephemere Inhaltsformat – Stories, Snaps, zeitlich begrenzte Beiträge, die nach 24 Stunden verschwinden – wurde von Snapchat eingeführt und von Instagram, Facebook $META, WhatsApp und TikTok übernommen. Das Design erzeugt einen spezifischen psychologischen Effekt: die Vergänglichkeit der Inhalte schafft Dringlichkeit beim Konsum (wenn du es jetzt nicht ansiehst, ist es weg) und Dringlichkeit bei der Erstellung (wenn du heute nichts postest, verschwindet deine Präsenz in den Feeds anderer).

Der FOMO-Mechanismus ist bei ephemeren Inhalten akuter als bei permanenten Beiträgen, da der Zeitdruck explizit und unmittelbar ist. Untersuchungen zu FOMO und Instagram Stories haben ergeben, dass das ephemere Format bei Vielnutzern eine höhere Kontrollfrequenz hervorruft als das permanente Beitragsformat, da die wahrgenommenen Kosten, eine Story zu verpassen, unmittelbar und sichtbar sind, im Gegensatz zu den Kosten, einen permanenten Beitrag zu verpassen.

Auch die Erstellung ist gleichermaßen angstfördernd: das Story-Format schafft eine implizite Erwartung an die tägliche Inhaltserstellung, die das permanente Beitragsformat nicht hat. Nutzer, die eine aktive Story-Präsenz aufrechterhalten, berichten von der spezifischen Angst der täglichen Inhaltspflicht – das Gefühl, dass ein Tag ohne Story-Posting eine Abwesenheit aus dem sozialen Feed darstellt, die bemerkt wird. Diese Angst ist nicht zufällig zum Format; sie ist der Mechanismus, der das tägliche Engagement erzeugt, für das die Plattform optimiert ist.

Marta Wave / Pexels

Social-Media-Algorithmen konstruieren ein Modell von dir – ein Profil deiner Interessen, Vorlieben, emotionalen Auslöser und Verhaltensmuster –, das verwendet wird, um die Inhalte auszuwählen, die du siehst, die Anzeigen, die du erhältst, und die Gemeinschaften, die die Plattform dir vorschlägt. Dieses Modell, das aus deinem früheren Verhalten aufgebaut wurde, liefert Inhalte, die das Modell unterstützen und verstärken, und erzeugt eine Rückkopplungsschleife, in der die Vorhersage des Algorithmus, womit du dich beschäftigen wirst, selbst erfüllend wird.

Die Identitätskonstruktion ist nicht neutral: das Modell des Algorithmus von dir ist auf Engagement-Vorhersage optimiert, nicht auf Genauigkeit oder dein eigenes Selbstverständnis. Es spiegelt die Version von dir wider, die am meisten mit Social-Media-Inhalten interagiert – was möglicherweise eine engere, reaktivere, emotional extremere Version ist, als du als dein volles Selbst erkennen würdest. Die Inhalte, die es liefert, verstärken dieses enge Modell, und das enge Modell wird allmählich als Identität verinnerlicht.

Untersuchungen zu algorithmischen Empfehlungen und Identitätsbildung haben ergeben, dass Menschen, die viel Zeit in algorithmisch personalisierten Inhaltsumgebungen verbringen, im Laufe der Zeit enger definierte Interessen und stärker ausgeprägte Identitäten um diese Interessen entwickeln – ein Prozess, der als "algorithmische Identitätskonstruktion" bezeichnet wird. Die Person, die einer Plattform mit breiten Interessen beigetreten ist und allmählich hauptsächlich Konsument und Produzent von Inhalten in einem engen Bereich wurde, hat nicht einfach ihre wahre Leidenschaft entdeckt; sie wurde von einem Engagement-Optimierungssystem in die Identität gelenkt, die ihr Plattformengagement maximiert.

Ron Lach / Pexels

Die Quantifizierung sozialer Anerkennung – die Anzahl von Likes, Followern, Shares, Views – verwandelt von Natur aus qualitative soziale Erfahrungen in numerische Metriken, deren Sichtbarkeit das Verhalten von Inhaltsproduzenten und -konsumenten verändert. Der spezifische psychologische Mechanismus ist die Umwandlung von sozialer Anerkennung von einer internen emotionalen Erfahrung in ein externes quantitatives Maß, das verglichen, verfolgt und optimiert werden kann.

Forschungen von Dar Meshi an der Michigan State University haben ergeben, dass das Erhalten von Likes in sozialen Medien das ventrale Striatum des Gehirns – den Belohnungskreislauf, der am meisten mit suchtähnlichem Verhalten verbunden ist – in einem Muster aktiviert, das dem von monetären Belohnungen und anderen primären Verstärkern ähnelt. Die neurologische Reaktion auf Likes ist nicht nur Zufriedenheit; es ist das spezifische Aktivierungsmuster, das mit Belohnungslernen und Verhaltensverstärkung verbunden ist.

Die Verhaltenskonsequenz für Inhaltsproduzenten ist die Optimierung von Inhalten für die Metrikleistung und nicht für authentischen Ausdruck: Der Beitrag, der gut abgeschnitten hat (viele Likes, viele Shares), ist die Vorlage für den nächsten Beitrag, unabhängig davon, ob er das darstellt, was der Ersteller tatsächlich sagen wollte. Instagrams Entscheidung, in einigen Märkten die Like-Zahlen zu verbergen (ein Testlauf 2019 und seitdem erweitert), wurde ausdrücklich durch Forschung motiviert, die zeigte, dass sichtbare Like-Zahlen bei Nutzern, insbesondere jungen Frauen, Angst erzeugten, wenn Inhalte weniger Likes als erwartet erhielten. Die Metrik verursachte die Angst, nicht nur die Messung von sozialer Anerkennung, die sowieso Angst erzeugt hätte.

Kaboom Pics / Pexels

Die Optimierung des Empfehlungssystems für Engagement erzeugt einen spezifischen langfristigen Effekt, der sich von der Verengung der Informationen durch die Filterblase unterscheidet: Es entstehen Inhaltssilos – immersive, algorithmisch kuratierte Umgebungen, die zunehmend selbstreferenziell und zunehmend von der breiteren Informationsumgebung abgekoppelt werden. Das YouTube-Rabbit-Hole, die TikTok-"For You"-Seite, die Facebook $META-Gruppe, die allmählich zur primären Informationsquelle für ihre Mitglieder wird – dies sind algorithmische Produkte, keine organischen Gemeinschaftsbildungen.

Der Silo-Effekt ist am folgenschwersten für Informationsgemeinschaften rund um umstrittene faktische Behauptungen: Der Nutzer, der ein Video sieht, das die Sicherheit von Impfstoffen in Frage stellt, erhält zusätzlich impfkritische Inhalte empfohlen, und die Optimierung des Algorithmus für Engagement bedeutet, dass die emotional ansprechendsten, extremsten Versionen der skeptischen Position das stärkste Empfehlungsgewicht erhalten. Der Nutzer, der mit einer moderaten Besorgnis beginnt, endet in einer Gemeinschaft, deren Informationsumgebung von ihrer extremen Version geprägt ist.

Der algorithmische Mechanismus ist in Forschungsergebnissen von Institutionen wie dem MIT Media Lab dokumentiert, die herausgefunden haben, dass YouTubes Empfehlungssystem systematisch Nutzer zu extremeren politischen Inhalten lenkte, als sie ursprünglich gesucht hatten. YouTube hat sein Empfehlungssystem mehrfach in Reaktion auf diese Forschung und auf öffentlichen Druck hin modifiziert, aber das grundlegende Optimierungsziel – die Maximierung der Wiedergabezeit – erzeugt weiterhin Anreize dafür, Inhalte zu empfehlen, die ansprechender sind als die Inhalte, mit denen der Nutzer gekommen ist, und extreme Inhalte sind zuverlässig ansprechender als moderate Inhalte.

Grish Petrosyan / Pexels

Eine parasoziale Beziehung ist die einseitige emotionale Verbindung, die ein Mitglied des Publikums mit einer Medienfigur eingeht – das Gefühl, einen Prominenten, einen YouTuber oder einen Influencer persönlich zu kennen, obwohl man keine tatsächliche Beziehung zu ihnen hat. Soziale Medienplattformen haben speziell entwickelte Funktionen, um parasoziale Beziehungen zu vertiefen, da parasoziale Verbindung einer der stärksten Prädiktoren für anhaltendes Plattformengagement und Abonnementerlöse ist.

Die spezifische Gestaltung: Die Direktnachrichtenfunktion, die es Fans ermöglicht, Nachrichten an Creator zu senden (auch wenn diese Nachrichten nie gelesen werden), schafft das Gefühl der persönlichen Verbindung; das Story-Format, das das tägliche Leben der Creator zeigt, schafft die Intimität gemeinsamer Erfahrungen; die „Behind the Scenes“-Inhalte, die Offenlegung emotionaler Verletzlichkeit und die direkte Ansprache der Kamera, die Creator lernen zu nutzen, sind allesamt Merkmale einer parasozialen Intimitätsarchitektur, die Plattformen durch algorithmische Förderung von Inhalten, die starke Interaktionen erzeugen, fördern.

Die psychologische Folge von durch algorithmisches Design verstärkten parasozialen Beziehungen ist die spezifische Einsamkeit, sich mit jemandem verbunden zu fühlen, der nicht weiß, dass man existiert. Die Forschung von John Maltby an der University of Leicester ergab, dass intensive parasoziale Beziehungen mit einer geringeren sozialen Funktionsfähigkeit in der realen Welt sowie höheren Angst- und Depressionswerten verbunden waren – ein Ergebnis, das mit der Hypothese übereinstimmt, dass parasoziale Verbindung eher einen Ersatz für reale soziale Verbindung darstellt als eine Ergänzung.

Alex Green / Pexels

Dunkle Muster – User-Interface-Design-Entscheidungen, die darauf ausgelegt sind, Verhalten zu erzeugen, das eher der Plattform als dem Benutzer zugutekommt – sind allgegenwärtig in sozialen Medien und erweitern die algorithmische Optimierung des Engagements in das visuelle und navigative Design der Benutzeroberfläche selbst.

Die spezifischen dunklen Muster, die in sozialen Medien am häufigsten vorkommen: Standardeinstellung der Benachrichtigungen, die aktive Bemühungen erfordern, sie zu deaktivieren (anstatt aktiver Bemühungen, sie zu aktivieren), was zu einer Überbenachrichtigung für Benutzer führt, die keine Einstellungsmenüs lesen; das Fehlen eines „Fertig“-Zustands im Feed (man kann das Ende nie erreichen, es gibt immer mehr), wodurch der natürliche Endpunkt entfällt; das tiefe Vergraben von Datenschutz- und Benachrichtigungseinstellungen in mehrschichtigen Menüs, sodass die meisten Benutzer sie nie finden; und die Verwendung von schuldinduzierenden Formulierungen in Abmeldeprozessen ("Sind Sie sicher, dass Sie Updates von Ihren Freunden verpassen möchten?"), die das Abmelden sozial kostspielig erscheinen lassen.

Die Studie der Federal Trade Commission aus dem Jahr 2022 über dunkle Muster in sozialen Medien fand umfangreiche Beweise für Designmuster, die speziell dazu gedacht waren, Engagement und Datenerfassung auf Kosten der Benutzerpräferenzen zu maximieren. Die Studie dokumentierte 16 spezifische Kategorien dunkler Muster, die auf großen Social-Media-Plattformen vorhanden sind, darunter Bestätigungsscham, versteckte Standardeinstellungen und Behinderung der Kontolöschung. Diese sind nicht zufällig; sie sind in Produktdesignbriefings dokumentiert und werden auf ihre Wirksamkeit hin mit A/B-Tests getestet.

Helena Lopes / Pexels

Die spezifischen emotionalen Zustände, die das höchste Engagement in sozialen Medien antreiben – sowohl in der akademischen Forschung als auch in den eigenen internen Daten der Plattformen dokumentiert – sind keine positiven Emotionen, sondern negative, insbesondere Wut, Angst und Ekel. Eine Studie aus dem Jahr 2020 von William Brady und Kollegen an der Yale-Universität, die Twitter $TWTR-Daten analysierte, ergab, dass jedes moral-emotionale Wort in einem Tweet seine Retweet-Rate um etwa 20% erhöhte.

Der Mechanismus ist nicht, dass Menschen es vorziehen, wütend zu sein – das tun sie nicht –, sondern dass Wut motivierender ist als Zufriedenheit. Eine Person, die einen empörenden Beitrag sieht, teilt ihn eher (um ihre moralische Position zu signalisieren), kommentiert ihn (um ihre Reaktion auszudrücken) und kehrt später zur Plattform zurück (um die Reaktionen auf ihre Antwort zu sehen), als eine Person, die einen Zufriedenheit-induzierenden Beitrag sieht. Die Engagement-Verhaltensweisen, auf die Plattformalgorithmen optimieren, werden alle zuverlässiger durch negative emotionale Inhalte ausgelöst als durch positive emotionale Inhalte.

Die dokumentierte Folge ist eine systematische Verzerrung der Informationsumgebung hin zu einer negativen emotionalen Valenz: Die am weitesten verbreiteten Informationen in sozialen Medien sind überproportional empörungsinduzierend, angsterregend und ekelverursachend, nicht weil die Welt mehr von diesen Dingen enthält als vor den sozialen Medien, sondern weil die Engagement-Optimierung des Algorithmus sie auswählt. Das spezifische Gefühl, dass die Welt schneller schlechter wird, als sie es tatsächlich ist – die dokumentierte Pessimismusverzerrung von intensiven Social-Media-Nutzern – ist wesentlich ein Artefakt der emotionalen Selektionsverzerrung von engagement-optimierten Feeds.

Ron Lach / Pexels

Die Erfahrung, während der Nutzung sozialer Medien das Zeitgefühl zu verlieren – das in der Einleitung beschriebene 40-minütige Scrollen – ist keine Nebenwirkung von fesselnden Inhalten. Es ist ein Designziel. Die Metrik, die soziale Medienplattformen auf Geschäftsebene optimieren, ist die "Zeit auf der Plattform", und jede Designentscheidung, die eine Sitzung verlängert, ohne dass der Benutzer es merkt, trägt direkt zu der Metrik bei, die die Werbeeinnahmen bestimmt.

Die spezifischen Designelemente, die die Zeitverzerrung erzeugen: Autoplay (Videos beginnen automatisch und beseitigen den Moment der aktiven Wahl, die Scroll-Sitzungen unterbricht); algorithmische Sequenzierung (Inhalte werden in einer Sequenz bereitgestellt, die darauf optimiert ist, das Engagement zu erhalten, anstatt in einer Sequenz, die einen natürlichen Abschluss ermöglicht); und das Fehlen von Zeitangaben (keine Uhr, keine Sitzungsdaueranzeige, keine Erinnerung daran, wie lange Sie die App bereits nutzen), die es dem Benutzer ermöglichen würden, seine eigene Zeitnutzung zu überwachen.

Mehrere Plattformen haben als Reaktion auf den öffentlichen Druck bezüglich übermäßiger Nutzung "Zeit-in-der-App"-Anzeigen eingeführt, aber diese Funktionen sind typischerweise in den Einstellungsmenüs vergraben, anstatt in der Benutzeroberfläche angezeigt zu werden, und die Forschung zu ihrer Wirksamkeit hat gezeigt, dass sie für die meisten Benutzer nur minimale Auswirkungen auf die tatsächliche Sitzungsdauer haben. Die Funktion existiert als Reaktion auf regulatorischen und öffentlichen Druck; die Designabsicht der zugrunde liegenden App bleibt die Verlängerung der Sitzungsdauer ohne das Bewusstsein des Benutzers.

Polina Tankilevitch / Pexels

Die performative Dimension der sozialen Medien – die Tatsache, dass das, was Sie posten, für ein Publikum sichtbar ist, dessen Urteil Ihnen wichtig ist – erzeugt eine spezifische Form von sozialer Angst, die sich von gewöhnlicher sozialer Angst unterscheidet, weil sie beständig, öffentlich und dauerhaft ist. Der Beitrag, den Sie vor fünf Jahren gemacht haben, ist immer noch da. Der Kommentar, den Sie in einem emotionalen Moment gemacht haben, ist indiziert und durchsuchbar. Die Kurationsentscheidungen, die Sie über Ihre öffentliche Identität treffen – was zu posten, was auszulassen, wie Sie Ihre Erfahrungen darstellen – sind fortlaufend, unausweichlich und haben soziale Konsequenzen.

Forschungen von Sherry Turkle am MIT haben die spezifische Angst dokumentiert, die das dauerhafte öffentliche Protokoll der sozialen Medien erzeugt: die Identitätsdarstellung über mehrere Zielgruppen gleichzeitig (Familie, Freunde, Kollegen, Fremde) mit einem einzigen Feed erzeugt den spezifischen Stress, eine öffentliche Darstellung für Menschen mit inkompatiblen Erwartungen zu managen. Das Teenager-Mädchen, das ihre Instagram-Präsenz für ihre Eltern, ihre Gleichaltrigen und potenzielle zukünftige Arbeitgeber mit demselben Konto verwaltet, navigiert eine soziale Performance-Herausforderung ohne historisches Vorbild.

Die Rolle der Plattform bei der Erzeugung dieser Angst ist strukturell: das Design, das die Geschichte dauerhaft macht, das Design, das Engagement-Metriken in Echtzeit anzeigt, und das Design, das die Größe des Publikums sichtbar macht, tragen alle zur Umwandlung des gewöhnlichen sozialen Teilens in eine verwaltete öffentliche Performance bei. Die Angst ist keine Reaktion auf die soziale Welt; sie ist eine Reaktion auf die spezifische soziale Architektur, die die Plattform aufgebaut hat.

RDNE Stock project / Pexels

Empfehlungsalgorithmen lernen aus menschlichem Verhalten, und menschliches Verhalten enthält Vorurteile – Geschlechtervorurteile, Rassenvorurteile, sozioökonomische Vorurteile –, die der Algorithmus lernt und in seinen Empfehlungen verstärkt. Der spezifische Mechanismus: Wenn die historischen Daten, auf denen der Algorithmus trainiert wird, zeigen, dass bestimmte Arten von Inhalten für verschiedene demografische Gruppen unterschiedlich funktionieren, lernt der Algorithmus, verschiedenen Gruppen unterschiedliche Inhalte zu präsentieren und kodiert historische Vorurteile in zukünftige Empfehlungen.

Der dokumentierte Nachweis algorithmischer Voreingenommenheit in sozialen Medien ist umfangreich. Eine Studie aus dem Jahr 2021 zum Bildzuschnitt-Algorithmus von Twitter $TWTR ergab, dass er systematisch weiße Gesichter gegenüber schwarzen Gesichtern und Frauen gegenüber Männern bevorzugte, nachdem er diese Präferenzen aus Trainingsdaten gelernt hatte, die die Klickmuster der Benutzer widerspiegelten. Der Anzeigenauslieferungsalgorithmus von Facebook $META wurde von Forschern der Northeastern University gefunden, signifikante rassische und geschlechtsspezifische Unterschiede in der Anzeigenauslieferung zu zeigen, die nicht explizit programmiert waren, sondern aus der Engagement-Optimierung entstanden.

Die spezifische Konsequenz für Benutzer: Die Inhalte, die Sie sehen, die Gemeinschaften, die Ihnen empfohlen werden, die Jobs, die Ihnen in der Werbung gezeigt werden, und die Informationen, die Sie erreichen, werden alle durch einen Algorithmus gefiltert, dessen Vorurteile aus den historischen Daten geerbt wurden, auf denen er trainiert wurde und die dem Benutzer, der sie erlebt, nicht offengelegt werden. Die Personalisierung, die sich anfühlt, als ob der Algorithmus Sie kennt, ist auch ein Algorithmus, der Annahmen über Menschen wie Sie kodiert.

Danik Prihodko / Pexels

Jeder in dieser Liste beschriebene Mechanismus beruht auf einer einzigen strukturellen Tatsache: Soziale Medienplattformen sind Werbeunternehmen, deren Einnahmen direkt proportional zur Verweildauer der Nutzer auf der Plattform und zur Präzision der Zielgruppenansprache sind. Dieses Geschäftsmodell schafft eine spezifische Anreizstruktur, bei der jede Designfunktion, die das Wohlbefinden auf Kosten der Verweildauer erhöht, eine Funktion ist, die die Einnahmen reduziert.

Die dokumentierten internen Spannungen bei großen Plattformen zwischen den Produktteams, die sich auf das Wohlbefinden der Nutzer konzentrieren, und den Geschäftsteams, die sich auf Engagement-Metriken konzentrieren, lösen sich konsequent zugunsten der Geschäftsteams, da Engagement-Metriken den Aktienkurs und die Werbeeinnahmen in einer Weise bestimmen, wie es Wohlbefindensmetriken nicht tun. Die interne Facebook $META-Forschung, die das Gewicht von wütenden Reaktionen als Verursacher von schädlicher Inhaltsverstärkung identifizierte, aber nicht umgesetzt wurde, ist eines von vielen dokumentierten Beispielen dieser Auflösung.

Die spezifische Implikation für einzelne Nutzer: Der Algorithmus ist nicht Ihr Werkzeug. Er ist das Werkzeug Ihres Produktmanagers, und das Ziel Ihres Produktmanagers ist nicht Ihr Wohlbefinden. Die Funktionen, die hilfreich erscheinen – der personalisierte Feed, die empfohlenen Inhalte, die Benachrichtigung, dass etwas passiert – sind Funktionen, die entwickelt wurden, um Ihr Engagement mit der Plattform zu erhöhen, was die Plattform als umgekehrt korreliert mit Ihrer tatsächlichen Zufriedenheit nach dem Ende der Sitzung betrachtet. Dies zu verstehen, ist die Voraussetzung dafür, soziale Medien auf eine Weise zu nutzen, die Ihren Interessen und nicht den Interessen der Plattform dient.