15 Algorithmen, die bestimmen, was du jeden Tag siehst

Jede Sekunde eines jeden Tages werden Entscheidungen in Ihrem Namen von Systemen getroffen, die Sie nie zu nutzen vereinbart haben und die Sie nicht vollständig einsehen können. Der Preis, den Sie für einen Flug angeboten bekommen. Das Stellenangebot, das ganz oben in Ihrer Suche auftaucht. Das Lied, das als nächstes gespielt wird. Der Freund, dessen Beitrag Sie bemerken — und der, dessen Beitrag vollständig verschwindet. Diese Ergebnisse sind nicht zufällig, und sie werden nicht von Menschen, die an Schreibtischen sitzen, kuratiert. Sie sind das Produkt von Algorithmen: mathematische Verfahren, die dazu entwickelt wurden, Eingaben zu nehmen, Regeln anzuwenden und Ausgaben in einem Umfang zu erzeugen, den kein menschliches Team erreichen könnte.

Das Wort "Algorithmus" wird oft locker verwendet, oft um etwas Vages und Mächtiges und leicht Unheimliches zu bedeuten. Die Realität ist spezifischer. Ein Algorithmus ist einfach eine definierte Reihe von Schritten zur Lösung eines Problems. Aber die Algorithmen, die das digitale Leben heute bestimmen, sind nicht einfach. Sie werden auf Milliarden von Datenpunkten trainiert, für messbare Ziele optimiert und auf Millionen von Menschen angewendet. Die Lücke zwischen dem Ziel, für das ein Algorithmus optimiert werden soll, und den Ergebnissen, die er tatsächlich produziert — in menschlichen und sozialen Begriffen — ist der Ort, an dem die meiste Kontroverse lebt.

Einige dieser Algorithmen sind Jahrzehnte alt und wurden in akademischen Umgebungen entwickelt, lange bevor das Internet sie kommerziell unverzichtbar machte. Andere wurden speziell für die Aufmerksamkeitsökonomie entwickelt, um die Augen auf Bildschirmen und Klicks fließen zu lassen. Einige sind so in die Infrastruktur des Internets eingebunden, dass ihre Entfernung den Wiederaufbau von Systemen von Grund auf erfordern würde. Alle machen Kompromisse. Geschwindigkeit versus Genauigkeit. Personalisierung versus Privatsphäre. Effizienz versus Fairness.

Zu verstehen, wie diese Systeme funktionieren, ist keine technische Übung, die Ingenieuren vorbehalten ist. Es ist zunehmend eine grundlegende Form der Bildung. Wenn ein Kreditantrag von einem automatisierten System abgelehnt wird oder ein Lebenslauf nie einen menschlichen Leser erreicht oder ein Gesundheitsrisiko von einem Diagnosewerkzeug erkannt — oder übersehen — wird, lassen sich die Entscheidungen auf algorithmische Logik zurückführen, die untersucht, hinterfragt und herausgefordert werden kann. Aber nur, wenn Sie wissen, dass es da ist.

Diese Liste behandelt 15 der folgenschwersten Algorithmen, die im Alltag eingesetzt werden. Einige werden namentlich bekannt sein. Andere arbeiten unsichtbar in Systemen, mit denen die meisten Menschen täglich interagieren, ohne zu wissen, dass überhaupt ein Algorithmus beteiligt ist.

Credit:  Sarah Blocksidge, Pexels 

Bevor Google $GOOGL ein Verb wurde, bevor es ein Unternehmen wurde, war es ein Forschungspapier. 1998 veröffentlichten Larry Page und Sergey Brin, damals Doktoranden an der Stanford-Universität, eine Beschreibung eines neuen Ansatzes für die Websuche. Sie nannten die Kernidee PageRank — benannt nach Page — und es veränderte die Art und Weise, wie das Internet organisiert wurde.

Die Einsicht hinter PageRank war, dass nicht alle Links gleich sind. Eine Webseite, die von vielen anderen Seiten verlinkt wird, ist wahrscheinlich autoritativer als eine mit wenigen eingehenden Links. Und ein Link von einer bereits autoritativen Seite trägt mehr Gewicht als ein Link von einer obskuren. PageRank formalisierte diese Intuition in eine numerische Bewertung. Jede Seite im Web wurde basierend auf der Menge und Qualität der Seiten, die darauf verlinkten, bewertet. Je mehr hochwertige eingehende Links eine Seite ansammelte, desto höher war ihr PageRank-Score und desto höher erschien sie tendenziell in den Suchergebnissen.

Die Eleganz der Idee lag in ihrer rekursiven Natur. Um zu wissen, wie autoritativ eine Seite ist, muss man wissen, wie autoritativ die Seiten sind, die auf sie verlinken, und um das zu wissen, muss man dasselbe über die Seiten wissen, die auf sie verlinken. PageRank löste dies mit einer iterativen Berechnung – indem das gesamte Webdiagramm wiederholt durchlaufen wurde, bis die Punktzahlen konvergierten.

Dies war eine bedeutende Abweichung von früheren Suchmaschinen, die Seiten hauptsächlich nach Schlüsselworthäufigkeit bewerteten. Dieser Ansatz war leicht zu manipulieren: Wenn eine Seite das Wort "Kameras" 200 Mal erwähnte, könnte sie für kamerabezogene Suchen hoch eingestuft werden, unabhängig davon, ob sie tatsächlich nützliche Informationen über Kameras enthielt. PageRank machte es viel schwieriger, Rankings künstlich zu manipulieren, da die Herstellung von Tausenden hochwertiger eingehender Links Ressourcen erforderte, die die meisten bösen Akteure nicht hatten.

Die praktische Folge war eine Suchmaschine, die weit besser funktionierte als ihre Vorgänger. Die Nutzer bemerkten es. Google wuchs. PageRank wurde das Fundament, auf dem eines der wertvollsten Unternehmen der Geschichte aufgebaut wurde.

Der Algorithmus hat sich seit 1998 erheblich verändert. Google verwendet jetzt Hunderte von Ranking-Signalen, und das genaue Gewicht, das einem einzelnen Faktor beigemessen wird, ist ein streng gehütetes Geschäftsgeheimnis. Aber das konzeptionelle Rahmenwerk – Autorität, abgeleitet von der Struktur der Links – bleibt zentral. PageRank hat auch eine ganze Industrie gesät. Suchmaschinenoptimierung oder SEO existiert weitgehend als professionelle Praxis des Verstehens und Beeinflussens der Signale, auf die Algorithmen wie PageRank reagieren. Die von PageRank geschaffene Link-Wirtschaft ist jetzt so in die Funktionsweise des Webs eingebettet, dass sie effektiv Teil der Internet-Architektur ist.

Credit:  Jakub Zerdzicki, Pexels 

Wenn Netflix $NFLX einen Film vorschlägt, von dem du noch nie gehört hast und der sich als genau das herausstellt, wonach du gerade Lust hattest, dann ist das kollaboratives Filtern am Werk. Der Algorithmus muss nicht wissen, worum es in dem Film geht. Er analysiert keine Inhaltszusammenfassungen oder Kinematografie. Er funktioniert rein auf Basis von Verhaltensmustern: Wer hat was gesehen und was haben diese Zuschauer als nächstes gesehen.

Die Grundidee ist einfach. Wenn viele Nutzer, die die gleichen fünf Filme wie du gesehen haben, auch einen sechsten Film gesehen haben, den du noch nicht gesehen hast, schließt der Algorithmus daraus, dass dir dieser sechste Film auch gefallen könnte. Du wirst mit anderen gruppiert, deren Geschmäcker ähnlich erscheinen, und ihr Verhalten wird verwendet, um Vorhersagen über deines zu generieren. Dies ist "kollaborativ" im Sinne, dass die Empfehlungen durch die implizite Zusammenarbeit vieler Nutzerentscheidungen produziert werden, und "Filtern" im Sinne, dass es einen überwältigenden Katalog auf eine handhabbare Menge an Vorschlägen reduziert.

Die technische Herausforderung ist der Maßstab. Eine Streaming-Plattform mit 100 Millionen Nutzern und 10.000 Titeln hat eine Präferenzmatrix mit einer Billion potenzieller Einträge, von denen fast alle leer sind – die meisten Nutzer haben nur einen kleinen Bruchteil des Katalogs gesehen. Der Algorithmus muss mit spärlichen Daten arbeiten und Beziehungen aus einem unvollständigen Bild schließen. Frühe Implementierungen verwendeten die nächstgelegenen Nachbarn, um Nutzer mit den ähnlichsten Geschmacksprofilen zu finden. Spätere Versionen integrierten Matrixfaktorisierungstechniken, die latente Faktoren identifizieren – im Wesentlichen versteckte Geschmacksdimensionen, die die Daten implizieren, aber nie direkt angeben.

Kollaboratives Filtern wurde lange vor der Einführung von Streaming-Video bekannt gemacht. Amazon $AMZN nutzte es in den späten 1990er Jahren, um Produktempfehlungen zu generieren. Pandora wandte eine Variante davon auf Musik an, obwohl sie es mit manuellen Genre-Tags kombinierten. Spotify $SPOT baute eine umfangreiche Empfehlungsinfrastruktur darauf auf, indem sie kollaborative Signale mit der Audioanalyse der Songs selbst mischte.

Die Grenzen des Ansatzes sind es wert, verstanden zu werden. Kollaboratives Filtern neigt dazu, bereits populäres zu verstärken. Wenn ein Film von vielen Leuten gesehen wurde, sammelt er kollaboratives Signal und wird eher anderen empfohlen, was bedeutet, dass er häufiger angesehen wird, was sein Signal weiter stärkt. Weniger gesehene Filme — besonders aus kleineren Märkten, in weniger verbreiteten Sprachen oder von unabhängigen Filmemachern — sammeln Signal langsam und werden seltener empfohlen, unabhängig von ihrer Qualität. Der Algorithmus zielt nicht darauf ab, sie zu benachteiligen. Er spiegelt einfach die bereits in den Daten vorhandenen Muster wider, die durch frühere Entscheidungen darüber geprägt sind, was gefördert wird.

Credit:  Eftakher Alam, Unsplash

Jedes Mal, wenn ein Technologieunternehmen sagt, es habe ein "Experiment durchgeführt", um ein neues Feature zu testen, verwendet es fast sicher eine Form von A/B-Testing. Die Grundstruktur ist einfach: Benutzer in zwei Gruppen aufteilen, einer Gruppe die neue Version und der anderen die alte Version zeigen, den Unterschied in den Ergebnissen messen und diese Daten verwenden, um zu entscheiden, welche Version beibehalten werden soll. Der Algorithmus, der regelt, welche Benutzer welche Version sehen und wie die Ergebnisse interpretiert werden, macht diesen Prozess rigoros statt impressionistisch.

A/B-Tests haben ihren Ursprung in der Agrarwissenschaft und klinischen Forschung, wo sie verwendet wurden, um Ernteerträge und Medikamentenwirksamkeit zu testen. Digitale Plattformen haben es übernommen, weil ihre Skalierung — Millionen von Benutzern, unmittelbare Verhaltensdaten — es weitaus mächtiger machte als alles, was in physischen Experimenten möglich war. Eine Farbänderung eines Knopfes, die ein Einzelhandelsunternehmen Monate dauern würde, um sie über eine Handvoll Geschäfte hinweg zu testen, kann von einem Webunternehmen in 48 Stunden über Millionen von Benutzern hinweg bewertet werden.

Die Randomisierung im Kern des A/B-Testens ist das, was es zuverlässig macht. Durch die zufällige Zuordnung von Benutzern zu Gruppen stellt der Algorithmus sicher, dass alle bestehenden Unterschiede zwischen den Benutzern ausgeglichen werden. Wenn die getestete Änderung einen messbaren Unterschied im Verhalten zwischen den beiden Gruppen erzeugt, kann dieser Unterschied der Änderung zugeschrieben werden und nicht bestehenden Unterschieden bei den Benutzern.

In der Praxis ist das digitale A/B-Testing weitaus komplexer geworden als sein zweigruppiger Vorfahre. Multi-armed Bandit-Algorithmen, eine aus der Entscheidungstheorie entlehnte Variante, verschieben den Verkehr dynamisch in Echtzeit zu besser abschneidenden Varianten, anstatt auf das Ende eines festen Versuchszeitraums zu warten. Dies ist effizienter — es reduziert die Zeit, die Benutzer mit einer schlechteren Erfahrung verbringen — führt jedoch subtile Verzerrungen ein, die die Interpretation erschweren können.

Die Ergebnisse dieser Experimente prägen fast alles darüber, wie digitale Produkte aussehen und sich verhalten. Die Platzierung eines Abonnieren-Knopfes. Die Formulierung einer Benachrichtigung. Die Farbe eines Checkout-Knopfs. Die Länge eines Vorschauclips. Dies sind keine Designentscheidungen, die von einzelnen Designern nach eigenem Ermessen getroffen werden. Sie sind Ergebnisse, die von Algorithmen optimiert werden, um messbare Metriken zu maximieren, am häufigsten Klicks, Anmeldungen oder die auf der Plattform verbrachte Zeit.

Credit:  cottonbro studio, Pexels 

Der algorithmische Feed – auf Instagram, TikTok, YouTube, X $TWTR, Facebook $META – ist wahrscheinlich der bedeutendste Algorithmus, dem die meisten Menschen täglich begegnen. Er bestimmt nicht nur, was Sie sehen, sondern auch in welcher Reihenfolge, mit welcher Dringlichkeit und wann etwas vollständig aufhört zu erscheinen. Die Details, wie diese Systeme funktionieren, unterscheiden sich erheblich zwischen den Plattformen, aber die zugrunde liegende Logik folgt einem erkennbaren Muster.

Im Kern weist ein Feed-Algorithmus jedem Inhalt, der einem bestimmten Benutzer zu einem bestimmten Zeitpunkt angezeigt werden könnte, einen Punktwert zu. Dieser Punktwert wird aus einer Kombination von Faktoren abgeleitet: die historische Beziehung zwischen diesem Benutzer und dem Konto, das den Inhalt veröffentlicht hat, wie andere Benutzer bisher auf den Inhalt reagiert haben (Likes, Shares, Kommentare, Betrachtungszeit), die Art des Inhalts (Video, Foto, Text, Link) und Signale über den aktuellen Kontext des Benutzers (Tageszeit, jüngstes Surfverhalten, Gerätetyp). Inhalte mit höheren Punktzahlen werden im Feed höher platziert. Inhalte mit niedrigen Punktzahlen sind praktisch unsichtbar.

Das Bewertungsmodell wird anhand vergangener Verhaltensweisen trainiert. Wenn Benutzer, die historisch ähnliche Beiträge wie diesen mochten, ebenfalls damit interagiert haben, nimmt das Modell dies als Beweis, dass ähnliche Benutzer dies ebenfalls tun werden. Dies schafft eine Rückkopplungsschleife: Inhalte, die gut abschneiden, erzeugen Signale, die dazu führen, dass sie weiter verbreitet werden, was mehr Signale erzeugt und die Verbreitung weiter erhöht.

Die Metrik, die diese Algorithmen am konsequentesten optimieren, ist das Engagement – allgemein definiert als jede messbare Interaktion. Aber Engagement ist kein neutraler Maßstab für den Wert. Inhalte, die Empörung, Angst oder starke emotionale Reaktionen hervorrufen, neigen dazu, mehr Kommentare und Shares zu erzeugen als Inhalte, die informieren, ohne zu agitieren. Algorithmen, die auf Engagement optimieren, ohne zwischen dessen Quellen zu unterscheiden, können systematisch provokative Inhalte verstärken, nicht weil jemand entschieden hätte, dass dies wünschenswert sei, sondern weil es bessere Punktzahlen bei den verfolgten Metriken erzeugt.

Plattformen haben ihre Algorithmen wiederholt als Reaktion auf Kritik angepasst und Signale hinzugefügt, die als Stellvertreter für „bedeutungsvolles“ Engagement oder „autoritative“ Quellen dienen sollen. Diese Anpassungen sind real, operieren jedoch innerhalb eines Systems, das immer noch grundlegend um das Verhaltensreaktion herum organisiert ist, anstatt um redaktionelle Beurteilung.

Credit:  Artem Podrez, Pexels 

Wenn eine Kreditkartentransaktion in Echtzeit als potenziell betrügerisch markiert wird – und die Transaktion abgelehnt wird, bevor die Zahlung genehmigt wird – wurde diese Entscheidung fast sicher von einem maschinellen Lernalgorithmus getroffen, nicht von einem Menschen. Betrugserkennungssysteme verarbeiten täglich Millionen von Transaktionen und tun dies in Millisekunden, wobei Modelle angewendet werden, die auf Mustern aus Milliarden historischer Transaktionen trainiert sind.

Die Kernherausforderung ist Asymmetrie. Betrügerische Transaktionen sind selten – oft weniger als eine von tausend –, was bedeutet, dass die Trainingsdaten stark unausgewogen sind. Ein Modell, das einfach jede Transaktion als legitim klassifiziert, hätte die meiste Zeit Recht, wäre aber als Betrugserkennungswerkzeug nutzlos. Betrugserkennungsalgorithmen müssen speziell entwickelt werden, um Anomalien vor einem Hintergrund überwältigender Normalität zu identifizieren.

Die Merkmale, die diese Modelle verwenden, sind vielfältig und oft kontraintuitiv. Die Geschwindigkeit kürzlicher Transaktionen ist wichtig: Mehrere Käufe in kurzer Zeit können ein gestohlenes, schnell benutztes Kartensignal sein, bevor sie gemeldet wird. Geographie ist wichtig: Eine Transaktion in einem Land wenige Minuten nach einer in einem anderen löst einen Alarm aus. Die Kategorie des Händlers ist wichtig: Bestimmte Arten von Händlern haben historisch höhere Betrugsraten. Geräte-Fingerabdrücke sind wichtig: Eine Transaktion über ein unbekanntes Gerät oder eine IP-Adresse wird anders behandelt als eine über ein erkanntes Gerät.

Moderne Betrugserkennungssysteme kombinieren mehrere Modelltypen. Regelbasierte Systeme erfassen bekannte Muster schnell. Auf historischem Betrug trainierte maschinelle Lernmodelle erfassen neuartige, aber statistisch ähnliche Muster. Graphbasierte Systeme betrachten Beziehungen zwischen Konten, Händlern und Geräten, um koordinierte Betrugsringe zu identifizieren, die die Analyse einzelner Transaktionen übersehen würde.

Die Kosten von Fehlern gehen in zwei Richtungen. Ein falsch-negatives Ergebnis – eine betrügerische Transaktion, die durchkommt – kostet Geld. Ein falsch-positives Ergebnis – eine legitime Transaktion wird abgelehnt – kostet eine Kundenbeziehung und in großem Maßstab erhebliche Einnahmen. Finanzinstitute stimmen ihre Modelle unterschiedlich ab, abhängig von ihrer Toleranz gegenüber jeder Art von Fehler. Ein Kartenunternehmen mit hohen Betrugsverlusten könnte die Schwellenwerte verschärfen und mehr falsch-positive Ergebnisse akzeptieren. Eine Bank, die sich auf eine Premium-Kundenerfahrung konzentriert, könnte mehr Betrugsverluste in Kauf nehmen, um abgelehnte Transaktionen zu reduzieren. Der Algorithmus spiegelt eine in mathematischer Form gekleidete Richtlinienentscheidung wider.

Credit:  Zulfugar Karimov, Unsplash

Jedes Mal, wenn Sie mit der Eingabe in ein Suchfeld beginnen und eine Liste mit vorgeschlagenen Vervollständigungen unter Ihrem Cursor erscheint, sagt ein Autocomplete-Algorithmus voraus, wonach Sie suchen, basierend auf dem, was Sie bisher eingegeben haben. Dies scheint eine kleine Komfortfunktion zu sein. Bei Milliarden von täglichen Suchen ist sein Einfluss darauf, wonach Menschen suchen – und wie sie über Themen denken – erheblich.

Autocomplete-Vorschläge sind nicht nur Vervollständigungen Ihrer individuellen Anfrage. Sie stammen aus aggregierten Daten: wonach viele andere Benutzer gesucht haben, nachdem sie dieselben Zeichen eingegeben haben. Die Vorschläge spiegeln das kollektive Suchverhalten einer großen Bevölkerung wider, gewichtet nach Aktualität und Häufigkeit. Wenn Sie "ist Kaffee" eingeben und die Vorschläge "ist Kaffee gut für Sie" und "ist Kaffee schlecht für Sie" enthalten, sehen Sie eine Zusammenfassung dessen, was viele andere Menschen über Kaffee nachgedacht haben.

Die Designkonsequenz ist, dass Autocomplete die Anfrage beeinflussen kann, bevor sie vollständig formuliert ist. Ein Benutzer, der beginnt, eine mehrdeutige Anfrage einzugeben und einen Autocomplete-Vorschlag auswählt, könnte letztendlich nach etwas leicht anderem suchen als ursprünglich beabsichtigt. Dies ist ein kleiner Anstoß auf individueller Ebene, aber aggregiert über Millionen von Suchen formt Autocomplete die Verteilung dessen, wonach gesucht wird.

Dies schafft Verantwortung. Autovervollständigungssysteme müssen aktive Entscheidungen darüber treffen, was nicht vorgeschlagen werden soll. Anfragen, die zu schädlichen Inhalten führen könnten – Anleitungen zur Gewalt, Suchanfragen, die eine Belästigung einer namentlich genannten Person darstellen könnten – werden routinemäßig unterdrückt. Ebenso Vorschläge, die die kommerziellen Beziehungen der Plattform in Verlegenheit bringen könnten. Die Filterregeln sind für Benutzer nicht immer sichtbar und können Abwesenheiten erzeugen, die nur jemandem auffallen, der gezielt danach sucht.

Es gab dokumentierte Fälle, in denen die Autovervollständigung Vorschläge hervorbrachte, die sachlich falsch, verleumderisch oder offenlegung privater Informationen waren. Das Argument, dass der Algorithmus einfach widerspiegelt, wonach Benutzer suchen, löst die Frage der Verantwortung nicht vollständig, da die Entscheidung, diese Muster zu reflektieren – anstatt sie zu filtern – selbst eine Wahl ist. Autovervollständigungsalgorithmen sind redaktionelle Systeme, die unter dem Deckmantel scheinen, rein mechanisch zu sein.

Credit:  K, Pexels 

Der auf einer Flugbuchungsseite, einer Hotel-App oder einem Fahrdienst angezeigte Preis ist typischerweise das Ergebnis eines dynamischen Preisfindungsalgorithmus und nicht ein fester Tarif, der von einem Menschen entschieden wurde. Dynamische Preissysteme passen die Preise in Echtzeit an basierend auf Angebots- und Nachfragesignalen, Wettbewerbsdaten und Vorhersagen darüber, wie verschiedene Kunden auf unterschiedliche Preise reagieren werden.

Fluggesellschaften haben die moderne dynamische Preisgestaltung eingeführt. Die Kernlogik besteht darin, dass ein Flugzeugsitz ein verderbliches Gut ist – er hat keinen Wert mehr, sobald der Flug abhebt – und dass Reisende unterschiedliche Preisempfindlichkeiten haben. Geschäftsreisende, die kurz vor der Abreise buchen, sind im Allgemeinen weniger preissensibel als Freizeitreisende, die Monate im Voraus buchen. Yield-Management-Systeme, wie Airline-Preisalghorithmen formal genannt werden, versuchen, Plätze zu den höchsten Preisen zu füllen, die der Markt tragen kann, und passen die Preise an, je näher das Abflugdatum rückt, basierend auf verbleibendem Bestand und Buchungstempo.

Fahrdienstunternehmen haben dieses Framework auf neuartige Weise erweitert. Ubers Preisspiralenalgorithmus erhöht die Preise, wenn die Nachfrage das Fahrerangebot in einem bestimmten Gebiet übersteigt. Der höhere Preis bewirkt gleichzeitig zwei Dinge: Er entmutigt einige potenzielle Fahrer davon, eine Buchung vorzunehmen, was die Nachfrage reduziert, und er motiviert mehr Fahrer, online zu gehen, was das Angebot erhöht. Aus wirtschaftlicher Sicht soll der Algorithmus ein temporäres Marktungleichgewicht ausgleichen. Aus der Perspektive eines Passagiers, der bei einem Regensturm eine Fahrt benötigt und mit einem Preis konfrontiert wird, der viermal so hoch ist wie der Standardtarif, ist das Erlebnis ziemlich anders.

Einzelhandel und E-Commerce haben die dynamische Preisgestaltung aggressiv übernommen. Amazon $AMZN aktualisiert Preise millionenfach pro Tag über seinen Marktplatz. Lebensmittelketten haben begonnen, mit elektronischen Regalpreisetiketten zu experimentieren, die es ermöglichen, Preise zu ändern, ohne die Preisschilder physisch umzustocken. Die Algorithmen, die diese Änderungen steuern, reagieren auf die Preise der Wettbewerber, Bestandsniveaus, Tageszeiten und lokale Nachfrageprofile.

Die ethischen Fragen, die diese Systeme aufwerfen, sind real. Wenn zwei Kunden unterschiedliche Preise für dasselbe Produkt basierend auf ihrem Standort, Gerät oder Browserverlauf sehen, ist das eine Form der Preisdiskriminierung. Regulierungsbehörden in mehreren Jurisdiktionen haben begonnen zu prüfen, ob bestimmte Anwendungen der dynamischen Preisgestaltung – insbesondere auf Märkten für essenzielle Güter – Einschränkungen unterliegen sollten.

Credit: Canva Images

E-Mail-Spamfilter gehören zu den ältesten kommerziellen Anwendungen des maschinellen Lernens, die die meisten Menschen täglich nutzen. Das von ihnen angesprochene Problem ist nach wie vor aktuell: die überwältigende Menge an unerwünschten kommerziellen E-Mails, die ein naiv verwaltetes Postfach unbrauchbar machen. Moderne Spamfilter klassifizieren die überwiegende Mehrheit der Nachrichten mit sehr wenig Benutzeraufwand genau — eine Leistung, die nur einfach erscheint, weil die zugrunde liegende Arbeit verborgen ist.

Frühe Spamfilter stützten sich auf Schlüsselwortlisten und einfache Regeln: Wenn eine Nachricht bestimmte Wörter enthielt oder von bekannten schlechten IP-Adressen stammte, wurde sie markiert. Dies funktionierte, bis sich Spammer anpassten und absichtliche Rechtschreibfehler und Variationen einführten, um das Schlüsselwortabgleich zu umgehen. Die dynamische Katz-und-Maus-Entwicklung führte zur Entwicklung ausgefeilterer statistischer Ansätze.

Der in den frühen 2000er Jahren populär gewordene Bayes’sche Spamfilter verfolgte einen anderen Ansatz. Anstatt fester Regeln berechnete er die Wahrscheinlichkeit, dass eine bestimmte E-Mail Spam war, basierend auf den enthaltenen Wörtern, wobei er Bayes’ Theorem verwendete, um diese Wahrscheinlichkeit zu aktualisieren, wenn mehr Beweise einbezogen wurden. Das Modell wurde anhand von Beispielen für Spam und Nicht-Spam trainiert und lernte, welche Wortkombinationen vorausschauend waren. Entscheidend war, dass der Filter jedes Benutzers personalisiert werden konnte: Wenn eine E-Mail als Spam markiert wurde, wurde das lokale Modell des Benutzers aktualisiert, um empfindlicher auf ähnliche Nachrichten in der Zukunft zu reagieren.

Zeitgenössische Filter gehen weit über Wortstatistiken hinaus. Sie analysieren Nachrichtenkopfzeilen, um die Authentifizierung des Absenders zu überprüfen, vergleichen Nachrichten mit Datenbanken bekannter Spam-Inhalte, überprüfen den Ruf von IP-Adressen und Domains und verwenden neuronale Netzwerkmodelle, die strukturelle Muster erkennen können — nicht nur Vokabular —, die mit Phishing und bösartigen Inhalten verbunden sind.

Die Fehlermodi sind es wert, verstanden zu werden. Ein Fehlalarm — eine legitime E-Mail, die als Spam klassifiziert wird — kann schwerwiegende Folgen haben: ein verpasstes Jobangebot, eine ausgelassene medizinische Terminerinnerung, eine verlorene Geschäftskommunikation. Die meisten Anbieter neigen dazu, Fehlalarme zu minimieren, anstatt den Spam-Einfang zu maximieren, und akzeptieren, dass einige Spam-Nachrichten Postfächer erreichen, anstatt das Risiko einzugehen, legitime Nachrichten zu begraben. Diese Schwelle ist eine politische Entscheidung, die in algorithmischen Parametern codiert ist.

Credit:  Alexander Grigoryev, Unsplash

Automatisierte Inhaltsmoderation ist die Verwendung von maschinellen Lernsystemen, um Beiträge, Bilder oder Videos zu identifizieren und zu entfernen, die gegen die Richtlinien einer Plattform verstoßen — in einem Umfang, den menschliche Moderationsteams allein nicht bewältigen könnten. Allein Meta $META verarbeitet jährlich Hunderte von Milliarden von Beiträgen. Kein menschliches Team könnte dieses Volumen in annähernd Echtzeit überprüfen.

Die für die Inhaltsmoderation verwendeten Systeme kombinieren typischerweise verschiedene Erkennungsansätze. Bei bekanntem illegalen Inhalt, wie etwa Material zu sexuellem Kindesmissbrauch, ermöglicht das kryptografische Hash-Matching die sofortige Identifizierung von exakten Kopien und nahezu Kopien, ohne dass ein Mensch das Material ansehen muss. Bei Hassrede, Belästigung und Fehlinformationen ist das Problem komplexer: Kontext ist wichtig und schwer zu kodieren.

Die Trainingsdaten für diese Modelle stammen von menschlichen Prüfern, die Beispiele von verletzenden und nicht verletzenden Inhalten gemäß der Plattformrichtlinien kennzeichneten. Das Modell lernt, neue Inhalte auf Basis von Mustern in diesen gekennzeichneten Daten zu klassifizieren. Aber Richtlinien sind nicht immer klar, Kulturen unterscheiden sich darin, welche Sprache als hasserfüllt gilt, und die Bedeutung hängt oft vom Kontext ab, den der Text allein nicht überträgt. Eine Schmähung, die innerhalb einer Gemeinschaft als Ausdruck der Wiederaneignung verwendet wird, sieht identisch aus wie dasselbe Wort, das als Angriff verwendet wird.

Fehler dieser Systeme betreffen echte Menschen. Die automatisierte Entfernung eines Beitrags einer Menschenrechtsorganisation, die Gräueltaten dokumentiert – weil die Bilder technisch gesehen Kategorien entsprechen, die mit gewalttätigem Inhalt assoziiert sind – ist eine andere Art von Schaden als das Versäumnis, einen Beitrag zu entfernen, der zu Belästigung aufruft. Plattformen haben Beschwerdeverfahren und menschliche Prüfprozesse für Entscheidungen mit hohem Risiko entwickelt, aber das Volumen der Inhalte bedeutet, dass die meisten Moderationsentscheidungen getroffen und umgesetzt werden, ohne dass eine menschliche Prüfung erfolgt.

Die Verteilung von Fehlern ist nicht gleichmäßig über die Bevölkerung hinweg. Inhaltsmoderationssysteme, die überwiegend auf englischen Texten von westlichen Internetnutzern trainiert wurden, haben sich bei Inhalten in anderen Sprachen, in regionalen Dialekten und in kulturellen Kontexten, die in den Trainingsdaten nicht gut repräsentiert waren, als schlecht leistungsfähig erwiesen. Das bedeutet, dass die Systeme wahrscheinlich genau dort Fehler machen, wo Benutzer am wenigsten auf Abhilfe zählen können.

Credit: Canva Images

Ein Kredit-Score ist eine Zahl, die die vorhergesagte Wahrscheinlichkeit einer Person zusammenfasst, ein Darlehen zurückzuzahlen, und es ist eine der folgenschwersten Zahlen im finanziellen Leben vieler Menschen. Der Zugang zu Wohnraum, der Zinssatz für einen Autokredit und die Berechtigung für Kreditkarten werden alle davon beeinflusst. Die Algorithmen, die diese Scores erzeugen, wurden ursprünglich entwickelt, um Kreditentscheidungen schneller, konsistenter und weniger anfällig für die Vorurteile einzelner Kreditbeauftragter zu machen. Ob sie dieses letzte Ziel erreichen, ist umstritten.

Der FICO-Score – entwickelt von der Fair Isaac Corporation und 1989 eingeführt – wurde zum dominanten Kreditbewertungsmodell in den USA. Er wird aus Daten in den Dateien der Kreditauskunfteien berechnet: Zahlungshistorie, geschuldete Beträge, Länge der Kredithistorie, verwendete Kreditarten und aktuelle Kreditanfragen. Jeder Faktor wird gewichtet und kombiniert, um einen Score zwischen 300 und 850 zu erzeugen. Höhere Scores deuten auf ein niedrigeres vorhergesagtes Risiko hin.

Das Design des Scores enthält Annahmen, die verteilungsbezogene Konsequenzen haben. Die Länge der Kredithistorie belohnt Menschen, die seit vielen Jahren Kreditkonten haben, was tendenziell ältere Kreditnehmer begünstigt. Der Besitz mehrerer Kreditarten (eine Hypothek, ein Autokredit, eine Kreditkarte) führt zu einem höheren Score als der Besitz nur einer Art, was Menschen benachteiligen kann, die Schulden bewusst vermieden haben. Der Score spiegelt die Geschichte der Kreditnutzung wider, was bedeutet, dass Menschen, die nicht am formalen Kreditsystem teilgenommen haben – sei es aus freier Entscheidung, aus Umständen oder weil sie neu in einem Land sind – darin unsichtbar sind.

Alternative Kreditbewertungsmodelle sind entstanden, einige davon beinhalten Mietzahlungshistorien, Nebenkostenabrechnungen oder Bankdaten. Diese Modelle zielen darauf ab, den Zugang zu Krediten für Menschen mit dünnen oder fehlenden traditionellen Kreditakten zu erweitern. Aber sie bringen ihre eigenen Kompromisse mit sich, und die Daten, die sie heranziehen, werfen Fragen zum Datenschutz und dem Potenzial für neue Formen diskriminierender Mustererkennung auf. Der Algorithmus kann nicht vollständig von den politischen Entscheidungen getrennt werden, die bei seiner Gestaltung getroffen werden: welche Daten einbezogen, welche ausgeschlossen werden und wessen Kredithistorie als Grundlage der Normalität betrachtet wird.

Credit: Canva Images

Wenn ein Recruiter auf LinkedIn oder Indeed nach Kandidaten für eine Stelle sucht oder ein Arbeitgeber eine Stelle ausschreibt und Bewerbungen erhält, ist die Reihenfolge, in der die Kandidaten erscheinen, weder alphabetisch noch zufällig. Es ist das Ergebnis eines Ranking-Algorithmus, der die Kandidaten im Vergleich zur Stellenanzeige und untereinander bewertet, basierend auf Mustern, die das System aus vergangenem Verhalten abgeleitet hat.

Diese Systeme funktionieren typischerweise, indem sie Schlüsselwörter und Phrasen aus Stellenbeschreibungen mit Kandidatenprofilen abgleichen, aber moderne Versionen gehen über das Schlüsselwort-Matching hinaus. Sie integrieren Signale darüber, welche Kandidaten von Recruitern, die ähnliche Profile betrachtet haben, kontaktiert oder interviewt wurden, welche Bewerbungen zu Einstellungen führten und welche Kandidatenprofile bei Personalverantwortlichen in bestimmten Rollen oder Branchen Aufmerksamkeit erregen. Der Algorithmus lernt, Relevanz aus Mustern im historischen Rekrutierungsverhalten vorherzusagen.

Das Problem ist, dass das historische Rekrutierungsverhalten historische Vorurteile widerspiegelt. Wenn bestimmte Branchen historisch gesehen Frauen oder People of Color in Führungspositionen unterrepräsentiert haben, wird der Algorithmus, der auf dieser Geschichte trainiert wurde, lernen, Frauen und People of Color für Führungspositionen abzuwerten — nicht wegen expliziter Anweisungen, dies zu tun, sondern weil vergangenes Verhalten die Grundlage seiner Vorhersagen bildet. Amazon $AMZN baute und verwarf dann einen internen Einstellungsalgorithmus, der genau dieses Muster zeigte: Er wurde auf ein Jahrzehnt seiner eigenen Einstellungsentscheidungen trainiert, die das historische Geschlechterungleichgewicht der Branche widerspiegelten, und erlernte, Lebensläufe zu bestrafen, die das Wort "Frauen" enthielten.

Regulierungsbehörden in den USA und Europa haben begonnen, Leitlinien zur Verwendung automatisierter Systeme bei der Einstellung herauszugeben, und einige Gerichtsbarkeiten verlangen nun Auswirkungenseinschätzungen für Tools, die entscheidende Beschäftigungsentscheidungen treffen. Die Frage, wie man Rangfolgesysteme aufbaut, die sowohl genaue Vorhersagen der Arbeitsleistung liefern als auch über demografische Gruppen gerecht sind, bleibt ungelöst.

Credit:  Brett Jordan, Pexels 

Ein beträchtlicher und wachsender Teil der Menschen trifft Nachrichten hauptsächlich durch algorithmische Kuratierung an — in sozialen Medienfeeds, in Nachrichtenaggregator-Apps oder durch Empfehlungssysteme, die in Browser und Betriebssysteme von Telefonen integriert sind. Die Auswahl dessen, was als Nachrichten zählt, was an die Spitze kommt und was verschwindet, wird nicht mehr hauptsächlich von Redakteuren getroffen. Sie wird von Algorithmen getroffen, die auf Verhaltenssignale reagieren.

Die Algorithmen, die diese Systeme steuern, weisen eine strukturelle Ähnlichkeit mit sozialen Feed-Algorithmen auf: Sie weisen Relevanzbewertungen basierend auf Kombinationen von Personalisierungssignalen und Leistungsmetriken für Inhalte zu. Ein Artikel, den viele Benutzer in Ihrem Netzwerk lesen, erhält eine höhere Bewertung. Ein Artikel aus einer Quelle, auf die Sie zuvor geklickt haben, erhält eine höhere Bewertung. Ein Artikel mit vielen Kommentaren erhält eine höhere Bewertung. Diese Bewertungen werden verwendet, um auszuwählen und zu ordnen, was in Ihrem Nachrichtenerlebnis erscheint.

Die Folgen für Informationsökosysteme sind Gegenstand aktiver Debatten. Ein Anliegen ist die Filterblase: die Möglichkeit, dass personalisierte Nachrichtenkurationen den Benutzern nur Inhalte zeigen, die ihre bestehenden Überzeugungen bestätigen, wodurch die Exposition gegenüber herausfordernden Standpunkten verringert wird. Die Forschung darüber, wie stark dieser Effekt tatsächlich ist, hat gemischte Ergebnisse hervorgebracht – einige Studien finden signifikante Personalisierungseffekte, andere finden, dass algorithmische Feeds Benutzern eine vielfältigere Sichtweise bieten können, als es selbstgewählte Lesegewohnheiten tun würden.

Ein separates Anliegen ist die Verstärkung von engagement-maximierenden Inhalten auf Kosten von genauen oder substanziellen Inhalten. Eine Geschichte, die starke emotionale Reaktionen hervorruft, neigt dazu, mehr Klicks zu generieren als eine sorgfältig recherchierte, aber weniger dramatische Geschichte zum selben Thema. Algorithmen, die darauf trainiert sind, Engagement-Metriken zu maximieren, unterscheiden nicht zwischen Engagement, das durch Qualität angetrieben wird, und Engagement, das durch Empörung angetrieben wird. Das redaktionelle Urteil, das Printzeitungen ausgeübt haben – eine schwierige, aber wichtige Geschichte auf der Titelseite zu platzieren, unabhängig von der vorhergesagten Leserschaft – ist keine Funktion, die diese Systeme darauf ausgelegt sind, zu replizieren.

Credit:  Erik Mclean, Pexels 

Wenn Sie über Uber $UBER, Lyft $LYFT oder einen ähnlichen Dienst eine Fahrt anfordern, wählen Sie Ihren Fahrer nicht aus und Ihr Fahrer wählt Sie nicht aus. Die Zuordnung erfolgt durch einen Algorithmus innerhalb von Sekundenbruchteilen, wobei die Nähe des Fahrers, die voraussichtliche Fahrtzeit zu Ihrem Abholort, Fahrerbewertungen und Faktoren im Zusammenhang mit den Effizienzzielen der Plattform für alle gleichzeitigen Fahrtanfragen in Ihrer Region berücksichtigt werden.

Das Dispositionsproblem, das diese Algorithmen lösen, ist tatsächlich komplex. In einem bestimmten Moment verwaltet eine Fahrvermittlungsplattform in einer großen Stadt Tausende von gleichzeitigen Fahrtanfragen und verfügbaren Fahrern in einer Geografie, in der sich Verkehrsbedingungen, Veranstaltungspläne und Nachfrageverteilungen kontinuierlich ändern. Ein Algorithmus, der einfach den nächsten verfügbaren Fahrer mit jeder neuen Anfrage abgleicht, wäre lokal optimal – die Abholzeit für jede einzelne Fahrt zu minimieren – aber global suboptimal, da er Nachfrageschwerpunkte unbedeckt lassen könnte, während er Fahrer in Bereichen mit geringer Nachfrage bündelt.

Moderne Fahrvermittlungs-Algorithmen optimieren über einen breiteren Horizont. Sie sagen voraus, wo die Nachfrage in den kommenden Minuten entstehen wird, und leiten Fahrer proaktiv um. Sie balancieren die Effizienz von Kurzstreckenabgleichen gegen die Produktivität längerer Fahrten aus. Sie verwalten Anreizprogramme – Hochpreiszeiten, Fahrerboni – als Teil des Abgleichsystems, da Preissignale das Fahrerverhalten und damit die Angebotsverteilung beeinflussen.

Der Algorithmus trifft auch Entscheidungen, die das Einkommen von Fahrern beeinflussen, ohne dass Fahrer direkten Zugang zu seiner Logik haben. Ein Fahrer, der weniger Langstreckenaufträge erhält oder dem hauptsächlich Fahrten zu Zeiten und in Bereichen mit geringer Nachfrage angeboten werden, verdient möglicherweise deutlich weniger als ein Fahrer, dessen Zuweisungsmuster anders ist – ohne Entscheidung, die der Fahrer getroffen hat. Die Intransparenz des Abgleichsystems war ein wiederkehrendes Anliegen in Arbeitsstreitigkeiten mit Fahrern der Gig-Economy, die argumentieren, dass der Algorithmus eine Form des Managements darstellt, dessen Regeln sie nicht einsehen oder anfechten können.

Credit:  Ron Lach, Pexels 

Die Prädiktivtextfunktion auf einer Smartphone-Tastatur – die das nächste Wort beim Tippen vorschlägt – ist eine direkte Verbraucheranwendung derselben Klasse von statistischen Modellen, die großen Sprachmodellen zugrunde liegen. Beide versuchen, dasselbe grundlegende Problem zu lösen: Angesichts einer Wortfolge die wahrscheinlichste Fortsetzung vorherzusagen.

Frühe Prädiktivtextsysteme verwendeten N-Gramm-Modelle, die die Wahrscheinlichkeit eines Wortes lernten, das nach dem einen, zwei oder drei vorhergehenden Wörtern erscheint. Diese Modelle konnten mit relativ kleinen Datensätzen trainiert werden und liefen effizient auf der begrenzten Hardware früher Smartphones. Sie funktionierten gut für häufige Phrasen, scheiterten jedoch bei ungewöhnlicher oder domänenspezifischer Sprache, da sie nur das vorhersagen konnten, was sie in den Trainingsdaten gesehen hatten.

Der Wechsel zu neuronalen Netzwerken hat die Möglichkeiten transformiert. Rekurrente neuronale Netzwerke und dann Transformer-Architekturen konnten Abhängigkeiten über viel längere Textsequenzen hinweg erfassen und erlernten nicht nur Wort-Ko-Okkurrenzmuster, sondern auch etwas, das grammatikalische und semantische Strukturen näherkommt. Die Modelle, die die aktuellen großen Sprach-KI-Systeme antreiben, sind hochskalierte Versionen desselben zugrunde liegenden Ansatzes, der auf viel größeren Datensätzen trainiert wird.

Die Folgen von Prädiktivtext als allgegenwärtiges Merkmal des Schreibens sind nicht trivial. Studien zur Untersuchung, wie Autokorrektur und Prädiktivtext das Schreiben beeinflussen, haben ergeben, dass Autoren, die diese Funktionen nutzen, zu einem gebräuchlicheren Vokabular und zu glatterem, aber weniger eigenwilligem Prosa tendieren. Das Modell, das darauf trainiert ist, die wahrscheinlichste Fortsetzung vorherzusagen, lenkt natürlich in Richtung des Konventionellen. Eine Phrase, die ungewöhnlich, aber genau richtig ist, kann schwerer zu tippen sein als eine gebräuchlichere Annäherung, die die Tastatur immer wieder vorschlägt.

Auf Bevölkerungsebene spiegelt ein von Hunderten Millionen Menschen verwendetes Prädiktivtextsystem nicht nur Sprachmuster wider – es formt sie auch, indem es bestimmte Phrasen zugänglicher und andere weniger sichtbar macht. Dies ist eine neuartige Beziehung zwischen einer Technologie und der Sprache, der sie dienen soll.

Credit:   Maxim Hopman, Unsplash

Market-Making-Algorithmen, Hochfrequenzhandelssysteme und Ausführungsalgorithmen operieren in Finanzmärkten mit Geschwindigkeiten und in Größenordnungen, die weit über die menschliche Kapazität hinausgehen. Sie sind verantwortlich für einen erheblichen Anteil des täglichen Handelsvolumens in Aktien-, Devisen- und Derivatemärkten und ihr kollektives Verhalten beeinflusst Preise, Liquidität und Volatilität in einer Weise, die jeden mit einer Rente, einem Sparkonto oder wirtschaftlicher Exponierung gegenüber Marktbedingungen betrifft.

Hochfrequenzhandel-Algorithmen basieren auf Geschwindigkeit als Wettbewerbsvorteil. Die schnellsten Systeme können Marktdaten verarbeiten und Trades in Mikrosekunden ausführen — millionstel Sekunden. Firmen, die diese Systeme betreiben, investieren in physische Nähe zu Börsenservern, in dedizierte Glasfaserkabel und in Mikrowellentürme, um Nanosekunden bei Übertragungszeiten einzusparen. Der Vorteil, den sie suchen, liegt nicht in der überlegenen fundamentalen Analyse von Unternehmen, sondern in der schnelleren Reaktion auf Auftragsfluss und Preissignale.

Market-Making-Algorithmen bieten einen Service mit echtem wirtschaftlichem Wert: Sie zitieren kontinuierlich Preise, zu denen sie bereit sind, ein Wertpapier zu kaufen oder zu verkaufen, was es anderen Marktteilnehmern ermöglicht, Trades auszuführen, ohne selbst eine willige Gegenseite finden zu müssen. Sie profitieren von der Spanne zwischen Kauf- und Verkaufspreisen. Die Algorithmen passen diese Angebote als Reaktion auf Lagerbestände, Volatilität und Auftragsflusspatterns an und halten eine Position, die die Spanne verdient, während sie das Risiko managen.

Die Interaktionseffekte zwischen vielen gleichzeitig arbeitenden Algorithmen können emergente Verhaltensweisen erzeugen, die kein einzelnes System zu zeigen vorgesehen war. Der Flash-Crash am 6. Mai 2010, bei dem der Dow Jones Industrial Average in Minuten um fast 1.000 Punkte fiel, bevor er sich schnell erholte, wurde teilweise auf die Rückkopplungsschleife zwischen automatisierten Market-Making-Systemen zurückgeführt, die Liquidität abzogen, und Ausführungsalgorithmen, die auf fallende Preise reagierten. Kein einzelner Algorithmus verursachte es. Das Ereignis war ein Produkt algorithmischer Interaktionen, die schneller operierten, als es eine regulatorische oder menschliche Intervention erreichen konnte.

Nachfolgende Marktstrukturreformen, einschließlich der Circuit Breaker, die den Handel stoppen, wenn sich die Preise zu weit zu schnell bewegen, haben das Risiko ähnlicher kaskadierender Ereignisse reduziert, aber nicht eliminiert. Die Algorithmen entwickeln sich weiter und die regulatorischen Rahmen, die sie regeln, folgen mit erheblicher Verzögerung.