Ein Teil der Herausforderung besteht in der inhärenten Schwierigkeit, Algorithmen beizubringen, nuancierte Entscheidungen über Inhalte zu treffen.

Thomas Trutschel/Photothek via Getty Images
Eine Version dieses Artikels erschien ursprünglich im Mitglieder-Newsletter Weekend Brief von Quartz. Mitglieder von Quartz erhalten Zugang zu exklusiven Newslettern und mehr. Hier anmelden.
Als britische Gesetzgeber versprachen, dass Altersverifizierungsgesetze ein 'sichereres Internet' schaffen würden, indem sie Kinder von schädlichen oder für Erwachsene bestimmten Inhalten fernhalten, hatten sie wahrscheinlich nicht im Sinn, dass Erwachsene einen amtlichen Ausweis benötigen würden, um Parlamentsdebatten über sexuellen Missbrauch oder Aufnahmen zerstörter Drohnen in der Ukraine anzusehen.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Aber genau das passiert, während Länder weltweit eilig Alterskontrollen im Internet einführen. Die Diskrepanz zwischen politischen Absichten und chaotischer Realität zeigt die grundlegende Herausforderung, eine Technologie zu entwickeln, die zwischen Inhalten unterscheiden kann, die wirklich schädlich für Kinder sind, und legitimen Informationen, auf die Erwachsene jedes Recht haben, zuzugreifen.
Die Folgen breiten sich bereits im Internet aus. In Großbritannien, wo das Online Safety Act Ende Juli in Kraft trat, blockieren soziale Medienplattformen unterschiedslos Inhalte in ihrem Bestreben, den neuen Vorschriften nachzukommen. Ein Video eines Mannes im Gazastreifen, der nach den Leichen seiner Familie unter Trümmern sucht, wurde auf X $TWTR eingeschränkt, obwohl keine grafischen Bilder gezeigt werden, bis die BBC danach fragte.
Eine parlamentarische Rede über einen sexuellen Übergriff, die ohne Einschränkung auf der offiziellen Streaming-Seite der Regierung verfügbar ist, wird in sozialen Medien blockiert. Die Algorithmen haben sogar ein 200 Jahre altes Meisterwerk, das die griechische Mythologie darstellt (Goyas "Saturn verschlingt seinen Sohn") als zu gewagt für das Internet angesehen. Unterdessen, ist die Anzahl der Downloads von VPN-Apps gestiegen da Nutzer nach Umgehungsmöglichkeiten suchen, ein klares Zeichen dafür, dass die Öffentlichkeit diese neue Realität nicht akzeptiert.
Ein Teil des Problems liegt in der inhärenten Schwierigkeit, Algorithmen beizubringen, differenzierte Entscheidungen über Inhalte zu treffen. Das britische Online-Sicherheitsgesetz verlangt von Plattformen die Beurteilung, ob Inhalte "ein erhebliches Risiko eines signifikanten Schadens für eine beträchtliche Anzahl von Kindern darstellen", eine subjektive Beurteilung, mit der selbst Menschen konsequent zu kämpfen haben.
Die Herausforderung wird größer, wenn Plattformen versuchen zu bestimmen, wer von vornherein daran gehindert werden sollte, diese Inhalte zu sehen. Unternehmen lagern diese Entscheidungen an Drittanbieter von Altersverifizierungsdiensten wie Yoti, Incode und Persona aus, aber die Technologie bleibt unvollkommen. Gesichtsalterschätzungssysteme bieten typischerweise eine Genauigkeit innerhalb von etwa 18 Monaten und können durch alles von schlechter Beleuchtung bis hin zu, in einem Fall, einem Hund, der vor das Gesicht gehalten wird, getäuscht werden.
Die Überprüfungsmethoden selbst schaffen neue Probleme. Die Anforderung staatlicher Ausweise wirft Datenschutzbedenken auf und schließt Menschen ohne Dokumentation aus. Kreditkartenprüfungen setzen finanziellen Zugang voraus. Selbst scheinbar datenschutzfreundliche Ansätze, wie die KI-Alterschätzung basierend auf Surfverhalten, haben Schwierigkeiten, gemeinsame Geräte oder unterschiedliche Online-Verhaltensweisen zu berücksichtigen.
Aber vielleicht am besorgniserregendsten ist, was passiert, wenn Nutzer einfach aussteigen. Daten deuten darauf hin, dass die Gesetze die Nutzer zu weniger regulierten Seiten drängen. Wenn Altersverifizierungsanforderungen in Kraft treten, haben Forscher festgestellt, dass der Verkehr häufig auf überseeische, unregulierte Seiten verlagert wird, die keine Inhaltsrichtlinien einhalten.
Trotz dieser Herausforderungen expandiert das Altersverifizierungsexperiment rasant. Der Oberste Gerichtshof der USA kürzlich hat den Weg für Staaten geebnet um von Pornoseiten zu verlangen, dass sie das Alter der Besucher überprüfen, wobei mindestens 24 Staaten haben erlassen eine Art Verifizierungsgesetz. Australien plant, soziale Medien zu verbieten für Kinder unter 16 Jahren ab Dezember. Die Gerichte Frankreichs haben entschieden, dass Pornoseiten das Alter der Nutzer überprüfen können, während Irland implementierte Altersüberprüfungsgesetze für Video-Websites Anfang dieses Jahres.
Jede Gerichtsbarkeit verfolgt einen leicht unterschiedlichen Ansatz, was inkonsistente regulatorische Rahmenbedingungen schafft, die Plattformen bei der Einhaltung der Anforderungen navigieren müssen. Texas verhängt Geldstrafen von bis zu 10.000 US-Dollar pro Tag für nicht konforme Websites, während das Vereinigte Königreich Plattformen mit Geldstrafen von bis zu 10 % des weltweiten Umsatzes belegen oder Dienste vollständig sperren kann.
Technologieverbände wehren sich gerichtlich, wobei NetChoice – dessen Mitglieder Meta $META, Google $GOOGL und Reddit $RDDT umfassen – argumentiert, dass die Gesetze kontraproduktiv sind, da entschlossene junge Nutzer einfach Wege finden werden, die Einschränkungen zu umgehen.
Forscher sorgen sich um die weitreichenden Auswirkungen auf den Informationszugang. Für Erwachsene beseitigt die Altersüberprüfung die Möglichkeit des anonymen Surfens. Diese Besorgnis geht über Pornografie hinaus und umfasst politisch sensible Themen, psychische Gesundheitsressourcen oder jegliche Inhalte, die jemand möglicherweise privat abrufen möchte.
Für junge Menschen könnten die Gesetze versehentlich den Zugang zu den für sie am dringendsten benötigten Bildungsmaterialien einschränken, einschließlich Informationen über sexuelle Gesundheit, reproduktive Rechte und LGBTQ-Themen, die in konservativen Gerichtsbarkeiten, in denen solche Themen politischem Widerstand ausgesetzt sind, von entscheidender Bedeutung sein könnten.
Da mehr Länder diese Gesetze umsetzen, wird das Internet zu einem fragmentierteren, überwachten Raum. Der grundlegende Konflikt könnte sich als unlösbar erweisen: Gesetzgeber haben ein System geschaffen, das Parlamentsdebatten blockiert, während entschlossene Teenager nicht von den Inhalten ferngehalten werden können, die es eigentlich einschränken sollte.
Ob dies Fortschritte bei der Kindersicherheit oder eine teure Lektion über die Grenzen technologischer Lösungen bedeutet, bleibt abzuwarten.