Der nächste Durchbruch der KI wird nicht durch das Durchsuchen des Internets kommen. Unternehmen wetteifern darum, neue Trainingsdaten zu erschließen, von persönlichen Daten über Drohnen bis hin zu Unternehmensarchiven.
Photo by Sean Gallup/Getty Images
Die Ära der kostenlosen KI-Trainingsdaten ist vorbei. Reddit $RDDT verlangt Millionen für den API-Zugang. Die New York Times hat geklagt. Verlage blockieren Scraper. Selbst wenn KI-Unternehmen das öffentliche Internet noch absaugen könnten, stoßen sie auf ein größeres Problem: Sie benötigen völlig andere Arten von Daten für den nächsten Sprung in den Fähigkeiten.
Große Sprachmodelle wurden aufgebaut, indem Texte und Bilder aus dem Web gesammelt wurden. Aber da sich KI-Systeme über Chatbots hinaus entwickeln, benötigen sie Trainingsdaten, die ursprünglich nie öffentlich verfügbar waren. Daten, die verschlossen, verstreut sind oder noch gar nicht existieren.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Es entstehen neue Märkte, um diese Quellen zu erschließen. Hier sind drei.
Die meisten Menschen denken bei persönlichen Daten an Sozialversicherungsnummern und Gesundheitsakten. Aber fast alles, was Sie online tun, generiert Daten, die Plattformen sammeln und nutzen – Ihre Spotify $SPOT-Hörgewohnheiten, Ihre E-Mail-Muster, die Dokumente, die Sie in Google $GOOGL Docs schreiben, Ihre Gespräche mit ChatGPT.
Wenn Sie Ihre Instagram-Daten herunterladen, gibt das Unternehmen Ihnen zum Beispiel nicht nur Ihre Fotos. Sie erhalten alles, was Instagram basierend auf Ihrem Surfverhalten über Sie abgeleitet hat: Hunderte von Datenpunkten, die von harmlosen Etiketten wie "interessiert an Natur" bis hin zu psychologischen Bewertungen wie ob Sie Depressionen haben reichen.
Nichts davon ist öffentlich scrappable. Alles davon gehört rechtlich Ihnen.
"Wenn Sie Ihr Auto auf einem Parkplatz parken, gehört das Auto nicht dem Parkplatz", sagt Anna Kazlauskas, CEO von Vana, einem Unternehmen, das Infrastruktur aufbaut, damit Einzelpersonen ihre Plattformdaten zum KI-Training beitragen können. Dasselbe Prinzip gilt für Daten: Sie besitzen sie, auch wenn sie auf dem Server von jemand anderem liegen.
Der Umfang ist enorm. Eine Version von Common Crawl, dem Datensatz, der Metas Llama 3 trainierte, enthält etwa 15 Billionen Wörter, die aus dem öffentlichen Internet gesammelt wurden. Wenn 100 Millionen Menschen jeweils Datenexporte von nur fünf Plattformen beisteuerten, ergäbe das 450 Billionen Tokens, 30-mal größer als jeder bestehende Datensatz.
Diese Art von Daten könnte personalisierte KI freisetzen, die Ihren Musikgeschmack versteht oder Gesundheitsmodelle, die auf echten Schlaf- und Fitnessdaten trainiert sind, alles unmöglich mit gescrapten Webinhalten. Kazlauskas sagt, dass die Bezahlung von Menschen für Daten, die nur sie liefern können, auch die breitere KI-Debatte verändern könnte.
"Viel von der Angst rund um KI kommt von fehlender angemessener Attribution und Ökonomie", sagt Kazlauskas. "Wenn Sie KI beibringen, wie man Ihre Arbeit macht, sollten Sie tatsächlich dieses KI-Modell besitzen."
Textmodelle könnten auf gescrapten Webdaten trainieren. Aber die nächste Generation von KI braucht genaue, konsistente Informationen über die physische Welt. Roboter, die Städte navigieren, autonome Fahrzeuge und erweiterte Realität benötigen alle hochpräzise digitale Karten, um Entscheidungen zu treffen.
Das Problem ist, dass vorhandene Luftdaten fragmentiert sind. Sie stammen von verschiedenen Auftragnehmern mit unterschiedlichen Sensoren und unterschiedlichen Genauigkeiten, was es nahezu unmöglich macht, zuverlässige geospatiale Modelle zu trainieren. Satellitenbilder, obwohl sie den Großteil des Planeten abdecken, fehlen die Auflösung. Die Datenebene, die KI-Unternehmen benötigen, existiert einfach noch nicht.
Spexi versucht, es mit Gig-Arbeitern und Drohnen aufzubauen. Das Unternehmen hat mehr als 10.000 Piloten, die standardisierte Missionen in 80 Metern Höhe fliegen. In den letzten 18 Monaten haben sie mehr als 6 Millionen Hektar in 300 nordamerikanischen Städten mit höherer Auflösung als Satelliten oder herkömmliche Luftbildaufnahmen abgedeckt, sagt Bill Lakeland, CEO von Spexi.
Spexi arbeitet mit Unternehmen wie Niantic zusammen, um große geospatiale Modelle für erweiterte Realität und Robotik zu trainieren. Im Gegensatz zu Sprachmodellen müssen diese ständig aktualisiert werden, da Gebäude entstehen und Straßen sich ändern. Es ist eine Version desselben Problems, das ChatGPT und andere LLMs plagt – wie man Modelle aktuell hält, ohne sie von Grund auf neu zu trainieren. Lakelands Team arbeitet an Algorithmen, um vorherzusagen, wann und wo Updates benötigt werden, aber es bleibt eine ungelöste Forschungsherausforderung.
Einer der größten PC-Hersteller der Welt sammelt seit sieben Jahren Telemetriedaten. Niemand hat sie sich angesehen. Als das Team von Sachin Dharmapurikar bei The Modern Data Company sie schließlich analysierte, entdeckten sie, dass zwei der 70 Felder die ganze Zeit über falsch erfasst worden waren.
Dharmapurikars Unternehmen hilft Unternehmen, Altdaten in strukturierte, kontextualisierte Datensätze umzuwandeln, die für spezifische Geschäftsfragen anstelle der allgemeinen Speicherung ausgelegt sind. Vor einem Jahrzehnt begannen Unternehmen alles zu verfolgen und in der Cloud zu speichern, in der Annahme, dass das Sammeln von Daten irgendwann Erkenntnisse bringen würde. Stattdessen entstanden teure, isolierte, unverwaltete Datenlandschaften.
Als ChatGPT an Popularität gewann, dachten viele Führungskräfte, sie hätten endlich eine einfache Lösung gefunden. Einfach alle gespeicherten Daten in ein LLM einspeisen und die Magie geschehen lassen. Dharmapurikar nennt dies den "ChatGPT-Fluch".
Die Realität ist komplexer. Unternehmen benötigen vier Dinge: Datenqualität im großen Maßstab, die Fähigkeit, die Herkunft nachzuverfolgen und zu erklären, wie Schlussfolgerungen erreicht wurden, Governance zur Verhinderung von KI-Halluzinationen und semantische Metadaten, die Daten in Geschäftskontexten einordnen. Der Lebenszeitwert eines Einzelhandelskunden ist zum Beispiel unterschiedlich zu dem eines Unternehmenskunden. Ohne diesen Kontext werden Modelle falsch schließen.
Auch wenn die Daten vorhanden sind, sind sie oft gefangen. Vertriebs-, Produktions- und Webteams sammeln Daten in Silos, und der Transfer zwischen Abteilungen erfordert Bürokratie und roten Tape. KI benötigt Informationen aus der gesamten Organisation, aber die Realität sind fragmentierte Systeme, die nicht miteinander kommunizieren.
Dharmapurikar sagt, die Branche wird endlich realistisch. "Die Leute sind jetzt berechnender, rationaler und pragmatischer in Bezug auf diese Dinge," sagt er. "Die Realität setzt sich massiv durch, dass es keine einfache Lösung gibt."
