Googles Tool „AI Overviews“ erregte mit einigen merkwürdigen Antworten auf Suchanfragen Aufsehen. Es ist zu erwarten, dass weitere Probleme auftauchen, wenn KI in mehr Produkte integriert wird.
Als Google $GOOGL letzten Monat seine KI-gestützte Suchfunktion vorstellte, prahlte das Unternehmen, dass das neue Tool „das Googeln für Sie übernehmen“ würde. Die neue Funktion mit dem Namen „AI Overviews“ bietet prägnante, KI-generierte Zusammenfassungen mit wichtigen Informationen und Links, die über den Suchergebnissen angezeigt werden.
Das Internet, wie es das halt so macht, demütigte den Technologiegiganten schnell und prüfte dessen Fähigkeiten, wie die Raptoren in Jurassic Park die Zäune auf Schwachstellen testen. Die Leute fanden heraus, KI-Übersichten geben einige verrückte Antworten auf Suchanfragen, einschließlich Vorschlägen wie Einen Stein pro Tag essen und Pizzakleber verwenden.
Liz Reid, Leiterin von Google Search, hat einen Blogbeitrag geschrieben letzten Donnerstag versuchte sie alles zu erklären. Viele der Suchanfragen waren so ungewöhnlich , dass es keine guten Informationen gab , die man herausziehen konnte, was sie ein „Datenvakuum nen nennte.“ Andere Ursachen, darunter das Beispiel mit einem Stein pro Tag, wurden von satirischen Websites wie The Onion gezogen. In ihrem Mea culpa wies sie darauf hin, dass es war nicht ganz so schlimm, wie es in den sozialen Medien aussahund schreibt: „Es wurde eine große Anzahl gefälschter Screenshots weithin verbreitet.“
AI Overviews erhielt so viel Aufmerksamkeit, weil es ein neuer Anwendungsfall war für Generative Künstliche Intelligenz das könnte jeden entlarven, der es verpasst hat der KI-Wahn auf die Technologie ein, indem sie sie in den Mittelpunkt einer Internetaktivität rückt, die viele Menschen ein dutzend mal am Tag ausführen. So groß und schnell generative KI ist – ChatGPT – erreicht 100 Millionen aktive Nutzer in zwei Monatenund übertrifft TikToks bisherigen Rekord von neun Monaten – Googles Reichweite könnte das noch in den Schatten stellen.
Es gibt 8,5 Milliarden Google-Suchanfragen pro Tag – zumindest laut einer Antwort von AI Overviews auf die Frage: „Wie viele Google-Suchanfragen gibt es pro Tag?“ AI Overviews ist für den Technologiegiganten eine Gelegenheit, viel mehr Menschen die Macht und die Gefahren der generativen KI aufzuzeigen, von der Google viel auf das Gelände setzt.
Reid versprach Korrekturen, doch es werden weitere Probleme auftauchen, wenn die großen Sprachmodelle (LLMs), die den KI-Chatbots zugrunde liegen, in immer mehr Produkte integriert werden, sagt Delip Rao, ein unabhängiger Forscher der University of Pennsylvania. Im Fall von AI Overviews sei Google auf zwei Hauptprobleme gestoßen, so Rao: schlechte Daten und „Halluzinationen“.
Das Internet ist voll von schlechten Daten. Google kann die Websites, von denen es Daten bezieht, beschränken und mehr Schutzmaßnahmen für sensible Suchanfragen, etwa zu Gesundheitsthemen, errichten. Beides plant das Unternehmen laut Reid. Doch Halluzinationen – so nennt man es, wenn generative KI Informationen zu erfinden scheint – seien ein Problem ohne einfache Lösung, sagt Rao.
„Was das Modell kreativ macht, macht es auch für Halluzinationen verantwortlich“, sagte er. „Das eine geht nicht ohne das andere.“
Rao, der KI verwendet hat, um Erstellen Sie ein Tool zur Faktenprüfunghat noch immer Hoffnung, dass Korrekturen wie automatisierte Faktenprüfungen, Kontroversenerkennung und Glaubwürdigkeitsbewertungen AI Overviews verbessern könnten.
„KI wird bei der Suche nicht verschwinden“, sagte er. „Wir werden damit stecken bleiben. [Aber] viele der Probleme werden reduziert.“
In einer Erklärung teilte Google mit, dass es bereits Verbesserungen umsetze und mehr als ein Dutzend technische Aktualisierungen an AI Overviews vorgenommen habe.
„AI-Übersichten helfen den Menschen heute bei einer großen Anzahl von Suchanfragen und dienen als Ausgangspunkt für Inhalte im gesamten Web“, sagte ein Google-Sprecher.
Beobachter der Technologiebranche haben die Google-Muttergesellschaft Alphabet als Aufholjagd seit OpenAI ChatGPT im November 2022 vorstellte. Google hat Fortschritte gemacht — Der Umsatz stieg um 15 % in seinem jüngsten Gewinnbericht im April, und sein Chatbot, der dieselbe Technologie verwendet wie AI Overviews , belegte in einem aktuellen Wall Street Journal den dritten Platz Test von Chatbots.
Aber AI Overviews ist nicht Googles erster Fehltritt in der KI-Branche. Das Unternehmen hat seinen KI-Bildgenerator abgeschaltet nachdem das Tool historisch ungenaue Bilder erstellt hatte, darunter Bilder von Nazis unterschiedlicher Rassen .
Trotz der Fehler sagte Olivier Toubia, Marketingprofessor an der Columbia University, dass Google im Vergleich zu anderen Unternehmen, die KI-Modelle erstellen, bislang einen umsichtigeren Ansatz verfolgt habe. Das sei wahrscheinlich Absicht gewesen, sagte er.
„Sicher, vielleicht verlieren sie diesen Vorsprung, der dadurch entsteht, dass sie an der Spitze stehen, aber gleichzeitig könnten sie den Eindruck erwecken, dass sie das verantwortungsbewusste Technologieunternehmen sind“, sagte Toubia.
Doch ein vorsichtiger Ansatz muss letztlich den Marktbedürfnissen weichen. Google hat AI Overviews nach dem Start der KI-Suche eingeführt. Verwirrung und Microsofts Copilot begann, KI in die Suche einzuführen, auf eine Weise die die Vorherrschaft von Google bedrohen könnte.
Der Suchgigant hat wahrscheinlich einen Vorteil, denn die Leute nutzen für ihre generativen KI- und Suchanforderungen eher ein ihnen vertrautes Unternehmen statt zwei. Die Bequemlichkeit macht die Benutzer möglicherweise nachsichtiger. Verbraucher sind seit langem darauf konditioniert, nicht alles zu glauben, was im Internet steht – das Misstrauen gegenüber einer KI-gestützten Google-Suche wäre also nichts Neues.
„Die Leute werden nicht einfach weggehen und sagen: ‚Ich werde generative KI nie wieder verwenden‘“, sagte Toubia.
Aber als Google fügt weitere KI-Funktionalität zu anderen Produkten hinzuEs könnten Probleme auftauchen, die die Menschen möglicherweise weniger bereit sind zu verzeihen – etwa Voreingenommenheit und Datenschutzprobleme.
„Es gibt beunruhigendere Dinge, als dass man sagt, man solle Kleber auf die Pizza geben“, sagte Toubia.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
