Googles KI-Suchmaschine produziert Fehler und Lügen

Google hat während seiner jährlichen I/O-Entwicklerkonferenz am 14. Mai offiziell eine generative künstliche Intelligenzfunktion für seine Suchmaschine namens AI Overviews eingeführt. Das Tool bietet Benutzern als Antwort auf ihre Suchanfragen eine Zusammenfassung von Informationen aus dem World Wide Web. Manchmal nimmt es dumme Online-Informationen zu ernst, andernfalls generiert es von sich aus völlig schlechte, falsche, seltsame – sogar gefährliche – neue Antworten.

Reddit $RDDT-Nutzer und X $TWTR-User haben das Internet überschwemmt, um Beispiele für die Fehler von AI Overviews zu liefern. Einige der dümmeren Ergebnisse des Tools schlagen vor: Kleber zur Pizza hinzugeben und Einen Stein pro Tag essen. Dann gibt es noch gefährlichere : KI-Übersichten schlug einem depressiven Benutzer vor, von der Golden Gate Bridge zu springen und sagte, jemand, der von einer Klapperschlange gebissen wurde sollte “Schneiden Sie die Wunde auf oder versuchen Sie, das Gift auszusaugen.”

Diese Antworten, die vom satirischen Nachrichtensender The Onion und von Reddit-Kommentatoren stammen, stellten Witze als Fakten dar. In einigen Fällen ignoriert AI Overviews Fakten aus dem Internet völlig und stellt falsche Aussagen auf, wie etwa: „Es gibt …“ „Kein souveränes Land in Afrika, dessen Name mit dem Buchstaben ‚K‘ beginnt.“„Außerdem werden Dinge über den eigenen Hersteller, Google, falsch dargestellt. Es heißt, dass die KI-Modelle von Google mit „Material über sexuellen Kindesmissbrauch“ trainiert wurden und dass Google betreibt noch immer eine KI-Forschungseinrichtung in China.

Google verteidigte sich in einer Stellungnahme mit der Aussage: „Die überwiegende Mehrheit der AI-Übersichten bietet qualitativ hochwertige Informationen, mit Links, die eine tiefere Recherche im Internet ermöglichen.“

„Viele der Beispiele, die wir gesehen haben, waren ungewöhnliche Abfragen, und wir haben auch Beispiele gesehen , die manipuliert waren oder die wir nicht reproduzieren konnten“, heißt es und wir haben hinzugefügt, dass AI Overviews vor seiner Veröffentlichung „ausführlichen Tests unterzogen wurde. „Wir ergreifen im Rahmen unserer Inhaltsrichtlinien sowie dazu angemessener Maßnahmen und nutzen dieser Beispiele umfassendere Verbesserungen unserer Systeme zu entwickeln und einige davon bereits anzufangen haben.“

Dies ist die zweite große KI-bezogene Blamage für Google. Das Unternehmen musste im Februar seinen Gemini-KI-Bildgenerator pausieren nachdem es für die Produktion historisch ungenauer Bilder kritisiert wurde. Aber Google ist in guter Gesellschaft: Chatbots der meisten Unternehmen werden für sogenannte Halluzinationen vorgeworfen und erfinden völlig falsche Informationen trotz der Daten, auf die sie trainiert sind. Ein Ausfall bei OpenAI im Februar hat ChatGPT spuckt Kauderwelsch aus.Auch bei voller Auslastung ChatGPT hat Personen fälschlicherweise der sexuellen Belästigung beschuldigt und führte zu Zitaten nicht existenter Gerichtsfälle. Microsoft $MSFT Copilot geriet im März in die Schwelle als es schlug einem Benutzer Selbstverletzung vor mit großer Länge.

Das Potenzial der KI, Fehlinformationen und Desinformationen zu generieren, hat große Besorgnis ausgelöst, insbesondere im Vorfeld der US-Präsidentschaftswahlen 2024. Die Gesetzgeber des Staates haben Hunderte von Gesetzen eingeführt um die mit der KI verbundenen Probleme anzugehen, es gibt keine substanzielle bundesgesetzliche Gesetzgebung.

Anmerkung des Herausgebers: Dieser Artikel wurde aktualisiert, um eine Erklärung von Google aufzunehmen.