Google will nicht , dass Nutzer Essen Kleber und Steine, aber es möchte, dass die Leute einige der weit hergeholteren Inhalte, die sie durch KI-gestützte Suchanfragen erhalten, noch einmal überprüfen.
Google hat am 14. Mai während seiner jährlichen I/O-Entwicklerkonferenz AI Overviews eingeführt, eine generative künstliche Intelligenzfunktion für seine Suchmaschine. Das Tool bietet Benutzern als Antwort auf Suchanfragen eine KI-generierte Zusammenfassung von Informationen aus dem Internet. Nur eine Woche später begannen Benutzer, Screenshots einiger der seltsamen und manchmal gefährlichen Antworten des neuen Tools zu teilen.
Viele davon gingen viral , darunter Antworten, die jemandem rieten, Kleber zur Pizza hinzufügen und Iss einen Stein pro Tag — Antworten aus Reddit-Foren und satirischen Nachrichtenseiten. In einem anderen viralen Fall hat AI Overviews schlug einem depressiven Benutzer vor, von der Golden Gate Bridge zu springen.
Liz Reid, Googles Vizepräsidentin für Forschung, schrieb am 30. Mai einen Blogbeitrag, der stellen Sie die Dinge klar. Obwohl einige der Screenshots, die in den sozialen Medien verbreitet wurden, echt sind, schrieb sie dort „wurde auch eine große Anzahl gefälschter Screenshots weit gestreut.“
„Einige dieser gefälschten Ergebnisse waren offensichtlich und albern. Andere deuteten an, dass wir gefährliche Ergebnisse zu Themen wie dem Zurücklassen von Hunden im Auto, Rauchen während der Schwangerschaft und Depressionen zurückgegeben hätten“, schrieb Reid. „Diese KI-Übersichten sind nie aufgetaucht. Daher empfehlen wir jedem, der auf diese Screenshots stößt, selbst eine Suche durchzuführen, um dies zu überprüfen.“
Diejenigen, die wirklich da waren, haben Bereiche hervorgehoben, in denen Google einige Probleme der neuen Technologie beheben muss, räumte Reid ein. AI Overviews spuckt seltsame Antworten auf Fragen aus, die vorher noch nie gestellt wurden, etwa: „Wie viele Steine soll ich essen?“ In diesen Fällen handelt es sich um eine sogenannte Daten- oder Informationslücke, und das Tool hat den Webinhalt herausgesucht, der die Frage am besten beantwortete – was zufällig eine Satire-Site war, sagte sie.
Aber Google versucht proaktiv, diese Probleme anzugehen. Unter umfassend dazu gehören die Entwicklung besserer Erkennungsmechanismen für unsinnige Anfragen, die Einbeziehung von Satire- und Humor-Inhalten begrenzt und potenziell irreführende von Benutzern generierte Ratschläge (wie Reddit-Unterhaltungen) sowie die Verbesserung der schon starken Leitplanken zu Nachrichten und Gesundheitsthemen.
„Angesichts der Größe des Internets, wo täglich Milliarden von Anfragen eingehen, kommt es zwangsläufig zu Merkwürdigkeiten und Fehlern“, schrieb Reid. „Wir haben in den letzten 25 Jahren viel darüber gelernt, wie man ein qualitativ hochwertiges Suchergebnis aufbaut und aufrechterhält. Unter anderem hat man gelernt, wie man aus diesen Fehlern lernt, um die Suche für alle zu verbessern.“
Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier