Sundar Pichai ging in einem Memo an Google-Mitarbeiter auf die kontroversen Fehler des KI-Tools ein. „Wir haben es falsch verstanden“, sagte er
Nach Googles generativem KI-Tool Zwillinge sorgten mit historisch ungenauen Bildern für Kontroversen wie rassistisch diverse Nazis, Google $GOOGL CEO Sundar Pichai ging in einem Memo an Google-Mitarbeiter auf die Antworten der App ein und bezeichnete die Antworten als „inakzeptabel“.
„Ich weiß, dass einige seiner Antworten unsere Nutzer beleidigt und Voreingenommenheit gezeigt haben – um es klar zu sagen: Das ist völlig inakzeptabel und wir haben es verstanden „Es ist falsch“, sagte Pichai am späten Dienstag in dem von Semafor veröffentlichten Memo
Pichai sagte, dass das Unternehmen „rund um die Uhr“ daran gearbeitet habe, die Probleme mit Gemini anzugehen, und „bereits eine erhebliche Verbesserung verzeichnet“. eine breite Palette von Aufforderungen.“
„Keine KI ist perfekt, insbesondere nicht in dieser aufstrebenden Entwicklungsphase der Branche, aber wir wissen, dass die Messlatte für uns und uns hoch liegt Wir werden so lange daran festhalten“, sagte Pichai und fügte hinzu, dass Google „überprüfen wird, was passiert ist, und sicherstellen wird, dass wir es beheben.“ es im Maßstab.
Google gab letzte Woche bekannt, dass es die Fähigkeit des KI-Modells, Bilder von Menschen zu generieren, danach pausieren werde Benutzer begannen, auf historisch ungenaue Bilder von Generationen von Menschen hinzuweisen – darunter auch rassisch unterschiedliche deutsche Soldaten aus der Nazi-Zeit – sowie Zwillinge, die Anfragen nach Bildern von Weißen scheinbar aus dem Weg gingen.
„Die KI-Bildergenerierung von Gemini bringt eine breite Palette von Menschen hervor.“ Google sagte in einer Erklärung bevor die App angehalten wird. „Und das ist im Allgemeinen eine gute Sache, weil Menschen auf der Welt es nutzen. Aber hier fehlt es das Ziel. ”
Jack Krawczyk, der Produktleiter von Gemini, ebenfalls hat die Probleme der App behoben letzte Woche, unter Hinweis auf umfassendere Probleme der KI-Voreingenommenheit die bereits existieren um die Erzeugung von Bildern von farbigen Menschen.
„Als Teil unserer KI-Prinzipien gestalten wir unsere Fähigkeiten zur Bilderzeugung so, dass sie unsere globale Nutzerbasis widerspiegeln, und wir übernehmen Darstellung und Voreingenommenheit „Im Ernst“, schrieb Krawczyk. „Historische Kontexte haben mehr Nuancen und wir werden uns weiter darauf einstellen, um dem Rechnung zu tragen.“
Dem Bard-Chatbot von Google wurden Funktionen zur Bildgenerierung hinzugefügt - die Antwort des Unternehmens auf OpenAIs ChatGPT Plus - Anfang Februar. Bard war damalsumbenannt in Gemini.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
