New Yorks Plan zur Nutzung KI zur Unterstützung für Einwohner und Unternehmen scheint nicht reibungslos zu laufen. Tatsächlich ermutigt der stadteigene Chatbot die Benutzer dazu, das Gesetz zu brechen.
Der von Microsoft betriebene KI-Chatbot der Stadt gibt seinen Benutzern falsche und in manchen Fällen illegale Geschäftsratschläge, stellt das gemeinnützige Investigativportal The Markup fest.
In einem Beispiel fragte The Markup den Chatbot, ob „Vermieter Mieter mit Mietbeihilfe akzeptieren müssen“, worauf der Chatbot antwortete: „Nein, Vermieter sind nicht verpflichtet, Mieter mit Mietbeihilfe zu akzeptieren.“ Das ist jedoch nicht der Fall: Auf der Website der Stadt heißt es, dass eine Diskriminierung „aufgrund einer rechtmäßigen Einkommensquelle“, zu der auch die Beihilfe gehört, eine illegale Praxis seit 2008 mit einigen Ausnahmen. (Als Quartz dem Chatbot dieselbe Frage stellte, antwortete der Chatbot: „Ja, Vermieter sind verpflichtet, Mieter mit Mietbeihilfe zu akzeptieren.“)
Auf die Frage, ob ein Chef einen Teil des Trinkgelds seiner Mitarbeiter einbehalten könne, antwortete der Chatbot The Markup: „Ja, Sie können einen Teil des Trinkgelds Ihres Mitarbeiters einbehalten“ und verwies auf die Informationen der Gehaltsabrechnung und Trinkgeldberichterstattung von NYC. Auch das ist falsch, und das New Yorker Arbeitsministerium sagt, dass Arbeitgeber ist die Teilnahme an des Trinkgelds eines Mitarbeiters. Der Chatbot gab Quartz eine ähnliche Antwort.
Leslie Brown, eine Sprecherin des NYC Office of Technology and Innovation, sagte in einer gegenüber Quartz vorliegenden Erklärung, dass es sich bei dem Chatbot um ein Pilotprogramm handele, das „bereits Tausenden von Menschen zeitnahe und genaue Antworten geliefert“ und sie gleichzeitig „über potenzielle Risiken informiert“ habe. Die Stadt, fügte sie hinzu, „wird sich weiterhin darauf konzentrieren, dieses Tool zu verbessern, damit wir kleine Unternehmen besser unterstützen können.“
Nachdem New York City im Oktober seinen Plan bekannt gegeben hatte, KI-Tools zur Verbesserung staatlicher Dienstleistungen einzusetzen, sah sich Bürgermeister Eric Adams mit einigen Gegenreaktionen konfrontiert, nachdem er Tausende von Robocalls an die Einwohner von NYC getätigt hatte. in mehreren Sprachen, die er nicht spricht — darunter Spanisch, Jiddisch und Mandarin. Im Februar hat das Federal Communications Committee (FCC) KI-gestützte Robocalls illegal gemacht aufgrund eines Gesetzes aus dem Jahr 91, das unerwünschte Anrufe mit falschen oder aufgezeichneten Stimmen verbott .
Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier