Salesforce $CRM-Chef Marc Benioff hat nach einer Reihe von Fällen, in denen die Technologie mit Menschen in Verbindung gebracht wurde, die sich das Leben nahmen, mehr Regulierung der künstlichen Intelligenz gefordert.
Der Milliardär warf der Tech-Industrie vor, das Wachstum an erste Stelle zu setzen, und forderte umfassende neue Regeln, um KI einzudämmen.
David Paul Morris/Bloomberg via Getty Images
Salesforce $CRM-Chef Marc Benioff hat nach einer Reihe von Fällen, in denen die Technologie mit Menschen in Verbindung gebracht wurde, die sich das Leben nahmen, mehr Regulierung der künstlichen Intelligenz gefordert.
„In diesem Jahr haben Sie wirklich etwas ziemlich Schreckliches gesehen, nämlich dass diese KI-Modelle zu Selbstmordberatern wurden“, sagte Benioff am Dienstag auf dem Weltwirtschaftsforum in Davos. „Schlechte Dinge geschahen auf der ganzen Welt, weil soziale Medien völlig unreguliert waren. Jetzt sieht man das irgendwie wieder mit künstlicher Intelligenz.“
Inmitten eines Mangels an klaren Regeln für KI-Unternehmen in den USA haben einzelne Bundesstaaten wie Kalifornien und New York begonnen, ihre eigenen Satzungen zu erstellen. Präsident Donald Trump hat indes versucht, diese Bemühungen per Durchführungsverordnung zu unterbinden.
„Es darf nur ein Regelwerk geben, wenn wir weiterhin führend in der KI sein wollen“, sagte der Präsident im Dezember. Er fügte hinzu, dass die Führungsrolle der USA bei der Entwicklung der Technologie „nicht lange anhalten wird“, wenn 50 verschiedene KI-Regelsätze in Kraft sind. Unternehmen wie OpenAI haben argumentiert, dass das Manövrieren durch eine Vielzahl unterschiedlicher KI-Regeln der Wettbewerbsfähigkeit des Sektors schadet.
Benioffs Aussage kommt nach Vorwürfen einer kalifornischen Familie im vergangenen Jahr, dass ChatGPT eine Rolle beim Tod ihres Sohnes gespielt habe. Die Klage, die im August 2025 von Matt und Maria Raine eingereicht wurde, wirft OpenAI und ihrem Geschäftsführer Sam Altman Fahrlässigkeit und fahrlässige Tötung vor. Ihr Sohn Adam starb im April, nachdem er laut ihrem Anwalt Jay Edelson „monatelang von ChatGPT ermutigt worden war“.
[Hinweis der Redaktion: Die nationale Suizid- und Krisenhotline ist erreichbar, indem man 988 anruft oder eine SMS sendet, oder die Website 988lifeline.org besucht.]
Benioff wetterte auch gegen ein Gesetz namens Section 230 des Communications Decency Act, das 1996 verabschiedet wurde, um Webmoderatoren vor Regulierung zu schützen, und das einzelnen Nutzern, anstatt Plattformen, die Verantwortung für Inhalte zuweist. Trotz der enormen Veränderungen in der Online-Landschaft gilt das Gesetz noch immer. Technologieriesen wie Meta $META haben sich auf Section 230 berufen, um sich in Gerichtsverfahren um Nutzerschäden zu verteidigen.
„Es ist lustig, Technikunternehmen hassen Regulierung. Sie hassen sie, außer bei einer. Sie lieben Section 230, die im Grunde sagt, dass sie nicht verantwortlich sind“, sagte Benioff. „Wenn also dieses große Sprachmodell dieses Kind in den Suizid treibt, sind sie wegen Section 230 nicht verantwortlich. Das ist wahrscheinlich etwas, das umgestaltet, verschoben, verändert werden muss.“
Er fügte hinzu: „Was ist uns wichtiger, Wachstum oder unsere Kinder? Was ist uns wichtiger, Wachstum oder unsere Familien? Oder was ist wichtiger, Wachstum oder die grundlegenden Werte unserer Gesellschaft?“
„Es gibt viele Familien, die dieses Jahr leider gelitten haben, und ich denke nicht, dass sie das mussten“, sagte Benioff.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.