„Wir haben nicht die Absicht, KI-generierte Pornografie zu erstellen“, sagte ein Sprecher von OpenAI
Am Mittwoch, OpenAI veröffentlichte einen Entwurf seiner Modell-Datenblatt das im Einzelheiten darlegt, wie sich seine KI-Modelle verhalten sollten. Es gibt einen Abschnitt über NSFW-Inhalte der den Eindruck erweckt, dass das Unternehmen nach Möglichkeiten sucht, um KI-Porno, aber das Unternehmen sagt, dass das nicht passiert.
„Wir haben nicht die Absicht, KI-generierte Pornografie zu erstellen“, sagte ein Sprecher von OpenAI am Donnerstag in einer E-Mail. „Wir haben in unseren Produkten starke Sicherheitsvorkehrungen getroffen, um Deepfakes zu verhindern, die inakzeptabel sind, und der Schutz von Kindern hat für uns oberste Priorität. Wir glauben auch daran, dass es wichtig ist, Gespräche über Sexualität in altersgerechten Kontexten sorgfältig zu untersuchen.“
Der Abschnitt, der einige Kommentatoren glauben ließ, dass bei OpenAI an Pornografie gearbeitet wird, konzentriert sich auf NSFW-Inhalte. Das Unternehmen schreibt, dass seine Modelle keine unangemessenen Inhaltsanfragen erfüllen sollten, die „Erotik, extremen Blutzoll, Beleidigungen und unerwünschte Obszönitäten“ beinhalten. Es betont jedoch, dass Entwickler „untersuchen, ob wir verantwortungsvoll die Möglichkeit bereitstellen können, über die API und ChatGPT in altersgerechten Kontexten nicht für die Arbeit zu generieren.“ Das Arbeitsblatt liefert weiter ein Beispiel für angemessene nicht für die Arbeit zulässige NSFW-Inhalte, wie die Aufforderung zum Schreiben eines Liedtextes, der ein Schimpfwort enthält.
KI-Pornos, insbesondere Deepfakes, haben im vergangenen Jahr für viel Kontroverse gesorgt. Taylor Swift war einer Welle nicht einvernehmlicher gefälschte KI Bilder für Erwachsene unter Verwendung ihres Bildnisses, das im Januar in den sozialen Medien verbreitet wurde. Letzten Monat nahm eine Frau im Bundesstaat Washington an einer staatlichen Lotterie-Website teil, was zu der Erstellung einer KI-generiertes Nacktbild von ihr.
Gizmodo hat Aylo, die Muttergesellschaft von Pornhub, um einen Kommentar zu den Aussichten gebeten, dass OpenAI die Schleusen für KI-generierte Pornos öffnet, und ein Sprecher schrieb, dass das Unternehmen kein „nicht einvernehmliches Material auf unseren Plattformen, einschließlich Deepfakes“ toleriere.
„Jede Deepfakes/KI-Manipulation des Bildes einer Person, sei es auf einem Foto oder einem Video, um die Illusion zu erzeugen, dass die Person auf eine andere Weise spricht oder handelt, ist verboten“, sagte der Sprecher in einer E-Mail. „In allen Fällen, in denen wir Inhalte identifizieren oder darauf aufmerksam gemacht werden, die gegen diese Richtlinie verstoßen, Gemäß der Richtlinie arbeiten unsere Teams für Vertrauen und Sicherheit sowie Moderation zügig daran, rechtsverletzende Inhalte zu prüfen und zu entfernen, die betreffenden Inhalte mit einem Fingerabdruck zu versehen, um zukünftige Uploads derselben Inhalte auf unsere Websites zu verhindern, und das Konto des betreffenden Uploaders gegebenenfalls zu sperren oder dauerhaft zu kündigen.“
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
