Floridas Generalstaatsanwalt James Uthmeier sagt, dass ChatGPT dem mutmaßlichen Schützen vor dem Angriff 2025, bei dem 2 Menschen getötet wurden, Ratschläge zu Waffen gegeben habe.
NurPhoto / Getty Images
Floridas Generalstaatsanwalt James Uthmeier kündigte eine strafrechtliche Untersuchung gegen OpenAI und sein Tool ChatGPT an, und sagte, dass eine Überprüfung der Chat-Protokolle zwischen dem Chatbot und dem Verdächtigen des letztjährigen Amoklaufs an der Florida State University Gründe für eine strafrechtliche Untersuchung ergaben.
"Wenn ChatGPT eine Person wäre, würde es wegen Mordes angeklagt", sagte Uthmeier in einer Erklärung. Bei einer Pressekonferenz in Tampa erläuterte Uthmeier, was die Staatsanwälte in den Chat-Protokollen entdeckten und sagte, der Chatbot habe den Verdächtigen bei der Waffenauswahl, der Anpassung der Munition an eine spezifische Waffe und der Einschätzung, wie tödlich eine Waffe auf kurze Distanz sein würde, unterstützt – alles vor dem Angriff.
Das Büro der landesweiten Staatsanwaltschaft erließ Vorladungen an OpenAI und forderte eine Reihe von Materialien an, die den Zeitraum vom 1. März 2024 bis zum 17. April 2026 abdecken. Dazu gehören alle internen Richtlinien und Schulungsmaterialien zu Benutzerbedrohungen durch Schädigung anderer oder sich selbst sowie alle Richtlinien zur Zusammenarbeit mit Strafverfolgungsbehörden. Abgerundet werden die Dokumentanforderungen durch Forderungen nach einem Organigramm der Führungsstruktur von OpenAI und einem vollständigen Verzeichnis des Personals, das ChatGPT zugewiesen ist. Die strafrechtliche Untersuchung läuft parallel zu einer zuvor angekündigten zivilrechtlichen Prüfung des Unternehmens.
Die FSU-Schießerei, die am 17. April 2025 stattfand, hinterließ zwei Tote und sechs Verletzte in der Nähe des Studentenwerks auf dem Campus von Tallahassee. Laut der New York Timeswurde Ikner – der zum Zeitpunkt der Schießerei 20 Jahre alt war – wegen Mordes und versuchten Mordes in mehreren Punkten angeklagt und wird in Gewahrsam gehalten, bis der Prozess stattfindet. Gerichtsdokumente, die von NBC-Nachrichten verraten, dass Ikner kurz vor dem Feuergefecht aktiv mit ChatGPT Nachrichten austauschte und Fragen stellte wie "Wann ist am meisten los in der FSU-Studentenunion?" und "Wenn es an der FSU zu einer Schießerei käme, wie würde das Land reagieren?"
Das Gesetz von Florida besagt, dass jeder, der einer anderen Person bei der Begehung eines Verbrechens hilft, anstiftet oder berät, als Mittäter dieses Verbrechens angesehen werden kann und dieselbe Verantwortung wie der Täter trägt.
Anwälte der Familie eines Opfers deuteten bereits im April an, dass eine Zivilklage gegen OpenAI bevorstehe, so NBC News. Ein Unternehmenssprecher hatte NBC News bereits im April mitgeteilt, dass Sicherheit ein zentraler Bestandteil des Designs von ChatGPT sei und auf das Ziel des Produkts verwiesen, die Absicht der Nutzer zu interpretieren und angemessene Antworten zu generieren – eine Aussage, die das Unternehmen im Hinblick auf die strafrechtlichen Ermittlungen nicht aktualisiert hat. Das Unternehmen reagierte nicht auf eine Anfrage zur Stellungnahme zu den strafrechtlichen Ermittlungen.
Der Fall der FSU ist nicht das erste Mal, dass OpenAI rechtlichen Prüfungen wegen vermeintlicher Schäden im Zusammenhang mit ChatGPT ausgesetzt ist. OpenAI fügte ChatGPT elterliche Kontrolle hinzu nach einer Klage einer kalifornischen Familie, die behauptete, der Chatbot habe eine Rolle beim Suizid ihres jugendlichen Sohnes gespielt. Unabhängig davon hat OpenAI gab Aktualisierungen für den Chatbot bekannt um Benutzer in akuten psychischen Krisen besser zu erkennen, nachdem in einem anderen Fall ähnliche Vorwürfe erhoben wurden. Das Unternehmen hat erklärt, dass es weiterhin Sicherheitsmaßnahmen verbessert, obwohl Forscher dokumentiert haben, wie leicht die von Chatbot-Unternehmen festgelegten Grenzen umgangen werden können.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
