Kalifornien, New Jersey und Pennsylvania könnten sich drei anderen Bundesstaaten anschließen, um die therapeutische Anwendung von KI einzuschränken.
Scott Olson/Getty Images
Illinois wurde der jüngste Bundesstaat, der die Verwendung von künstlicher Intelligenz in der Therapie einschränkte, nach Nevada und Utah, während mindestens drei weitere Bundesstaaten ihre eigenen Beschränkungen für die Technologie in Betracht ziehen.
Das Verbot der KI-Therapie in Illinois, das unter dem Wellness and Oversight for Psychological Resources Act steht, verbietet die Verwendung von KI, um "mentale Gesundheit und therapeutische Entscheidungen zu treffen," gemäß einer Pressemitteilung. Lizensierte Verhaltensgesundheitsprofis können die Technologie jedoch weiterhin für administrative und unterstützende Dienstleistungen nutzen. Der Gouverneur von Illinois, JB Pritzker, unterzeichnete das Gesetz am 1. August.
Drei weitere Bundesstaaten - Kalifornien, New Jersey und Pennsylvania - haben Gesetzentwürfe in Arbeit, die die Verwendung von KI in der Therapie einschränken würden. Der vorgeschlagene Gesetzentwurf Kaliforniens würde erfordern, dass der Sekretär innerhalb der Regierungsagentur des Staates eine Arbeitsgruppe für mentale Gesundheit und KI schafft, um die "Rolle" der KI in der Therapie zu bestimmen.
New Jerseys Gesetzentwurf würde es jedem verbieten, der KI im Bundesstaat entwickelt oder einsetzt, zu werben, dass seine Technologie als lizenzierter Mental Health Professional agieren kann. Pennsylvanias Gesetz würde verlangen, dass Schulen zuerst die Zustimmung der Eltern einholen, bevor sie virtuelle psychische Gesundheitsdienste für Kinder bereitstellen.
Wie die Washington Post berichtete, haben zwei andere Staaten als Illinois bereits mit der Einschränkung der therapeutischen Anwendungen von KI begonnen. Im Juni unterzeichnete Nevada ein Gesetz dass KI in Schulen einschränkt, neben anderen Maßnahmen, und die Nutzung von KI durch Anbieter von psychischen und Verhaltensgesundheitsdiensten begrenzt. Und im März verabschiedete Utah ein Gesetz das Regelungen für psychische Gesundheits-Chatbots einführt, die KI verwenden.
Diese Einschränkungen kommen, da Forscher – zusammen mit dem Technikchef Sam Altman – auf die Risiken hinweisen, die entstehen, wenn man generative KI wie einen Therapeuten behandelt.
Altman ist der CEO von OpenAI, das den größten KI-Chatbot ChatGPT besitzt und betreibt. In einem Podcast-Interview Ende Juli sagte Altman, dass Therapiesitzungen mit ChatGPT nicht unbedingt immer privat bleiben. Er fügte hinzu, dass es derzeit keine rechtlichen Grundlagen gibt, um sensible, persönliche Informationen zu schützen, die jemand möglicherweise mit ChatGPT teilt, wenn ein Gerichtsverfahren OpenAI dazu zwingt, diese Informationen weiterzugeben.
Kurz vor Altmans Interview ergab eine Studie der Stanford University , dass KI-Therapie-Chatbots weit davon entfernt sind, menschliche Anbieter zu ersetzen. Es stellte sich heraus, dass solche Chatbots Stigmatisierung ausdrücken und unangemessene Aussagen über bestimmte psychische Gesundheitszustände machen, darunter Menschen, die unter Wahnvorstellungen, Suizidgedanken, Halluzinationen und Zwangsstörungen leiden, sowie andere Bedingungen.
„Die Menschen in Illinois verdienen qualitativ hochwertige Gesundheitsversorgung von echten, qualifizierten Fachleuten und nicht von Computerprogrammen, die Informationen aus allen Ecken des Internets ziehen, um Antworten zu generieren, die Patienten schaden“, sagte Mario Treto, Jr., Sekretär im Illinois Department of Financial and Professional Regulation, in der Pressemitteilung. „Diese Gesetzgebung steht als unser Bekenntnis zum Schutz des Wohlergehens unserer Bewohner, indem sichergestellt wird, dass psychiatrische Dienstleistungen von ausgebildeten Experten erbracht werden, die die Patientenversorgung über alles andere stellen.“
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
