Die Weltgesundheitsorganisation (WHO) hat diesen Monat einen sogenannten Smart AI Resource Assistant for Health, kurz Sarah, auf den Markt gebracht. Der KI-gestützte Chatbot hat jedoch bereits einige Fehler gemacht.
Der Chatbot bietet den Nutzern gesundheitsbezogene Informationen in acht verschiedenen Sprachen zu Themen wie gesunde Ernährung, psychische Gesundheit, Krebs, Herzkrankheiten und Diabetes.
Sarah, die vom neuseeländischen Unternehmen Soul Machines entwickelt wurde, kann mithilfe der Gesichtserkennungstechnologie sogar einfühlsamere Antworten geben. Frühere Versionen von Sarah halfen dabei, während der Covid-19-Pandemie gegen Fehlinformationen vorzugehen.
„SARAH gibt uns einen Einblick, wie künstliche Intelligenz in Zukunft genutzt werden könnte, um den Zugang zu Gesundheitsinformationen auf interaktivere Weise zu verbessern“, sagte WHO-Generaldirektor Dr. Tedros Adhanom Ghebreyesus. in einer Pressemitteilung„Ich fordere die Forschungsgemeinschaft auf, uns dabei zu helfen, weiter zu erforschen, wie diese Technologie Ungleichheiten verringern und den Menschen Zugang zu aktuellen, zuverlässigen Gesundheitsinformationen verschaffen kann.“
Während die WHO behauptet, der KI-Bot sei mit den neuesten Informationen der Agentur und ihrer vertrauenswürdigen Partner trainiert worden, Bloomberg berichtet dass es keine aktuellen Informationen zu medizinischen Empfehlungen und Nachrichtenereignissen in den USA bietet.
Als Sarah beispielsweise von Bloomberg-Reportern gefragt wurde, ob die US-amerikanische Food and Drug Administration Lecanemab, ein Medikament gegen Alzheimer, zugelassen habe, antwortete der Bot, es befinde sich noch in der klinischen Erprobung. In Wirklichkeit war die FDA jedoch der Meinung, dass das Medikament noch nicht zugelassen sei. Das Medikament wurde 2023 zugelassen.
In einem anderen Beispiel war der Bot nicht in der Lage, Einzelheiten zu einem WHO-Bericht über Todesfälle durch Hepatitis bereitzustellen, bis er aufgefordert wurde, auf der Website der Agentur nach aktualisierten Statistiken zu suchen.
Die WHO antwortete nicht sofort auf eine Bitte um Stellungnahme. Auf ihrer Zielseite für den KI-Bot räumt die Behörde allerdings ein, dass „die Antworten möglicherweise nicht immer zutreffend sind, da sie auf Mustern und Wahrscheinlichkeiten in den verfügbaren Daten basieren.“
Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier