OpenAI und Anthropic wetteifern darum, Amerikas Gesundheitsberater zu werden, und nicht jeder kauft es ihnen ab.
Photo by Klebher Vasquez/Anadolu via Getty Images
Eine Version dieses Artikels erschien ursprünglich in Quartzs KI & Tech-Newsletter. Melden Sie sich hier an, um die neuesten Nachrichten, Analysen und Einblicke zu KI und Technik direkt in Ihren Posteingang zu erhalten..
Vor einem Jahr hatte Alex P., ein Schriftsteller in seinen Mittvierzigern, einen Kalzium-Score, der ihn in die Kategorie "moderates Risiko" für Herzkrankheiten einordnete. Seine Ärzte verschrieben ihm Statine und machten weiter. Aber etwas nagte an ihm: Der Test schien zu zeigen, dass sich fast der gesamte Aufbau in einer Arterie konzentrierte – der linken vorderen absteigenden, die wegen der dort so oft tödlichen Blockaden den Spitznamen "Witwenmacher" trägt. Seine Ärzte sagten ihm, er solle dem nicht zu viel Bedeutung beimessen. So funktioniere der Test nicht, sagten sie.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Also tat er, was Hunderte Millionen Menschen jede Woche tun. Er fragte ChatGPT.
Der Chatbot widersprach seinen Ärzten. Eine hohe Konzentration von Verkalkung in der LAD in seinem Alter könnte ein ernsthaftes Risiko anzeigen, sagte es ihm. Nehmen Sie es wörtlich. Nach Monaten, in denen er mehrere Ärzte drängte, bekam Alex schließlich einen CT-Scan. Dieser zeigte eine 95%ige Blockade, genau dort, wo der ursprüngliche Test es vermutet hatte. Tage später bekam er einen Stent.
Seine Ärzte nannten es einen Zufall. Ein befreundeter Arzt sagte ihm, ChatGPT habe Glück gehabt. "Ich wurde möglicherweise durch eine Halluzination gerettet", sagte Alex, der darum bat, seinen Nachnamen zurückzuhalten, weil er seine Krankengeschichte nicht jedem in seinem Leben offenbart hat.
Alex hat keine Ahnung, was die Wahrheit ist. So oder so, er ist dankbar, am Leben zu sein, um den Punkt zu diskutieren.
Letzte Woche hat OpenAI ChatGPT Health vorgestellt, ein spezieller Bereich innerhalb seines Chatbots, in dem Benutzer medizinische Aufzeichnungen, Labortestergebnisse und Wellness-Apps wie Apple $AAPL Health und MyFitnessPal verbinden können. Das Angebot: Bringen Sie Ihre verstreuten Gesundheitsdaten an einen Ort und lassen Sie die KI Ihnen helfen, sie zu verstehen.
OpenAI sagt, dass bereits mehr als 230 Millionen Menschen jede Woche ChatGPT Gesundheitsfragen stellen. Das neue Produkt fügt Schutzmaßnahmen hinzu — Gespräche werden die Modelle des Unternehmens nicht trainieren, und Gesundheitsdaten bleiben von regulären Chats getrennt — während es erweitert, was die KI mit Ihren Informationen tun kann.
Das Timing ist kein Zufall. Anthropic, der engste Konkurrent von OpenAI, kündigte Claude für das Gesundheitswesen an einige Tage später, zielend sowohl auf Verbraucher als auch auf den Papierkram der Versicherungsbranche. OpenAI gab auch bekannt, dass es Torch, ein Startup das "einheitliches medizinisches Gedächtnis" für KI, für 60 Millionen Dollar. Der Gesundheitsmarkt-Hype ist in vollem Gange.
Beide Unternehmen haben ihre Produkte mit ärztlicher Eingabe entwickelt und betonen, dass KI dazu gedacht ist, professionelle Pflege zu unterstützen und nicht zu ersetzen. OpenAI gibt an, mit mehr als 260 Ärzten in 60 Ländern zusammengearbeitet zu haben. Anthropic hat Verbindungselemente zu medizinischen Datenbanken hinzugefügt, um Versicherern zu helfen, die vorherige Genehmigung zu beschleunigen, den bürokratischen Hin und Her, der oft die Behandlung verzögert.
Das Timing ist auch praktisch. OpenAI befindet sich in Gesprächen, um bis zu 100 Milliarden Dollar zu sammeln bei einer Bewertung von 830 Milliarden Dollar, eine erstaunliche Zahl für ein Unternehmen, das nach wie vor unrentabel ist. Das Gesundheitswesen, einer der größten Sektoren der amerikanischen Wirtschaft, bietet einen offensichtlichen Weg, um diese Zahl zu rechtfertigen.
Bisher haben diese Tools Menschen wie Alex geholfen. Sie haben auch echten Schaden angerichtet. In derselben Woche, in der OpenAI ChatGPT Health auf den Markt brachte, haben Google $GOOGL und Character.AI mehrere Klagen beigelegt hat von Familien, deren Teenager nach Beziehungen mit KI-Chatbots Suizid begangen haben. Ein 14-Jähriger hatte mit einem Bot Nachrichten ausgetauscht, der ihn aufforderte, 'nach Hause zu kommen' in den Momenten, bevor er sich das Leben nahm. OpenAI steht vor ähnlichen Klagen. Beide Unternehmen warnen die Nutzer davor, dass Chatbots halluzinieren können und keinen professionellen Rat ersetzen sollten – und entwickeln dann Produkte, die genau das können.
Das ist die Spannung im Herzen dieses Produkts. Chatbots halluzinieren. Sie bilden unangemessene Bindungen mit gefährdeten Nutzern. Ihre Schöpfer machen sich offen Sorgen, dass sie außer Kontrolle geraten könnten. Und jetzt wollen sie, dass diese Werkzeuge Ihr Gesundheitsberater sind.
Für die 25 Millionen Amerikaner ohne Krankenversicherung, könnte ein ChatGPT-Abonnement immer noch das nächstgelegene an einer Zweitmeinung sein, die sie sich leisten können. ChatGPT wird nicht müde. Es hetzt nicht durch Termine oder weist Bedenken zurück, um im Zeitplan zu bleiben. Es hat, wie Alex es ausdrückte, 'unbegrenzte Geduld und unbegrenzte Zeit.' In einem System, in dem die durchschnittliche Hausarztbesuch dauert 18 Minuten, eine KI, die um 2 Uhr morgens Fragen beantwortet, füllt eine echte Lücke.
Aber Menschen bessere Werkzeuge zu geben, um ein kaputtes System zu navigieren, repariert das System nicht. ChatGPT kann Ihnen helfen, Fragen für einen Arzt vorzubereiten, den Sie sich nicht leisten können. Es kann Laborergebnisse von Tests erklären, die Ihre Versicherung nicht abdeckt. Eine wachsende Gruppe von Patienten hat begonnen, Ärzte als Torwächter zu regulierter Hardware zu behandeln. Sie machen Fotos von Bildschirmen, holen sich die Ausdrucke und nehmen den echten Termin mit nach Hause zu ihrer bevorzugten KI. Alex war einer von ihnen. Er hatte Versicherung. Er hatte Ärzte. Was er nicht hatte, war jemand, der seine Bedenken ernst nahm, bis ein Chatbot ihm das Vertrauen gab, zurückzudrängen.
Dennoch geht Vertrauen nur bis zu einem gewissen Punkt. Alex plant, weiterhin KI für Gesundheitsfragen zu nutzen. Er wird nur nichts konsolidieren. Er wird einen Bluttest screenshotten und Gemini fragen, dann die Antwort umformulieren und sie von ChatGPT überprüfen lassen. Er vertraut keinem dieser Unternehmen, das Richtige mit seinen Daten zu tun, also gibt er keinem von ihnen das vollständige Bild.
"Ich möchte nicht, dass alle meine Gesundheitsdaten an einem Ort sind", sagte Alex. "Ich möchte keinen Schatz schaffen, der, einmal gehackt, der ganzen Welt gehört."
