Die beiden STI-Erkennungs-Apps von HeHealth wurden im Juli abgeschaltet, nachdem die FTC eine Untersuchung gegen das Unternehmen eingeleitet hatte.
Das KI-Digital-Health-Startup HeHealth hat zwei Apps abgeschaltet, die angeblich auf der Basis von von Nutzern gesendeten Penisfotos sexuell übertragbare Infektionen (STIs) diagnostizieren könnten, nachdem die Federal Trade Commission (FTC) eine Untersuchung gegen das Unternehmen eingeleitet hatte.
In einem Brief In einem Anschreiben an HeHealth vom 11. Juli sagte die FTC , sie habe im Juni eine zivilrechtliche Untersuchungsanordnung an das Unternehmen gestellt aufgrund von Bedenken in Bezug auf das Unternehmen Werbeaussagen und Datenschutzpraktiken.
In dem Brief wurden insbesondere Bedenken hinsichtlich der Calmara-App des Unternehmens geäußert, die im März 2024 auf den Markt kam und sich an Benutzer richtete, die „Klarheit“ über den STI-Status ihres Partners wünschten.
„Die Mitarbeiter der FTC hatten Bedenken, dass die Marketingmaterialien des Unternehmens das Ausmaß, in dem Calmara sexuell übertragbare Krankheiten erkennen kann, möglicherweise übertrieben dargestellt haben“, heißt es in dem Brief.
HeHealth, ein in Singapur ansässiges Startup, wurde 2022 von Mei-Ling Lu und Yudara Kularathne gegründet. Sie behaupteten, ihr KI-Modell könne mehr als 10 STIs erkennen.
Die FTC widersprach dieser Behauptung jedoch.
Die Aufsichtsbehörde sagte, die Hauptstudie von HeHealth zur Untermauerung ihrer Behauptungen räumte ein, dass das Unternehmen Daten verwendet hat, um sein KI-Modell mit Bildern von Menschen zu trainieren, die nie diagnostische Tests zur Bestätigung einer STI gemacht haben. Die FTC sagte auch, dass das Modell an einer kleinen Anzahl von Bildern getestet wurde und dass vier der fünf Autoren der Studie für HeHealth arbeiteten oder von Beratern bezahlt wurden. Abschließend sagte die Studie, dass das Modell trainiert und bewertet wurde, um vier STIs zu erkennen, obwohl das Unternehmen behauptete, es könne mehr als zehn erkennen.
Darüber hinaus verlangte die FTC Informationen zu den Datenschutzpraktiken des Unternehmens „angesichts der Sensibilität der Bilder“ und seiner Werbeaussagen, die „Anonymität“ der Personen, deren Fotos in die App hochgeladen wurden, zu wahren.
Die FTC teilte HeHealth außerdem mit, dass es illegal sei, ohne verlässliche wissenschaftliche Beweise Behauptungen über gesundheitliche Vorteile aufzustellen.
Als Reaktion auf die Untersuchung hat HeHealth beide Apps im Juli geschlossen, US-Kunden ihr Geld zurückerstattet und sämtliche Benutzerinformationen gelöscht.
Während die Apps abgeschaltet wurden, ist die Website des Unternehmens und der YouTube-Kanal sind noch online.
STAT berichtete dass Lu in einem LinkedIn-Post diesen Monat sagte, die Herausforderungen des Unternehmens seien auf ein „Rückgang der Neugier.”
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
