Einem Softwareanbieter ist es gemäß einem neuen Erlassvorschlag der Biden-Regierung nicht mehr gestattet, über die Genauigkeit seiner auf künstlicher Intelligenz basierenden Gesichtserkennungstechnologie zu lügen.
Am Dienstag sagte die Federal Trade Commission (FTC) , dass ein vorgeschlagene Zustimmungsverfügung mit IntelliVision Technologies würde das in San Jose in Kalifornien ansässige Unternehmen daran hindern, irreführende Behauptungen über seine Software aufzustellen. Dazu gehören auch irreführende Aussagen über die Leistung der Software bei der Identifizierung von Personen unterschiedlichen Geschlechts , Ethnie und Hautfarbe .
Dem im kalifornischen San Jose ansässigen Unternehmen wäre es außerdem untersagt, Behauptungen über seine Technologie aufzustellen, ohne diese durch „kompetente und zuverlässige“ Tests zu untermauern.
IntelliVision hat in den letzten sechs Jahren behauptet, dass seine Modelle anhand von Millionen von Gesichtern aus der ganzen Welt trainiert wurden und „keine Geschlechts- oder Rassenvorurteile“ aufweisen, so die Agentur. Beschwerde. EIN Factsheet Auf der Website des Unternehmens gibt es an, dass seine Technologie eine Genauigkeit von „bis zu +99 %“ aufweise.
Wenn das stimmt, wäre das eine große Sache. Seit Jahren hat die Gesichtserkennungstechnologie Probleme. Identifizierung Frauen und nicht-weiße Personen.
Im Jahr 2018 wurde ein Studie Forscher von Microsoft fanden heraus, dass Gesichtserkennungssoftware in bis einem Drittel der Zeiten falsch liegen kann, wenn sie zur Erkennung von Frauen mit dunklerer Haut verwendet wird, obwohl sie bei hellhäutigen Männern nahezu perfekte Ergebnisse erzielt. Diese Probleme haben weitgehend geblieben ein Problem, und mehrere Unternehmen sind dadurch in Schwierigkeiten geraten.
Das Nationales Institut für Standards und Technologie, das vom Handelsministerium betrieben wird, hat die Algorithmen von IntelliVision getestet. Die Organisation stellte fest, dass die Algorithmen von IntelliVision im Dezember 2023 nicht einmal unter den Top 100 getesteten Algorithmen waren, behauptete die FTC in ihrer Beschwerde.
Anstatt seine Technologie an Millionen von Gesichtern zu testen, hat IntelliVision laut FTC einen kurzen Weg gewählt: Das Unternehmen trainierte die Technologie anhand von Bildern von rund 100.000 Personen und erstellte anschließend Varianten dieser Bilder für weitere Tests. Die FTC erklärte außerdem, dass das Unternehmen keine Beweise dafür habe, dass seine Anti-Spoofing-Technologie nicht durch ein Foto ausgetrickst werden könne.
„Unternehmen sollten nicht damit werben, dass künstliche Intelligenzsysteme frei von Vorurteilen seien, es sei denn, sie können diese Behauptungen untermauern“, sagte Samuel Levine, Direktor des Verbraucherschutzbüros der FTC, in einer Erklärung. „Wer KI-Systeme entwickelt und nutzt, ist nicht von den grundlegenden Prinzipien irreführender Werbung ausgenommen.“
Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier