Da das Aufkommen generativer künstlicher Intelligenz Sicherheitsbedenken aufwirft, hat ein neues Startup, das sichere KI-Systeme entwickelt, 1 Milliarde US-Dollar aufgebracht.
Safe Superintelligence (SSI), mitgegründet vom OpenAI-Mitbegründer und ehemaligen Chefwissenschaftler Ilya Sutskever, hat eine Milliarde US-Dollar in Bargeld aufgebracht. Die Mittel werden für Rechenleistung und für die Einstellung von Forschern und Ingenieuren verwendet. Führungskräfte sagten Reuters.
Das Startup wird sich auf den Aufbau einer „sicheren Superintelligenz“ bzw. sicherer KI-Systeme konzentrieren, die über die Denkfähigkeit des Menschen und darüber hinaus verfügen.
„SSI ist unsere Mission, unser Name und unsere gesamte Produkt-Roadmap, denn darauf konzentrieren wir uns ausschließlich“, schrieben die Mitbegründer in einem öffentlicher Brief„Unsere einzigartige Konzentration bedeutet, dass wir uns nicht durch Management-Overhead oder Produktzyklen ablenken lassen, und unser Geschäftsmodell sieht vor, dass Sicherheit, Schutz und Fortschritt von kurzfristigem kommerziellen Druck abgeschirmt sind.“
Nach seiner Finanzierungsrunde, an der die Schwergewichte Andreessen Horowitz und Sequoia Capital beteiligt waren, wird das Startup mit 5 Milliarden Dollar bewertet, berichtete Reuters unter Berufung auf ungenannte, mit der Angelegenheit vertraute Personen. SSI wollte Reuters seine Bewertung nicht mitteilen.
„Für uns ist es wichtig, von Investoren umgeben zu sein, die unsere Mission verstehen, respektieren und unterstützen. Diese Mission besteht darin, einen direkten Weg in Richtung sicherer Superintelligenz zu gehen und insbesondere ein paar Jahre in die Forschung und Entwicklung unseres Produkts zu investieren, bevor wir es auf den Markt bringen“, sagte Gross gegenüber Reuters.
Sutskever Mitbegründer des 10-köpfigen Startups im Juni mit Daniel Gross, ehemaliger KI-Leiter bei Apple, und Daniel Levy, ehemaliger OpenAI-Forscher. Gross ist Geschäftsführer des Safe AI-Startups und Levy ist leitender Wissenschaftler – mit Sutskever als Chefwissenschaftler.
Sutskever verließ OpenAI im Mai, nachdem er fast ein Jahr das „Superalignment“-Team des Startups geleitet hatte, das sich auf die existenziellen Gefahren der KI konzentrierte. Das Das Team wurde aufgelöst nachdem Sutskever und sein Co-Leiter Jan Leike beim ChatGPT-Hersteller zurückgetreten sind. Sutskever, der fast ein Jahrzehnt lang Teil von OpenAI war, spielte eine Rolle bei der kurzfristigen Absetzung des OpenAI-Geschäftsführers Sam Altman im November.
„Wir haben einen neuen Berg identifiziert, den es zu erklimmen gilt und der sich ein wenig von dem unterscheidet, woran ich zuvor gearbeitet habe“, sagte Sutskever in einer gegenüber Quartz übermittelten Erklärung. „Wir versuchen nicht, denselben Weg schneller zu gehen. Wenn man etwas anderes macht, wird es möglich, etwas Besonderes zu tun.“
Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier