Künstliche Intelligenz wird immer ... Das Team, das für die existenziellen Gefahren der KI verantwortlich ist, wurde geschlossen.
In ein Beitrag auf X mitunterzeichnet von OpenAI CEO Sam Altman und Präsident Greg Brockman sagten die Führungskräfte, sie arbeiten weiterhin an den Grundstein für die sichere Bereitstellung immer leistungsfähigerer KI-Modelle. Aber die Zukunft wird „härter als die Vergangenheit“, schrieben sie.
„Wir müssen unsere Sicherheitsarbeit weiter verbessern, um den Anforderungen jedes neuen Modells gerecht zu werden“, sagten sie am Samstag.
„Wir wissen, dass wir uns nicht jedes mögliche Zukunftsszenario vorstellen können“, fügten sie hinzu. „Deshalb brauchen wir einen sehr engen Feedback-Kreislauf, rigorose Tests, sorgfältige Abwägung bei jedem Schritt, Sicherheit auf Weltklasseniveau und eine Harmonie von Sicherheit und Fähigkeiten“, einschließlich Sicherheitsforschung mit unterschiedlichen Zeitskalen und einer Zusammenarbeit mit Regierungen und „vielen Interessengruppen“ in Sicherheitsfragen.
Der Beitrag erschien einen Tag, nachdem OpenAI Wired mitgeteilt hatte, dass es löste das „Superalignment“-Team auf unter Leitung von Mitbegründer und Chefwissenschaftler Ilja Sutskever, und Jan Leike, die letzte Woche ihren Abgang aus dem Unternehmen bekannt gegeben haben. OpenAI sagte, die Arbeit des „Superalignment“-Teams werde von anderen Forschungsbemühungen im Unternehmen in Bezug genommen werden.
Nach seinem Abgang schrieb Leike in einem Thread auf X: er hatte einen „Bruchpunkt“ erreicht über Unstimmigkeiten in den Kernprioritäten des Unternehmens und fügte hinzu, dass „Sicherheitskultur und -prozesse in den letzten Jahren hinter glänzenden Produkten hinter der Zwischenposition stehen seien“.
Brockman und Altman schrieben am Samstag, dass sie wüssten, dass Leike „weiterhin von außen zur Mission beitragen“ werde.
Sutskever – der letztes Jahr dabei half, Altman kurzzeitig aus der Führung von OpenAI zu verdrängen – und Leike reihen sich in die Reihen mehrerer anderer OpenAI Mitarbeiter , die haben das Unternehmen kürzlich verlassen, darunter auch andere aus dem Superalignment-Team und Forscher, die an der KI-Politik und -Governance arbeiten.
Die Umstrukturierung erfolgte auch, nachdem OpenAI bekannt gab, dass neuester KI -Chatbot, ChatGPT-4o. Mira Murati, Technologiechefin des Unternehmens, sagte, die erweiterten Funktionen des neuen Chatbots stellen uns „in puncto Sicherheit vor neuen Herausforderungen“.
Dieser Inhalt wurde maschinell aus dem Originalmaterial übersetzt. Aufgrund der Nuancen der automatisierten Übersetzung können geringfügige Unterschiede bestehen. Für die Originalversion klicken Sie hier