Das Silicon Valley möchte der 'Nvidia-Steuer' entkommen.

Eine Version dieses Artikels erschien ursprünglich im nur für Mitglieder zugänglichen Weekend Brief Newsletter von Quartz. Quartz-Mitglieder erhalten Zugang zu exklusiven Newslettern und mehr. Melden Sie sich hier an.

Sam Altman hat sich seit Monaten über Nvidia $NVDA-Chipengpässe beschwert, die die Veröffentlichung von ChatGPT verlangsamen. Die neue 10-Milliarden-Dollar-Partnerschaft von OpenAI mit Broadcom $AVGO für kundenspezifische Chips zeigt, dass das Unternehmen endlich etwas dagegen unternimmt.

Die Partnerschaft, die Anfang dieses Monats nach der Veröffentlichung der Quartalszahlen von Broadcom bekannt wurde, unterstreicht eine wachsende Realität: Unternehmen sind verzweifelt darum bemüht, der sogenannten „Nvidia-Steuer“ zu entkommen – den hohen Gewinnmargen des Chip-Giganten. ungefähr 60% Bruttomarge auf Prozessoren, die für die KI-Entwicklung unverzichtbar geworden sind.

Altman hat sich lautstark über GPU-Engpässe geäußert, die die Veröffentlichung von ChatGPT behindern, auf X $TWTR schreiben dass das Unternehmen „keine GPUs mehr“ hatte und „Zehntausende“ mehr hinzufügen musste, um neue Funktionen einzuführen. Aber OpenAI ist nicht allein mit seinem Frust. Im gesamten Silicon Valley und darüber hinaus braut sich eine Revolution im Bereich der Entwicklung neuer Chips zusammen, um sich aus dem Würgegriff von Nvidia zu befreien. Dies gilt insbesondere für die Inferenz, bei der KI-Systeme tatsächlich Fragen beantworten oder Inhalte für Nutzer erstellen.

Während Nvidia-Chips weiterhin das AI-Training dominieren werden, könnten mehr neue Inferenz-Chips den Unternehmen Dutzende Milliarden Dollar einsparen und den Energieverbrauch erheblich reduzieren. Die Mathematik ist überzeugend: Inferenz findet jedes Mal statt, wenn jemand ChatGPT eine Frage stellt oder ein Bild generiert, was weitaus häufiger ist als der einmalige Trainingsprozess.

Der Broadcom-Chip ist nicht darauf ausgelegt, Nvidia direkt herauszufordern, laut dem Wall Street Journal, sondern eher um die „Lücken“ in OpenAI's Hardwarebedarf zu „füllen“. Dieser hybride Ansatz spiegelt die breitere Branchenstrategie wider — nicht unbedingt Nvidia vollständig zu ersetzen, sondern die Abhängigkeit durch spezialisierte Alternativen zu verringern.

Neue Spieler drängen herein

Unternehmen wie Positron behaupten, dass ihre Chips liefern können zwei- bis dreimal bessere Leistung pro Dollar und drei- bis sechsmal bessere Energieeffizienz als die Systeme der nächsten Generation von Nvidia. Groq, gegründet von Googles ehemaligem Leiter der KI-Chip-Entwicklung, behauptet, dass seine spezialisierten Chips ChatGPT mehr als 13-mal schneller laufen lassen können.

Die großen Cloud-Anbieter warten nicht darauf, dass Startups ihre Nvidia-Abhängigkeit lösen. Google $GOOGL, Amazon $AMZN, und Microsoft $MSFT entwickeln alle Chips für die Inferenz, die auf ihre internen KI-Tools und Cloud-Dienste ausgerichtet sind. Diese mehrjährigen, gut finanzierten Bemühungen stellen eine direkte Herausforderung für Nvidias Dominanz auf dem Inferenzmarkt dar.

Sogar Qualcomm $QCOM ist zurück bei den Datacenter-Produkten nachdem es 2018 den Servermarkt aufgegeben hatte. CEO Cristiano Amon hat kürzlich Pläne angedeutet, die sich auf "Cluster von Inferenz konzentrieren, die auf hohe Leistung bei sehr niedrigem Energieverbrauch ausgerichtet sind."

Aber einige schließen sich zusammen, anstatt zu kämpfen. Intel $INTC hat angekündigt diese Woche, dass es maßgeschneiderte Chips, die mit Nvidias Systemen integriert werden, mit Nvidia übernimmt einen Anteil von 5 Milliarden Dollar an Intel als Teil des Deals.

In China, wo US-Exportbeschränkungen den Zugang zu fortschrittlichen KI-Chips einschränken, nutzen Alibaba und Baidu haben damit begonnen, intern entwickelte Chips zu verwenden um KI-Modelle zu trainieren, teilweise als Ersatz für Nvidia-Prozessoren. Alibabas KI-Chip ist Berichten zufolge jetzt wettbewerbsfähig mit Nvidias H20, dem leistungsstärksten Prozessor, den das Unternehmen in China verkaufen kann.

Indiens Halbleiterambitionen fügen dem globalen Wettbewerb eine weitere Dimension hinzu, mit 10 Projekten, 18 Milliarden Dollar an Investitionszusagen und über 7 Milliarden Dollar an zugeteilten Subventionen. Die indische Diaspora könnte sich als entscheidend erweisen, da Führungskräfte darauf hinweisen, dass ein Drittel der Nvidia-Ingenieure und der Führungsebene Inder sind und möglicherweise die Bedenken globaler Kunden hinsichtlich der Zusammenarbeit mit neuen indischen Chip-Herstellern mindern.

„Wenn es hart auf hart kommt, setze auf Indien.“ Der indische Premierminister Narendra Modi sagte auf einer Halbleiterkonferenz in diesem Monat.

Die Nvidia-Realitätsprüfung

Nvidia bleibt nicht untätig. Das Unternehmen behauptet, dass seine neuesten Blackwell-Systeme eine 25-mal bessere Inferenz Effizienz pro Watt im Vergleich zu früheren Generationen bieten. Aber Geschwindigkeit ist nicht alles. Nvidias Chips können jedes neue KI-Modell verarbeiten, das als nächstes kommt, während spezialisierte Inferenz-Chips für die heutigen Modelle entwickelt werden. In einer schnelllebigen Branche, in der sich KI-Architekturen ständig ändern, könnten diese spezialisierten Chips über Nacht veraltet sein.

Es geht auch nicht nur um die Chips. Cuda, die Software, die Nvidias Prozessoren betreibt, ist das, was die meisten KI-Entwickler zu verwenden wissen. Ein neues System zu erlernen bedeutet, Teams in unbekannten Tools zu schulen und eine weitere Hürde für potenzielle Umsteiger zu schaffen.

Auch die aktuelle Erfolgsbilanz der Herausforderer ist mangelhaft. Google entwickelt seit fast einem Jahrzehnt TPUs, während Microsoft und Amazon seit mehreren Jahren Milliarden in ihre eigenen Chips investiert haben, ohne bisher viel zu zeigen. Untersuchungen zeigen, dass etwa 90 % der KI-Papiere zitiert immer noch Nvidia-Hardware, eine Dominanz, die sich trotz jahrelanger gut finanzierter Konkurrenz kaum verändert hat.

Dennoch, während Analysten vorhersagen, dass Nvidia der Lieferant für 100 % des Trainingsmarktes sein wird, wird es nur 50 % des Inferenzmarktes einfangen. auf lange Sicht. Das lässt immer noch fast 200 Milliarden Dollar an jährlichen Chipausgaben bis 2028 offen, genug, um Unternehmen zu motivieren, weiterhin zu versuchen, sich ein Stück vom Chip-Kuchen zu sichern.

Der Kampf um das Inferenz-Computing stellt mehr dar als nur technischen Wettbewerb. Es geht darum, die wirtschaftliche Struktur der KI umzugestalten, die Abhängigkeit von einem einzigen Anbieter zu verringern und fortschrittliche KI-Fähigkeiten einem breiteren Spektrum von Unternehmen und Ländern zugänglich zu machen. Wie die Partnerschaft von Sam Altman mit Broadcom zeigt, wetten selbst die erfolgreichsten KI-Unternehmen darauf, dass kundenspezifische Lösungen sich als überlegen gegenüber der Standarddominanz erweisen werden.