Der intern als "Frozen v2" bezeichnete Chip könnte 6 bis 10 Mal mehr Tokens pro Energieeinheit bieten als Googles neueste TPUs.
Getty Images / Bloomberg
Der Chip, intern als "Frozen v2" bezeichnet, reduziert den Verarbeitungsaufwand, indem Teile der Gemini-Architektur direkt in das Silizium integriert werden, was laut Bloombergdie Anzahl der Berechnungen begrenzt, die die Hardware ausführen muss, und die Entfernung, die Daten zurücklegen müssen, um eine Antwort zu generieren.
Google hat das Projekt teilweise entwickelt, um einen schweren internen Kapazitätsengpass zu entschärfen, der im Unternehmen Reibungen verursacht hat und Google Cloud dazu veranlasste, Geschäfte mit externen Kunden abzulehnen. Google plant die Einführung 2028, obwohl die Ingenieure das Design des Chips und die Menge der in ihn eingehärteten Modellinformationen noch fertigstellen, so Yahoo Finance.
Frozen v2 würde einen spezialisierten Zweig von Googles Chip-Portfolio darstellen, anstatt einen Ersatz für seine Allzweck-TPUs. Diese Effizienz hat jedoch ihren Preis: Da Teile des Modells direkt in das Silizium verdrahtet sind, kann der Chip zukünftige Gemini-Versionen nur unterstützen, wenn Google seine grundlegende Architektur intakt hält. Die Produktionsvolumen werden voraussichtlich deutlich unter dem TPU-Niveau liegen, und der Aufwand wird derzeit intern als explorative Übung behandelt, anstatt als groß angelegte Einführung.
Google steht auf mehreren Ebenen unter zunehmendem Druck, einschließlich der Abwanderung von führenden KI-Forschern zu Konkurrenten. Noam Shazeer, der die Gemini-Modelle mitleitete, kündigte an, dass er zu OpenAI wechselt, während der Nobelpreisträger John Jumper Google DeepMind für Anthropic verließ. Die Alphabet-Aktie fiel um bis zu 7 % nach diesen Abgängen. Die nächste Gemini Pro-Veröffentlichung wurde ebenfalls verschoben, und chinesische KI-Modelle machen jetzt 45 % der Token-Nutzung von US-Unternehmen aus.
In einer Stellungnahme gegenüber CNBC sagte Google, seine Teams seien "ständig dabei, neue Innovationen zu erforschen und zu experimentieren, um unseren Nutzern und Kunden maximale Leistung und Effizienz zu bieten", und fügte hinzu, dass "nicht jedes Projekt in die Produktion geht." Ein Google Cloud-Sprecher sagte, der Ansatz des Unternehmens bestehe darin, "unsere Hardware und Software von Grund auf gemeinsam zu entwerfen", um die Systeme für reale Arbeitslasten zu optimieren.
Google ist nicht allein in der Verfolgung von maßgeschneidertem KI-Silizium. OpenAI hat kürzlich seinen ersten internen Chip eingeführt, der zusammen mit Broadcom $AVGO Inc. entwickelt wurde, während Anthropic laut Bloomberg erste Gespräche mit Samsung Electronics Co. über die Entwicklung eines eigenen Siliziums aufgenommen hat.
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
