Google arbeitet an einem neuen Serverchip mit dem internen Namen "Frozen v2", der die Architektur des Gemini-KI-Modells direkt in die Hardware einbetten soll.
Laut Quellen von The Information könnte der Chip beim Ausliefern von KI-Antworten 6- bis 10-mal effizienter sein als Googles aktuelle TPU-Chips. Der Einsatz ist ab 2028 geplant. Google sieht Frozen v2 zunächst als Testlauf für spezialisierte Chips und plant eine kleinere Stückzahl als bei TPUs.
Anders als Googles TPUs, die mit vielen verschiedenen Modellen funktionieren, hat Frozen v2 Teile der Gemini-Modellstruktur fest eingebaut. Daher auch der Name: So wie man bei KI-Modellen davon spricht, Parameter "einzufrieren", also festzusetzen, damit sie sich nicht mehr verändern, wird hier ein Teil des Modells dauerhaft in den Chip eingefroren. Das spart Rechenschritte und beschleunigt Antworten.
Die ursprüngliche Idee stammt von Jeff Dean, dem Chefwissenschaftler von Google DeepMind. Sein erster Frozen-Entwurf sah vor, die Modellgewichte, also die konkreten Einstellungen, die bestimmen, wie ein KI-Modell auf Fragen antwortet, direkt in den Chip einzubauen. Dieses Konzept wurde jedoch verworfen, weil der Chip dann nur mit einer einzigen Gemini-Version funktioniert hätte und zu schnell veraltet wäre.
Frozen v2 geht einen flexibleren Weg: Statt der Gewichte wird die Modellarchitektur eingebettet, also der grundlegende Bauplan des Modells. Neue Gewichte lassen sich weiterhin aufspielen. Wie viel genau fest eingebaut werden soll, ist laut The Information noch nicht entschieden.
Margenoptimierung bei der KI-Inferenz
Da der Chip nur funktioniert, solange Google an der gleichen Modellarchitektur festhält, eignet er sich wohl nicht als externes Produkt. Während Google seine TPUs bereits an Meta vermietet, externen Cloud-Kunden anbietet und über das Programm "TPU@Premises" als Alternative zu Nvidia positioniert mit dem internen Ziel, zehn Prozent von Nvidias Jahresumsatz zu erreichen, soll Frozen v2 primär Googles internen Engpass bei KI-Rechenkapazität lindern.
Sollte der Chip halten, was er verspricht, könnte er sich dennoch als großer Vorteil erweisen: Im KI-Geschäft entscheidet die Kostenoptimierung bei Inferenz, also dem eigentlichen Betrieb von KI-Modellen, zunehmend über die Margen. Google könnte so leistungsfähige Modelle zu günstigeren Preisen anbieten und OpenAI sowie Anthropic Marktanteile abnehmen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
