Kernpunkte
- Google führt zwei neue Systeme in seiner KI-Chip-Linie der achten Generation ein, die TPU 8tx und die TPU 8i Max, die beide auf bestehenden Prozessoren basieren.
- Die TPU 8tx hält vertrauliche Daten während der Verarbeitung verschlüsselt, während die TPU 8i Max Speicher und Rechenleistung im selben Rack verdoppelt, indem sie zwei Chips in einem einzelnen Package kombiniert.
- Zusammen mit Software-Tools wie TorchTPU will Google die Hürden für Entwickler senken und seine Hardware zunehmend an externe Kunden für die alltägliche Modellinferenz vermarkten.
Mit zwei neuen TPU-Varianten zielt Google auf vertrauliche KI-Workloads und speicherhungrige Anwendungen ab. Die Erweiterung zementiert Googles strategische Verschiebung hin zur Positionierung seiner hauseigenen KI-Chips als breite Plattform für externe Kunden.
Google hat zwei neue Systeme zu seiner KI-Beschleuniger-Linie der achten Generation hinzugefügt: die TPU 8tx für Confidential Computing und die TPU 8i Max für speicherintensive Workloads. Mit diesen Ergänzungen sagt Google, habe es zum ersten Mal vier TPU-Systeme innerhalb eines einzigen Jahres ausgeliefert.
Beide neuen Varianten basieren auf bestehender Silizium-Technologie. Google führt hier keine neue Chip-Generation ein, sondern neue Systemkonfigurationen: unterschiedliche Packaging-Verfahren, unterschiedliche Vernetzung und unterschiedliche Speicher-Setups um denselben Prozessor. Das Unternehmen rahmt diesen modularen Ansatz als bewusste Designentscheidung, die es ihm ermöglicht, neue Hardware-Varianten in Monaten statt Jahren zu liefern.
TPU 8tx hält sensible Daten selbst während der Verarbeitung verschlüsselt
Die TPU 8tx richtet sich an Unternehmen und Behörden, die mit vertraulichen Daten arbeiten. Normalerweise werden Daten bei Speicherung und Übertragung verschlüsselt, müssen aber im Speicher entschlüsselt werden, sobald ein Prozessor mit ihnen arbeitet.Anzeige
Die TPU 8tx wurde entwickelt, um diese Lücke zu schließen. Laut Google bleiben Daten und Modellgewichte auch während der aktiven Nutzung geschützt und isoliert. Nvidia bietet bereits eine vergleichbare Funktion für GPUs über seine Confidential-Computing-Architektur an.
Das System nutzt dasselbe latenzarme Boardfly-Netzwerk, das Google für Echtzeit-Inferenz entwickelt hat, und soll im Vergleich zur TPU 8t bis zu doppelt so starke Latenzreduzierung liefern. Google sagt, Unternehmen könnten mit einem einzigen System Modelle feinabstimmen, große Modelle in kleinere destillieren und KI-Agenten mit Reinforcement Learning trainieren – alles, ohne sensible Daten zwischen verschiedenen Clustern zu bewegen.
TPU 8i Max verdoppelt die Rechenleistung im selben Rack
Die TPU 8i Max greift ein anderes Problem an: den Speicherengpass. Wenn KI-Agenten gleichzeitig über große Codebasen oder Stunden von Videomaterial arbeiten, wird die Speicherbandbreite zum Flaschenhals. Google hat dies gelöst, indem es zwei TPU 8i-Chips in einem einzelnen Package platzierte.
Das Ergebnis ist die doppelte Rechenleistung, der doppelte Speicher und die doppelte Speicherbandbreite im selben Rack-Format, was deutlich mehr Leistung pro Quadratmeter Rechenzentrumsfläche bedeutet.Anzeige
Google senkt die Hürden für die TPU-Adoption
Über die Hardware hinaus arbeitet Google daran, TPUs einfacher nutzbar zu machen. Das Unternehmen hat TorchTPU als Open Source veröffentlicht, sodass PyTorch-Code mit minimalen Änderungen auf TPUs laufen sollte. Beliebte Inferenz-Frameworks wie vLLM und SGLang werden ebenfalls unterstützt.
Der Inferenzmarkt treibt das Rennen um individuelle Chips an
Die Erweiterung ist eine direkte Reaktion auf Googles strategische Verschiebung, TPUs nicht länger als rein internes Werkzeug zu behandeln, sondern sie als wettbewerbsfähige Plattform für externe Kunden zu vermarkten. Das Unternehmen zählt nun fast 100 externe TPU-Kunden.
Ein breiterer Markttrend treibt diesen Vorstoß an. Da sich KI-Anwendungen verbreiten, verlagert sich der Fokus von teuren Trainingsläufen hin zur Inferenz, also dem alltäglichen Betrieb von Modellen. Spezialisierte Chips wie TPUs können genau in diesem Bereich ihre Stärken ausspielen. Das ist auch der Grund, warum Amazon, Microsoft und OpenAI alle ihre eigenen Beschleuniger entwickeln.
Nvidia hat reagiert, indem es sein eigenes Inferenz-Angebot ausgebaut hat, und zwar durch seinen Acqui-Hire- und Lizenzierungs-Deal mit Groq.