Google v pondělí představil dvě nové varianty vlastních tensor processing units (TPU), které rozšiřují jeho nabídku čipů o důvěrné AI úlohy a modely náročné na paměť. Obě patří do osmé generace TPU z dubna, přičemž Google se snaží snížit závislost svého cloudu na čipech jiných výrobců.
TPU 8tx, navržený společně s AMD na základě TPU 8t, míří na důvěrné trénování a inferenci. Podle Googlu zabudovává zabezpečení přímo do hardwaru, takže citlivá data a váhy modelů zůstávají chráněné a izolované i za provozu. Vlastní inferenční síť umožňuje spouštět uvažování souběžně s trénováním, takže firmy mohou destilovat a trénovat malé modely na vlastních datech bez jejich přesouvání mezi zařízeními.
TPU 8i Max spojuje dva inferenční čipy TPU 8i z dubna do jednoho pouzdra a zdvojnásobuje kapacitu paměti, výkon i propustnost, takže modely zvládnou při dotazech více kontextu. Premiéra přichází ve chvíli, kdy vlastní AI čipy vyvíjejí také Microsoft, Amazon, OpenAI a Anthropic, aby oslabily dominanci Nvidie, jen pár dní po rezignaci Jensena Huanga na funkci šéfa Nvidie.