Google Cloud představil ve středu na konferenci Google Cloud Next dvě nové tenzorové procesorové jednotky osmé generace a rozdělil čipovou řadu na TPU 8t pro trénink a TPU 8i pro inferenci. Jediný superpod TPU 8t se škáluje až na 9 600 čipů se dvěma petabajty sdílené vysokorychlostní paměti, poskytuje 121 ExaFlops výkonu a má trojnásobný výpočetní výkon oproti předchozí generaci Ironwood. Inferenční TPU 8i propojuje 1 152 čipů v jednom podu a disponuje 3x větší pamětí SRAM na čipu, aby mohl souběžně obsluhovat miliony AI agentů s nízkou latencí.

Google uvádí až 3x rychlejší trénink modelů, 2,8x lepší poměr cena/výkon a 2x lepší výkon na watt oproti předchozí generaci, přičemž v jednom clusteru dokáže koordinovat více než milion TPU. Cílem je zkrátit vývojový cyklus špičkových modelů z měsíců na týdny v době, kdy Alphabet tlačí svůj vlastní křemík proti Nvidii, jejíž tržní kapitalizace se blíží 5 bilionům dolarů.

I přes tento krok se Google Nvidie nevzdává. Společnost oznámila, že zákazníkům Google Cloud nabídne ještě letos nadcházející čip Nvidia Vera Rubin a pokračuje ve společném vývoji síťových optimalizací, čímž staví TPU do role doplňku, nikoli náhrady.