Nvidia investovala 150 milionů dolarů do sanfrancisského startupu Baseten, který se specializuje na provozování AI modelů v produkčním prostředí. Investice je součástí kola o celkovém objemu 300 milionů dolarů, které vedli Institutional Venture Partners a CapitalG (investiční fond Googlu). Valuace Bastenu se tím více než zdvojnásobila na 5 miliard dolarů.

Šestiletá společnost Baseten se zaměřuje na tzv. inference - proces, při kterém natrénované AI modely generují odpovědi na dotazy uživatelů. Zatímco trénování modelů přitahuje titulky, právě jejich efektivní provoz v reálných aplikacích se stává klíčovým faktorem úspěchu. Spoluzakladatel a CEO Tuhin Srivastava chce vybudovat "AWS pro inference".

Investice doplňuje Nvidiinu akvizici společnosti Groq za 20 miliard dolarů a vytváří strategii pro dominanci v celém AI inference stacku. Jak AI přechází z démonstračních projektů do reálných produktů, schopnost provozovat modely levně a spolehlivě se stává stejně důležitou jako jejich trénování. Baseten celkově získal již 585 milionů dolarů.