Startup Inferact, který stojí za populárním open-source projektem vLLM pro běh velkých jazykových modelů, oznámil 22. ledna 2026 získání 150 milionů dolarů v seed kole při valuaci 800 milionů dolarů. Investici vedli Andreessen Horowitz a Lightspeed Venture Partners, přičemž se připojili také Sequoia Capital, Altimeter Capital, Redpoint Ventures a investiční rameno Databricks.
vLLM je softwarová knihovna vyvinutá na UC Berkeley, která výrazně zrychluje a zlevňuje provoz velkých AI modelů. Zatímco velké firmy investují miliardy do trénování modelů, Inferact se zaměřuje na opomíjenou fázi "inference" - tedy samotné používání modelů v produkci.
"Vidíme budoucnost, kde nasazení AI bude stejně snadné jako spuštění databáze," napsal spoluzakladatel Woosuk Kwon. Společnost plánuje spustit placenou serverless verzi vLLM a zároveň pokračovat ve vývoji open-source projektu. Tým chystá nové optimalizace výkonu a podporu pro různé typy datacenterového hardwaru.
