Dohoda Nvidie s meta signály znamená novou éru výpočetního výkonu

Zeptejte se kohokoli na co Nvidia vyrábí a pravděpodobně nejprve řekne „GPU“. Po celá desetiletí byl výrobce čipů definován pokročilým paralelním počítáním a nástup generativní umělé inteligence a výsledný nárůst poptávky po GPU byl pro společnost přínosem.

Nedávné kroky společnosti Nvidia však signalizují, že se snaží získat více zákazníků na méně výpočetně náročném konci trhu s umělou inteligencí – zákazníky, kteří nutně nepotřebují ty nejlepší a nejvýkonnější GPU k trénování modelů umělé inteligence, ale místo toho hledají nejúčinnější způsoby, jak provozovat agentní software umělé inteligence. Nvidia nedávno utratila miliardy na licencování technologie od čipového startupu zaměřeného na AI computing s nízkou latencí a také začala prodávat samostatné CPU jako součást svého nejnovějšího superčipového systému.

Včera Nvidia a Meta oznámily, že gigant sociálních médií souhlasil s nákupem čipů Nvidia v hodnotě miliard dolarů, aby poskytl výpočetní výkon pro své rozsáhlé infrastrukturní projekty – s CPU Nvidia jako součást dohody.

Víceletá dohoda je rozšířením příjemného trvalého partnerství mezi těmito dvěma společnostmi. Meta dříve odhadovala, že do konce roku 2024 zakoupí od Nvidie 350 000 čipů H100 a že do konce roku 2025 bude mít společnost celkem přístup k 1,3 milionu GPU (ačkoli nebylo jasné, zda to budou všechny čipy Nvidia).

V rámci posledního oznámení Nvidia uvedla, že Meta „vybuduje hyperškálová datová centra optimalizovaná pro školení i odvození na podporu dlouhodobého plánu společnosti na infrastrukturu umělé inteligence. To zahrnuje „rozsáhlé nasazení“ CPU Nvidia a „miliony GPU Nvidia Blackwell a Rubin“.

Meta je prvním technologickým gigantem, který oznámil, že ve velkém nakupuje CPU Grace od Nvidie jako samostatný čip, což Nvidia řekla, že bude možností, když v lednu odhalila úplné specifikace svého nového superčipu Vera Rubin. Nvidia také zdůrazňuje, že nabízí technologii, která propojuje různé čipy, jako součást svého přístupu „polévka po ořechy“ k výpočetnímu výkonu, jak říká jeden analytik.

Ben Bajarin, generální ředitel a hlavní analytik společnosti Creative Strategies pro výzkum technologického trhu, říká, že tento krok signalizoval, že Nvidia si uvědomuje, že rostoucí řada softwaru AI nyní potřebuje běžet na CPU, podobně jako běžné cloudové aplikace. „Důvodem, proč je průmysl v současnosti tak optimistický ohledně CPU v datových centrech, je agentní AI, která klade nové požadavky na univerzální architektury CPU,“ říká.

Nedávná zpráva z čipového zpravodaje Semianalysis tento bod podtrhla. Analytici poznamenali, že využití CPU se zrychluje, aby podporovalo školení a vyvozování AI, a jako příklad uvádějí jedno z datových center Microsoftu pro OpenAI, kde „je nyní potřeba desítky tisíc CPU ke zpracování a správě petabajtů dat generovaných GPU, což je případ použití, který by bez AI jinak nebyl zapotřebí“.

Bajarin však poznamenává, že CPU jsou stále jen jednou součástí nejpokročilejších hardwarových systémů AI. Počet GPU, které Meta nakupuje od Nvidie, stále převyšuje počet CPU.

„Pokud jsi jedním z hyperscalerů, nebudeš utíkat.“ vše „Potřebujete, aby jakýkoli software, který používáte, byl na CPU dostatečně rychlý, aby interagoval s architekturou GPU, která je vlastně hnací silou tohoto počítání,“ říká Bajarin. Jinak se CPU stane úzkým hrdlem.“

Meta odmítla komentovat svou rozšířenou dohodu s Nvidií. Během nedávného hovoru o výdělcích gigant sociálních médií uvedl, že letos plánuje dramaticky zvýšit své výdaje na infrastrukturu umělé inteligence na 115 až 135 miliard dolarů, oproti 72,2 miliardám dolarů v loňském roce.