NVIDIA staví síť pro datová centra se stovkami tisíc grafických procesorů

NVIDIA představila síťovou platformu Spectrum-6 pro datová centra s desítkami až stovkami tisíc grafických procesorů. Síť v takto velkém systému není vedlejší technickou součástí. Určuje, zda mohou jednotlivé počítače pracovat jako jeden celek, nebo část drahého hardwaru čeká na přenos dat. Spectrum-6 patří do rodiny Spectrum-X a používá Ethernet. NVIDIA tím soupeří s proprietárnějšími síťovými technologiemi a zároveň využívá standard, který podniková datová centra dobře znají. Provoz umělé inteligence však vyžaduje přesnější řízení přenosů než běžné kancelářské aplikace. Při učení velkého modelu si tisíce procesorů neustále předávají části výpočtu. Krátké přetížení nebo výpadek jednoho prvku může zpomalit celou úlohu. U agentních systémů zase síť spojuje výpočetní servery, úložiště, databáze a externí nástroje. Prodleva se násobí při každém kroku pracovního postupu. NVIDIA uvádí, že platforma je navržena pro „stovky tisíc grafických procesorů“ a pro datová centra gigawattové velikosti. Takové číslo ukazuje rozsah připravovaných investic. Jeden gigawatt odpovídá výkonu velkého energetického zdroje a výrazně převyšuje spotřebu běžného podnikového výpočetního střediska. Ekonomika těchto projektů nestojí pouze na ceně čipů. Investoři musejí zajistit přípojku, chlazení, záložní napájení, pozemky, vodu a dlouhodobé smlouvy na elektřinu. Síťové prvky navíc přidávají vlastní spotřebu. Každé procento účinnosti proto může při trvalém provozu představovat významnou částku. Výrobce zdůrazňuje odolnost a možnost přesměrovat provoz při poruše. To je důležité, protože odstávka velkého výpočetního celku může znehodnotit mnoho hodin probíhajícího učení. Podniky by ale měly požadovat konkrétní údaje o dostupnosti, opravitelnosti a skutečné kapacitě při částečných výpadcích. Pro evropské investory je podstatný povolovací proces. Datové centrum této velikosti ovlivňuje přenosovou soustavu, místní infrastrukturu a dostupnost vody. Projekt se proto může zpozdit nikoli kvůli nedostatku čipů, ale kvůli síti, územnímu řízení nebo odporu obcí. Vzniká také koncentrace dodavatelského rizika. Pokud zákazník koupí procesory, síťové prvky, programové vybavení a správu od jedné společnosti, získá jednodušší integraci. Současně se však zvyšuje cena budoucího přechodu na konkurenci. Otevřený Ethernet sám o sobě nezaručuje snadnou zaměnitelnost celé sestavy. Regulátoři budou sledovat energetickou náročnost i hospodářskou soutěž. Dodavatel s dominantním postavením v grafických procesorech může svou síťovou vrstvou posílit kontrolu nad celým datovým centrem. Zákazníci by proto měli ve smlouvách řešit přístup k provozním údajům, kompatibilitu a podmínky servisu. Spectrum-6 není běžný výrobek pro většinu firem. Ovlivní je ale nepřímo prostřednictvím cen cloudových služeb. Pokud nová síť zvýší využití drahých procesorů a sníží výpadky, může klesnout cena výpočtu. Pokud naopak vyžádá další kapitál a uzamkne provoz u jednoho dodavatele, část nákladů se promítne do cen modelů.

NVIDIA staví síť pro datová centra se stovkami tisíc grafických procesorů

Celé znění článku máte k dispozici po registraci na Abravito