10U rack server navržený pro trénování náročných modelů strojového a hlubokého učení s podporou až 8 GPU akcelerátorů NVIDIA HGX B300 NVL8 SXM.
Server je osazen dvěma procesory Intel Xeon 6 6747P s taktovací frekvencí 2,7 GHz, 48 jádry a 96 vlákny na procesor, 288 MB cache a TDP 330 W. Operační paměť tvoří 32 modulů 64 GB RDIMM DDR5-6 400 (celkem 2 TB), které zajišťují dostatečnou šířku pásma pro paralelní zpracování dat GPU akcelerátory.
Úložiště je realizováno čtyřmi 3,2TB NVMe Mixed Use disky E3.S Gen5 s přímým připojením přes PCIe. Systémový oddíl obstarává karta BOSS-N1 s dvojicí M.2 SSD 960 GB v konfiguraci RAID 1. Síťová konektivita zahrnuje OCP 3.0 adaptér Broadcom 57414 Dual Port 25GbE SFP28 a 2× adaptér NVIDIA ConnectX-7 Single Port NDR 400GbE OSFP pro vysokorychlostní propojení GPU uzlů.
GPU subsystém a propojení
Osm akcelerátorů NVIDIA HGX B300 NVL8 SXM je plně propojeno technologií NVLink, čímž tvoří sdílený paměťový prostor pro distribuované trénování rozsáhlých modelů. Každý GPU disponuje výkonem 1 100 W a je integrován s rozhraním CX-8 OSFP. Dva adaptéry ConnectX-7 NDR 400GbE v plně výškovém PCIe slotu zajišťují mezipodlažní InfiniBand/Ethernet propojení s přenosovou rychlostí až 400 Gb/s.
Správa a zabezpečení
Integrovaný řadič iDRAC10 Datacenter umožňuje vzdálenou správu serveru bez nutnosti instalace agentů v operačním systému. Součástí licence je OpenManage Enterprise Advance Plus pro centralizovanou správu infrastruktury, monitorování výkonu GPU a DPU, telemetrické streamování a pokročilé řízení napájení.
Chlazení a napájení
Vzduchové chlazení šasi 10U zajišťuje 5 standardních ventilátorů CPU (cold-swap) na středním nosiči a 15 hot-swap ventilátorů GPU v zadní části. Redundantní napájecí soustava 6+6 s celkovým výkonem až 38 400 W (12× 3200 W Titanium, 54 V DC výstup) pokrývá plný výkon GPU konfigurace B300.
ZÁKLADNÍ SPECIFIKACE
Procesory: 2× Intel Xeon 6 6747P, 2,7 GHz, 48C/96T, 288 MB cache, 330 W TDP
Operační paměť: 32× 64 GB RDIMM DDR5-6400
GPU akcelerátory: 8× NVIDIA HGX B300 NVL8 SXM, 1 100 W, s 8× CX-8 OSFP, NVLink
Úložiště (data): 4× 3,2 TB NVMe Mixed Use E3.S Gen5 s nosičem, přímé PCIe
Úložiště (boot): BOSS-N1 s 2× M.2 SSD 960 GB (RAID 1; 22 × 80 mm), zadní montáž
Síťový adaptér OCP: Broadcom 57414 Dual Port 25GbE SFP28, OCP 3.0
Síťové adaptéry PCIe: 2× NVIDIA ConnectX-7 Single Port NDR VPI/400GbE OSFP-RHS, plná výška
Napájení: 12× PSU 3200 W Mixed Mode Titanium, 230–240 V AC, výstup 54 V, redundance 6+6
Chlazení: vzduchové; 5× cold-swap (CPU), 15× hot-swap (GPU)
Správa: iDRAC10 Datacenter s OpenManage Enterprise Advance Plus
Rozměry: 1 044,7 × 482,3 × 439,5 mm
Hmotnost: 159,65 kg
Formát: 10U rack server