DGX B300 或 DGX GB300 · 可擴展單元 · Mission Control
NVIDIA 經過驗證的一站式 AI 超級電腦,由 DGX B300 或 DGX GB300 系統以標準可擴展單元組成,並由 Mission Control 管理運行。
有些組織希望盡可能減少設計決策。DGX SuperPOD 正是為他們而生。它是 NVIDIA 自家的完整 AI 超級電腦參考架構,明確規範 DGX 系統、運算、儲存與管理網路、認證的儲存合作夥伴以及軟體,並全部經 NVIDIA 一併驗證。
Blackwell Ultra 世代有兩種型態。DGX GB300 是液冷機櫃級方案,每個機櫃配備 72 顆 GPU。DGX B300 是氣冷 10U 系統,配備八顆 GPU、2.1 TB GPU 記憶體,功耗約 14 kW,適合沒有液冷設施的機房。兩者皆以可擴充單元部署,已發布的參考設計可擴展至遠超過 100 個機櫃。
我們的角色,是在您的大樓裡實現這份藍圖:場地就緒、物流、與您的身分驗證及儲存系統整合,以及讓 SuperPOD 多年保持高生產力的營運流程。
運算、網路架構、儲存與軟體是經過測試的組合,可消除大多會拖慢大型叢集的整合風險。
NVIDIA Mission Control 負責整個 SuperPOD 的工作排程、健康監控、故障偵測與復原,因此節點故障只會損失幾分鐘,而不是一個週末。
DGX B300 適合氣冷機房;DGX GB300 則在可採用液冷的環境提供機櫃級 NVLink。兩者遵循相同的營運模式。
容量以一個可擴展單元為單位逐步增加,網路架構與儲存從第一天起就已為下一步規劃好規模。
Blackwell Ultra DGX SuperPOD 的建置模組(NVIDIA 數據)。
| DGX B300 系統 | 8 × Blackwell Ultra SXM, 2.1 TB GPU memory, Intel Xeon 6776P, 10U, ~14 kW |
|---|---|
| DGX B300 效能 | FP4 144 | 108 PFLOPS, FP8 72 PFLOPS (sparse) |
| DGX B300 網路 | 8 × ConnectX-8 (up to 800 Gb/s each), 2 × BlueField-3 DPUs (up to 400 Gb/s) |
| DGX GB300 機櫃 | 72 Blackwell Ultra GPUs and 36 Grace CPUs, liquid cooled |
| 可擴充單元(GB300) | 8 DGX GB300 racks |
| 軟體 | DGX OS, NVIDIA AI Enterprise, NVIDIA Mission Control |
| 儲存 | NVIDIA-certified high-performance storage partners |
| 支援 | NVIDIA enterprise support, with Workstation as your UK point of contact |
數據為 NVIDIA 公布的平台規格。若 NVIDIA 列出兩個 Tensor Core 數值,第一個為採用稀疏性的數值,第二個為密集運算數值。確切的配置(CPU、記憶體、儲存、散熱、網路)將與您議定,並以書面報價確認。
SuperPOD 從第一次溝通起,就與您的設施團隊一起規劃。
| 功耗 | Around 14 kW per DGX B300; well over 100 kW per DGX GB300 rack |
|---|---|
| 冷卻 | Air with containment for DGX B300; direct liquid cooling for DGX GB300 |
| 空間 | Compute, network and storage racks for the full scalable unit, with room to add the next |
| 時程 | Supply, facility work and installation planned as one programme |
從規模評估到日常營運,由單一負責的英國團隊全程負責
供貨、設施升級、安裝與驗收納入同一份時程,並明確指定負責人。
在交付前完成電力、冷卻、佈線路徑與儲存整合的準備。
與您現有環境整合身分識別、儲存、監控與網路。
Mission Control 營運、英國第一線支援,以及向 NVIDIA 的升級處理。
NVIDIA 資料中心 GPU 由 NVIDIA 與伺服器製造商配貨,交期以月而非週計算。完整、經測試的系統通常比零散零件更早取得配貨,因此我們以完整系統形式報價這些平台。出貨至英國境外,以及英國境內許多先進 GPU,須先依英國與美國出口規定進行最終使用者與最終用途審查,我們才能確認供貨。
BasePOD 是 NVIDIA 針對數台系統的小型 DGX 部署所提出的參考架構。SuperPOD 則是適用數百到數千個 GPU 的完整規模設計,對網路、儲存與管理有更嚴格的規格要求。
SuperPOD 使用合作夥伴廠商提供的 NVIDIA 認證儲存設備。我們協助您挑選符合現有環境與技能的方案。
告訴我們您希望它產出什麼、有多少人會使用,以及要設置在哪裡。工程師會回覆您一份評估規模後的建議,並坦誠說明自建是否適合您。