Blackwell · 每節點 8 顆 GPU · 完整 FP64
8 GPU 的 Blackwell 伺服器,無論訓練模型或執行雙精度科學運算都同樣得心應手,可組成一至 32 個節點的叢集。
並非每座 AI 工廠都只為 AI 而生。大學、工程公司與研究機構往往需要同一個叢集,週一訓練語言模型,週二執行流體力學或分子模擬。HGX B200 正是能同時勝任兩者的 Blackwell 平台。
每台 8-GPU 伺服器配備 1.4 TB HBM3e,並保留 NVIDIA 完整的雙精度運算能力,每塊板卡額定 296 TFLOPS 的 FP64,同時提供與其 Blackwell Ultra 同系列產品相同的 72 PFLOPS FP8 AI 效能。對於混合 AI 與模擬的工作負載,這樣的平衡難以超越。
我們建置 B200 叢集,從單一節點到 32 節點的可擴展單元,並搭配研究運算團隊已熟悉的網路架構、儲存與排程器(Slurm、Kubernetes 或兩者並用)。
Blackwell Ultra 為了給 AI 騰出空間而削減了 FP64。B200 則保留了它,因此 CFD、有限元素、氣候與量子化學程式,可以在與 AI 訓練相同的節點上全速執行。
每顆 GPU 達 1.8 TB/s 的第五代 NVLink,以及搭配第二代 Transformer Engine 的 FP8 訓練,讓大型模型的多節點訓練更有效率。
Slurm 分區、Kubernetes 命名空間或 Run:ai 配額,讓多個研究團隊共用同一個叢集,並具備明確的優先順序與用量報表以供內部分攤計費。
參考機櫃中四個節點約 53.6 kW,略低於 Blackwell Ultra,這在較舊的機房中可能就是關鍵差別。
典型的節點與叢集建置,依您的程式碼與使用者量身調整。
| GPU | 8 × NVIDIA Blackwell SXM per server, 1.4 TB HBM3e in total |
|---|---|
| FP4 Tensor Core | 144 | 72 PFLOPS per server |
| FP8 / FP16 Tensor Core | 72 / 36 PFLOPS per server (sparse) |
| FP64 | 296 TFLOPS per server |
| NVLink | Fifth generation, 1.8 TB/s per GPU, 14.4 TB/s per server |
| 網路 | Up to 400 Gb/s per GPU (0.8 TB/s per server) on InfiniBand or Spectrum-X |
| 叢集規模 | 1 to 32 nodes (up to 256 GPUs) per scalable unit, typically 4 nodes per rack |
| 軟體 | Slurm and/or Kubernetes, Spack or EasyBuild software stacks, NVIDIA HPC SDK, NVIDIA AI Enterprise |
數據為 NVIDIA 公布的平台規格。若 NVIDIA 列出兩個 Tensor Core 數值,第一個為採用稀疏性的數值,第二個為密集運算數值。確切的配置(CPU、記憶體、儲存、散熱、網路)將與您議定,並以書面報價確認。
B200 機櫃對您場地的需求。
| 機櫃電力 | Around 53.6 kW for four nodes (published reference figure) |
|---|---|
| 冷卻 | High-density air with containment, or direct liquid cooling |
| 儲存 | Parallel file system (for example Lustre, BeeGFS or a certified appliance) on its own network |
| 網路 | Leaf and spine fabric with room for the full scalable unit |
從規模評估到日常營運,由單一負責的英國團隊全程負責
我們會檢視您實際使用的程式碼與模型,並共同確定適合的節點、記憶體與網路架構。
已查核電力、冷卻、地板與光纖,若機房需要升級,則提供分階段計畫。
機櫃層級燒機測試,以及記錄供驗收的 HPL、NCCL 與儲存效能基準測試。
Slurm 或 Kubernetes 依您的身分識別系統、分區、配額與使用者文件完成設定。
NVIDIA 資料中心 GPU 由 NVIDIA 與伺服器製造商配貨,交期以月而非週計算。完整、經測試的系統通常比零散零件更早取得配貨,因此我們以完整系統形式報價這些平台。出貨至英國境外,以及英國境內許多先進 GPU,須先依英國與美國出口規定進行最終使用者與最終用途審查,我們才能確認供貨。
若雙精度模擬很重要,選 B200。若工作主要是 LLM 推論、推理與訓練,B300 每張 GPU 的記憶體更多,注意力運算效能也高出一倍。許多場域兩者混用。
通常可以。我們能將 B200 節點整合到既有的 Slurm 叢集與檔案系統中,若您目前的網路較舊,則可搭配網路架構橋接。
價格與任何方案支援皆以書面報價確認。詢價時,請告知我們專案內容與資金來源。
告訴我們您希望它產出什麼、有多少人會使用,以及要設置在哪裡。工程師會回覆您一份評估規模後的建議,並坦誠說明自建是否適合您。