Blackwell Ultra · 4 個節點 · 32 張 GPU
四台 8-GPU Blackwell Ultra 伺服器、800 Gb/s 網路架構與高速儲存整合於一個經過測試的機櫃：將強大的推理與訓練能力導入標準資料機房最務實的方式。
多數想要前沿等級 AI 算力的組織，並不想為此重建資料中心。這座機櫃正是我們的解答：四台 8-GPU NVIDIA HGX B300 伺服器、每張 GPU 速率達 800 Gb/s 的 GPU 網路架構、儲存層與管理網路，作為一個整體交付，並在送達您手上之前就已完成組裝、佈線與壓力測試。
Blackwell Ultra 是為當今 AI 的使用方式而設計。推理模型與代理程式在回答前會先思考，使每則回覆背後的 token 數量成倍增加。HGX B300 的注意力運算效能是第一代 Blackwell 的兩倍，每張 GPU 配備 288 GB HBM3e，因此長上下文與大型模型無需切分到多台機器上即可容納。
我們把機櫃視為工廠的第一步，而非全部。它依參考設計建置，因此需求成長時，第二與第三個機櫃可加入同一個網路架構，無須重新設計。
推理模型大部分時間都花在注意力運算上。NVIDIA 將 HGX B300 的注意力效能評為 HGX B200 的兩倍，這表示當許多使用者同時提出困難問題時，回應速度會更快。
每個 GPU 288 GB、每台伺服器 2.1 TB，代表一個 4,000 億參數模型能以 FP8 輕鬆放進單一節點，並為長對話與大批次保留餘裕。
在每台伺服器內部，第五代 NVLink 讓每顆 GPU 與相鄰 GPU 之間達到 1.8 TB/s。在伺服器之間，每顆 GPU 配備一張 800 Gb/s ConnectX-8 SuperNIC，搭配 rail-optimised InfiniBand 或 Spectrum-X 網路架構，讓多節點訓練維持高效率。
空冷與液冷的 HGX B300 伺服器皆可選用，因此機架今天就能放進高密度空冷機房，或是放進您已有的直接液冷機房。
機架是最多 32 個節點（256 顆 GPU）可擴展單元的基本建構區塊。新增機架可沿用相同的佈線規劃接入同一個 spine，因此擴充只是一張採購單，而不是一個專案。
我們會對 GPU、記憶體、NVLink、網路架構與儲存一併進行燒機測試並記錄結果，讓您收到的是具備已知良好基準的機櫃，而不是一堆箱子。
典型的建置配置。我們會依您的工作負載與場地調整 CPU、記憶體、儲存、散熱與網路架構。
| 算力 | 4 × HGX B300 8-GPU servers (our standard node is the air-cooled Compal SGX30-2, 10U; liquid-cooled nodes also available) |
|---|---|
| GPU | 32 × NVIDIA Blackwell Ultra SXM, 288 GB HBM3e each |
| GPU 視訊記憶體 | 2.1 TB per server, 8.4 TB per rack |
| FP4 Tensor Core | 144 | 108 PFLOPS per server; 576 | 432 PFLOPS per rack |
| FP8 Tensor Core | 72 PFLOPS per server (sparse); 288 PFLOPS per rack |
| NVLink | Fifth generation, 1.8 TB/s per GPU, 14.4 TB/s per server |
| 主機 CPU | Dual Intel Xeon 6 (or AMD EPYC, depending on the server maker) |
| GPU 網路架構 | 8 × ConnectX-8 SuperNICs per server, up to 800 Gb/s each, on Quantum-X800 InfiniBand or Spectrum-X Ethernet |
| 儲存與前端 | BlueField-3 DPUs or ConnectX NICs to a separate storage and service network; local PCIe Gen5 NVMe |
| 軟體 | Ubuntu or RHEL, NVIDIA drivers and CUDA, NVIDIA AI Enterprise, Kubernetes or Slurm, optional Run:ai and Mission Control |
數據為 NVIDIA 公布的平台規格。若 NVIDIA 列出兩個 Tensor Core 數值，第一個為採用稀疏性的數值，第二個為密集運算數值。確切的配置（CPU、記憶體、儲存、散熱、網路）將與您議定，並以書面報價確認。
這些是我們在報價前於現場檢查的數值。若您的機房無法達標，我們會提出託管機房方案或其他平台。
| 機櫃電力 | Around 60 kW for four HGX B300 nodes (published reference figure), plus network and storage |
|---|---|
| 每台伺服器功耗 | Around 14 kW for an 8-GPU Blackwell Ultra system (NVIDIA DGX B300 figure) |
| 冷卻 | High-density air with hot-aisle containment, or direct liquid cooling with a coolant distribution unit |
| 機架 | Deep, high-load 48U to 52U rack; floor loading checked against the populated weight |
| 電源饋入 | Redundant three-phase supplies sized for the full load, with the PDU layout agreed in advance |
| 網路 | Space and power for leaf and spine switches if this is the first rack, and fibre routes to future racks |
從規模評估到日常營運，由單一負責的英國團隊全程負責
我們將您的使用者、模型與訓練計畫換算為每秒權杖數與 GPU 小時，並說明現在與兩年後各需要多少機櫃。
在下單之前，我們會勘查電力、冷卻、地板與光纖，或為您篩選可容納 60 kW 機架的英國代管機房。
在機架層級進行組裝、佈線、韌體對齊與為期數天的壓力測試，並提供書面驗收報告。
現場安裝、網路架構啟用、Kubernetes 或 Slurm、NVIDIA AI Enterprise，並與您的團隊一同完成首個模型的端到端服務。
NVIDIA 資料中心 GPU 由 NVIDIA 與伺服器製造商配貨，交期以月而非週計算。完整、經測試的系統通常比零散零件更早取得配貨，因此我們以完整系統形式報價這些平台。出貨至英國境外，以及英國境內許多先進 GPU，須先依英國與美國出口規定進行最終使用者與最終用途審查，我們才能確認供貨。
電力與熱能。四個 HGX B300 節點的耗電已約 60 kW，這是許多氣冷機房的實際上限。若有直接液冷與足夠的電力，則可採用更高密度的配置，我們也會據此設計。
並非如此。每台伺服器本身是一個 8-GPU 的 NVLink 網域，四台伺服器之間則透過 800 Gb/s 網路架構互相通訊。對訓練與大多數推論而言，這種擴展方式非常有效。如果單一模型需要更大的 NVLink 網域，GB300 NVL72 可將 72 個 GPU 合而為一。
可以。我們可以交付依相同設計建置的單一 HGX B300 節點，並為機櫃其餘部分預先規劃好交換器連接埠與佈線方案。
價格取決於伺服器製造商、CPU、記憶體、儲存、網路架構與冷卻，也取決於當時的配貨狀況。經過規模評估與場地檢查後，我們會以書面報價提供這些系統的價格。
告訴我們您希望它產出什麼、有多少人會使用，以及要設置在哪裡。工程師會回覆您一份評估規模後的建議，並坦誠說明自建是否適合您。