Rubin · HBM4 · NVLink 6
單一液冷機櫃內含 72 顆採用 HBM4 的 Rubin GPU 與 36 顆 Vera CPU。如果您正在為 2027 年及之後建置算力,設施方面的決策現在就要開始。
Vera Rubin 是 Blackwell 之後的新世代。NVL72 機櫃維持熟悉的形式,在單一 NVLink 領域中配置 72 顆 GPU 與 36 顆 CPU,但幾乎所有數字都大幅躍進:每顆 GPU 配備 288 GB HBM4,頻寬最高約 22 TB/s;NVLink 6 每顆 GPU 達 3.6 TB/s,整個機櫃達 260 TB/s;每顆 GPU 的 NVFP4 推論效能約 50 PFLOPS,約為 Blackwell 的五倍。
關鍵在於電力。公開的估計值顯示,Vera Rubin NVL72 機櫃約需 190 至 230 kW,相較之下 GB200 NVL72 約為 120 至 130 kW,Hopper 世代機櫃則約為 40 kW。目前英國很少有機房能供應這樣的電力。
因此,對 Rubin 世代的工廠而言,最有價值的工作在交付之前許久就已展開:選定場址、確保電力、設計冷卻迴路,並排入供貨佇列。這正是本頁所介紹的服務。
每顆 GPU 的推論效能約為 Blackwell 的五倍,意味著只要場地供得起電,每個機櫃能產出多得多的 token。
每顆 GPU 最高約 22 TB/s,約為 Blackwell 的 2.75 倍,正好加速主導服務效能、受記憶體頻寬限制的解碼階段。
ConnectX-9 SuperNIC 為每顆 GPU 帶來 1,600 Gb/s,因此網路架構必須以目前兩倍的連接埠速度來規劃。
每個機櫃約 200 kW 時,決定何時能上線的是電網接入、配電與排熱,而不是 GPU。
已公布的平台數據。最終規格將於系統出貨時,由 NVIDIA 與伺服器廠商確認。
| 配置 | 72 Rubin GPUs, 36 Vera CPUs (88 custom Arm cores each) |
|---|---|
| GPU 視訊記憶體 | 288 GB HBM4 per GPU, up to around 22 TB/s |
| NVLink | NVLink 6, 3.6 TB/s per GPU, 260 TB/s per rack |
| 推論 | Around 50 PFLOPS NVFP4 per GPU |
| 網路 | ConnectX-9 SuperNICs, 1,600 Gb/s per GPU, Spectrum-X or InfiniBand |
| 冷卻 | Fully liquid cooled |
| 供貨情況 | In production in 2026, with partner systems from the second half of the year |
數據為 NVIDIA 公布的平台規格。若 NVIDIA 列出兩個 Tensor Core 數值,第一個為採用稀疏性的數值,第二個為密集運算數值。確切的配置(CPU、記憶體、儲存、散熱、網路)將與您議定,並以書面報價確認。
現在就該開始規劃的事項。
| 功耗 | Roughly 190 to 230 kW per rack; grid capacity and lead time for new supplies checked first |
|---|---|
| 冷卻 | Direct liquid cooling with facility water sized for the full heat load |
| 場地 | Purpose-built or upgraded halls; we can shortlist suitable UK sites |
| 供貨 | Early engagement on allocation, as for every new NVIDIA generation |
從規模評估到日常營運,由單一負責的英國團隊全程負責
自有機房、升級或代管:我們依電力、冷卻與時程比較各種選項。
為您的工程師或託管機房業者整理好電力、冷卻與網路需求文件。
及早進行配額分配洽談並分階段規劃,通常先從 Blackwell 開始,之後再加入 Rubin。
現在就能擁有 Blackwell 運算能力,且設計上可日後與 Rubin 機櫃共用網路架構與儲存。
NVIDIA 資料中心 GPU 由 NVIDIA 與伺服器製造商配貨,交期以月而非週計算。完整、經測試的系統通常比零散零件更早取得配貨,因此我們以完整系統形式報價這些平台。出貨至英國境外,以及英國境內許多先進 GPU,須先依英國與美國出口規定進行最終使用者與最終用途審查,我們才能確認供貨。
通常不需要。等待只會讓 AI 工作的價值延後一年或更久,況且 Rubin 的設施本來就需要時間準備。常見的做法是現在採用 Blackwell,並在設計上讓場址日後能容納 Rubin 機櫃。
我們現在就可以開始討論、場地規劃與供貨事宜。確切價格與日期取決於配貨,並以書面報價確認。