GPU 租賃
符合您工作負載的期限、價格與條款的 GPU 算力
需要 GPU,但不想購買或託管硬體?我們會比較雲端供應商、GPU 專業業者、資料中心與硬體融資的租賃方案,並提供一份入選清單,說明哪些已確認、哪些尚未確認。
符合您工作負載的期限、價格與條款的 GPU 算力
需要 GPU,但不想購買或託管硬體?我們會比較雲端供應商、GPU 專業業者、資料中心與硬體融資的租賃方案,並提供一份入選清單,說明哪些已確認、哪些尚未確認。
GPU 租賃是指在一段期間內付費使用 GPU 算力,而非直接買斷硬體。期限可能是雲端執行個體上的幾個小時,也可能是為您打造的專用叢集上的數年。硬體由誰擁有、在哪裡運行、由誰維護,全都取決於租賃的類型。
租賃適合需求不確定或快速成長的團隊、有固定結束日期的專案,以及寧願從營運預算支出,也不想把資金綁在下一代 GPU 就會超越的硬體上的組織。租賃也讓您本月即可開始,無需等待伺服器建置、電力升級或資料中心空間。
當您的 GPU 在三年以上的大部分時間都處於忙碌狀態、已具備空間、電力與冷卻,或資料必須留在自有硬體上時,購買通常更划算。許多組織兩者並行:自有一批穩定的基礎容量,並為訓練、產品發表與尖峰需求租用額外容量。
並排比較租用 GPU 容量的主要方式。期限與承諾因供應商而異,以下為常見模式。
| 選項 | 一般期限 | 執行位置 | 硬體所有者 | 承諾期限 | 最適合 |
|---|---|---|---|---|---|
| 隨需雲端 GPU | 數小時至數週 | 供應商的雲端 | 提供方 | 無:用多少付多少 | 實驗、概念驗證、難以預測的短期工作 |
| Spot 與突發容量 | 數分鐘到數天 | 供應商的雲端 | 提供方 | 無,但可能被中斷 | 容錯批次工作、超參數掃描 |
| 預留雲端容量 | 1 至 36 個月 | 供應商的雲端 | 提供方 | 固定期限,通常部分款項預付 | 以較低單價進行穩定的訓練與推論 |
| 專屬裸機伺服器 | 1 至 36 個月 | 供應商的資料中心 | 提供方 | 每台伺服器固定期限 | 完全掌控機器,效能可預期 |
| 私有叢集租賃 | 6 個月至 5 年 | 供應商或第三方的資料中心 | 供應商或出租方 | 整個叢集簽訂合約 | 大型訓練執行、基礎模型、多節點工作 |
| 分數式與共享 GPU | 數小時至數月 | 供應商的雲端或您的平台 | 供應商或由您負責 | 低 | 推論、筆記本、教學與小型模型 |
| 硬體融資租賃 | 2 至 5 年 | 您的場地或代管機房 | 租期內的出租方 | 固定月付款 | 將資料保留在自己的場地,同時分攤成本 |
| 租賃轉購買(分期付款購買) | 2 至 5 年 | 您的場地或代管機房 | 期滿後歸您所有 | 固定月付款 | 擁有硬體,卻不必一次付清全部費用 |
需要時啟動 GPU 執行個體,關閉後即停止計費。這是最快上手的方式,但長期運行時每 GPU 小時的成本最高。
典型配置: 從單顆 GPU 到 8-GPU 執行個體(例如 H100、H200 或 L40S),依小時或秒計費,儲存與網路另外計費。
以折扣價出售的閒置容量,供應商可在短時間內收回。如果您的工作會頻繁建立檢查點且能重新啟動,這是非常划算的選擇。
典型配置: 主要雲端與 GPU 專業業者提供的折扣執行個體,與隨選或預留容量搭配使用。
承諾在固定期間內使用一定數量的 GPU,以換取較低的每小時費率與保證的使用權。多數團隊在雲端運行穩定的訓練與正式環境推論時,都採用這種方式。
典型配置: 預留 1 至 36 個月、規模從 8 張到數百張 GPU 的區塊,對於仍在建置中的容量,有時起始日期會在數個月之後。
整台 GPU 伺服器專屬於您,沒有虛擬化層,也沒有其他租戶。作業系統、驅動程式與軟體堆疊由您自行選擇。
典型配置: 8-GPU HGX 伺服器(H100、H200、B200 或 B300),或搭載 RTX PRO 6000 或 L40S GPU 的 PCIe 伺服器,按每台伺服器每月租用。
為您保留的完整多節點叢集:GPU 伺服器、高速網路架構、儲存與排程器。為您的工作負載建置或預留,並於整個租期內租賃給您。
典型配置: 32 至數千顆 GPU(HGX B200 或 B300 節點,或 GB200 / GB300 NVL72 機櫃),搭配 InfiniBand 或高速乙太網路,租期 6 個月至 5 年。
只取用一顆 GPU 的一部分,而不是整顆。Multi-Instance GPU (MIG) 可將一顆資料中心 GPU 分割成最多七個彼此隔離的切片,虛擬 GPU 軟體則讓多台虛擬機器共用一顆 GPU。
典型配置: H100、H200 或 B200 上的 MIG 切片,或 RTX PRO 與 L40S GPU 上的 vGPU 設定檔,依小時或月計費。
GPU 伺服器安裝在您的場所或您選擇的主機代管設施,但由金融公司擁有,您按月付款。期滿後可以歸還、升級,或以較低的租金繼續使用。
典型配置: AI 伺服器或工作站以 2 至 5 年租期提供,由我們安裝並支援,如有需要也可代為安排主機代管。
在固定期限內按月付款,期滿後硬體歸您所有。總成本高於一次付清,但能讓現金保持彈性供專案使用。
典型配置: 透過 2 至 5 年的分期付款購入 AI 伺服器或 DGX 等級系統,並由我們提供安裝與支援。
從工作負載出發,而非從 GPU 出發。這些問題通常能將選項縮減至一兩個。
數天或數週:隨選或 Spot。數月:預留容量或裸機。數年:私有叢集、融資租賃或租購。
若 GPU 大部分時間閒置,請按小時付費。一旦每天大部分時間都在忙碌,固定期限的租賃通常每 GPU 小時成本較低。
多節點訓練需要像 InfiniBand 這樣的高速網路架構,且 GPU 需位於同一叢集內。這指向私有叢集或預留區塊,而非分散的執行個體。
若資料必須留在英國、歐盟或您自己的場所內,請先依區域篩選。融資租賃或託管機房可讓硬體保留在您所選擇的地點。
雲端與託管選項已包含平台。裸機與租賃硬體則需要團隊來運維,這部分我們可以提供。
營運預算:雲端、預留或裸機。分攤資本支出:融資租賃。期末取得所有權:租購。
我們掌握的資訊越多,候選清單就越精準。一開始只需要大略的答案即可。
例如 64 × H200、8 × B200 或 4 × RTX PRO 6000。若其他 GPU 也可行,請一併告知。
您需要多久的算力、何時必須就緒,以及是否可能需要延長。
單節點或多節點、InfiniBand 或乙太網路,以及資料集需要多少高速儲存。
資料可以與不可以離開的國家或地區,以及您所需的任何認證(ISO 27001、Cyber Essentials Plus、SOC 2)。
每 GPU 小時或每月的目標價格,以及是否接受預付款或訂金。
無論您要的是純算力、託管平台,或是由我們為您營運叢集。
我們會與您共同確認工作負載、GPU、期限、區域與預算,以及您願意取捨的項目。
我們比較雲端、GPU 專業業者、資料中心與融資夥伴,找出符合需求的容量。
每個選項皆列出 GPU 型號、期限、依供應商所述的計價基礎、地點,以及容量是已在運作還是仍在規劃中。
在您做決定之前,我們會先與供應商確認可用性與價格。不憑價目表臆測任何事。
我們協助您檢查合約,再設定存取、網路、儲存與您的軟體堆疊。
GPU 叢集 · AI 雲平臺 · AI 資料中心 · GPU 伺服器與 AI 工作站 · MLOps 搭建