NVIDIA英偉達H20人工智慧伺服器專爲 AI 和 HPC 而打造。

AI、複雜模擬和海量資料集需要多個具有極快互連速度的 GPU 和完全加速的軟體堆棧。NVIDIA HGX？ AI 超級計算平臺整合了 NVIDIA GPU、 NVLink？、NVIDIA 網路以及全面優化的 AI 和高性能計算 (HPC) 軟體堆棧的全部功能，可提供高的應用性能並加快獲得見解的速度。

 

NVIDIA英偉達H20人工智慧伺服器GPU算力租賃配置參數：

框架	6U 機架式伺服器
處理器	2 顆至強 Platinum 8480 （可擴展AMD第四代EYPC處理器）
記憶體	DDR5 4800 64G記憶體*32
GPU	NVIDIA HGX H20 GPU 模組
系統硬碟	960G SATA SSD *2
資料硬碟	3.84T NVme U.2 SSD*4 9560 8i raid卡*1
PICE 插槽	最大支持12個PCIe 5.0插槽； 支持Bluefield-3、CX7以及多種類型智 卡；

 

端到端加速計算平臺

NVIDIA HGX H20將 NVIDIA Blackwell Tensor Core GPU 與高速互連技術相集成，推動資料中心邁向加速計算和生成式 AI 的新時代。HGX 系統是加速縱向擴展平臺，專爲要求嚴苛的生成式 AI、資料分析和 HPC 工作負載而設計。

NVIDIA HGX H20 將 H20 Tensor Core GPU 與高速互連技術相結合，爲每個資料中心提供出色的性能、可擴展性和安全性。它配置了多達 8 個 GPU，爲 AI 和 HPC 領域打造出性能強勁的加速垂直擴展式伺服器平臺。HGX H20提供網路選項，憑藉 NVIDIA Quantum-2 InfiniBand 和 Spectrum？-X 乙太網實現出色的 AI 性能

HGX H20還集成了 NVIDIA數據處理器 (DPU)，有助於在超大規模 AI 雲中實現雲網路、可組合存儲、零信任安全性和 GPU 計算彈性。

 

深度學習推理：性能和多功能性，適用於新一代大型語言模型的實時推理。

深度學習訓練：性能和可擴展性；

訓練性能進一步提升第二代 Transformer 引擎採用 8 位浮點 (FP8) 和新精度，可使 GPT-MoE-1.8T 等大型語言模型的訓練速度顯著提升 3 倍。這一代 NVLink 可提供GPU 間直接互連、InfiniBand 網路和 NVIDIA Magnum IO？ 軟體。這些因素將共同確保企業和廣泛的 GPU 計算集羣具備的可擴展性。

 

NVIDIA英偉達H20人工智慧伺服器藉助 NVIDIA 網路來加速 HGX；

資料中心是新的計算單元，而網路在大幅提升整個資料中心的應用性能方面發揮着不可或缺的作用。與 NVIDIA Quantum InfiniBand 搭配使用時，HGX 可提供性能和效率，確保計算資源得到充分利用。