英偉達推出 NVHBM 高帶寬内存技術，與 AWS 合作提升 AI 基礎設施性能

Techub News 消息，英偉達今日擴展其 NVLink Fusion 平台，推出下一代高帶寬内存技術 NVHBM。該技術將内存控制器集成至 HBM 基礎裸片中，相比標準 HBM4E，可提供高達 30% 的内存帶寬提升、降低 15% 的 HBM 功耗，並為 XPU 計算裸片釋放最多 25% 的面積。 亞馬遜旗下 Annapurna Labs 將成為首個採用 NVHBM 的合作夥伴，作為其與英偉達在 NVLink Fusion 方面更廣泛合作的一部分。雙方將基於該技術與 NVLink 縱向擴展架構，共同提升 AI 工作負載的性能與效率。 NVHBM 將作為標準實現方案，由多家内存供應商提供驗證，旨在幫助超大規模雲廠商和 AI 原生公司以更低風險、更快速度部署半定制 AI 基礎設施。 （NVIDIA Blog）

内容來源：TECHUB NEWS