NVIDIA 推出 H200 GPU 为生成式 AI 提供更好的内存

NVIDIA宣布推出一款全新企业级 GPU，具有改进的 AI 计算能力，适用于生成式AI和大型语言模型工作负载。即将推出的 NVIDIA H200 是首款配备 HMB3e 内存的 GPU，与 NVIDIA H100 之前使用的解决方案相比，它速度更快、容量更大。

虽然 H200 本质上与 H100 相同，但除了内存升级之外，HMB3e 内存带来的改进还是相当可观的。

该公司表示，即将推出的 H200 GPU 使用的新内存可提供每秒 4.8 TB 的带宽，总内存容量为 141B。相比之下，NVIDIA H100 GPU 实现了每秒 3.35 TB 的内存带宽和 80GB 容量。