AI 基础架构的黄金标准
利用 NVIDIA DGX™ H100 拓展创新和优化的前沿领域。DGX H100 是 NVIDIA 传奇的 DGX 系统的最新迭代,也是 NVIDIA DGX SuperPOD™ 的基础,它是由 NVIDIA H100 Tensor Core GPU 的突破创新加速的 AI 动力之源。
DGX H100 是世界上第一个专用 AI 基础架构的第四代产品,是经过全面优化的硬件和软件平台,包括对新系列 NVIDIA AI 软件解决方案的支持、丰富的第三方支持生态系统,以及 NVIDIA 专业服务提供的专家建议。
NVIDIA DGX H100 为 NVIDIA DGX SuperPOD 带来性能的 6 倍提升、2 倍更快的网络和高速可扩展性。新一代架构可用于自然语言处理和深度学习推荐模型等大型工作负载。
DGX H100 可安装在本地进行直接管理,或在 NVIDIA DGX-Ready 数据中心进行托管,并通过 NVIDIA 认证托管服务提供商进行访问。通过 DGX-Ready 生命周期管理,企业可以获得可预测的财务模型,以保持其布局处于领先地位。
8 个 NVIDIA H100 GPU,总 GPU 显存高达 640GB 每个 GPU 配备 18 个 NVIDIA® NVLink®,GPU 之间的双向带宽高达 900GB/s
4 个 NVIDIA NVSWITCHES™ GPU 之间双向带宽为 7.2 TB/s,比上一代提高 1.5 倍
8 个 NVIDIA CONNECTX®-7 和 2 个 NVIDIA BLUEFIELD® DPU 400Gb/s 网络接口 1TB/s 的双向网络带宽峰值
双路 x86 CPU 和 2TB 系统内存 强大的 CPU 适用于密集型 AI 作业
30TB NVME SSD 高速存储以获得出色的性能
先进的 AI 基础架构