NVIDIA 多实例 GPU
单个 GPU 中包含七个独立实例。
多实例 GPU (MIG) 能够提升 NVIDIA Blackwell 和 Hopper™ 系列 GPU 的性能和价值。MIG 可将 GPU 划分为多达七个实例，其中每个实例均完全独立，并具有各自的高带宽显存、缓存和计算核心。如此一来，管理员便能支持各种规模的工作负载，确保服务质量 (QoS) 稳定可靠，并让每位用户都能享用加速计算资源。
优势概览
技术原理
若不使用 MIG，则同一 GPU 上运行的不同作业（例如不同的 AI 推理请求）会争用相同的资源。显存带宽更大的作业会占用其他作业的资源，导致多项作业无法达成延迟目标。借助 MIG，作业可同时在不同的实例上运行，每个实例都有专用的计算、显存和显存带宽资源，从而实现可预测的性能，同时符合服务质量 (QoS) 并尽可能提升 GPU 利用率。
Blackwell GPU 中的 MIG
Blackwell 和 Hopper GPU 通过多达 7 个 GPU 实例在虚拟化环境中支持多租户、多用户配置，以便协助实现 MIG，进而在硬件和服务器虚拟化管理程序级别利用机密计算安全地隔离每个实例。每个 MIG 实例都有专用的视频解码器，这些解码器能够在共享基础架构上提供安全、高吞吐量的智能视频分析 (IVA)。借助并发 MIG 分析，管理员可以监控规模适当的 GPU 加速，并为多个用户分配资源。
如果工作负载较小，研究人员可以不必租用整个云实例，而是利用 MIG 安全地隔离 GPU 的一部分，同时保证其数据在静态、传输和使用时安全无虞。这可以使云服务提供商更灵活地进行定价，并抓住小型客户带来的商机。
观看 MIG 使用演示
为 IT 和开发运营而打造
MIG 助力 IT 和开发运营团队进行精细的 GPU 配置。每个 MIG 实例对于应用程序都像独立 GPU 一样运行，因此 CUDA® 平台没有任何变化。MIG 可用于所有主流企业计算环境。
详细了解 MIG
