查找合适的许可证,在任何平台上为任何应用部署、运行 AI 并使其规模化。
GitHub适用于希望获取 Triton 推理服务器开源代码进行开发的个人。 |
NVIDIA NGC适用于希望获取免费 Triton 推理服务器容器进行开发的个人。 |
NVIDIA AI Enterprise适用于希望购买 Triton 用于生产部署的企业。 |
|
---|---|---|---|
特征 |
|||
NVIDIA Triton™ 推理服务器 | |||
可自定义构建(Windows、NVIDIA® Jetson™),PyTriton | |||
可预构建 Docker 容器(版本依赖:CUDA®、框架) | |||
Triton 管理服务(面向大规模部署进行模型编排) | |||
适合常见 AI 用例的 AI 工作流程和参考架构 | |||
工作负载和基础架构管理功能 | |||
企业标准支持服务,包括:
|
|||
在 NVIDIA LaunchPad 实验室上手实践 | |
||
及时了解 NVIDIA 最新发布的 AI 推理资讯。