如何开始使用 NVIDIA NeMo

使用合适的工具和技术，将生成式 AI 模型从开发阶段向生产阶段推进。

从 AI 模型到生成式 AI 洞察之旅

体验企业就绪型端到端生成式 AI 平台。

1

试用经过 NVIDIA 优化的基础模型。

了解详情

2

使用 NVIDIA NeMo™ 微服务自定义模型。

了解详情

3

借助 NVIDIA AI Enterprise 在生产环境中运行。

了解详情

3

访问 NVIDIA 提供的基础设施及指导性实践实验室。

了解详情

1. 试用 AI 模型

体验经过优化的生产级生成式 AI 模型

利用 NVIDIA 构建的领先开源生成式 AI 模型开始原型设计，这些模型已进行调优，可帮助提高性能和效率。NVIDIA API 目录中的 AI 模型可以使用 NVIDIA NIM™ 微服务进行部署，也可以使用 NeMo 进行定制。

立即体验

2. 获取 NeMo 工具和微服务

使用 NeMo 工具与微服务进行定制

NeMo Curator

GPU 加速的数据管护

使用此 GPU 加速的数据管护微服务准备预训练生成式 AI 模型所需的大规模、高质量数据集。

申请参与抢先体验

NeMo Customizer

简化模型对齐

借助此高性能、可扩展的微服务，为特定领域的用例提供行业标准的 API，用于大语言模型 (LLM) 的微调和校准工作。

申请参与抢先体验

NeMo Evaluator

模型评估微服务

通过 API，在不同的学术和自定义基准测试中高效且可靠地评估定制大语言模型 (LLMs) 和检索增强生成 (RAG) 技术。

申请参与抢先体验

NeMo Retriever

检索增强生成

现在可以获取到出色的检索模型，或预览即将发布的检索模型以进行嵌入、重新排序和提取，从而迅速从海量企业数据中获得准确见解。

立即体验

NeMo Guardrails

保障 AI 应用的安全

微服务用于协调多个大语言模型（LLM）的防护机制，确保 LLM 交互的安全性、可靠性、准确性和主题相关性。

申请参与抢先体验

NeMo 框架

构建自定义模型

开始开发生成式 AI，该模型具有可扩展数据处理、加速模型训练技术并具有灵活的部署选项以及优化的推理能力。

获取容器

3. 免费获取实战体验。

使用 NVIDIA LaunchPad 进行测试、原型设计和部署

使用 NVIDIA LaunchPad，可以通过互联网浏览器免费访问企业 NVIDIA 硬件和软件。用户可以通过讲师指导的实战实验或以开发沙盒的形式体验 NeMo 的强大功能。进行测试、原型设计并部署您自己的应用和模型。

访问实战实验

3. 在生产环境中运行

利用 NVIDIA AI Enterprise 在生产环境中部署

NVIDIA AI Enterprise 是一个端到端的软件平台，它使每个企业都能触手可及地利用生成式 AI，为生成式 AI 基础模型提供最快、最高效的运行时环境。该平台包含 NeMo 和 NVIDIA NIM，能够简化模型部署，并提供出色的安全性、稳定性、可管理性和支持服务。

立即申请参与 90 天免费试用，获取生成式 AI 解决方案并获取企业级支持。

申请 90 天试用许可

资源

文档

在 NeMo 文档中心，您可以找到一系列文档、指南、手册、操作说明和其他信息资源。

浏览文档

会议

观看 NVIDIA 点播会议，其中包含 GTC 和世界各地其他技术会议中的有关 NeMo 的免费内容。

立即观看

不可错过的精彩内容

了解 NeMo 如何帮助您构建、定制和部署大语言模型。

浏览技术博客

培训

通过实战学习了解如何构建端到端项目，并获得最新的生成式 AI 技术认证。

开始培训

常见问题解答

NVIDIA NeMo 是一款端到端云原生框架以及一整套微服务，可以让用户不受位置限制，灵活地构建、定制和部署生成式 AI 模型。它包含了大规模数据管护、利用高级定制技术加速训练、设置安全边界以及优化推理，为企业提供一种简单、经济高效且快速的方式来采用生成式人工智能。

NeMo Curator 是一项可扩展的数据管护微服务，可帮助开发者整理 LLM 预训练所需的包含万亿个 Token 的多语言数据集。它由一组 API 形式的 Python 模组组成，这些模组利用 Dask、cuDF、cuGraph 和 Pytorch 将数据下载、文本提取、清理、筛选、完全匹配/模糊匹配去重和文本分类等数据管护任务扩展到数千个计算核心。

NeMo Guardrails 是一项微服务，可确保大语言模型在智能应用中的准确性和安全性。它能为监管 LLM 系统的企业组织提供保障。

使用 NeMo Guardrails，开发者可以设置三种边界：

主题护栏可防止应用偏离目标领域。例如，此设置会阻止客户服务助手回答有关天气的问题。
安全护栏可确保应用以准确且适当的信息做出回复。此设置会过滤掉不需要的语言，并强制要求只能引用可信来源的信息。
安全护栏可确保应用仅连接到已知安全的外部第三方应用。

NeMo Retriever 是一组使用 NVIDIA NIM 构建的生成式 AI 微服务，企业可以利用它将自定义模型无缝连接到各种业务数据，以提供高度准确的回复。NeMo Retriever 可提供出色的信息检索功能，具有更低延迟、更高吞吐量和更强的数据隐私保护，让企业能够更好地利用自身数据并生成实时业务见解。NeMo Retriever 可通过企业级检索增强生成 (RAG)功能增强 AI 应用，该功能可以连接到位于任何位置的业务数据。

NVIDIA NIM 是 NVIDIA AI Enterprise 的一部分，是一个易于使用的运行环境，专为在企业内加速部署生成式 AI 而设计。这项功能齐全的微服务支持各种 AI 模型，包括开源社区模型、NVIDIA AI Foundation 模型以及自定义 AI 模型。它以推理引擎为稳健基础，旨在加速大规模无缝 AI 推理，确保可跨云端、数据中心和工作站部署 AI 应用。

NeMo Evaluator 是一个微服务，专为快速可靠地评估自定义 LLM 和 RAG 而设计。它涵盖各种采用预定义指标的基准测试，包括人工评估和 LLM (LMMs-as-a-judge) 评估技术。通过 API 调用，用户可在首选的云平台或数据中心的 Kubernetes 集群上同时部署多个评估作业，从而高效地汇总结果。

检索增强生成这项技术可将 LLM 连接到公司知识库，让 LLM 根据最新信息生成回复的技术。NeMo 可以搭配 Milvus、Llama Index 和 LangChain 等多种第三方工具和社区工具配合使用，从向量数据库中提取相关信息片段并将其提供给 LLM，从而以自然语言生成回复。浏览采用 RAG 工作流的 AI 聊天机器人页面，开始构建能够准确回答您的企业数据相关问题的生产级 AI 聊天机器人。

NVIDIA 提供了 AI 工作流，即封装的云原生参考示例，用于说明如何利用 NVIDIA AI 框架构建 AI 解决方案。借助预训练模型、训练和推理工作流、Jupyter Notebook 以及 Helm 图表，AI 工作流可以帮助加快 AI 解决方案的交付。

使用以下端到端工作流，您可以快速构建生成式 AI 解决方案：

NVIDIA AI Enterprise 是一个端到端云原生软件平台，可加速数据科学工作流并简化生产级 AI 应用 (包括生成式 AI、计算机视觉、语音 AI 等) 的开发和部署。此平台不仅为 AI 从业者提供了业界领先的开发工具、框架、预训练模型和微服务，还配备了可靠的管理功能，以满足 IT 专业人员对性能、API 稳定性和安全性的需求。

及时了解 NVIDIA 发布的生成式 AI 最新资讯。

获取生成式 AI 新闻及更多内容

将 NVIIDA 开发者更新、公告等信息直接发送至您的邮箱。

Section

Section

名字

姓氏

工作电子邮件地址

组织/大学名称

您正在注册接收面向开发人员的新闻和公告。您是否也希望为企业利益创建相同的内容？

请向我发送 NVIDIA 的企业最新动态、公告及更多内容。我可以随时取消订阅。

本人知悉且同意 NVIDIA Corporation 基于调研、活动组织的目的对本人的上述信息的收集和处理，并已经阅读并同意 NVIDIA 隐私政策。

本人知悉且同意，因调研、活动组织的必须，以及相对应的 NVIDIA 内部管理和系统操作的需要，上述信息会被传输到位于美国的 NVIDIA Corporation 按照符合 NVIDIA 隐私政策的方式进行存储，您可以通过发送邮件至 privacy@nvidia.com 进行联系以解决相关问题，实现可适用的数据保护法所规定的权利。

如何开始使用 NVIDIA NeMo

从 AI 模型到生成式 AI 洞察之旅

1

2

3

3

1. 试用 AI 模型

体验经过优化的生产级生成式 AI 模型

2. 获取 NeMo 工具和微服务

使用 NeMo 工具与微服务进行定制

GPU 加速的数据管护

简化模型对齐

模型评估微服务

检索增强生成

保障 AI 应用的安全

构建自定义模型

3. 免费获取实战体验。

使用 NVIDIA LaunchPad 进行测试、原型设计和部署

3. 在生产环境中运行

利用 NVIDIA AI Enterprise 在生产环境中部署

资源

文档

会议

不可错过的精彩内容

培训

常见问题解答

什么是 NVIDIA NeMo？

NeMo 的价格是多少？

可以使用 NeMo 定制哪些 AI 模型？

客户如何获取 NeMo 以及相应的 NVIDIA 企业级标准支持？

有哪些面向 NeMo 的企业服务？

什么是 NeMo Curator？

什么是 NeMo Guardrails？

什么是 NeMo Retriever？

什么是 NVIDIA NIM？

什么是 NeMo Evaluator？

什么是 NeMo Customizer？

NeMo 是否支持检索增强生成 (RAG)？

如何快速上手？

什么是 NVIDIA AI Enterprise？

什么是 NVIDIA API 目录？

获取生成式 AI 新闻及更多内容