面向客户服务的 AI 聊天机器人和虚拟助手

NVIDIA 提供工具，帮助组织利用生成式 AI 构建聊天机器人、AI 虚拟助手和虚拟智能体。为进一步推动战略增长，这些工具还包括参考示例，使他们能利用 RAG 访问庞大的内部和外部数据集，以实现更高效的信息检索。

为生成式 AI 工作负载提供卓越推理性能

NVIDIA NIM^™ 属于 NVIDIA AI Enterprise，是一组易于使用的推理微服务，旨在加速生成式 AI 在企业中的部署。此多功能运行时支持 NVIDIA API 目录中的开放式社区模型和 NVIDIA AI Foundation 模型。NIM 基于用于部署 AI 模型的强大可扩展开源平台 NVIDIA Triton™ Inference Server 而构建，利用 NVIDIA® TensorRT™-LLM 针对 NVIDIA GPU 上的 LLM 推理进行了优化。NIM 旨在以高吞吐量和低延迟促进无缝 AI 推理，同时保持预测的准确性。无论在本地还是云端，您都可以轻松部署 AI 应用。

借助生成式 AI，NVIDIA ACE 让数字人栩栩如生

NVIDIA ACE 基于 NVIDIA AI、图像和仿真技术而构建，从语音和翻译到视觉和智能，再到逼真的动画和行为以及栩栩如生的外观，涵盖数字人各个方面的技术。利用 RAG，您可以向客户传达具体和最新的消息。NVIDIA Tokkio 是一个使用 ACE 构建的参考工作流程，为电信、金融服务、零售等领域带来 AI 驱动的客服功能。

多个 ACE microservices 组成一套 NVIDIA NIM 微服务，经过优化可以在 NVIDIA GDN 上运行—这个全球 GPU 网络，可在任何云或计算机上向 100 个国家提供低延迟数字人工处理。

NVIDIA ACE 现可前往 developer.nvidia.com/ACE 下载。开发者可以将 ACE NIM 微服务直接集成到他们的产品、工具、服务或应用中。 

实时信息检索 

NeMo Retriever 是一组微服务，实现企业数据的检索增强语义搜索，以提高响应准确度。 开发者可以将这些 GPU 加速微服务用于特定任务，包括提取、嵌入和重新排序大量数据，与现有关系数据库交互，以及搜索相关信息以回答业务问题。

整合语音 AI 能力

NVIDIA Riva，属于 NVIDIA AI Enterprise 一部分，是一组 GPU 加速的多语言语音和翻译微服务，用于构建完全可定制的实时会话 AI 管道。Riva 中心包括自动语音识别（ASR），文本转语音（TTS），和神经机器翻译（NMT），可部署在所有云、数据、边缘计算或嵌入式设备上。 借助 Riva，各类组织可以通过 LLM 和 RAG 添加语音和翻译借口，将聊天机器人转为颇具吸引力、表达力强的多语言助手和虚拟形象。

希望为虚拟呼叫中心智能体部署生成式 AI 模型的企业可以使用 NVIDIA API 目录，快速开始利用 RAG 构建聊天机器人。NVIDIA 提供 AI 聊天机器人 AI 工作流和 AI 虚拟助手 NIM Agent Blueprint 参考示例，以简化从试运行到生产部署的流程。

1. 从先进的生成式 AI 模型开始着手：领先的基础模型包括 Meta Llama 3、Google Gemma 7B、Mixtral 8x7B、检索模型和 NVIDIA 的 Nemotron-3 8B 系列，针对单位成本的最佳性能进行了优化。
2. 定制基础模型：使用用于随时随地开发定制生成式 AI 的端到端平台 NVIDIA NeMo™，用专有数据调整和测试模型。
3. 以云优先方式充分利用 NVIDIA AI：NVIDIA DGX™ Cloud 是面向企业开发者的 AI 平台，针对生成式 AI 的需求进行了优化。
4. 部署和扩展：通过 NVIDIA NIM 部署您的应用，无论是在云端、数据中心还是在边缘，都能随时随地运行，NVIDIA NIM 属于 NVIDIA AI Enterprise，是安全的生产级端到端软件平台，包括生成式 AI 参考应用和企业支持。

NVIDIA RAG 聊天机器人 AI 工作流示例简化了企业解决方案的构建，可为各种应用生成精确的响应。通过本示例，您可以使用最新的 GPU 优化 LLM、NeMo Retriever 和 NIM 微服务开发 RAG 应用。

此工作流重点介绍了 NVIDIA 如何与 LangChain 和 LlamaIndex 集成，简化 LLM 应用可扩展、高性能 RAG 管道的开发。它展示了如何使用经过 NVIDIA NIM 增强的 Docker 进行无缝设置，以提高推理性能和灵活性，还展示了轻松部署和 API 集成示例。

NVIDIA AI Blueprint 是一个可定制的工具套件，旨在帮助开发者构建先进的 AI 虚拟助手。它包括 NIM 微服务、参考代码和文档等基本工具，用于构建可以处理个性化、汇总和情感分析等任务的 AI 系统。

AI Blueprint 使用 RAG 和生成式 AI 技术（如 NVIDIA NIM 和 NeMo）提升客户服务水平。它解决了数据源碎片化和数据安全等挑战，将这些数据源整合在一起，提高了联系中心的运营效率。

该蓝图提供先进的 AI 工具，用于安全的数据管理、个性化的多轮对话、情绪分析、摘要生成和灵活的会话处理。