This site requires Javascript in order to view all its content. Please enable Javascript in order to access all the functionality of this web site. Here are the instructions how to enable JavaScript in your web browser.

讲师指导的培训班
高效定制大语言模型 (LLM)

报名 AI 培训班

购买和咨询企业专属培训

企业经常需要执行与语言相关的任务，例如文本分类、内容生成、情感分析，或聊天式的客户支持，并寻求以最具性价比的方式来实现这一目标。大语言模型 (LLM) 可以自动执行这些任务，高效的 LLM 定制技术可以增强模型的功能，并缩小企业应用所需模型的规模。

在本课程中，您不仅会学习如何对 LLM 进行提示词工程，还会学到各种技巧，针对您的特定场景高效的定制预训练 LLM 模型，而无需进行计算密集且昂贵的模型预训练或微调模型权重的过程。通过使用 NVIDIA NeMo™ 开源框架，您将学习各种高效参数微调方法，从而定制适合您企业的 LLM。

学习目标

参加本次培训，您将学到：

在有限的数据上应用各种微调技术，为特定的应用完成模型定制任务
使用 LLM 创建合成数据，用来微调较小的 LLM 以执行所需的任务
利用 NeMo 框架轻松自定义 GPT、LLaMA-2 和 Falcon 等模型

下载课程大纲文档 (PDF 901 KB)

课程大纲

议题	说明
课程介绍 (15 分钟)	讲师介绍登录 DLI 学习平台
参数高效微调 (PEFT) 和监督式微调 (SFT) (115 分钟)	探索语言模型的低秩适配 (LoRA) 和 p-tuning 技巧，以用有限的数据根据场景定制 LLM：了解 LoRA、p-tuning 这类 PEFT 技巧在高效微调 LLM 中的作用学习如何获取和准备用于 PEFT 的数据对多种 GPT LLM 应用 LoRA 和 p-tuning，并量化的分析微调模型的表现
休息 (60 分钟)
减小模型尺寸的 PEFT (120 分钟)	学习一组利用更大的微调语言模型生成合成数据的技巧，这些数据可以用来创建能执行相同任务的较小 PEFT 模型：为常见的合成数据生成任务设计专门的 LLM 功能使用从较大模型响应中生成的合成数据执行 LoRA，以微调出一个能执行相同任务的较小模型建立一个良性循环，利用 LLMs 创建合成数据来微调能够创建更多合成数据的较小 LLM
休息 (15 分钟)
使用定制模型 (115 分钟)	练习编写应用代码，将多个微调模型结合在一起：为情感分析、抽取式问答、文本生成和人格生成，创建多个微调的小型 LLM 学习创建能以您自己的写作风格进行表达的 LLM 将多个小型微调的 LLM 组合成有意义的应用程序代码
评估测试和总结 (45 分钟)	回顾所学要点并解答问题完成评估并获得证书：运用课上所学技术，使用多个小型微调 LLM 来实现一个详细分析客户电子邮件并回复的应用填写培训调查表
下一步	学习更多 DLI 相关课程：构建基于大语言模型 (LLM) 的应用构建基于扩散模型的生成式 AI 应用模型并行 —— 构建和部署大型神经网络

培训详情

课程时长：8 小时，课后 6 个月内可以继续访问课件（实验资源用量有限额）

课程模式：讲师实时授课，每位学员可使用完全配置的云端实验环境进行练习

价格：

AI 培训班：每人 3500 元（提供发票）
企业专属培训：联系我们，微信添加 NVIDIALearn

预备知识：

熟悉 Python 编程经验
熟悉基本的深度学习技能，如模型架构、训练和推理；推荐学习《深度学习新手入门》或《深度学习基础——理论与实践入门》
熟悉基于 Python 的现代深度学习框架，特别是 PyTorch
熟悉开箱即用的预训练 LLM；推荐学习《构建基于大语言模型 (LLM) 的应用》
熟悉高级提示词工程

使用的工具、库和框架：Python, NVIDIA NeMo Service, GPT, LLaMA-2

学员评测方式：根据编码技能进行评估，评价学员高效定制和构建预训练 LLM 模型的能力

培训证书：成功完成本课程和测试后，学员将获得 NVIDIA DLI 培训证书，证明在相关领域的能力，为职业发展提供证明

学习此课程的硬件要求：您需要一台笔记本电脑或台式机，且能够运行最新版 Chrome 或 Firefox 浏览器。我们为您提供在云端实验环境的专用访问权限

课程语言：中文

Upcoming Public Workshops

If your organization is interested in boosting and developing key skills in AI, accelerated data science, or accelerated computing, you can request instructor-led training from the NVIDIA DLI.

Request a Workshop

学习更多 DLI 课程

通用基础

构建基于大语言模型(LLM) 的应用

8 学时 | 中文 | 收费培训 | Python, PyTorch, HuggingFace, Transformers, LangChain, LlamaIndex

有培训证书

查看课程大纲

通用基础

构建基于扩散模型的生成式 AI 应用

8 学时 | 中文 | 收费培训 | PyTorch, CLIP

有培训证书

查看课程大纲

通用基础

模型并行 —— 构建和部署大型神经网络

8 学时 | 中文 | 收费培训 | PyTorch, Megatron-LM, DeepSpeed, Slurm, Triton Inference Server, NVIDIA Nsight™

有培训证书

查看课程大纲

如果您的企业希望获取或提升在 AI、加速数据科学或加速计算方面的核心技能，NVIDIA DLI 有讲师指导的培训将是您的信心之选。

咨询企业专属培训

遇到问题？

联系我们

对 NVIDIA 培训有任何问题，请微信联系 DLI 小助手 (微信号 NVIDIALearn），或填写如下表单。

Section

Section

名字

姓氏

工作电子邮件地址

组织/大学名称

电话号码

行业

职务

地点

城市

请求联系的理由

State

nvid hidden field

ncid hidden field

NVIDIA 隐私政策

本人知悉且同意 NVIDIA <span class="corporation-txt hidden">Corporation </span>基于调研、活动组织的目的对本人的上述信息的收集和处理，并已经阅读并同意 <a href="https://www.nvidia.cn/about-nvidia/privacy-policy/?deeplink=visiting-our-website" target="_blank">NVIDIA 隐私政策</a>。

本人知悉且同意，因调研、活动组织的必须，以及相对应的 NVIDIA 内部管理和系统操作的需要，上述信息会被传输到位于美国的 NVIDIA Corporation 按照符合 <a href="https://www.nvidia.cn/about-nvidia/privacy-policy/?deeplink=visiting-our-website" target="_blank">NVIDIA 隐私政策</a>的方式进行存储，您可以通过发送邮件至 <a href="mailto:privacy@nvidia.com">privacy@nvidia.com</a> 进行联系以解决相关问题，实现可适用的数据保护法所规定的权利。

查看 AI 培训班常见问题解答

咨询 NVIDIA DLI 培训

关于技术问题，请访问 NVIDIA 开发者论坛

讲师指导的培训班 高效定制大语言模型 (LLM)

学习目标

课程大纲

培训详情

Upcoming Public Workshops

学习更多 DLI 课程

构建基于大语言模型(LLM) 的应用

构建基于扩散模型的生成式 AI 应用

模型并行 —— 构建和部署大型神经网络

遇到问题？

联系我们

NVIDIA DLI 培训证书

讲师指导的培训班
高效定制大语言模型 (LLM)