讲师指导的培训班
构建基于 Transformer 的自然语言处理应用

在过去的十年中,自然语言处理 (NLP) 的应用呈爆炸式增长。随着人工智能助手的大量出现,以及企业将更多的人机交互体验融入到业务中,理解如何使用 NLP 技术来操作、分析和生成基于文本的数据是至关重要的。现代技术可以像人类一样,捕捉语言的细微差别、使用情境和复杂程度。如果设计正确得当,开发人员可以使用这些技术来构建强大的 NLP 应用,在聊天机器人、AI 语音代理等众多程序中实现自然顺畅的人机交互。

深度学习模型在 NLP 中得到了广泛的应用,因为它们能够对众多语境和语言进行准确的概括。基于Transformer的模型,比如BERT (Bidirectional Encoder Representations from Transformers),在问答系统的SQuAD指标、实体识别、意图识别、情感分析等方面实现了与人类基准相媲美的准确率,推动了NLP产生革命性的进展。

在此课程中,您将学习如何使用基于 Transformer 的自然语言处理模型完成文本分类任务(如文档归类)和命名实体识别 (NER) 任务,以及如何分析各种模型特性、限制和特点,从而基于衡量标准、应用领域和可用资源来为特定用例选定最适合的模型。

 

学习目标



完成本课程后,您将能够了解:
  • 了解 NLP 文本嵌入任务的快速演进,如 Word2Vec、基于递归神经网络 (RNN) 的嵌入和 Transformer 。
  • 在不使用 RNN 的情况下,如何利用 Transformer 架构特点(尤其是自注意力机制)创建语言模型。
  • 使用自监督机制优化 BERT、Megatron 和其他变体中的 Transformer 架构,以取得更好的 NLP 结果。
  • 利用经过预训练的现代 NLP 模型来完成多个任务,如文本分类、NER 和问答系统。
  • 管理推理挑战,以及为实时应用部署经过优化的模型。

下载课程大纲 (PDF 71.9 KB)

课程大纲

介绍
(15 分钟)
  • 讲师介绍
  • 创建账户,登录课程
Transformer 入门
(120 分钟)
    学习Transformer架构的工作原理
    • 在PyTorch中构建Transformer架构
    • 计算自注意力矩阵
    • 使用Transformer预训练模型将英语翻译成德语
午休 (60 分钟)
自监督、BERT及更多
(120 分钟)
    学习如何使用 NVIDIA NeMo将基于Transformer的自监督模型应用于具体的NLP任务中
    • 构建文本分类项目,对摘要内容进行分类
    • 构建命名实体识别 (NER) 项目,以识别文本中的疾病名称
    • 使用特定领域的模型提高项目的精准度
休息 (15 分钟)
NLP 推理和部署
(120 分钟)
  • 学习如何在NVIDIA Triton上部署NLP项目以进行实时推理
  • 为部署准备模型
  • 使用 NVIDIA® TensorRT优化模型
  • 部署模型和测试
总结
(15 分钟)
  • 回顾所学关键内容
  • 完成测试并获取证书
  • 填写调查表
  • 了解如何设置您自有的深度学习环境,以及讨论其他资源和培训
 

培训详情

课程时长:8 小时,课后 6 个月内可以继续访问课件(实验资源用量有限额)

价格

  • AI 培训班每人 3500 元(提供发票)
  • 企业专属培训:联系我们,微信添加 NVIDIALearn 

预备知识:

  • 具备 Python 编码和使用库函数与参数的经验
  • 具备对深度学习框架(如 TensorFlow、PyTorch 或 Keras)的基本理解
  • 具备对神经网络的基本了解

满足如上知识要求,推荐学习这些内容: Python Tutorial, Overview of Deep Learning Frameworks, PyTorch Tutorial, Deep Learning in a Nutshell, 深度学习揭秘(中文字幕)

工具、库和框架: PyTorch, pandas, NVIDIA NeMo™, NVIDIA Triton™推理服务器

课程测评问题类型

  • 编程技能评测,评估学员构建 NLP 任务的能力
  • 多项选择题,评估学员对 NLP 概念的理解程度

培训证书:成功完成本课程和测试后,您将获得 NVIDIA DLI 证书,以证明您在这一主题领域的能力,助力您的职业发展。

学习此课程的硬件要求: 您需要一台笔记本电脑或台式机,且能够运行最新版 Chrome 或 Firefox 浏览器。我们为您提供在云端完全配置的 GPU 加速工作站的专用访问权限。

课程语言: 中文

学习更多 DLI 课程

深度学习基础——理论与实践入门

数据并行——用多 GPU 训练神经网络

模型并行 —— 构建和部署大型神经网络

如果您的企业希望获取或提升在 AI、加速数据科学或加速计算方面的核心技能,NVIDIA DLI 有讲师指导的培训将是您的信心之选。

遇到问题 ?