【深度学习】【NLP】NLP课件整理 第六章:Transformer架构,编码器,解码器,多头注意力机制,掩码张量,全部代码实现及分析
·
- Transformer的诞生
- Transformer的优势
- Transformer的市场
- 了解Transformer模型的作用.
- 了解Transformer总体架构图中各个组成部分的名称.
- 了解文本嵌入层和位置编码的作用.
- 掌握文本嵌入层和位置编码的实现过程.
- 了解编码器中各个组成部分的作用.
- 掌握编码器中各个组成部分的实现过程.
- 了解解码器中各个组成部分的作用.
- 掌握解码器中各个组成部分的实现过程.
- 了解线性层和softmax的作用.
- 掌握线性层和softmax的实现过程.
- 掌握编码器-解码器结构的实现过程.
- 掌握Transformer模型的构建过程.
- 了解Transformer模型基本测试的copy任务.
- 掌握实现copy任务的四步曲.
- 了解有关语言模型的知识.
- 掌握使用Transformer构建语言模型的实现过程.
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐


所有评论(0)