中文闲聊的GPT2模型(GPT2-chitchat)代码视频详解【NLP教程】

视频讲解

视频链接 https://www.bilibili.com/video/BV1La4y1Y7ug
近2小时视频，免费教程

章节介绍

1.预处理与GPT2模型构建
2.模型训练与损失计算
3.利用模型生成对话结果
4.MMI模型训练与生成

知识点

GPT2、聊天机器人、MMI模型、预训练/微调

说明

该项目拷贝于 https://github.com/yangjianxin1/GPT2-chitchat
代码版权归原作者所有。
稍微修改了一点点，用于学习和讲解，并制作视频说明。https://github.com/JizhiXiang/video-for-GPT2-chitchat

运行环境
python3.6
transformers == 2.1.1
pytorch == 1.3.1
tensorboard == 1.14.0

Reference

• The Curious Case of Neural Text Degeneration
• transformers
• GPT2-Chinese
• DialoGPT:Large-Scale Generative Pre-training for Conversational Response Generation
• GPT2-chitchat