李宏毅深度学习教程LeeDL-Tutorial（苹果书）

Name: leedl-tutorial
Author: datawhalechina

李宏毅老师是台湾大学的教授，其《机器学习》（2021年春）是深度学习领域经典的中文视频之一。李老师幽默风趣的授课风格深受大家喜爱，让晦涩难懂的深度学习理论变得轻松易懂，他会通过很多动漫相关的有趣例子来讲解深度学习理论。李老师的课程内容很全面，覆盖了到深度学习必须掌握的常见理论，能让学生对于深度学习的绝大多数领域都有一定了解，从而可以进一步选择想要深入的方向进行学习，培养深度学习的直觉，对于想入门深度学习又想看中文讲解的同学是非常推荐的。

本教程主要内容源于《机器学习》（2021年春），并在其基础上进行了一定的原创。比如，为了尽可能地降低阅读门槛，笔者对这门公开课的精华内容进行选取并优化，对所涉及的公式都给出详细的推导过程，对较难理解的知识点进行了重点讲解和强化，以方便读者较为轻松地入门。此外，为了丰富内容，笔者在教程中选取了《机器学习》（2017年春）的部分内容，并补充了不少除这门公开课之外的深度学习相关知识。

ℹ️ 李宏毅老师推荐：

贡献者

Qi Wang

上海交通大学博士生
中国科学院大学硕士

Yiyuan Yang

牛津大学博士生
清华大学硕士

John Jim

北京大学硕士

纸质版

推荐购买链接：京东 | 当当

推荐京东扫码购买

当当扫码购买

豆瓣评分：https://book.douban.com/subject/36997460/

[!IMPORTANT] 勘误修订表：https://datawhalechina.github.io/leedl-tutorial/#/errata

纸质版和PDF版的区别

PDF版本是全书初稿，人民邮电出版社的编辑老师们对初稿进行了反复修缮，最终诞生了纸质书籍，在此向人民邮电出版社的编辑老师的认真严谨表示衷心的感谢！（附：校对样稿）

内容介绍

引言 @王琦
深度学习 @王琦
- [x] 局部最小值与鞍点
- [x] 训练技巧
- [x] 自适应学习率
- [x] 分类问题损失函数
- [x] 归一化
卷积神经网络和自注意力机制 @王琦
[x] 卷积神经网络
[x] 自注意力机制
循环神经网络 @王琦
Transformer @王琦
[x] Transformer
生成模型 @杨毅远
- [x] 生成对抗网络基础
- [x] 生成对抗网络理论与 Wasserstein 生成对抗网络
- [x] 生成对抗网络的评估与有条件的生成对抗网络
- [x] 循环生成对抗网络
自监督学习 @王琦
[x] 芝麻街的模型
[x] BERT
[x] GPT-3
自动编码器概念及其应用 @江季
扩散模型@王琦
对抗攻击 @杨毅远
- [x] 对抗攻击基本概念
- [x] 白盒攻击vs黑盒攻击
- [x] 被动防守vs主动防守
可解释人工智能 @杨毅远
- [x] 可解释人工智能概念与案例
- [x] 可解释人工智能中的局部可解释性
- [x] 可解释人工智能中的全局可解释性
迁移学习 @王琦
[x] 领域自适应
[x] 领域对抗训练
深度强化学习 @王琦
终身学习 @江季
[x] 灾难性遗忘
[x] 缓解灾难性遗忘
网络压缩 @王琦
[x] 剪枝与彩票假设
[x] 知识蒸馏
元学习 @杨毅远
[x] 元学习的概念
[x] 元学习的实例算法
[x] 元学习的应用
ChatGPT @杨毅远
[x] 对于ChatGPT的误解
[x] ChatGPT背后的关键技术——预训练
[x] ChatGPT带来的研究问题

配套代码

点击或者网页点击Homework文件夹进入配套代码

扩展资源

对强化学习玩我的世界（Minecraft）游戏感兴趣的读者，可阅读 LS-Imagine
对强化学习感兴趣的读者，可阅读蘑菇书EasyRL
对视觉强化学习感兴趣的读者，可阅读 Awesome Visual RL

引用信息

王琦，杨毅远，江季，深度学习详解，人民邮电出版社，https://github.com/datawhalechina/leedl-tutorial, 2024.
Qi Wang, Yiyuan Yang, Ji Jiang，LeeDL Tutorial，Posts & Telecom Press，https://github.com/datawhalechina/leedl-tutorial, 2024.

@book{wang2024leedltutorial,
title = {深度学习详解},
publisher = {人民邮电出版社},
year = {2024},
author = {王琦，杨毅远，江季},
address = {北京},
isbn = {9787115642110},
url = {https://github.com/datawhalechina/leedl-tutorial}
}

@book{wang2024leedltutorialen,
title = {LeeDL Tutorial},
publisher = {Posts & Telecom Press},
year = {2024},
author = {Qi Wang，Yiyuan Yang，Ji Jiang},
address = {Beijing},
isbn = {9787115642110},
url = {https://github.com/datawhalechina/leedl-tutorial}
}

若该教程对您有所帮助，可以在页面右上角点个Star :star: 支持一下，谢谢 :blush:！

如果您需要转载该教程的内容，请注明出处：https://github.com/datawhalechina/leedl-tutorial。

致谢

特别感谢 @Sm1les、@LSGOMYP、FuWeiru 对本项目的帮助与支持。

另外，十分感谢大家对于LeeDL-Tutorial的关注。 Stargazers repo roster for @datawhalechina/leedl-tutorial Forkers repo roster for @datawhalechina/leedl-tutorial

关注我们

扫描下方二维码关注公众号：Datawhale，回复关键词“李宏毅深度学习”，即可加入“LeeDL-Tutorial读者交流群”

LICENSE

本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。

leedl-tutorial

为什么值得看

Star 趋势

同类项目

项目文档