深度卷积网络：原理与实践课件.pptx

1、深度卷积网络：原理与实践演讲人2025-11-1101PART ONE为何写作本书为何写作本书本书读者对象02资源和勘误03本书的特点0102PART ONE引子神之一手引子神之一手03PART ONE1 走进深度学习的世界1 走进深度学习的世界1.1 从人工智能到深度学习1.3 深度神经网络的应用大观1.5 深度神经网络的基本特点1.2 深度神经网络的威力：以AlphaGo为例1.4 亲自体验深度神经网络1.6 人工智能与神经网络的历史1 走进深度学习的世界1.2 深度神经网络的威力：以AlphaGo为例1.2.1 策略网络简述1.2.2 泛化：看棋谱就能学会下围棋1.2.3 拟合与过拟合1

2、.2.4 深度神经网络的速度优势1.3 深度神经网络的应用大观1 走进深度学习的世界1.3.2 用深度神经网络理解图像1.3.4 自动发现规律：从数据A到答案B1.3.6 从分而治之，到端对端学习1.3.1 图像分类问题的难度所在1.3.3 AlphaGo中的深度神经网络1.3.5 深度神经网络的更多应用1.4 亲自体验深度神经网络1 走进深度学习的世界1.4.2 MNIST数字识别实例：LeNet-51.4.4 简笔画：Sketch-RNN1.4.1 TensorFlow游乐场1.4.3 策略网络实例1.4.5 用GAN生成动漫头像1 走进深度学习的世界1.5 深度神经网络的基本特点1.5.

3、2 从特征工程，到逐层抽象1.5.3 深度神经网络学会的是什么1.5.1 两大助力：算力、数据1 走进深度学习的世界1.6 人工智能与神经网络的历史1.6.1 人工智能的两大学派：逻辑与统计011.6.2 人工智能与神经网络的现代编年史0204PART ONE2 深度卷积网络：第一课2 深度卷积网络：第一课2.2 深度学习框架MXNet：安装和使用2.1 神经元：运作和训练2.3 神经网络：运作和训练2 深度卷积网络：第一课2.1 神经元：运作和训练012.1.1 运作：从实例说明022.1.2 训练：梯度下降的思想032.1.3 训练：梯度下降的公式042.1.4 训练：找大小问题的初次尝试

4、052.1.5 训练：Excel的实现062.1.6 重要知识：批大小、mini-batch、epoch2.2 深度学习框架MXNet：安装和使用2 深度卷积网络：第一课2.2.2 安装MXNet：准备工作2.2.4 在macOS下安装MXNet：CPU版2.2.6 在Linux下安装MXNet2.2.1 计算图：动态与静态2.2.3 在Windows下安装MXNet2.2.5 在macOS下安装MXNet：GPU版2 深度卷积网络：第一课2.2 深度学习框架MXNet：安装和使用01022.2.7 安装Jupyter演算本2.2.8 实例：在MXNet训练神经元并体验调参2 深度卷积网络：第

5、一课2.3 神经网络：运作和训练22.3.2 运作：非线性激活32.3.3 训练：梯度的计算公式12.3.1 运作：前向传播，与非线性激活的必要性62.3.6 训练：反向传播52.3.5 训练：Excel的实现42.3.4 训练：实例2.3 神经网络：运作和训练2 深度卷积网络：第一课2.3.8 从几何观点理解神经网络2.3.7 重要知识：梯度消失，梯度爆炸2.3.9 训练：MXNet的实现05PART ONE3 深度卷积网络：第二课3 深度卷积网络：第二课3.1 重要理论知识013.1.1 数据：训练集、验证集、测试集033.1.3 有监督学习：回归、分类、标签、排序、Seq2Seq053.

6、1.5 训练的障碍：欠拟合、过拟合023.1.2 训练：典型过程043.1.4 无监督学习：聚类、降维、自编码、生成模型、推荐063.1.6 训练的细节：局部极值点、鞍点、梯度下降算法3 深度卷积网络：第二课3.2 神经网络的正则化3.2.2 修改网络架构：Dropout正则化02043.2.4 数据增强与预处理3.2.1 修改损失函数：L2和L1正则化033.2.3 更多技巧：集合、多任务学习、参数共享等013.3 神经网络的调参3 深度卷积网络：第二课3.3.2 批大小3.3.4 调参实战：重返TensorFlow游乐场3.3.1 学习速率3.3.3 初始化方法3 深度卷积网络：第二课3.

7、4 实例：MNIST问题ABC3.4.2 训练代码与网络架构3.4.3 超越MNIST：最新的Fashion-MNIST数据集3.4.1 重要知识：SoftMax层、交叉熵损失06PART ONE4 深度卷积网络：第三课4 深度卷积网络：第三课4.2 运作：AlphaGo眼中的棋盘4.4 实例：用卷积网络解决MNIST问题4.1 卷积网络：从实例说明4.3 卷积神经网络：进一步了解4.5 MXNet的使用技巧4.1 卷积网络：从实例说明4 深度卷积网络：第三课4.1.2 实例：找橘猫，更好的方法4.1.4 卷积网络的运作4.1.1 实例：找橘猫，最原始的方法4.1.3 实例：卷积和池化4 深度

8、卷积网络：第三课4.2 运作：AlphaGo眼中的棋盘014.2.1 棋盘的编码034.2.3 最简化的策略网络：特征层和卷积后的结果024.2.2 最简化的策略网络4 深度卷积网络：第三课4.3 卷积神经网络：进一步了解4.3.1 卷积核、滤波器与参数量的计算壹贰4.3.2 运作和训练的计算叁4.3.3 外衬与步长肆4.3.4 缩小图像：池化与全局池化伍4.3.5 放大图像：转置卷积4.4 实例：用卷积网络解决MNIST问题4 深度卷积网络：第三课4.4.2 训练MNIST网络4.4.4 调参实例4.4.1 网络架构的定义与参数量的计算4.4.3 在MXNet运行训练后的网络4.4.5 在F

9、ashion-MNIST数据集的结果4.5 MXNet的使用技巧4 深度卷积网络：第三课4.5.2 网络的保存与读取4.5.4 深入MXNet训练细节4.5.1 快速定义多个层4.5.3 图像数据的打包和载入4.5.5 在浏览器和移动设备运行神经网络07PART ONE5 深度卷积网络：第四课5 深度卷积网络：第四课5.2 网络的可视化：以AlexNet为例5.4 架构技巧：基本技巧5.6 架构技巧：更多进展5.1 经典的深度卷积网络架构5.3 迁移学习：精调、预训练等5.5 架构技巧：残差网络与通道组合5 深度卷积网络：第四课5.8 风格转移5.7 物体检测与图像分割LOGOM.94275.

10、CN5 深度卷积网络：第四课5.1 经典的深度卷积网络架构5.1.2 常用架构：VGG系列5.1.1 深度学习革命的揭幕者：AlexNet5.1.3 去掉全连接层：DarkNet系列1235.4 架构技巧：基本技巧5 深度卷积网络：第四课5.4.2 使用11卷积核5.4.4 实例：回顾Fashion-MNIST问题5.4.1 感受野与缩小卷积核5.4.3 批规范化5.4.5 实例：训练CIFAR-10模型5 深度卷积网络：第四课5.5 架构技巧：残差网络与通道组合015.5.1 残差网络：ResNet的思想035.5.3 残差网络：来自于集合的理解与随机深度055.5.5 通道组合：Incep

11、tion模组025.5.2 残差网络：架构细节045.5.4 残差网络：MXNet实现，以策略网络为例065.5.6 通道组合：XCeption架构，深度可分卷积5 深度卷积网络：第四课5.5 架构技巧：残差网络与通道组合5.5.7 实例：再次训练CIFAR-10模型5 深度卷积网络：第四课5.6 架构技巧：更多进展015.6.1 残差网络进展：ResNext、Pyramid Net、DenseNet025.6.2 压缩网络：SqueezeNet、MobileNet、ShuffleNet035.6.3 卷积核的变形5 深度卷积网络：第四课5.7 物体检测与图像分割5.7.1 YOLO v1：实

12、时的物体检测网络5.7.2 YOLO v2：更快、更强5.7.3 Faster R-CNN：准确的物体检测网络5.7.4 Mask-RCNN：准确的图像分割网络08PART ONE6 AlphaGo架构综述6 AlphaGo架构综述16.1 从AlphaGo到AlphaZero26.2 AlphaGo的对弈过程36.3 AlphaGo中的深度卷积网络架构46.4 AlphaGo的训练过程56.5 AlphaGo方法的推广LOGOM.94275.CN6 AlphaGo架构综述6.1 从AlphaGo到AlphaZeroABC6.1.2 AlphaGo Master与AlphaGo Zero6.1

13、.3 解决一切棋类：AlphaZero6.1.1 AlphaGo v13与AlphaGo v186.2 AlphaGo的对弈过程6 AlphaGo架构综述6.2.2 来自人类的思路6.2.4 从快速走子估值到价值网络6.2.6 策略与价值网络的运作实例6.2.1 策略网络6.2.3 蒙特卡洛树搜索与估值问题6.2.5 从搜索树看策略与价值网络的作用6 AlphaGo架构综述6.4 AlphaGo的训练过程6.4.1 原版AlphaGo：策略梯度方法6.4.2 新版AlphaGo：从蒙特卡洛树搜索学习09PART ONE7 训练策略网络与实战7 训练策略网络与实战7.1 训练前的准备工作7.2

14、训练代码7.3 对弈实战7 训练策略网络与实战7.1 训练前的准备工作7.1.2 落子模拟1327.1.1 棋谱数据7.1.3 终局判断7.2 训练代码7 训练策略网络与实战7.2.2 训练参数：config.py7.2.4 棋盘随机变换：symmetry.py7.2.1 主程序：train.py7.2.3 辅助函数：util.py7.2.5 训练实例10PART ONE8 生成式对抗网络：GAN8 生成式对抗网络：GAN8.5 更多的生成模型方法8.4 GAN的更多架构和应用8.3 实例：DCGAN及训练过程8.2 GAN的基本原理8.1 GAN的起源故事8 生成式对抗网络：GAN8.2 G

15、AN的基本原理0102038.2.1 生成模型：从图像到编码，从编码到图像8.2.2 GAN的基本效果8.2.3 GAN的训练方法8 生成式对抗网络：GAN8.3 实例：DCGAN及训练过程8.3.2 训练代码028.3.1 网络架构018.4 GAN的更多架构和应用8 生成式对抗网络：GAN8.4.2 生成高分辨率图像：nVidia的改进8.4.4 更多应用8.4.1 图像转移：CycleGAN系列8.4.3 自动提取信息：InfoGAN8 生成式对抗网络：GAN8.5 更多的生成模型方法8.5.1 自编码器：从AE到VAE8.5.2 逐点生成：PixelRNN和PixelCNN系列8.5.

16、3 将VAE和GAN结合：CVAE-GAN11PART ONE9 通向智能之秘9 通向智能之秘19.1 计算机视觉的难度29.2 对抗样本，与深度网络的特点39.3 人工智能的挑战与机遇49.4 深度学习的理论发展59.5 深度学习与人工智能的展望9.3 人工智能的挑战与机遇9 通向智能之秘9.3.2 偏见、过滤气泡与道德困境9.3.4 强化学习、机器人与目标函数9.3.6 预测学习：机器学习的前沿9.3.1 棋类游戏中的电脑陷阱9.3.3 语言的迷局9.3.5 创造力、审美与意识之谜9 通向智能之秘9.4 深度学习的理论发展0102039.4.1 超越反向传播：预测梯度与生物模型9.4.2 超越神经网络：Capsule与gcForest9.4.3 泛化问题LOGOM.94275.CN9 通向智能之秘9.5 深度学习与人工智能的展望9.5.1 工程层面9.5.2 理论层面9.5.3 应用层面12PART ONE跋 人工智能与我们的未来跋 人工智能与我们的未来13PART ONE附录 深度学习与AI的网络资源附录 深度学习与AI的网络资源感谢聆听