机器学习基础

从机器学习到深度学习:下一段地图

10 分钟

「深度」到底深在哪

多层感知机加深到几十、上百层,配上特殊结构,就是深度学习。「深」指层数多:浅层学简单模式,深层把简单模式组合成复杂概念——从像素到边缘、到眼睛、到一张脸,一层一层抽象上去,这是它区别于传统机器学习的核心。

三股东风

深度学习在 2010 年代爆发,靠三样东西同时到位:大数据(互联网攒下海量标注图片和文本)、强算力(GPU 让矩阵运算快了几十倍)、好算法(ReLU、更好的初始化和训练技巧)。缺任何一股,都吹不起来。

接下来的路标

第一章结尾给了 d2l 地图,现在把它补完:处理图像靠卷积网络(CNN)——用「小窗口扫图」代替逐像素看,参数省几个数量级;处理文本和语音靠循环网络注意力机制——后者正是今天大语言模型的地基。你在这一章学到的神经元、激活、反向传播、Softmax,会以更大的规模在它们身上重现。

常见误区

深度学习不是万能升级包。数据只有几百条时,一个好好做过特征工程的简单模型常常更稳、更快、更好解释。第一章那句话仍然成立:数据和特征决定上限,模型只是逼近上限——深度模型只是把这条上限抬高了。

练一练:说说「深度学习爆发靠三股东风」是哪三股,各举一个生活里的证据。

小纸条

向家长讲清深度学习「深」在哪、爆发靠哪三股东风。

登录 后可看答案