微调：站在巨人肩膀上

从头训练有多贵

训练一个真正好用的图像模型，需要上百万张图和几十张 GPU 跑几天——普通人玩不起。但书里给了条捷径：微调（fine-tuning）。别人已经用 1400 万张图训好的模型（比如 ResNet），直接下载下来，只把最后一层换掉，再用自己的小数据「补习」一下——几十张图、几分钟，效果常常好得惊人。

为什么这招灵

预训练模型在大数据上学到的不是「猫和狗」，而是通用本领：边缘、纹理、形状、部件。这些本领换个任务照样用。就像会骑自行车的孩子学电动车特别快——平衡感是现成的，只需学电门和刹车。

书里热狗实验的启示

书里的例子是识别「是不是热狗」，只用几千张图微调 ResNet，准确率远超从头训练。要点有三个：

• 最后一层换成你的类别数（热狗任务就 2 类）
• 前面层的参数用小一点的学习率「轻推」，新层用大学习率「快学」
• 训练图太少时，配合第一章说的图像增广，凭空多造几倍数据

常见误区

以为微调是「作弊」。恰恰相反，它是今天工业界的主流做法——你手机里的很多识别功能都是这么来的。懂得借力，是工程师的美德。

练一练：跑通书里的热狗微调实验，然后拍 20 张家里的杯子和碗，试试能不能微调出一个「杯碗分类器」。