闭卷重建卷积层、参数共享与感受野的对象、公式、算例、算法与失败边界。
计算机视觉 · 小纸条
选一章打印。双面打印(按长边翻页)后沿虚线剪开,每张卡片正面题目、背面答案。
闭卷重建多层感受野与下采样的对象、公式、算例、算法与失败边界。
闭卷重建反向传播与梯度检查的对象、公式、算例、算法与失败边界。
闭卷重建归一化、激活与训练稳定性的对象、公式、算例、算法与失败边界。
闭卷重建残差连接与深层网络的对象、公式、算例、算法与失败边界。
闭卷重建数据增强与不变性边界的对象、公式、算例、算法与失败边界。
闭卷重建迁移学习、优化与学习率的对象、公式、算例、算法与失败边界。
对象:感受野逐层累计,步幅放大后续跳距;理论感受野不等于实际有效影响范围。;公式:r_l=r_prev+(k_l-1)j_prev,j_l=j_prev s_l。;算例:两层3×3、stride1,从r=1得3再5。;边界:把网络深度等同全局上下文;忽略上采样对齐。。
对象:卷积核在空间共享参数,利用平移结构;步幅、padding和dilation决定输出尺寸与感受野。;公式:output=floor((n+2p-d(k-1)-1)/s)+1。;算例:n=32,k=3,p=1,s=1,d=1,输出32。;边界:只看shape不看坐标对齐;偶数核same padding产生偏移。。
对象:激活和归一化改变信号/梯度分布;BatchNorm依赖batch统计,训练与推理行为不同。;公式:normalized=(x-mean)/sqrt(variance+epsilon)。;算例:x=7、mean=5、std=2,标准化为1。;边界:忘切eval导致推理漂移;用测试集统计更新模型。。
对象:链式法则把损失梯度传到参数;数值梯度可发现实现错误但受步长和浮点影响。;公式:dL/dx=(dL/dy)(dy/dx)。;算例:y=x²、L=y,x=3时梯度6。;边界:只因loss下降就认为梯度正确;ReLU拐点做梯度检查。。
对象:增强编码希望模型不变或等变的变换;标签必须随几何变换同步,不能制造不真实样本。;公式:for invariant task f(Tx)=f(x); for equivariant output f(Tx)=T f(x)。;算例:分类水平翻转标签不变,关键点坐标则必须按宽度镜像。;边界:文字识别随意镜像;裁剪后框未截断更新。。
对象:残差块学习F(x)+x,为梯度提供恒等路径;维度不同时需投影或下采样对齐。;公式:y=F(x)+x。;算例:x=2、F(x)=-.5,输出1.5。;边界:通道/尺度不一致直接相加;把残差结构当不会过拟合。。
对象:预训练特征可减少数据需求,但域差异、冻结策略和学习率影响灾难性遗忘与收敛。;公式:parameter update=parameter-learning_rate×gradient。;算例:参数2、梯度.5、学习率.1,更新后1.95。;边界:一开始大步长全量微调;验证集反复人工挑epoch造成过拟合。。