闭卷重建《线性最小二乘》的对象、公式、手算基准、算法状态、误差与失败边界。
数值方法与科学计算 · 小纸条
选一章打印。双面打印(按长边翻页)后沿虚线剪开,每张卡片正面题目、背面答案。
闭卷重建《正规方程的条件数代价》的对象、公式、手算基准、算法状态、误差与失败边界。
闭卷重建《Gram-Schmidt与QR》的对象、公式、手算基准、算法状态、误差与失败边界。
闭卷重建《Householder变换》的对象、公式、手算基准、算法状态、误差与失败边界。
闭卷重建《加权与正则化拟合》的对象、公式、手算基准、算法状态、误差与失败边界。
闭卷重建《残差杠杆与异常值》的对象、公式、手算基准、算法状态、误差与失败边界。
闭卷重建《拟合复现实验》的对象、公式、手算基准、算法状态、误差与失败边界。
对象:A^TA的谱与设计矩阵的奇异值;公式:;基准:A=diag(1,10^{-4})的条件数1e4,A^TA的条件数1e8;反例:“A^TA是对称的所以更稳”是错的;平方条件数会丢失有效位
对象:A的列空间与y的正交投影;公式:,一阶条件 ;基准:A=(1,1)^T,b=(1,3)^T,常数拟合x=2,残差(-1,1)与A正交;反例:列不满秩时解不唯一;只报训练残差不说明预测能力
对象:Householder反射将向量的尾部归零;公式:,H^TH=I;基准:x=(3,4),选v=x+5e1=(8,4),Hx=(-5,0);反例:v=x-||x||e1在x首分量为正且很大时可严重消去
对象:A的列向量正交化为A=QR;公式:;基准:a1=(1,0),a2=(1,1)得q1=(1,0),q2=(0,1),R=[[1,1],[0,1]];反例:经典GS对近线性相关列丢失正交性
对象:帽子矩阵H=A(A^TA)^{-1}A^T与对角杠杆hii;公式:;基准:两端点x=0,10比中间点x=5有更高杠杆,即使y残差不大也能强影响拟合;反例:只按大残差删点会漏掉高杠杆点,也可删掉真实新群体
对象:观测噪声权重W和参数复杂度惩罚;公式:;基准:两观测1和3,权重3:1的常数拟合为1.5,不是2;反例:用测试集选λ会泄漏;权重不是样本的主观重要性
对象:数据切分、设计矩阵版本、参数和残差诊断的证据链;公式: 不代替样本外误差;基准:用y=1+2x的3点作精确基准,再加一个异常点比较OLS和岭回归;反例:数据预处理在全集拟合,或只保存模型不保存字段口径