第6章笔记：算法公平与反歧视

把群体差异、标签偏差和阈值权衡变成可计算又不失语境的审计。

七节依赖

1. 偏差来源与测量构念：$observed=construct+measurementerror$；任务：追踪采样、标签、特征和部署反馈偏差；边界：历史标签可能记录过去的歧视。
2. 混淆矩阵与分组性能：$TPR=TP/(TP+FN)$；任务：按群体计算TPR、FPR、PPV和样本量；边界：总体准确率会掩盖小群体失败。
3. 人口统计均等与机会均等：$P(\hat{Y}=1|A=a)$；任务：比较结果均等和条件错误率均等；边界：不同公平指标通常不能同时满足。
4. 校准、基准率与不可能性：$P(Y=1|S=s,A=a)=s$；任务：在不同基准率下检查分组校准；边界：指标冲突不是任选一个而无需解释。
5. 代理变量与间接歧视：$I(X;A)>0$；任务：识别邮编、设备和行为特征中的代理；边界：删除敏感字段不能自动消除其信息。
6. 阈值、申诉与人工复核：$expectedcost=c_{FN}FN+c_{FP}FP$；任务：按伤害成本选择阈值并设计申诉；边界：人工复核也可能继承自动化锚定偏差。
7. 公平审计报告与限制：$audit=data+metric+context+remedy$；任务：写出样本限制、指标冲突和补救计划；边界：公布一个公平分数不能证明系统公平。

交付

提交事实/未知表、六类利益相关者、义务地图、五个选项、指标与限制、反方意见、上线/停止门槛、申诉补救和复核日期。