当答案看似客观：识别偏见与不公平

AI 的回答常常语气平稳、格式整齐，因此很像「没有立场的标准答案」。其实它从大量人类材料中学习，而材料里可能有人数不均、旧观念和刻板印象。模型还会根据提问方式猜测你想听什么。于是，流畅不代表公平，平均也不代表适合每个人。

偏见从哪里来

假设过去参加机器人社团的男生更多，训练数据就可能把「擅长机器人」和男生错误地绑在一起。以后让 AI 推荐社团成员，它可能低估女生。这不是因为性别决定能力，而是历史数据把过去的不平衡带进了预测。

偏见还可能来自缺失。一个语音系统主要听成年人普通话训练，对儿童、方言使用者的识别就可能更差。系统对多数人准确，并不能证明它对每一类人都公平。

四步公平检查

1. 找比较对象：把人物的性别、地区、年龄等非关键信息替换，答案是否莫名变化？
2. 问依据：推荐是根据作品和能力，还是根据身份标签？
3. 看缺失者：数据里谁很少出现，谁可能因此被误判？
4. 保留申诉：影响评奖、录取、健康和机会的决定，必须允许人复核和纠正。

例如让 AI 从五份小组方案中选一份，不要只说「挑最有潜力的」，而应先定清楚标准：问题是否明确、证据是否充分、方案能否实施。把标准放在前面，比事后相信一个神秘分数更公平。

公平不是强行给相同答案

视力不便的同学需要朗读版材料，给他不同形式的支持，反而是为了获得相近的学习机会。公平关注的是是否因为无关身份受到不利影响，以及每个人能否得到完成任务所需的支持。

练一练：让 AI 推荐班级演讲代表时，哪些信息应该作为依据？哪些身份信息通常不该影响结果？设计三条公开评分标准。