核验一份回答
约 12 分钟
拿到回答后,不核验就使用是最大的风险。这一节给一套可操作的核验流程。
第一步:分类——把回答拆成三种内容
拿到一段回答,先用三种颜色(或三个符号)标出来:
| 类型 | 例 | 处理 |
|---|---|---|
| 事实类(可查证) | 数字、年份、人名、法条、引用 | 必须核 |
| 推理类(有逻辑链) | 「因为 A 所以 B」 | 检查链条是否成立 |
| 建议类(主观) | 「我建议你先做 X」 | 自己判断是否适用 |
很多人核验时只盯事实,忽略推理——但推理错了,事实全对也没用。
第二步:核事实
按核对成本排序,先做便宜的:
| 内容 | 怎么核 | 成本 |
|---|---|---|
| 代码 | 跑一遍 | 极低 |
| 数学 | 自己算一遍 | 低 |
| 常识性事实 | 搜索引擎搜一下 | 低 |
| 书名/论文 | 搜标题看是否存在 | 低 |
| 统计数据 | 找原始出处 | 中 |
| 专业结论 | 问专业人士 | 高 |
「跑一遍」和「算一遍」是黄金标准——它们给出的是客观结果,不依赖任何说法。
第三步:检查推理链
对每个「因为…所以…」,问三个问题:
① 前提是真的吗?
② 前提真,结论就一定成立吗?(有没有跳步)
③ 有没有反例?
典型的推理漏洞:
| 漏洞 | 例 |
|---|---|
| 相关当因果 | 「读书多的人收入高,所以多读书能提高收入」(可能都由第三个因素导致) |
| 以偏概全 | 用一两个例子推出普遍规律 |
| 偷换概念 | 前半句说的「效率」和后半句说的「效率」不是一回事 |
| 跳步 | A→C,中间的 B 没说 |
第四步:三种交叉验证
① 换个问法再问
第一次:「X 的优点是什么?」
第二次:「有人说 X 有严重问题,你怎么看?」两次回答如果互相矛盾,说明这里不可靠。
② 要求它给出不确定性
「你回答里哪些部分是你有把握的,哪些是推测的?」
虽然它的自评也不完全可靠,但通常能有效标记出高风险区。
③ 让它自我反驳
「请找出你上面这个回答中最可能出错的三个地方。」
这一招常常能挖出真问题,因为它换了个生成方向。
一份核验清单(贴在手边)
□ 回答里的具体数字、年份、名称,我核对了吗?
□ 引用的原话,我确认存在吗?
□ 代码我跑了吗?数学我算了吗?
□ 「因为所以」的链条我逐环检查了吗?
□ 我换个问法问过一次吗?
□ 我问过它「哪部分可能出错」吗?
□ 这个建议适用于我的具体情况吗?
一条实用的心法
对 AI 的回答,采取「默认怀疑,逐项解除」的态度,而不是「默认相信,出问题再说」。
这听起来累,但实际上大部分内容(结构、措辞、思路)不需要核,真正要核的通常只有三五个具体点。核验的成本远低于用错信息的代价。
练习:向 AI 问一个包含具体数据的问题,把回答按三类标好,实际核对其中所有事实类内容,记录有几处不准确。
小纸条
核验 AI 回答时该把内容分成哪三类?为什么说「只盯事实不看推理」是不够的?
登录 后可看答案