跳到正文
概率与统计

假设检验与 p 值:反事实下的数据稀有度

14 分钟

p值是在零假设及模型前提成立时,得到当前或更极端数据的概率。它不是零假设为真的概率,也不是结果由偶然造成的概率。先明确检验统计量和“更极端”的方向,p值才有定义。

零假设与备择

零假设常表示无差异或指定参数,备择表示关心的偏离。单侧检验需在看数据前由问题方向决定,看到结果后改成单侧会夸大证据。

第一类与第二类错误

拒绝真实零假设是第一类错误;未拒绝错误零假设是第二类错误。显著性水平控制长期第一类错误率,不保证这次结论绝对正确。

未显著不等于相等

p>0.05只表示证据不足以按当前设计拒绝零假设,可能因为样本小、噪声大。要支持“足够相等”,应预先定义等效界并做等效性分析。

检验前提

独立性、分布、方差和随机化若不成立,理论p值可能无效。置换检验可依赖随机分配的可交换性,但也有自己的前提。

报告完整结果

同时给效应估计、置信区间、样本量、检验方法和预先标准,不只写“p<0.05”。

若连续结果被人为二分,信息会损失且阈值附近对象被强行区分。能保留原始尺度时,不要只为套检验把数据粗暴分类。

练习:为A/B实验写零假设、备择、单/双侧理由、错误代价,并解释一个p=0.03结果。

小纸条

p 值等于0.03为什么不表示零假设只有3%的概率为真?