马尔可夫链:状态转移与长期分布
约 14 分钟
马尔可夫链用转移矩阵描述离散状态之间的随机变化,并假设下一步只依赖当前状态。概率向量反复乘转移矩阵,若满足合适条件,可能趋向稳定分布。
随机矩阵约定
采用列向量时可让每列和为1并写 p_{t+1}=Pp_t;采用行向量则每行和为1。两种都可,但不能矩阵按一种构造、乘法按另一种执行。
稳定分布
稳定分布满足 Pπ=π,是特征值1的特征向量,还要非负且和为1。存在稳定分布不等于任意初始分布都收敛到它。
不可约与非周期
有限链若状态互相可达且没有固定循环周期,通常拥有唯一稳定分布并从任意初值收敛。吸收状态、互不连通类别或二周期会改变结论。
转移概率的估计
从计数估概率时,小样本状态会非常不稳定。平滑可避免零概率,但引入先验;应报告样本量和不确定性。
模型假设检查
用户行为、天气或设备状态可能依赖更长历史。比较一步转移在不同历史条件下是否一致,检验马尔可夫假设,而非把便利假设当事实。
预测评价应使用按时间留出的数据,避免未来信息泄漏。若转移规律随季节改变,固定矩阵也需改成分时模型或明确有效期。
练习:建立天气三状态转移矩阵,求稳定分布,构造一个周期链说明为何分布可能不收敛。
小纸条
转移矩阵存在稳定分布,为什么状态概率仍可能不收敛到它?