跳到正文
线性代数

马尔可夫链:状态转移与长期分布

14 分钟

马尔可夫链用转移矩阵描述离散状态之间的随机变化,并假设下一步只依赖当前状态。概率向量反复乘转移矩阵,若满足合适条件,可能趋向稳定分布。

随机矩阵约定

采用列向量时可让每列和为1并写 p_{t+1}=Pp_t;采用行向量则每行和为1。两种都可,但不能矩阵按一种构造、乘法按另一种执行。

稳定分布

稳定分布满足 Pπ=π,是特征值1的特征向量,还要非负且和为1。存在稳定分布不等于任意初始分布都收敛到它。

不可约与非周期

有限链若状态互相可达且没有固定循环周期,通常拥有唯一稳定分布并从任意初值收敛。吸收状态、互不连通类别或二周期会改变结论。

转移概率的估计

从计数估概率时,小样本状态会非常不稳定。平滑可避免零概率,但引入先验;应报告样本量和不确定性。

模型假设检查

用户行为、天气或设备状态可能依赖更长历史。比较一步转移在不同历史条件下是否一致,检验马尔可夫假设,而非把便利假设当事实。

预测评价应使用按时间留出的数据,避免未来信息泄漏。若转移规律随季节改变,固定矩阵也需改成分时模型或明确有效期。

练习:建立天气三状态转移矩阵,求稳定分布,构造一个周期链说明为何分布可能不收敛。

小纸条

转移矩阵存在稳定分布,为什么状态概率仍可能不收敛到它?