【问题标题】:What is the significance of the stationary distribution of a markov chain given it's initial state?给定初始状态的马尔可夫链的平稳分布有什么意义?
【发布时间】:2017-08-29 00:31:15
【问题描述】:

令 X_n 为 MC,P 非正则

假设我们有一个固定距离 (pi_0, ..., pi_n) 和 P(X_0 = i) = 0.2,这说明什么?

为了更清楚:

我问是因为 Karlin 说,当固定分布不是限制分布时,P(X_n = i) 取决于初始分布。这到底是什么意思?

【问题讨论】:

    标签: probability markov-chains probability-theory stochastic stochastic-process


    【解决方案1】:

    标题的问题需要很长的答案;我只需要提供一些参考资料供您阅读有关马尔可夫链和遍历理论的更多信息。但是,您的具体问题:

    "...当一个固定距离不是限制距离时,P(X_n = i) 取决于初始分布。这到底是什么意思?"

    可以用一个简单的例子来回答。考虑一个具有两种状态的马尔可夫链,

    假设一个转移矩阵 P =

    [0.4, 0.6]

    [0.6, 0.4]

    如果我告诉你你当前在时间 t 处于状态 A,然后问你接下来会处于什么状态(在时间 t+1),你会留下将 P 乘以 [1, 0] 并解释结果 [0.4, 0.6] 表示您有 40% 的把握仍会处于状态 A,而 60% 的把握最终会处于状态 B。

    现在如果我告诉你你在时间 t 处于状态 A 并问你在时间 t+999 会处于什么状态?在那段时间里,你在各州之间反弹的方式非常随机,从你从状态 A 开始这一事实,你真的无法“密切关注链条”。基本上,这些信息是“混合的”围绕马尔可夫链,直到你从 A 开始并不重要。问问你自己:如果我告诉你你从状态 B 而不是 A ?你无法想出不同的意见;这就是不变性。

    在数学上,给定时间 t 的状态,时间 t+999 的转移矩阵是 P^(999)。该矩阵的每一行都是相同的,因此左乘任何概率分布([x, y] 其中 x+y=1)将得到相同的答案。对于这个问题,这个“限制”分布是 [0.5, 0.5],这意味着在 999 个时间步之后,无论 999时间步前你从 A 开始。平稳分布是 P 的左特征向量,对应于特征值 1。如果 P^t 的所有行都以 t -> inf 收敛到它,则称为 P 的极限分布。

    没有限制分布的马尔可夫链呢?考虑一个P,

    [0, 1]

    [1, 0]

    此马尔可夫链具有“翻转”周期性。如果您在时间 t 处于状态 A,那么您 100% 确定您将在时间 t+1 处于状态 B,反之亦然。所以如果我告诉你你在时间 t 处于状态 A,你就会知道在时间 t+999 你将处于状态 B,因为 999 是奇数。或者,如果我告诉你你在时间 t 处于状态 B,那么在时间 t+999 你会期望处于状态 A。注意对初始条件的依赖。这个马尔可夫链对那个起始信息很敏感。它不会“混掉”。在数学上,P^t 不会收敛为 t -> inf。

    尝试在代码中使用这些矩阵!

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2017-03-12
      • 2016-11-01
      • 1970-01-01
      相关资源
      最近更新 更多