计算分布式网络中系统故障的概率

Question

我正在尝试构建分布式文件系统中文件可用性的数学模型。我在 MathOverflow 上发布了这个问题，但这也可能被归类为 CS 问题，所以我也在这里试一试。

系统是这样工作的：一个节点在 r*b 个远程节点上存储一个文件（使用纠删码编码），其中 r 是复制因子，b 是一个整数常量。纠删码文件的特性是，如果至少有 b 个远程节点可用并返回文件的一部分，则可以恢复文件。

对此最简单的方法是假设所有远程节点彼此独立并且具有相同的可用性 p。在这些假设下，文件的可用性遵循二项分布，即

不幸的是，这两个假设可能会引入不可忽略的错误，如本文所示：http://deim.urv.cat/~lluis.pamies/uploads/Main/icpp09-paper.pdf。

克服所有节点具有相同可用性的假设的一种方法是计算可用/不可用节点的每个可能组合的概率，并取所有这些结果的总和（这就是他们在上面的论文，只是比我刚才描述的更正式）。您可以将此方法视为深度为 r*b 的二叉树，每个叶子都是可用/不可用节点的一种可能组合。文件的可用性与您在 >=b 个可用节点的情况下到达休假的概率相同。这种方法更正确，但计算成本为。此外，它不处理节点独立性的假设。

你们有什么好的近似方法，它比二项式分布近似引入的错误更少，但计算成本比 更好？

您可以假设每个节点的可用性数据是一组由(measurement-date, node measuring, node being measured, succes/failure-bit) 组成的元组。例如，使用这些数据，您可以计算节点之间的可用性与可用性差异的相关性。

Answer 1

对于大的r 和b，您可以使用一种称为蒙特卡洛积分的方法，参见例如Monte Carlo integration on Wikipedia（和/或 SICP 的第 3.1.2 章）来计算总和。对于较小的r 和b 以及显着不同的节点故障概率p[i]，确切的方法是优越的。 small 和 large 的确切定义取决于几个因素，最好通过实验进行尝试。

具体示例代码：这是一个非常基本的示例代码（在 Python 中），用于演示这样的过程如何工作：

def montecarlo(p, rb, N):
    """Corresponds to the binomial coefficient formula."""
    import random
    succ = 0

    # Run N samples
    for i in xrange(N):
        # Generate a single test case
        alivenum = 0
        for j in xrange(rb):
            if random.random()<p: alivenum += 1
        # If the test case succeeds, increase succ
        if alivenum >= b: succ += 1
    # The final result is the number of successful cases/number of total cases
    # (I.e., a probability between 0 and 1)
    return float(succ)/N

该函数对应于二项式测试用例并运行N 测试，检查r*b 节点中的b 节点是否处于活动状态，失败概率为p。一些实验会让您相信，您需要在数千个样本范围内的 N 值才能获得任何合理的结果，但原则上复杂度为 O(N*r*b)。结果的准确度为sqrt(N)，即要将准确度提高两倍，您需要将N 提高四倍。对于足够大的r*b，这种方法显然更胜一筹。

近似的扩展：您显然需要设计测试用例，使其尊重系统的所有属性。您提出了一些扩展，其中一些可以轻松实现，而另一些则不能。让我给你几个建议：

1) 在不同但不相关的p[i] 的情况下，上述代码的更改是最小的：在函数头中，您传递一个数组而不是单个浮点p，并将if random.random()<p: alivenum += 1 替换为

if random.random()<p[j]: alivenum += 1

2) 在关联p[i] 的情况下，您需要有关系统的其他信息。我在评论中提到的情况可能是这样的网络：

A--B--C
   |  |
   D  E
   |
   F--G--H
      |
      J

在这种情况下，A 可能是“根节点”，而节点 D 的故障可能意味着节点 F、G、H 和 J 的自动故障概率为 100% ;而节点F 的故障会自动关闭G、H 和J 等。至少这是我在评论中提到的情况（这是一个合理的解释，因为你谈论的是一棵树原始问题中的概率结构）。在这种情况下，您需要修改代码，p 引用树结构，for j in ... 遍历树，一旦测试失败就跳过当前节点的较低分支。结果测试仍然是alivenum >= b 是否和以前一样，当然。

3) 如果网络是一个不能用树形结构表示的循环图，这种方法将失败。在这种情况下，您需要首先创建死或活的图节点，然后在图上运行路由算法来计算唯一的、可到达的节点的数量。这不会增加算法的时间复杂度，但显然会增加代码复杂度。

4) 时间依赖性是一个重要的问题，但如果您知道 mtbf/r（故障/修复之间的平均时间），则可能会进行修改，因为这可以为您提供任一树结构的概率 p或不相关的线性 p[i] 通过指数之和。然后，您将不得不在不同的时间运行 MC 过程，并获得p 的相应结果。

5) 如果您只有日志文件（如上一段中所暗示的那样），则需要对方法进行大量修改，这超出了我在此板上的能力范围。日志文件需要足够彻底，以允许为网络图（以及p 的图）以及p 的所有节点的单个值重建模型。否则，准确性将不可靠。这些日志文件还需要比故障和维修的时间范围长得多，这种假设在现实生活中的网络中可能不现实。

Answer 2

假设每个节点都有一个恒定的、已知的和独立的可用率，我想到了一种分而治之的方法。

假设你有N 个节点。

1. 将它们分成两组N/2 节点。
2. 对于每一边，计算任意数量的节点 ([0,N/2]) 出现故障的概率。
3. 根据需要将这些相乘和相加，以找到完整集合中任意数字 ([0,N]) 下降的概率。

第 2 步可以递归完成，在顶层您可以根据需要求和，以找出多于某个数字的停机频率。

我不知道这有多复杂，但如果我不得不猜测，我会说在O(n^2 log n)或以下@

---

这个机制可以用一个终端机壳来说明。假设我们有 5 个运行时间为 的节点。我们可以将其拆分为A 和 和B 和。然后我们可以处理这些以找到每个段的“N 个节点启动”时间：

对于 A：

对于乙：

这个阶段的最终结果可以通过将每个a 与每个b 相乘并适当地求和来找到。

v[0] = a[0]*b[0]
v[1] = a[1]*b[0] + a[0]*b[1]
v[2] = a[2]*b[0] + a[1]*b[1] + a[0]*b[2]
v[3] =             a[2]*b[1] + a[1]*b[2] + a[0]*b[3]
v[4] =                         a[2]*b[2] + a[1]*b[3]
v[5] =                                     a[2]*b[3]