【问题标题】:Why does vectorized code run faster than for loops in MATLAB?为什么向量化代码比 MATLAB 中的 for 循环运行得更快?
【发布时间】:2012-12-11 16:52:49
【问题描述】:

我已经阅读了this,但我仍然不明白为什么矢量化代码更快。

在 for 循环中,我可以使用 parfor 来进行并行计算。如果向量化代码更快,是否意味着它自动并行化了?

【问题讨论】:

  • 下面给出的答案是正确的,但实际上我相信大矩阵运算实际上可能确实是自动并行运行的。

标签: matlab for-loop parallel-processing vectorization


【解决方案1】:

没有。您混合了两个重要概念:

  • MATLAB 旨在非常快速地执行向量运算。 MATLAB 是一种解释型语言,这就是为什么它的循环如此缓慢的原因。 MATLAB 通过提供极快的(通常用 C 语言编写,并针对特定架构进行了优化)和经过良好测试的函数来对向量进行操作,从而回避了这个问题。这里真的没有什么神奇之处,只是一堆艰苦的工作和多年不断的小改进。

考虑一个简单的例子,如下所示:

s=0;
for i=1:length(v),
    s = s+v(i);
end

和

sum(v)

您可能应该使用 tic 和 toc 对这两个函数进行计时,以使自己相信运行时的差异。对向量进行操作的类似常用函数大约有 10 个,例如:bsxfun、repmat、length、find。矢量化是有效使用 MATLAB 的标准部分。在您可以有效地对代码进行矢量化之前,您只是 MATLAB 世界中的游客,而不是公民。

  • 最新版本的 MATLAB 提供 parfor。 parfor 不是灵丹妙药,它是一种可以使用和误用的工具(在上面的 sum 示例中尝试 parfor)。并非所有的 fors 都可以解释。 parfor 专为任务并行类型的问题而设计,其中循环的每次迭代都相互独立。这是使用 parfor 循环的关键要求。

虽然在许多情况下 parfor 可以提供很多帮助,但很少发生可以通过 parfored 获得非常大收益的循环类型。

【讨论】:

  • 您错过了一件重要的事情 - matlab 是一种解释型语言。这就是为什么循环如此缓慢的原因。尤其是与高度优化的矩阵运算相比,matlab 是为您设计的。
  • 谢:谢谢。 @Leonid Beschastny:我已经编辑了我的答案,以反映为什么在 matlab 中循环如此缓慢。谢谢。
  • 您可能还想补充一点,解释语言中循环缓慢的原因是每个函数调用都会带来一些开销。因此,当您使用包含一百万个元素的数组调用一次函数时,比使用标量调用一百万次要快得多。
  • 请注意,只有当数组很大时,repmat 才会更快。对于简单的问题,forloops 仍然更好。也适用于 forloops。 parforloops 仅在问题需要大量计算时才能正常工作。其他 parforloop 将花费太多低效的时间将作业分配给其他内核。
  • 此外,正如我自己的回答所示,Matlab 现在内置了一个 JIT 编译器,它大大缩小了 for 循环和矢量化代码之间的差距。
【解决方案2】:

我同意 carlosdc 的回答。 但是,重要的是要记住,自 6.5 版以来,Matlab 已包含一个 JIT 编译器,用于加速 for 循环等。

我用v 中的一百万个元素对你的求和示例进行了快速测试,得到了以下结果:

  • sum(v):4.3 毫秒
  • for-loop version:16 毫秒
  • for-loop version, no JIT:966 毫秒

JIT 可以像这样打开和关闭:

feature accel off
feature accel on

通过向量化代码来改进 4 因素当然仍然是值得的,但是不应该害怕 for 循环,因为它们曾经是一个很好的解决方案。但通常情况下,一段经过良好矢量化的代码通常可以更简单、更不容易出错并且速度更快。

【讨论】:

    【解决方案3】:

    在现代计算机中,寄存器(用于数学等用途的临时内存)有很多位,可以同时处理多个数字。例如,如果您的数据是 uint8(8 位),您可以在一个 CPU 时钟中为每个添加一个数字,或者您可以将其中的 8 个放在寄存器中,然后在一个 CPU 时钟中将它们全部添加一个数字.这样你的工作速度比 for 循环快 8 倍。

    这在某种意义上是并行化,但不像 parfor。 Parfor 使用 CPU 的多个核心,在上述方法中,一个核心的使用效率更高。如果同时使用它们,则可以实现更高的速度。

    【讨论】:

      猜你喜欢
      • 2015-07-01
      • 2014-09-22
      • 2017-12-17
      • 1970-01-01
      • 2020-12-20
      • 1970-01-01
      • 2013-08-08
      • 2019-01-31
      • 2016-05-07
      相关资源
      最近更新 更多