矩阵乘法的计算成本是多少？

Question

这个功能有什么好处

N(x;θ) = θ1(θ2*x)

已经结束

G(x;θ) = θ*x

对于输入向量

x ∈ R^n
θ1 ∈ R^(nx1)
θ2 ∈ R^(1xn)
θ ∈ R^(nxn)

Answer 1

对于第一种情况，维度为 1xn 的 θ2 与维度为 n 的 x 相乘。这给出了 1x1 的输出。然后乘以 nx1，N(x;θ) 的输出维度为 nx1。所以θ2中有n个元素，θ1中有n个元素。总共有 n+n (2n) 个元素。

对于第二种情况，维度为 nxn 的 θ 与维度为 n 的 x 相乘。这给出了 G(x;θ) 的输出维度为 nx1。在这种情况下，θ 有 n*n (n^2) 个元素。

因此，优点是，先计算第一种情况，然后计算第二种情况，计算成本较低。