我想使用 tensordot 来计算两个张量的特定暗度的点积。喜欢：
A 是一个张量，其形状为 (3, 4, 5) B是张量，形状为(3, 5)
我想做一个点，使用 A 的第三个昏暗和 B 的第二个昏暗，并得到一个昏暗为 (3, 4) 的输出
如下：
for i in range(3):
C[i] = dot(A[i], B[i])
tensordot是怎么做到的？
【问题讨论】：
标签： numpy theano deep-learning
嗯，你想要这个在 numpy 中还是在 Theano 中？ 在这种情况下，正如您所说，您希望将 A 的轴 3 与 B 的轴 2 收缩，两者都很简单：
import numpy as np
a = np.arange(3 * 4 * 5).reshape(3, 4, 5).astype('float32')
b = np.arange(3 * 5).reshape(3, 5).astype('float32')
result = a.dot(b.T)
在 Theano 中这样写
import theano.tensor as T
A = T.ftensor3()
B = T.fmatrix()
out = A.dot(B.T)
out.eval({A: a, B: b})
然而，输出的形状是 (3, 4, 3)。由于您似乎想要形状 (3, 4) 的输出，因此 numpy 替代方案使用 einsum，就像这样
einsum_out = np.einsum('ijk, ik -> ij', a, b)
但是，Theano 中不存在 einsum。所以这里的具体情况可以模拟如下
out = (a * b[:, np.newaxis]).sum(2)
也可以用 Theano 编写
out = (A * B.dimshuffle(0, 'x', 1)).sum(2)
out.eval({A: a, B: b})
【讨论】：
在这种特定情况下，einsum 可能比tensordot 更容易理解。例如：
c = np.einsum('ijk,ik->ij', a, b)
我将稍微简化一下解释，以使事情更容易理解。我们有两个输入数组（用逗号分隔），这产生了我们的输出数组（在-> 的右侧）。
a 的形状为 3, 4, 5，我们将其称为 ijk
b 具有形状 3, 5 (ik)c 的形状为 3, 4 (ij)看起来有点神奇，对吧？让我们分解一下。
-> 时我们“丢失”的字母是将被求和的轴。这也是dot 正在做的事情。3, 4，所以我们要消除k
c 应该是ij
b 称为ik。 作为一个完整的例子：
import numpy as np
a = np.random.random((3, 4, 5))
b = np.random.random((3, 5))
# Looping through things
c1 = []
for i in range(3):
c1.append(a[i].dot(b[i]))
c1 = np.array(c1)
# Using einsum instead
c2 = np.einsum('ijk,ik->ij', a, b)
assert np.allclose(c1, c2)
您也可以使用tensordot 执行此操作。一旦我有更多时间，我将添加一个示例。 （当然，如果其他人想同时添加一个tensordot 示例作为另一个答案，请随意！）
【讨论】：