【问题标题】:Horizontal stacking in PytorchPytorch 中的水平堆叠
【发布时间】:2021-12-22 17:15:46
【问题描述】:

我正在尝试实现转换器并停留在某一点。

假设我有形状 [2,20] 的输入序列,其中 2 是样本数和 20是序列中的单词数(序列长度)。

所以,我创建了一个形状为 [1,20] 的数组,如 [0,1,2, ... 19]。现在我想堆叠它,最终形状应该是 [2,20] 以与输入序列一致。如下所示

[[0,1,2, ... 19],
[0,1,2, ... 19]]

是否有这样做的手电筒功能。我可以循环并创建数据和数组,但想避免它。

【问题讨论】:

    标签: deep-learning pytorch simpletransformers


    【解决方案1】:

    如果你要堆叠的张量的形状是[1,20],你可以使用torch.cat()

    t1 = torch.zeros([1,5]) # tensor([[0., 0., 0., 0., 0.]])
    t2 = torch.ones([1,5]) # tensor([[1., 1., 1., 1., 1.]])
    
    torch.cat([t1, t2]) # tensor([[0., 0., 0., 0., 0.],
                                  [1., 1., 1., 1., 1.]])
    
    

    如果张量是一维的,你可以简单地使用 torch.stack()

    t1 = torch.zeros([5]) # tensor([0., 0., 0., 0., 0.])
    t2 = torch.ones([5]) # tensor([1., 1., 1., 1., 1.])
    
    torch.stack([t1, t2]) # tensor([[0., 0., 0., 0., 0.],
                                    [1., 1., 1., 1., 1.]])
    
    

    现在,对于您的情况,您可以使用更短的方法:

    torch.arange(0,20).repeat(2,1) # tensor([[0,1,2, ... 19],
                                             [0,1,2, ... 19]])
    
    

    【讨论】:

    • 嗨@Tareq,感谢您的回复。这里,t1 和 t2 不是固定的,它们可以一直持续到 t_n。那么,是否有一些通用的方法可以包含 N 个样本。
    • 对于 cat/stack 方法,您可以将您拥有的所有张量作为数组传递。对于 arange.repeat,您可以让它生成 N 个样本:“arange(0, seq_len).repeat(num_samples, 1)”
    • 谢谢。这工作正常。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2015-05-16
    • 2016-06-23
    • 1970-01-01
    • 1970-01-01
    • 2019-04-04
    • 2018-05-11
    相关资源
    最近更新 更多