【问题标题】:How to tell if Nvidia GPU cores are 32/64 bit processors如何判断 Nvidia GPU 内核是否为 32/64 位处理器
【发布时间】:2017-07-01 04:43:09
【问题描述】:

是否有显示 Nvidia GPU 中处理器类型的 Linux/windows 命令?我不是在谈论操作系统或 CPU 类型。我在询问 GPU 本身的处理器(内核)。归根结底,它们是处理器。如何判断它们是否有 32/64 位寄存器和 32/64 位 ALU?

与此相关的另一个问题是 64 位指令,例如添加两个(无符号长整数)数字,由编译器或任何中间事物模拟使用 32 位指令,或者它们由本机执行硬件?

这个问题和this不太相似,我需要一种方法来判断GPU本身是什么类型的机器。此外,该问题的答案并没有说明 64 位指令是如何具体执行的。

【问题讨论】:

  • 我对 Nvidia GPU 不是很熟悉,但是这些信息应该在数据表或其他手册中。如果没有公开信息,那么您可能需要与 Nvidia 签订 NDA 才能获取此信息。那么您是否可以访问您所针对的 GPU 的文档?
  • GPU 规格不显示这些信息。我认为应该有一个API/命令可以告诉这样的信息!!!
  • 一般数据表应显示此类信息,因为这是它们的目的。如果供应商不发布信息,那么您就不需要它。该驱动程序与 PTX 一起隐藏了硬件的所有细节以增加可移植性。如果你真的需要这条信息,你应该联系 Nvidia。
  • 我将发表评论,而不是回答,因为这似乎是一个“通用计算硬件”问题,因此偏离主题。 GPU 寄存器是 32 位寄存器。 64 位操作数通常存储在寄存器对(相邻寄存器)中,特别是对于double 操作数。通过内联代码或调用的子例程模拟 64 位整数运算(浮点和 64 位整数类型之间的转换除外)。支持 64 位寻址,使用寄存器对来保存地址。通过检查机器代码(使用cuobjdump --dump-sass)可以很容易地看到所有这些。

标签: gpu cpu-architecture instruction-set


【解决方案1】:

我编写了两个简单的内核。每个添加两个类型为 int(32 位)/long int(64 位)的向量。结果是在我的 GPU(Tesla K80)上,它恰好是一个相当新的好显卡,内核只有 32 位。

随着向量大小的增加,时间大致翻倍。

内核如下:

__global__ void add_32(int * c, int * a, int * b)
{
    int gid = blockIdx.x * blockDim.x + threadIdx.x;
    c[gid] = a[gid] + b[gid];
}

typedef long int int64;

__global__ void add_64(int64 * c, int64 * a, int64 * b)
{
    int gid = blockIdx.x * blockDim.x + threadIdx.x;
    c[gid] = a[gid] + b[gid];
}

当向量大小为 1 兆元素时,add_32 大约需要 102.911 微秒,而 add_64 需要 192.669 微秒。 (执行时间是在运行发布模式二进制文件时使用 Nvidia 分析器报告的。

看来64位指令只是通过32位指令模拟的!

这可能是找出 GPU 内核是哪种机器的蛮力解决方案,但绝对不是一个优雅的解决方案。

更新:

感谢@Paul A. Clayton 的评论,上面的解决方案似乎不是一个公平的比较,因为在 64 位情况下数据大小翻了一番。所以我们不应该使用相同数量的元素启动两个内核。正确的原则是启动元素数量减半的 64 位版本。

为了更加确定,让我们考虑逐元素向量乘法而不是加法。如果 GPU 通过 32 位指令模拟 64 位指令,那么它至少需要 3 个 32 位乘法指令才能将 2 个 64 位数字相乘,例如使用 Karatsuba 算法。这意味着,如果我们启动具有 N/2 个元素的 64 位向量乘法内核,如果仅模拟 64 位乘法,它会比具有 N 个元素的 32 位内核花费更长的时间。

这是内核:

__global__ void mul_32(int * c, int * a, int * b)
{
    int gid = blockIdx.x * blockDim.x + threadIdx.x;
    c[gid] = a[gid] * b[gid];
}

typedef long int int64;

__global__ void mul_64(int64 * c, int64 * a, int64 * b)
{
    int gid = blockIdx.x * blockDim.x + threadIdx.x;
    c[gid] = a[gid] * b[gid];
}

以下是实验详情: 这里报告的时间来自 nvidia profiler on release-mode binary: 1- 具有向量大小 N = 256 兆元素的内核 mul_32,需要 25.608 毫秒。 2- 具有向量大小 N = 128 兆元素的内核 mul_64,需要 24.153 毫秒。

我知道两个内核都会产生不正确的结果,但我认为这与计算的方式无关。

【讨论】:

  • 根据操作数大小测量向量添加的元素 吞吐量 并不能确定是否原生支持对给定元素大小的操作。使用 SIMD 操作,当操作数大小加倍时,吞吐量自然会减半;例如,一个 512 位 SIMD 将执行 16 个 32 位操作,但只能执行 8 个 64 位操作。此外,对于单个流操作,将测量内存带宽而不是计算吞吐量。
  • 我认为你是对的@PaulA.Clayton 我已经用考虑数据大小的不同方法更新了我的解决方案。
猜你喜欢
  • 2011-04-19
  • 2018-06-14
  • 2014-05-06
  • 2012-08-26
  • 1970-01-01
  • 2013-01-11
  • 2010-09-19
  • 1970-01-01
  • 2018-01-21
相关资源
最近更新 更多