&1 安装
cuda7.5文件：链接：http://pan.baidu.com/s/1bU2zIQ 密码：nvyw
&2 环境变量
注意：CUDA_PATH是安装好cuda7.5之后会默认创建的，ProgramData是隐藏目录，要修改其属性，使其可见。
CUDA_SDK_PATH = C:\ProgramData\NVIDIA Corporation\CUDA Samples\v7.5
CUDA_LIB_PATH = %CUDA_PATH%\lib\x64
CUDA_BIN_PATH = %CUDA_PATH%\bin
CUDA_SDK_BIN_PATH = %CUDA_SDK_PATH%\bin\x64
CUDA_SDK_LIB_PATH = %CUDA_SDK_PATH%\common\lib\x64
CUDA_BIN_PATH = %CUDA_PATH%\bin
CUDA_SDK_BIN_PATH = %CUDA_SDK_PATH%\bin\x64
CUDA_SDK_LIB_PATH = %CUDA_SDK_PATH%\common\lib\x64
然后，在系统的path变量之后追加下面一行：
;%CUDA_LIB_PATH%;%CUDA_BIN_PATH%;%CUDA_SDK_LIB_PATH%;%CUDA_SDK_BIN_PATH%;
&3 VS中的配置
- 新建一个空的项目，右边解决方案资源管理器，源文件上右键单击->添加新建项->CUDA C/C++ file
- 项目上右键单击->生成依赖项->生成自定义，选择CUDA7.5
- 项目上右键单击->属性->配置属性->VC++目录->包含目录
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v7.5\include
C:\ProgramData\NVIDIA Corporation\CUDA Samples\v7.5\common\inc
- 项目上右键单击->属性->配置属性->VC++目录->库目录
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v7.5\lib\x64
C:\ProgramData\NVIDIA Corporation\CUDA Samples\v7.5\common\lib\x64
- 项目上右键单击->属性->配置属性->链接器->常规->附加库目录
$(CUDA_PATH_V7_5)\lib\$(Platform)
- 项目上右键单击->属性->配置属性->链接器->输入->附加依赖项
cublas.lib
cublas_device.lib
cuda.lib
cudadevrt.lib
cudart.lib
cudart_static.lib
cufft.lib
cufftw.lib
curand.lib
cusolver.lib
cusparse.lib
nppc.lib
nppi.lib
npps.lib
nvblas.lib
nvcuvid.lib
nvrtc.lib
OpenCL.lib
就是C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v7.5\lib\x64目录下的库。
- 单击菜单栏中的生成->配置管理器
将平台改为X64
&4 测试
1 // CUDA runtime 库 + CUBLAS 库 2 #include "cuda_runtime.h" 3 #include "cublas_v2.h" 4 5 #include <time.h> 6 #include <iostream> 7 8 using namespace std; 9 10 // 定义测试矩阵的维度 11 int const M = 5; 12 int const N = 10; 13 14 int main() 15 { 16 // 定义状态变量 17 cublasStatus_t status; 18 19 // 在 内存 中为将要计算的矩阵开辟空间 20 float *h_A = (float*)malloc(N*M*sizeof(float)); 21 float *h_B = (float*)malloc(N*M*sizeof(float)); 22 23 // 在 内存 中为将要存放运算结果的矩阵开辟空间 24 float *h_C = (float*)malloc(M*M*sizeof(float)); 25 26 // 为待运算矩阵的元素赋予 0-10 范围内的随机数 27 for (int i = 0; i<N*M; i++) { 28 h_A[i] = (float)(rand() % 10 + 1); 29 h_B[i] = (float)(rand() % 10 + 1); 30 31 } 32 33 // 打印待测试的矩阵 34 cout << "矩阵 A :" << endl; 35 for (int i = 0; i<N*M; i++){ 36 cout << h_A[i] << " "; 37 if ((i + 1) % N == 0) cout << endl; 38 } 39 cout << endl; 40 cout << "矩阵 B :" << endl; 41 for (int i = 0; i<N*M; i++){ 42 cout << h_B[i] << " "; 43 if ((i + 1) % M == 0) cout << endl; 44 } 45 cout << endl; 46 47 /* 48 ** GPU 计算矩阵相乘 49 */ 50 51 // 创建并初始化 CUBLAS 库对象 52 cublasHandle_t handle; 53 status = cublasCreate(&handle); 54 55 if (status != CUBLAS_STATUS_SUCCESS) 56 { 57 if (status == CUBLAS_STATUS_NOT_INITIALIZED) { 58 cout << "CUBLAS 对象实例化出错" << endl; 59 } 60 getchar(); 61 return EXIT_FAILURE; 62 } 63 64 float *d_A, *d_B, *d_C; 65 // 在 显存 中为将要计算的矩阵开辟空间 66 cudaMalloc( 67 (void**)&d_A, // 指向开辟的空间的指针 68 N*M * sizeof(float) // 需要开辟空间的字节数 69 ); 70 cudaMalloc( 71 (void**)&d_B, 72 N*M * sizeof(float) 73 ); 74 75 // 在 显存 中为将要存放运算结果的矩阵开辟空间 76 cudaMalloc( 77 (void**)&d_C, 78 M*M * sizeof(float) 79 ); 80 81 // 将矩阵数据传递进 显存 中已经开辟好了的空间 82 cublasSetVector( 83 N*M, // 要存入显存的元素个数 84 sizeof(float), // 每个元素大小 85 h_A, // 主机端起始地址 86 1, // 连续元素之间的存储间隔 87 d_A, // GPU 端起始地址 88 1 // 连续元素之间的存储间隔 89 ); 90 cublasSetVector( 91 N*M, 92 sizeof(float), 93 h_B, 94 1, 95 d_B, 96 1 97 ); 98 99 // 同步函数 100 cudaThreadSynchronize(); 101 102 // 传递进矩阵相乘函数中的参数，具体含义请参考函数手册。 103 float a = 1; float b = 0; 104 // 矩阵相乘。该函数必然将数组解析成列优先数组 105 cublasSgemm( 106 handle, // blas 库对象 107 CUBLAS_OP_T, // 矩阵 A 属性参数 108 CUBLAS_OP_T, // 矩阵 B 属性参数 109 M, // A, C 的行数 110 M, // B, C 的列数 111 N, // A 的列数和 B 的行数 112 &a, // 运算式的 α 值 113 d_A, // A 在显存中的地址 114 N, // lda 115 d_B, // B 在显存中的地址 116 M, // ldb 117 &b, // 运算式的 β 值 118 d_C, // C 在显存中的地址(结果矩阵) 119 M // ldc 120 ); 121 122 // 同步函数 123 cudaThreadSynchronize(); 124 125 // 从 显存 中取出运算结果至 内存中去 126 cublasGetVector( 127 M*M, // 要取出元素的个数 128 sizeof(float), // 每个元素大小 129 d_C, // GPU 端起始地址 130 1, // 连续元素之间的存储间隔 131 h_C, // 主机端起始地址 132 1 // 连续元素之间的存储间隔 133 ); 134 135 // 打印运算结果 136 cout << "计算结果的转置 ( (A*B)的转置 )：" << endl; 137 138 for (int i = 0; i<M*M; i++){ 139 cout << h_C[i] << " "; 140 if ((i + 1) % M == 0) cout << endl; 141 } 142 143 // 清理掉使用过的内存 144 free(h_A); 145 free(h_B); 146 free(h_C); 147 cudaFree(d_A); 148 cudaFree(d_B); 149 cudaFree(d_C); 150 151 // 释放 CUBLAS 库对象 152 cublasDestroy(handle); 153 154 getchar(); 155 156 return 0; 157 }
出现的 ERROR：
1、 File "D:\soft\Anaconda\lib\site-packages\theano\__init__.py", line 116, in <module>
theano.sandbox.cuda.tests.test_driver.test_nvidia_driver1()
File "D:\soft\Anaconda\lib\site-packages\theano\sandbox\cuda\tests\test_driver.py", line 30, in test_nvidia_driver1
A = cuda.shared_constructor(a)
File "D:\soft\Anaconda\lib\site-packages\theano\sandbox\cuda\var.py", line 166, in float32_shared_constructor
enable_cuda=False)
File "D:\soft\Anaconda\lib\site-packages\theano\sandbox\cuda\__init__.py", line 589, in use
gpu_init(use.device_number, config.lib.cnmem)
可能会出现using gpu device 0: Geforce GTX 1050M（CNMeM is disable，CuDNN not available）这样的情况！有的人说不影响使用，但是我的情况确实是不能使用！！所以我跋山涉水历经千辛万苦终于解决了这个问题了！方法如下：
- 修改配置.theanorc.txt
加上这一条：
[lib]
cnmem = 1
注意：网上有的配置文件中没有[lib]这个块，后面导入theano时会出现CNMeM is disabled提示。
如果你有了这个还是出现CNMeM is disabled，那么只要把cnmem = 1后面的1改小一下就可以了，我改成0.8就可以了
最终的.theanorc.txt文件是：
[global]
openmp=False
device = gpu0
floatX = float32
allow_input_downcast=True
[lib]
cnmem = 0.8
[blas]
ldflags=
[gcc]
cxxflags=-IC:\Anaconda2\MinGW
[nvcc]
flags = -LC:\Anaconda2\libs
compiler_bindir = D:\Program Files (x86)\Microsoft Visual Studio 10.0\VC\bin
fastmath = True -
安装cudnn
到网上搜索cudnn下载下来（官网下载好像要注册才行。我的是从CSDN下载下来的）。将下载来的文件解压，解压出cuda文件夹，里面包含3个文件夹。将设三个文件夹替换掉系统里面的对应文件，进行覆盖替换即可。C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v8.0
覆盖掉后面导入theano时会就不会出现CuDNN not available提示了。
最后是这样的Using gpu device 0: GeForce GTX 1050M (CNMeM is enabled with initial size: 80.0% of memory, cuDNN 5105)
完美解决！
2、nvcc fatal : Value 'sm_61' is not defined for option 'gpu-architecture'
['nvcc', '-shared', '-O3', '-LD:\\soft\\Anaconda\\libs', '-use_fast_math', '-arch=sm_61', '--compiler-bindir', 'D:\\soft\\VisualStudio\\VC\\bin\\amd64', '-Xlinker', '/DEBUG', '-D HAVE_ROUND', '-m64', '-Xcompiler', '-DCUDA_NDARRAY_CUH=c72d035fdf91890f3b36710688069b2e,-DNPY_NO_DEPRECATED_API=NPY_1_7_API_VERSION,/Zi,/MD',
'-I"C:\\Users\\William\\AppData\\Local\\Theano\\compiledir_Windows-10-10.0.14393-Intel64_Family_6_Model_158_Stepping_9_GenuineIntel-2.7.13-64\\cuda_ndarray"', '-I"D:\\soft\\Anaconda\\lib\\site-packages\\numpy\\core\\include"', '-I"D:\\soft\\Anaconda\\include"', '-I"D:\\soft\\Anaconda\\lib\\site-packages\\theano\\gof"',
'-I"D:\\soft\\Anaconda\\lib\\site-packages\\theano\\sandbox\\cuda"', '-L"C:\\Users\\William\\AppData\\Local\\Theano\\compiledir_Windows-10-10.0.14393-Intel64_Family_6_Model_158_Stepping_9_GenuineIntel-2.7.13-64\\cuda_ndarray"', '-L"D:\\soft\\Anaconda\\libs"', '-L"D:\\soft\\Anaconda"', '-o',
'C:\\Users\\William\\AppData\\Local\\Theano\\compiledir_Windows-10-10.0.14393-Intel64_Family_6_Model_158_Stepping_9_GenuineIntel-2.7.13-64\\tmpaxqvf0\\544270fe7a21a748315f83abfe0913cc.pyd', 'mod.cu', '-lcudart', '-lcublas', '-lcuda_ndarray', '-lpython27']
Traceback (most recent call last):
Exception: ('The following error happened while compiling the node', GpuCAReduce{add}{1}
(<CudaNdarrayType(float32, vector)>), '\n', 'nvcc return status', 1, 'for cmd', 'nvcc -shared -O3
-LD:\\soft\\Anaconda\\libs -use_fast_math -arch=sm_61 --compiler-bindir D:\\soft\\VisualStudio\\VC\\bin\\amd64 -Xlinker /DEBUG -D HAVE_ROUND -m64 -Xcompiler -DCUDA_NDARRAY_CUH=c72d035fdf91890f3b36710688069b2e,-DNPY_NO_DEPRECATED_API=NPY_1_7_API_VERSION,/Zi,/MD
-I"C:\\Users\\William\\AppData\\Local\\Theano\\compiledir_Windows-10-10.0.14393-Intel64_Family_6_Model_158_Stepping_9_GenuineIntel-2.7.13-64\\cuda_ndarray" -I"D:\\soft\\Anaconda\\lib\\site-packages\\numpy\\core\\include" -I"D:\\soft\\Anaconda\\include"
-I"D:\\soft\\Anaconda\\lib\\site-packages\\theano\\gof" -I"D:\\soft\\Anaconda\\lib\\site-packages\\theano\\sandbox\\cuda" -L"C:\\Users\\William\\AppData\\Local\\Theano\\compiledir_Windows-10-10.0.14393-Intel64_Family_6_Model_158_Stepping_9_GenuineIntel-2.7.13-64\\cuda_ndarray"
-L"D:\\soft\\Anaconda\\libs" -L"D:\\soft\\Anaconda"
-o C:\\Users\\William\\AppData\\Local\\Theano\\compiledir_Windows-10-10.0.14393-Intel64_Family_6_Model_158_Stepping_9_GenuineIntel-2.7.13-64\\tmpaxqvf0\\544270fe7a21a748315f83abfe0913cc.pyd mod.cu -lcudart -lcublas -lcuda_ndarray -lpython27',
'[GpuCAReduce{add}{1}(<CudaNdarrayType(float32, vector)>)]')
把 flags换成
[nvcc]
flags = -arch=sm_30
#flags = -LD:\soft\Anaconda\libs