博客

本博客参照学习文档

https://documen.tician.de/pycuda/array.html


通过GPUArray 矩阵类可以将numpy中的数组和矩阵直接转换成cuda可处理类型，该步骤即将CPU中的数据复制到GPU中。

导入gpuArray和numpy

import pycuda.gpuarray as gpuarray
import numpy as np

将numpy ndarray转成gpuArray，如下：

gpuarray.to_gpu(ary)

这里需要主要的是，由于gpu最支持的数据类型是单精度浮点类型，因此ary最好定义为np.float32类型，如：

gpu_ary = gpuarray.to_gpu(np.random.rand(m,n).astype(np.float32))

类似的，可以采用一下方式进行gpuArray创建

gpu_ary = gpuarray.zeros((m,n),dtype=np.float32)    # 开辟gpu内存空间，创建0矩阵
gpu_ary = gpuarray.empty((m,n),dtype=np.float32)    # 开辟gpu内存空间，创建空矩阵
gpu_ary = gpuarray.zeros_like(ary)  # 开辟gpu内存空间，创建一个类似于ary的0矩阵，因此ary最好
                                    # 也是np.float32类型
gpu_ary = gpuarray.empty_like(ary)  # 开辟gpu内存空间，创建一个类似于ary的空矩阵，因此ary最好     
                                    # 也是np.float32类型
gpu_ary = gpuarray.arange(start,stop,step,dtype=None) #创建顺序序列，类型最好指定为np.float32
gpu_ary = gpuarray.take(a,ind)  # 返回gpuArray[a[ind[0]],..., a[ind[n]]]

条件操作

根据判断条件，返回满足条件的矩阵，采用如下方法：

d = gpuarray.if_positive(a,b,c) #a，b，c都是gpuArray类型

上述语句完成的功能：当a中对应的元素大于0时，返回b中对应的元素值，否则返回c中对应的元素值，例如：

a = gpuarray.to_gpu(np.random.rand(1,10).astype(np.float32))
b = a-0.5
c = gpuarray(b,b,a)
print a, '\n', b, '\n', c

得到的结果如下：

[[ 0.7115196   0.00776439  0.33624706  0.60278761  0.07853988  0.0300534
   0.8420729   0.37330294  0.41932908  0.70458138]]
[[ 0.2115196  -0.4922356  -0.16375294  0.10278761 -0.42146012 -0.46994659
   0.3420729  -0.12669706 -0.08067092  0.20458138]]
[[ 0.2115196   0.00776439  0.33624706  0.10278761  0.07853988  0.0300534
   0.3420729   0.37330294  0.41932908  0.20458138]]

对应的如下两种方法可以返回矩阵元素对应的最大和最小值

gpu_ary=gpuarray.maximum(a,b)   # gpu_ary 对应a和b中的较大元素
gpu_ary=gpuarray.minimum(a,b)   # gpu_ary 对应a和b中的较小元素

例如：

a = gpuarray.to_gpu(np.random.rand(1,10).astype(np.float32))
b = gpuarray.to_gpu(np.random.rand(1,10).astype(np.float32))
c = gpuarray.maximum(a,b)
print a, '\n', b, '\n', c

返回的结果如下：

[[ 0.70338213  0.67325777  0.04136072  0.49857542  0.9508003   0.97705019
   0.09260399  0.29496953  0.42824832  0.4623526 ]] 
[[ 0.05996453  0.44795206  0.37730327  0.55207098  0.99745291  0.28655595
   0.32621163  0.81231195  0.96985126  0.2867623 ]] 
[[ 0.70338213  0.67325777  0.37730327  0.55207098  0.99745291  0.97705019
   0.32621163  0.81231195  0.96985126  0.4623526 ]]

## 归约操作 ##

归约操作中涉及到矩阵求和，点积，最大最小值等操作

如下：

gpuarray.max(gpu_ary)
gpuarray.min(gpu_ary)
gpuarray.sum(gpu_ary)
gpuarray.dot(gpu_ary1,gpu_ary2)

pycuda通过cumath模块提供了一些数学操作函数，具体参见

https://documen.tician.de/pycuda/array.html

pycuda通过curandom模块提供有gpu产生随机数操作函数。