CUDA 纹理内存

川长思鸟来 2022-08-08 03:29 155阅读 0赞

**1、概述**

纹理存储器中的数据以一维、二维或者三维数组的形式存储在显存中，可以通过缓存加速访问，并且可以声明大小比常数存储器要大的多。

在kernel中访问纹理存储器的操作称为**纹理拾取(texture fetching)**。将显存中的数据与纹理参照系关联的操作，称为将数据与**纹理绑定(texture binding)**.

显存中可以绑定到纹理的数据有两种，分别是普通的线性存储器和cuda数组。

**　　注**：线性存储器只能与一维或二维纹理绑定,采用整型纹理拾取坐标，坐标值与数据在存储器中的位置相同；

CUDA数组可以与一维、二维、三维纹理绑定，纹理拾取坐标为归一化或者非归一化的浮点型，并且支持许多特殊功能。

**2、纹理缓存**：

（1）、纹理缓存中的数据可以被重复利用

（2）、纹理缓存一次预取拾取坐标对应位置附近的几个象元，可以实现滤波模式。

**3、纹理存储器的特殊功能**

![11232419-40a6984ba45445adaa96ed0519e3929a.jpg][]

**4、纹理存储器的使用**

使用纹理存储器时，首先要在主机端声明要绑定到纹理的线性存储器或CUDA数组

(1)声明纹理参考系

texture<Type, Dim, ReadMode> texRef;
    //Type指定数据类型，特别注意：不支持3元组
    //Dim指定纹理参考系的维度，默认为1
    //ReadMode可以是cudaReadModelNormalizedFloat或cudaReadModelElementType(默认)

注：纹理参照系必须定义在所有函数体外

(2) 声明CUDA数组，分配空间

CUDA数组可以通过cudaMalloc3DArray()或者cudaMallocArray()函数分配。前者可以分配1D、2D、3D的数组，后者一般用于分配2D的CUDA数组。使用完毕，要用 　　　　　　　cudaFreeArray()函数释放显存。

1 //1数组
     2 cudaMalloc((void**)&dev_A, data_size);
     3 cudaMemcpy(dev_A, host_A, data_size, cudaMemcpyHostToDevice);
     4 cudaFree(dev_A);
     5 
     6 //2维数组
     7 cudaChannelFormatDesc channelDesc = cudaCreateChannelDesc<float>()
     8 cudaArray *cuArray;
     9 cudaMallocArray(&cuArray, &channelDesc, 64, 32); //64x32
    10 cudaMemcpyToArray(cuArray, 0, 0, h_data, sizeof(float)*width*height, cudaMemcpyHostToDevice);
    11 cudaFreeArray(cuArray);
    12 
    13 //3维数组 64x32x16
    14 cudaChannelFormatDesc channelDesc = cudaCreateChannelDesc<uchar>();
    15 cudaArray *d_volumeArray;
    16 cudaMalloc3DArray(&d_volumeArray, &channelDesc, volumSize);
    17 
    18 cudaMemcpy3DParms copyParams = {
       0};
    19 copyParams.srcPtr   = make_cudaPitchedPtr((void*)h_volume, volumeSize.width*sizeof(uchar), volumeSize.width, volumeSize.height);
    20 copyParams.dstArray = d_volumeArray;
    21 copyParams.extent   = volumeSize;
    22 copyParams.kind     = cudaMemcpyHostToDevice;
    23 cudaMemcpy3D(&copyParams);
    24 
    25 tex.normalized = true;
    26 tex.filterMode = cudaFilterModeLinear;
    27 tex.addressMode[0] = cudaAddressModeWrap;
    28 tex.addressMode[1] = cudaAddressModeWrap;
    29 tex.addressMode[2] = cudaAddressModeWrap;

（3）设置运行时纹理参照系属性

struct textureReference{
        int normalized;
        enum cudaTextureFilterMode filterMode;
        enum cudaTextureAddressMode addressMode[3];
        struct cudaChannelFormatDesc channelDesc;
    }

normalized设置是否对纹理坐标归一化

filterMode用于设置纹理的滤波模式

addressMode说明了寻址方式

(4)纹理绑定

通过cudaBindTexture() 或 cudaBindTextureToArray()将数据与纹理绑定。

通过cudaUnbindTexture()用于解除纹理参照系的绑定

注：与纹理绑定的数据的类型必须与声明纹理参照系时的参数匹配

(I).cudaBindTexture() //将1维线性内存绑定到1维纹理

1 cudaError_t cudaBindTexture(    
    2     size_t *     offset,
    3     const struct textureReference *     texref,
    4     const void *     devPtr,
    5     const struct cudaChannelFormatDesc *     desc,
    6     size_t     size = UINT_MAX     
    7 )

例：

1 cudaMalloc((void**)&data.dev_inSrc, imageSize);
    2 cudaBindTexture(NULL, tex, data.dev_inSrc, imageSize);

(II).cudaBindTexture2D //将1维线性内存绑定到2维纹理

1 cudaError_t cudaBindTexture2D(    
    2     size_t *     offset,
    3     const struct textureReference *     texref,
    4     const void *     devPtr,
    5     const struct cudaChannelFormatDesc *     desc,
    6     size_t     width,
    7     size_t     height,
    8     size_t     pitch     
    9 )

例：

1 cudaMalloc((void**)&data.dev_inSrc, imageSize);
    2 cudaChannelFormatDesc desc = cudaCreateChannelDesc<float>();
    3 cudaBindTexture2D(NULL, tex, data.dev_inSrc, desc, DIM, DIM, sizeof(float)*DIM);

(III). cudaBindTextureToArray() //将cuda数组绑定到纹理

1 cudaError_t cudaBindTextureToArray    (    
    2     const struct textureReference *     texref,
    3     const struct cudaArray *     array,
    4     const struct cudaChannelFormatDesc *     desc     
    5 )

例：

1 void initCudaTexture(const uchar *h_volume, cudaExtent volumeSize)
     2 {
     3     cudaChannelFormatDesc channelDesc = cudaCreateChannelDesc<uchar>();
     4 
     5     cutilSafeCall(cudaMalloc3DArray(&d_volumeArray, &channelDesc, volumeSize));
     6 
     7     cudaMemcpy3DParms copyParams = {
       0};
     8     copyParams.srcPtr = make_cudaPitchedPtr((void*)h_volume, volumeSize.width*sizeof(uchar), volumeSize.width, volumeSize.height);
     9     copyParams.dstArray = d_volumeArray;
    10     copyParams.extent   = volumeSize;
    11     copyParams.kind     = cudaMemcpyHostToDevice;
    12     cutilSafeCall(cudaMemcpy3D(&copyParams));
    13 
    14     tex.normalized = true;
    15     tex.filterMode = cudaFilterModeLinear;
    16     tex.addressMode[0] = cudaAddressModeWrap;
    17     tex.addressMode[1] = cudaAddressModeWrap;
    18     tex.addressMode[2] = cudaAddressModeWrap;
    19 
    20     cutilSafeCall(cudaBindTextureToArray(tex, d_volumeArray, channelDesc));
    21 }

(5)纹理拾取

对于线性存储器绑定的纹理，使用tex1Dfetch()访问，采用的纹理坐标是整型。由cudaMallocPitch() 或者 cudaMalloc3D()分配的线性空间实际上仍然是经过填充、对齐的一维线性空　　　间，因此也用tex1Dfetch()

对与一维、二维、三维cuda数组绑定的纹理，分别使用tex1D(), tex2D() 和 tex3D()函数访问，并且使用浮点型纹理坐标。

[11232419-40a6984ba45445adaa96ed0519e3929a.jpg]: /images/20220805/ab33443cc04d4816ad0887f98fd518aa.png