GPU 공유 메모리에 큰 배열을 효율적으로로드하는 방법은 무엇입니까?

Question

GPU 공유 메모리에 큰 배열을로드하고 싶습니다. 내가 벨로우즈처럼 사용할 때 :

1 : int index = threadidx.x;

2 : 공유 unsigned char x [1000];

3 : x [i] = array [i];

그런 다음 1000 개의 스레드와 하나의 블록으로 커널 코드를 호출하면 모든 스레드에 대해 메모리 액세스가 발생합니까? 이 배열을 하나의 메모리 액세스로로드하여 공유 메모리에로드 할 수 있습니까?

모든 의견을 크게 기뻐할 것입니다.

Answer 1

아니요 단일 액세스로 수행 할 수 없습니다.

공유 메모리로드와 병렬로 스레드를 사용하면 앞에서 설명한 것처럼 가장 빠른 방법입니다. 공유 메모리는 만 CUDA 커널의 스레드가 수행하는 메모리 연산에 의해로드 될 수 있습니다. 공유 메모리를로드하는 API 함수는 없습니다.

스레드 블록의 스레드 수보다 큰 배열이있는 경우 here과 같은 루핑 방식을 사용할 수 있습니다.

Answer 2

일반적으로 패러다임은 블록에 대해 for 루프를 사용합니다. 공유 메모리는 블록간에 만 공유되므로 공유 메모리가 블록 수보다 클 경우 멋진 루프가 필요할 것입니다.

커널 시작 부분에 다음과 같이하십시오.

//loadbuff is a T*, T is whatever type you want 
//sharedmemsize is some (compile time) constant 
__shared__ T sharedmem[sharedmemsize]; 
int index = threadidx.x; 
int blocksize = blockDim.x; 

for (int i = index; i < sharedmemsize; i+=blocksize) 
{ 
    sharedmem[i]=loadbuff[i]; 
} 
__syncthreads();