opencl 명령 대기열은 어떻게 작동하며 무엇을 요청할 수 있습니까?

Question

동일한 작업을 여러 번 미리 수행하는 알고리즘을 연구 중입니다. 연산이 일부 선형 대수 (BLAS)로 구성되어 있기 때문에 GPAS를 사용해 보겠습니다.

커널을 작성하고 명령 대기열에서 커널을 시작하기 시작했습니다. 각 통화가 끝날 때까지 기다리지 않으려 고하기 때문에 이벤트를 통해 통화를 데이지 체인으로 연결하고 대기열에 넣기 시작합니다.

call kernel1(return event1) 
call kernel2(wait for event 1, return event 2) 
... 
call kernel1000000(vait for event 999999) 

이제 내 질문은,이 모든 것이 드라이버의 큐를 저장하는 그래픽 칩으로 푸시됩니까? 거기에 사용할 수있는 이벤트의 수 또는 명령 대기열의 길이에 경계가 있습니다. 둘러 보았지만 찾을 수 없었습니다.

나는 내 GPU의 사용률을 확인하기 위해 atMonitor를 사용하고 있는데, 20 % 이상으로 밀어내는 것은 꽤 어렵다. 이것은 단순히 호출을 충분히 빨리 푸시 할 수 없기 때문일까? 내 데이터는 이미 GPU에 저장되어 있으며 실제로 전달되는 모든 것은 실제 호출입니다.

Answer 1

다음 커널이 이전 커널에 데이터 종속성이 없으면 먼저 이전 커널에서 이벤트를 기다리지 않아야합니다. 장치 사용률 (일반적으로)은 항상 대기열에 준비가되어있는 항목에 따라 달라집니다. 이벤트를 기다릴 필요가있을 때만 이벤트를 기다립니다.

"이 모든 것이 드라이버가 큐를 저장하는 그래픽 칩으로 푸시됩니까?"

구현 정의입니다. OpenCL은 GPU 이상에서 작동합니다. CUDA 스타일의 장치/호스트 이분법에서 "호스트"에 명령 대기열 작업 (대부분의 구현에서)을 고려해야합니다.

사이에 대기없이 여러 커널 호출 대기열에 넣어보십시오. 또한 최적의 작업 그룹 크기를 사용하고 있는지 확인하십시오. 이 두 가지를 모두 수행하면 기기를 최대한 활용할 수 있어야합니다.

Answer 2

불행히도 모든 질문에 대한 답을 모르겠지만 지금도 똑같은 것에 대해 궁금해하고 있습니다. GPL이 실행을 완료해야하므로 OpenCL 대기열이 가득 차게 될지 의심 스럽습니다. 20 개 이상의 명령이 제출되기 전에 마지막으로 대기 된 명령. GPU가 "워치 독 (watchdog)"을 가지고 있다면 말 그대로 엄청나게 긴 커널 (5 초 이상)이 실행되는 것을 막을 수 있기 때문입니다.