Pycuda 어떤 장치가 실행 중인지 알 수있는 방법

Question

우리는 4 개의 GPU 장치 만 가지고 있습니다. 우리는 4 명 이상의 사용자가 cuda 프로그램을 실행할 수 있으므로 프로그램을 실행하기 전에 어떤 장치가 사용 중이 아닌지 확인하거나 메모리를 할당하지 못하게 할 것입니다. 그러나 나는이 태그를 얻는 함수를 발견하지 못했습니다. 우리가 "cudaSetDevice()"라고 부르는 장치를 사용하고자 할 때, 각 장치에 대한 태그가 있어야한다는 것을 안다. "nvidia-smi"는 어떤 프로세스가 어떤 장치를 사용하고 얼마나 많은 메모리를 사용했는지를 포함하여 세부 사항을 얻을 수 있습니다. 그럼 누가 나를 도울 수 있니?

Answer 1

cudaSetDevice 값은 0에서 시작하여 각 추가 장치에 대해 단조롭게 증가합니다. 또는 환경 변수 CUDA_VISIBLE_DEVICES를 설정하여 사용할 장치를 선택할 수 있습니다. (https://devblogs.nvidia.com/parallelforall/cuda-pro-tip-control-gpu-visibility-cuda_visible_devices/ 참조).

장치를 사용하는 것에 대한 정보를 얻으려면 드라이버 API를 사용해야합니다. http://docs.nvidia.com/cuda/cuda-driver-api/index.html