OpenMPI 이상한 출력 오류

Question

작은 클러스터에서 OpenMPI 1.3을 사용하고 있습니다.

void invertColor_Parallel(struct image *im, int size, int rank) 
{ 
    int i,j,aux,r; 

    int total_pixels = (*im).ih.width * (*im).ih.height; 
    int qty = total_pixels/(size-1); 
    int rest = total_pixels % (size-1); 
    MPI_Status status; 

    //printf("\n%d\n", rank); 

    if(rank == 0) 
    { 
     for(i=1; i<size; i++){ 
     j = i*qty - qty; 
     aux = j; 

     if(rest != 0 && i==size-1) {qty=qty+rest;} //para distrubuir toda la carga 
     //printf("\nj: %d qty: %d rest: %d\n", j, qty, rest); 

     MPI_Send(&aux, 1, MPI_INT, i, MASTER_TO_SLAVE_TAG+1, MPI_COMM_WORLD); 
     MPI_Send(&qty, 1, MPI_INT, i, MASTER_TO_SLAVE_TAG+2, MPI_COMM_WORLD); 

     MPI_Send(&(*im).array[j], qty*3, MPI_BYTE, i, MASTER_TO_SLAVE_TAG, MPI_COMM_WORLD); 
     } 

    } 
    else 
    { 
     MPI_Recv(&aux, 1, MPI_INT, MPI_ANY_SOURCE, MASTER_TO_SLAVE_TAG+1, MPI_COMM_WORLD,&status); 
     MPI_Recv(&qty, 1, MPI_INT, MPI_ANY_SOURCE, MASTER_TO_SLAVE_TAG+2, MPI_COMM_WORLD,&status); 

     pixel *arreglo = (pixel *)calloc(qty, sizeof(pixel)); 
     MPI_Recv(&arreglo[0], qty*3, MPI_BYTE, MPI_ANY_SOURCE, MASTER_TO_SLAVE_TAG, MPI_COMM_WORLD,&status); 
     //printf("Receiving node=%d, message=%d\n", rank, aux); 

     for(i=0;i<qty;i++) 
     { 
      arreglo[i].R = 255-arreglo[i].R; 
      arreglo[i].G = 255-arreglo[i].G; 
      arreglo[i].B = 255-arreglo[i].B; 
     } 

     MPI_Send(&aux, 1, MPI_INT, 0, SLAVE_TO_MASTER_TAG+1, MPI_COMM_WORLD); 
     MPI_Send(&qty, 1, MPI_INT, 0, SLAVE_TO_MASTER_TAG+2, MPI_COMM_WORLD); 
     MPI_Send(&arreglo[0], qty*3, MPI_BYTE, 0, SLAVE_TO_MASTER_TAG, MPI_COMM_WORLD); 

     free(arreglo); 
    } 


    if (rank==0){ 
     //printf("\nrank: %d\n", rank); 
     for (i=1; i<size; i++) // untill all slaves have handed back the processed data 
     { 
      MPI_Recv(&aux, 1, MPI_INT, MPI_ANY_SOURCE, SLAVE_TO_MASTER_TAG+1, MPI_COMM_WORLD,&status); 
      MPI_Recv(&qty, 1, MPI_INT, MPI_ANY_SOURCE, SLAVE_TO_MASTER_TAG+2, MPI_COMM_WORLD,&status); 
      MPI_Recv(&(*im).array[aux], qty*3, MPI_BYTE, MPI_ANY_SOURCE, SLAVE_TO_MASTER_TAG, MPI_COMM_WORLD,&status); 
     } 
    } 
} 

int main(int argc, char *argv[]) 
{ 
    //////////time counter 
    clock_t begin; 


    int rank, size; 

    MPI_Init(&argc, &argv); 
    MPI_Comm_size(MPI_COMM_WORLD, &size); 
    MPI_Comm_rank(MPI_COMM_WORLD, &rank); 
    MPI_Status status; 

    int op = (int)atof(argv[1]); 
    char filename_toload[50]; 
    int bright_number=0; 
    struct image image2; 

    if (rank==0) 
    { 
     loadImage(&image2, argv[2]); 
    } 

    //Broadcast the user's choice to all other ranks 
    MPI_Bcast(&op, 1, MPI_INT, 0, MPI_COMM_WORLD); 


    switch(op) 
    { 
     case 1: 
       if (rank==0) {begin = clock();} 
       MPI_Barrier(MPI_COMM_WORLD); 
       invertColor_Parallel(&image2, size, rank); 
       MPI_Barrier(MPI_COMM_WORLD); 
       if (rank==0) {runningTime(begin, clock()); printf("Se invirtieron los colores de la imagen\n\n");} 
       break; 
    } 

    MPI_Barrier(MPI_COMM_WORLD); 

    if (rank==0) 
    { 
     saveImage(&image2, argv[3]); 
     free(image2.array); 
    } 

    MPI_Finalize(); 

    return 0; 
} 

을 때때로 나는 다음과 같은 오류가 발생합니다 :

이

내가 부르고 기능입니다.

cluster@maestro:/mpi$ mpirun -np 60 -hostfile /home/hostfile paralelo 
1 image.bmp out.bmp 

cluster@nodo1's password: 
[maestro:5194] *** An error occurred in MPI_Recv 
[maestro:5194] *** on communicator MPI_COMM_WORLD 
[maestro:5194] *** MPI_ERR_TRUNCATE: message truncated 
[maestro:5194] *** MPI_ERRORS_ARE_FATAL (your MPI job will now abort) 
-------------------------------------------------------------------------- 
mpirun has exited due to process rank 0 with PID 5194 on node maestro 
exiting without calling "finalize". This may have caused other 
processes in the application to be terminated by signals sent by 
mpirun (as reported here). 
-------------------------------------------------------------------------- 
[nodo1] [[49223,1],55][../../../../../../ompi/mca/btl/tcp/btl_tcp_frag.c:216:mca_btl_tcp_frag_recv] mca_btl_tcp_frag_recv: readv failed: Connection reset by peer (104) 

오류가 발생하는지 여부에 따라 프로세스 수가 달라집니다. -np 99으로 꽤 잘 작동합니다.

무슨 일이 일어나고 있는지 알고 싶습니다.

Answer 1

이 코드는 아마 범인입니다 :

if (rank==0){ 
    //printf("\nrank: %d\n", rank); 
    for (i=1; i<size; i++) // untill all slaves have handed back the processed data 
    { 
     MPI_Recv(&aux, 1, MPI_INT, MPI_ANY_SOURCE, SLAVE_TO_MASTER_TAG+1, MPI_COMM_WORLD,&status); 
     MPI_Recv(&qty, 1, MPI_INT, MPI_ANY_SOURCE, SLAVE_TO_MASTER_TAG+2, MPI_COMM_WORLD,&status); 
     MPI_Recv(&(*im).array[aux], qty*3, MPI_BYTE, MPI_ANY_SOURCE, SLAVE_TO_MASTER_TAG, MPI_COMM_WORLD,&status); 
    } 
} 

당신이 (AB-) MPI_ANY_SOURCE를 사용하여, 당신은 기본적으로 메시지 수신 경주를위한 완벽한 조건을 만드는 때문에. 그것은 제 MPI_Recv는, 두번째는, 랭크 K에서 메시지를 일치 순위 J 세번째로부터 메시지를 일치 I 순위 에서 메시지를 일치 전적으로 가능이다 I, J, k은 완전히 다른 값을 갖습니다. 따라서 잘못된 이미지 슬롯에 잘못된 픽셀 수를받을 수 있습니다. 또한 순위 k이 qty의 값보다 많은 픽셀을 보냈을 경우 j 등급으로 지정하면 잘림 오류가 발생하며 실제로 표시됩니다. 조언의 말씀 : 절대MPI_ANY_SOURCE을 사용하십시오. 알고리즘이 정확하고 인종이 발생할 수 있다는 것을 절대적으로 확신하지 않는 한 경솔합니다.

if (rank==0){ 
    //printf("\nrank: %d\n", rank); 
    for (i=1; i<size; i++) // untill all slaves have handed back the processed data 
    { 
     MPI_Recv(&aux, 1, MPI_INT, i, SLAVE_TO_MASTER_TAG+1, MPI_COMM_WORLD, &status); 
     MPI_Recv(&qty, 1, MPI_INT, i, SLAVE_TO_MASTER_TAG+2, MPI_COMM_WORLD, &status); 
     MPI_Recv(&(*im).array[aux], qty*3, MPI_BYTE, i, SLAVE_TO_MASTER_TAG, MPI_COMM_WORLD, &status); 
    } 
} 

또는 더 나은 같은 :

는 다음과 같이 코드를 다시 작성 어느

if (rank==0){ 
    //printf("\nrank: %d\n", rank); 
    for (i=1; i<size; i++) // untill all slaves have handed back the processed data 
    { 
     MPI_Recv(&aux, 1, MPI_INT, MPI_ANY_SOURCE, SLAVE_TO_MASTER_TAG+1, 
       MPI_COMM_WORLD, &status); 
     MPI_Recv(&qty, 1, MPI_INT, status.MPI_SOURCE, SLAVE_TO_MASTER_TAG+2, 
       MPI_COMM_WORLD, &status); 
     MPI_Recv(&(*im).array[aux], qty*3, MPI_BYTE, status.MPI_SOURCE, SLAVE_TO_MASTER_TAG, 
       MPI_COMM_WORLD, &status); 
    } 
} 

세 가지가 항상 동일한 프로세스 및 경쟁 조건이 제거됩니다 메시지를 얻을 것이다받는 방법입니다. 두 번째 버전의 작동 방식은 먼저 임의의 순위에서 메시지를 받지만 status.MPI_SOURCE 필드를 사용하여 실제 순위를 얻고 다음 수신에 사용하는 것입니다.