이유

Question

Tensorflow의 PTB 언어 모델에서 평가를위한 설정을 검사하는 동안, 나는 eval_config의 평가를 위해이 설정 당황하고

:

eval_config = get_config() 
    eval_config.batch_size = 1 
    eval_config.num_steps = 1 

https://github.com/tensorflow/models/blob/master/tutorials/rnn/ptb/ptb_word_lm.py

에서

나의 이해의 가장 좋은 방법은 평가하는 동안 문맥 단어의 창 (num_steps 크기까지 가능)이 별도의 타겟 텐서에 저장된 다음 단어를 예측하는 데 사용된다는 것입니다. num_steps가 1로 설정된 경우 이전 단어 만 예측에 사용됨을 의미하지 않습니까 (컨텍스트 창 크기> 1을 무시함)? 또한 평가 중에 batch_size가 1로 설정된 이유는 무엇입니까? 평가에 대한 연설을하기 위해 더 큰 배치를 네트워크에 공급하는 것이 이치에 맞지 않을까요?

Answer 1

출력에서 ​​한 단계 만 풀면 각 단어를 처음으로 평가 한 것입니다. 또한 일괄 처리 크기가 1 인 이유 일 수 있습니다.