심층 학습에서 크로스 엔트로피와 MSE의 다른 행동에 대한 이유는 무엇입니까?

Question

저는 세분화를위한 심층 학습 프로젝트를 진행하고 있습니다. 나는 분류를 위해 Softmax 레이어를 사용하고 있습니다. 아래에서 MSE의 수렴과 테스트 집합에 대한 교차 엔트로피 오차의 차이를 볼 수 있습니다. overfitting 외에 무슨 일이 일어나고 있는지 어떤 생각? MSECross-entrpy

Answer 1

MSE는 수렴 (볼록 함수)에 훨씬 간단한 지표입니다. 문제의 클래스 엔트로피는 손실 함수의 더 나은 선택처럼 보입니다.