2014-10-03 10 views
1

신경망을 연구 할 때, 수학적 유도는 항상 숨겨진 레이어와 출력 레이어에서 시그마 함수를 사용합니다. 그러나 Mathworks의 NNtool 상자는 사용자가 숨겨진 레이어와 출력 레이어의 순수 라인에서 시그마를 사용하도록 제안합니다. 누구나 왜 출력 레이어가 pureline이 될 수 있는지 말해 줄 수 있습니까? 난 그냥이 활성화 기능에 대한 이유를 잡을 수 없습니다. 내가 pureline 기능을 사용하는 경우 NNtool 상자에서 신경망의 출력 활성화 기능 제안이 pureline 인 이유는 무엇입니까?

http://imgur.com/9V2HIlF

는 // 전통적인 다시 전파 식으로 공식

, 결과는 매우 다를 것이다. 하지만 출력 활성화 함수가 순수 라인 인 경우 전파가 파생되지 않습니다. 나는 전통적인 back propagation과 같지 않은 동안 prureline을 사용할 어떤 이유가 있는지 궁금합니다.

답변

0

인공 신경망에서 활성화 기능으로 시그 모이 드 기능을 사용하려는 목적은 출력 범위를 제한하는 것입니다. 그것이 숨겨진 레이어에서 사용 되었다면 숨겨진 레이어 노드의 수가 유한이며 출력 레이어 노드의 이득이 제한되면 출력 레이어 노드는 바운드 된 출력을 갖게됩니다.

그러나 이는 단지 제안 일뿐입니다. 출력 레이어에서 여전히 시그 모이 드를 사용할 수 있습니다.