잔여 블록 구현

전통적인 잔차 블록에서 N + 2 계층 (비선형성에 앞서)의 출력에 레이어 N을 "추가"하는 것은 요소 별 추가 또는 연결입니까?잔여 블록 구현

X1 = X 
X2 = relu(conv(X1)) 
X3 = conv(X2) 
X4 = relu(conv(X3 + X1))

https://stackoverflow.com/q/46902386/712995 – Maxim

그것은 요소 - 현명해야하고, 연결 당신은 잔여 기능을하지 않습니다

문헌는 다음과 같이 나타냅니다. 하나의 적절한 패딩 모드를 사용하면 컨볼 루션이 블록 입력과 동일한 공간 차원의 출력을 생성하므로주의해야합니다.

2017-12-22 09:02:14

그 설명에 감사드립니다. 회선은 치수를 유지해야하므로 입력이 그물을 통해 흐를 때 크기가 변하는가? –

@ rodrigo-silveira 잔여 물 사이의 일부 블록을 통과합니다. 아키텍처에 대한 자세한 내용은 ResNet 문서를 참조하십시오. –

답변