2017-10-31 9 views
1

CNN (Convolutional Neural Network)에서 필터는 가중치 공유를 위해 선택됩니다. 예를 들어, 다음 그림에서 보폭 (인접 뉴런 사이의 거리)이 1 인 3x3 창이 선택됩니다.심층 학습에서 CNN의 창 크기를 선택하는 방법은 무엇입니까?

enter image description here enter image description here

그래서 내 질문은 : 방법 창 크기를 선택? 스트라이드가 2 인 4x4를 ​​사용하면 얼마나 차이가 발생합니까? 많은 감사드립니다!

답변

0

확실한 답변은 없습니다. 필터 크기는 일반적으로 조정해야하는 하이퍼 파라미터 중 하나입니다. 그러나 도움이되는 몇 가지 유용한 관찰이 있습니다. 작은 필터을 선택하는 것이 더 좋지만, 큰 숫자는입니다.

예 : 4 개의 5x5 필터에는 100 개의 매개 변수 (바이어스 무시)가 있고 13x3 필터에는 90 개의 매개 변수가 있습니다. 더 큰 필터를 통해 이미지의 다양한 기능을 캡처 할 수 있지만 매개 변수는 더 적습니다. 이것에 대한 자세한 내용은 here.

현대의 CNN은이 아이디어로 더욱 나아가고 연속적인 3x11x3 길쌈 레이어를 선택합니다. 이렇게하면 매개 변수 수가 더 줄어들지 만 성능에는 영향을 미치지 않습니다. evolution of inception network을 참조하십시오.

스트라이드의 선택도 중요하지만, 컨볼 루션 이후 텐서 형태에 영향을 미치므로 네트워크 전체에 영향을 미칩니다. 일반적인 규칙은 일반적인 컨볼 루션에서 stride=1을 사용하고 패딩으로 공간 크기를 보존하고 이미지를 다운 샘플링하려는 경우 stride=2을 사용하는 것입니다.