ANN : 신경망으로 비선형 함수를 근사화하십시오.

Question

회귀 문제에 신경 네트워크를 구축하는 법을 배우고 있습니다. 선형 함수를 근사 적으로 계산합니다. 숨겨진 레이어와 출력 레이어의 선형 활성화 기능이있는 1-5-1 유닛으로 설정하면 트릭과 결과가 빠르고 안정적입니다. 그러나,이 때 공급에 간단한 차 데이터 (F (X) = X * X) 여기서 일어나는 것이다 :

선형 활성화 함수로

, 그것은 데이터 세트를 통해 선형 함수에 맞도록 시도

TANH 기능을 사용하면 TANH 곡선을 데이터 세트에 넣으려고합니다. 이 차트에서 활성화 함수의 형태를 반복 이후이 날 현재 설정이 선형 관계하지만 아무것도 배울 본질적 수 없다는 생각하게

. 그러나 이것은 다른 구현이 곡선을 완벽하게 배울 수 있기 때문에 사실이 아닐 수도 있습니다. 그래서 내가 뭔가 잘못하고있을 수 있습니다. 귀하의 지침을 제공하십시오.

내 무게가 무작위 내 코드에 대한

---

(-1, 1) 입력은 표준화되지 않습니다. 데이터 집합은 무작위 순서로 공급됩니다. 학습 속도를 변경하거나 레이어를 추가해도 그림은 많이 변경되지 않습니다.

제가

플레이하는 곳이 함수하는 jsfiddle 만든 :

function trainingSample(n) { 
    return [[n], [n]]; 
} 

는 단일 트레이닝 샘플을 생성하는 입력 벡터 어레이의 어레이 및 타겟 벡터 어레이 . 이 예제에서는 f(x)=x 함수를 생성합니다. [[n], [n*n]]으로 수정하면 2 차 함수가 나타납니다.

재생 버튼은 오른쪽 상단에 있으며이 값을 수동으로 입력 할 수있는 입력란이 두 개 있습니다. 대상 (오른쪽) 상자가 비어 있으면 피드 포워드만으로 네트워크 출력을 테스트 할 수 있습니다.

학습 속도 및 기타 사항을 설정할 수있는 코드의 네트워크 구성 파일도 있습니다. (var Config에 대한 검색)

Answer 1

내가 설명하는 설정에서 기능의 선택 때문에 비선형 기능을 배울 수 없다는 것이 나에게 발생했습니다. 정방향 패스에서는 아무 것도 입력 종속성이 1보다 높기 때문에 출력에서 ​​내 정품 인증 기능의 스냅 숏을보고있는 것입니다. 이봐.