CNN과 RNN의 연결 기능을 가진 입력 레이어 3 개의 신경망을 설계했습니다. 네트워크에서 습득 한 가중치는 매우 작은 값을가집니다. 이것에 대한 합리적인 설명은 무엇입니까? Tensorflow에서 체중 막대 그래프 및 분포를 해석하는 방법은 무엇입니까? 그것을위한 좋은 자원?신경망 레이어의 무게 분포를 해석하는 방법
이것은 텐서 보드를 사용하여 시각화 된 3 층 신경망의 첫 번째 숨겨진 층의 무게 분포입니다. 이것을 해석하는 방법? 모든 가중치가 제로 값을 차지하고 있습니까?
방법 Tensorflow의 중량 히스토그램 및 분포 해석 :
이 3 층 신경의 제 은닉층의 분자량 분포는?
글쎄, 당신은 아마 그것을 실현하지 못했지만, 당신은
모델의 해석 가능성이 하이퍼 활성 및 하이퍼 뜨겁다 ... ML & AI에 1 백만 달러 질문을했다 최근 연구의 영역 (성배 또는 무언가를 생각하십시오)은 최근 여러 가지 과제에서 깊은 학습 모델의 (종종 엄청난) 성공으로 인해 앞으로 가져 왔습니다. 이 모델은 현재 블랙 박스 뿐이며 자연스럽게 불편 함을 느낍니다 ...
좋은 자원이 있습니까?
아마 당신이 생각하고있는 자원의 종류가 아니 겠지만, 우리는 여기에 너무 적합한 주제가 아닙니다.하지만 물어봤을 때부터 ...(& 용어가 지불됩니다 어떤에서 텍스트 링크,하지만 인터넷 검색을 이름) How AI detectives are cracking open the black box of deep learning
:
는과학 A (2017 7월) 최근 기사는 현재 상태의 좋은 개요 & 연구를 제공합니다 DARPA 자체는 현재 NIPS 2016 워크숍이
에서 프로그램을 실행
레이어 현명한 관련성 전파 (LRP) 신경 네트워크 도구 상자 (paper, project page, code, TF Slim wrapper)
FairML : 감사 블랙 박스 예측보다 실제적인 수준에
매우 최근의 것 (11 월 20 일 독립적 인 PyTorch implementation
SHAP와 제프 힌튼, Distilling a Neural Network Into a Soft Decision Tree에 의해 17) 용지 : 해석 모델의 예측 (paper에 대한 통합 접근 방식은, 저자는 code)
이들은 우선,과에 충분해야한다 당신이 물어 보았던 주제에 대한 일반적인 생각을 말해주세요.
