피드 포워드 프로세스 동안 패딩 된 0을 처리하는 방법

Question

다른 크기의 입력 목록이 있다고 가정합니다. 예를 들어, 일부는 [10,9,5] 일부 모양이 [7,6,5]이고, [10,9,5]와 같은 크기의 텐서 흐름으로 그들을 공급하기 위해 0을 덧붙이면 행렬 곱셈을하고 패딩 된 0 위치에 숫자를 도입하는 순방향 과정에서 바이어스를 추가해야합니다. 그래서 마스크 매트릭스를 만들어야 마스크를 만들 수 있습니까? 아니면 tensorflow에서 더 쉬운 방법이 있습니까? 감사!

나는 현재 먹이를 먹거나 rnn을 먹고 있지 않습니다. 그래서 나는 동적 인 rnn을 사용할 수 없다

Answer 1

가변 길이 입력을 피드 포워드 네트워크로 보내기 전에 고정 길이 텐서로 변환하는 데 attention mechanism을 사용할 수 있다고 생각합니다.