tensorflow를 사용하여 임베디드 레이어 구현

Question

내 데이터에 25 개의 기능이 있다고 가정 해 보겠습니다. Keras에서는 각 입력 피쳐에 대해 Embedding 레이어를 쉽게 구현하고 나중에 병합하여 이후 레이어에 공급할 수있었습니다.

tf.nn.embedding_lookup은 id 매개 변수를 허용합니다.이 매개 변수는 단순한 정수 또는 정수 배열 ([1,2,3, ..]) 일 수 있습니다. 그러나, 기능 입력

X = tf.split(1,in_feature_num,x) 

를 사용하여 종종 형상

x = tf.placeholder(tf.float32, [None, in_feature_num]) 

I가 자신의 기능을 분리 할 수이며, 각각의 입력은 형상이다 기능 [? 1]. 그러나 embedding_lookup은 [?, 1]의 모양을 따르지 않으며 지정된 행 길이가 없기 때문에 reshape 또는 unpack과 같은 모양으로 [?]를 사용할 수 없습니다. 그래서

, 어떻게이 같은 삽입 표현으로

[[1], 
[2], 
[3], 
    ... 
] 

같은 입력을 변환 할 수 :

는 SO 후 관련

[ 
    [....], #a vector 
    [....], #a vector 
    [....], #a vector 
    ... 
] 

은 다음과 같습니다 What does tf.nn.embedding_lookup function do? 및 TensorFlow Embedding Lookup 그러나 그 게시물은 해결되지 않습니다 내 문제.

Answer 1

나는 당신이 무슨 뜻인지 알고 있다고 생각합니다. 문제는 기능이란 무엇입니까? 숫자 일 경우 삽입 레이어가 실제로 필요하지 않습니다. 대신 완전히 연결된 레이어를 사용할 수 있습니다. 그러나 범주 형이라면 두 가지 옵션이 있다고 생각합니다 : 1. 모든 피쳐에 대해 별도의 임베딩 (연결해야하는 임베딩 레이어가 25 개로 끝나게 됨) 2. 피쳐를 단일 피쳐로 병합합니다. 먼저