language-model

    0열

    1답변

    Tensorflow : 반복 신경망 훈련 쌍 및 손실 함수에 대한 영향

    RNN 언어 모델의 코드를 살펴 보았습니다. 1) 훈련 쌍 (x, y)이 어떻게 구성되고 그 다음에 2) 손실이 계산되는지에 관해 혼란 스럽습니다. 이 코드는 Tensorflow RNN 튜토리얼 (독자 모듈)에서 가져옵니다. 리더 모듈 내에서 생성자 ptb_iterator이 정의됩니다. 데이터를 하나의 시퀀스로 취하고 은 배치 크기와 RNN을 '언 롤 (u
    neural-network tensorflow recurrent-neural-network language-model 2016-09-07

    2열

    1답변

    Keras + Theano를 사용하여 LSTM을 순차화할 시퀀스를 피팅 할 때 MemoryError 발생.

    시퀀스 언어 모델에 시퀀스를 구현하려고했습니다. 학습 과정에서 모델은 GloVe에 의해 생성 된 일련의 50d 단어 벡터를 취하고 다음 단어를 의미하는 1-to-V (V는 단어의 크기) 벡터를 출력하므로 다음 단어의 분포로 간주 할 수있다 테스트 과정에서 현재 시간 단계의 입력 단어 벡터에 연결하고 112 단어의 어휘로 시도했습니다. 다음, 나는 다음과 같
    python keras lstm language-model 2016-09-08

    1열

    1답변

    일괄 처리 중 TensorFlow 재설정 상태 = 문장 수준 언어 모델

    문장 경계를 넘지 않는 반복 언어 모델 (예 : LSTM)을 만드는 가장 좋은 방법은 무엇입니까? 또는 더 일반적으로, 모델에 배치를 제시하면 각 문장에 여러 문장이 들어 있습니다. 각 문장을보고 나면 상태를 어떻게 재설정 할 수 있습니까? 모델에 지정할 수있는 특별한 토큰이 있습니까? 감사합니다.
    tensorflow language-model 2016-07-29

    0열

    1답변

    Tensorflow에서 사용자 정의 seq2seq 학습 (사전 계산 된 워드 임베딩 사용) 인코더 - 디코더를 실행하는 방법은 무엇입니까?

    Tensorflow에서 인코더 - 디코더 모델을 실행해야합니다. 사용 가능한 API 인 basic_rnn_seq2seq(encoder_input_data, decoder_input_data, lstm_cell) 등을 사용하면 인코더 - 디코더 시스템을 생성 할 수 있습니다. 그런 모델에 word2vec와 같은 삽입을 어떻게 입력 할 수 있습니까? 나는 이
    python tensorflow deep-learning lstm language-model 2016-07-31

    1열

    1답변

    N 그램 - 메모리에 없음

    3 밀리 초의 초록이 있는데 그 중 4 그램을 추출하고 싶습니다. 나는이 4-gram의 주파수를 찾아야하므로 언어 ​​모델을 만들고 싶습니다. 제 문제는 이러한 4-gram을 모두 메모리에서 추출 할 수 없다는 것입니다. 이 4-gram의 모든 주파수를 추정 할 수있는 시스템을 어떻게 구현할 수 있습니까?
    python n-gram language-model 2016-09-21

    2열

    1답변

    단어 예측 : neural net 대 n-gram 접근

    예를 들어 문장에서 다음 단어를 예측하려고하면 bi gram 접근법을 사용하고 코퍼스의 이전 단어를 기반으로 발생하는 단어의 확률을 계산할 수 있습니다. 대신에 신경망을 사용하여 다음 단어를 예측합니다. 훈련 데이터는 단어 쌍으로 구성되며, 각 쌍에는 현재 단어와 다음 단어가 들어 있습니다. 그물을 훈련하는 것은 단어의 벡터화 된 표현으로 입력 값을 사용하
    nlp neural-network language-model 2016-09-26

    5열

    1답변

    TensorFlow CTC (언어 모델)에서 사용자 정의 빔 스코어러 사용

    TensorFlow CTC 구현에서 빔 스코어를 사용자 정의 할 수 있습니까? CTCBeamSearchDecoder C++ 클래스 생성자에 대한 주석에이 가능성이 있지만 파이썬 사용자에게이 기능을 제공하는 방법을 궁금해하십니까? 특정 문제는 CTC 기반 음성 디코더에 언어 모델을 연결하는 것입니다. 언어 모델은 사전에 훈련 된 TensorFlow 하위 그래
    tensorflow language-model 2016-06-21

    1열

    1답변

    인공 신경망은 언어 모델을 배울 수 있습니까? Paper 2000 구현

    저는 NLP의 새로운 연구 분야입니다. 논문을 구현하고 싶습니다 Can Artificial Neural Networks Learn Language Models?이 글에서는 뉴럴 네트워크가 언어 모델을 배울 수 있도록 처음으로 한 발을 내디뎠습니다. 나는 종이를 이해했으며, 종이의 마지막 부분에서는 모든 것이 혼란 스럽다는 것을 이해할 수있다. 해당 코드를
    nlp neural-network language-model 2016-09-30

    2열

    1답변

    이 문서의 softmax_w 및 softmax_b는 무엇입니까?

    저는 TensorFlow를 처음 사용하고 언어 모델을 훈련해야하지만 다음과 같이 document을 읽는 동안 어려움에 처하게됩니다. 이 라인이 필요한 이유를 이해가 안 lstm = rnn_cell.BasicLSTMCell(lstm_size) # Initial state of the LSTM memory. state = tf.zeros([batch_siz
    tensorflow language-model softmax 2016-08-19

    1열

    1답변

    Keras LSTM/GRU 언어 모델

    의 입력 모양 Keras의 단어 수준에서 언어 모델을 학습하려고합니다. Exception: Error when checking model input: expected gru_input_7 to have 3 dimensions, but got array with shape (90582L, 517L) : print('Build model...') mod
    python nlp keras lstm language-model 2016-07-07
최근 질문