rnn transducer 돌리는데 이거 정상임?
왠만한 말 알아 듣게 하려면 어떻게 해야 될까
데이터 몇시간 넣었는데
그리고 wav2vec2같이 mlm기법 있는거 아니면 언어모델 없이는 대체로 구림
시간은 아마 한 일주일 음성데이터 26만개로 8에폭 중 20에폭 까지 할 예정이긴 한데.. 될지 모르겠다.. 아 배치는 32 - dc App
고맙다 mlm 기법 공부해 볼게! 선 언어 모델 후 음성 처리면 전이학습으로 해야 되는 건가? - dc App
근데 Encoder모델은 뭐 쓴거임? hidden size는 얼마나 크게 함?
encoder는 embedding위에 gru 6층 gru hidden은 1024 - dc App
데이터 몇시간 넣었는데
그리고 wav2vec2같이 mlm기법 있는거 아니면 언어모델 없이는 대체로 구림
시간은 아마 한 일주일 음성데이터 26만개로 8에폭 중 20에폭 까지 할 예정이긴 한데.. 될지 모르겠다.. 아 배치는 32 - dc App
고맙다 mlm 기법 공부해 볼게! 선 언어 모델 후 음성 처리면 전이학습으로 해야 되는 건가? - dc App
근데 Encoder모델은 뭐 쓴거임? hidden size는 얼마나 크게 함?
encoder는 embedding위에 gru 6층 gru hidden은 1024 - dc App