파이토치 썼음
보통 nn.Embedding 거치면 batch_size, sequence_length, input_dimension 이렇게 나오는데
예를 들어 8, 23, 512 임베딩 벡터가 된다 하면 이걸 이미지[8, 512 * 512, C](높이랑 너비 크기 합쳤음)에 추가해줘야 하는데 저 시퀀스 렝스는 차원 크기를 어떻게 조절해줘야됨? sequence length를 전처리 구간에서부터 고정값을 주면 되나?
파이토치 썼음
보통 nn.Embedding 거치면 batch_size, sequence_length, input_dimension 이렇게 나오는데
예를 들어 8, 23, 512 임베딩 벡터가 된다 하면 이걸 이미지[8, 512 * 512, C](높이랑 너비 크기 합쳤음)에 추가해줘야 하는데 저 시퀀스 렝스는 차원 크기를 어떻게 조절해줘야됨? sequence length를 전처리 구간에서부터 고정값을 주면 되나?
concat이랜다 broadcast 해줘야됨
보통 어텐션으로 맞추지 않나?