[%] 오늘의 꿀팁 요즘 LLM은 포지션 인코더 안씀

[익명(betabyte7)]

정확하게은 인코더레이어에 기본장착되어있는거 안씀 더 정확하게는 torch에서 지원하는 nn.Parameter 안씀

이유는 너가 찾아보셈 ㅇ.

[익명(106.255)]

그래서 왜 안 씀?

[익명(betabyte7)]

직접 찾아보셈~ 힌트는 maxlen batch size 형태랑 관련있음 ㅋ 솔직히 이정도 알려줬으면 다알려줬다

[익명(boot4207)]

@ㅇㅇ 정보) 이런 새끼들때문에 스택오버플로가 망했다

[익명(betabyte7)]

ㅋ 배치왜쓰는지도 모르고 스택 오버플러우 얘기하면안됨 ㅋㅋㅋㅋㅋ llm 레이어 자체를 모르는수준임

[익명(betabyte7)]

알고있으면 상관없지 모르고 트랜스포머 블럭만 막 쓰는애들보고 한심해서 그럼