꼬와서 답변 달아주는사람들 사라질때마다 질문 하는 사람들만 손해고 답변 해주는 고인물은 손해 없자나이상한 어그로도 튀어나오는거 보니까 여기도좀 많이 북적이게 된듯?심심할때 읽으라고 MOE 논문링크 첨부함https://www.cs.toronto.edu/~hinton/absps/jjnh91.pdf
챗지피티 수준의 답변만 달아주면서 내 댓글이 없어졌어 ㅠㅠㅠㅠ 웅앵웅앵 ㅋㅋㅋㅋㅋㅋ 꼬우면 달지말라니까? 유세떨지말고ㅋㅋㅋㅋㅋㅋ
그럼 지피티한테 가지 여왜왓노? ㅋ
요즘 나온애들 엠오이 많이안쓰는거같건디 당당하게 탑몇해서 라우팅하다가 랜덤해싱때린거랑 비슷하게나오고 음음
top-k MoE는 domain decomposition용으로 적절해 보이던데 데이터 많고 GPU 빵빵하면 모델하나에 짬떄려도 되지만 그게 안되면 도메인 쪼개서 학습시키는게 나으니까