LLM 관련 연구인데, 나는 풍족한 자원 ㅈㄴ써서 큰 모델 돌리고 학습하는 것보다
온디바이스AI처럼 썩다리컴퓨터에서 LLM 추론 돌리는 연구가 더 좋음 ㅇㅇ
너가 멍청해서그래. 대규모 HPC 에서 AIServing이 더 어려운더 맞음 on device ai는 develop이 현실적으로 제약이 꽤 많고
물리적 한계를 소프트웨어와 아키텍처로 뚫어내는 연구가 더 섹시함 ㅇㅇ
내가 왜 그런 연구 방법론을 추구하는 가 좀더 깊게 파보면 좋음
고수 - dc App
좆본애들도 그런거 많이하던데 아예 임베디드에서 모델 돌리는 연구도 함 헬조선 좆본등 자원적은 쩌리나라는 이게 괜찮은거같기도
개추
SLM 나도 가끔 하는데 토이프로젝트같고 재밌긴함
너가 멍청해서그래. 대규모 HPC 에서 AIServing이 더 어려운더 맞음 on device ai는 develop이 현실적으로 제약이 꽤 많고
물리적 한계를 소프트웨어와 아키텍처로 뚫어내는 연구가 더 섹시함 ㅇㅇ
내가 왜 그런 연구 방법론을 추구하는 가 좀더 깊게 파보면 좋음
고수 - dc App
좆본애들도 그런거 많이하던데 아예 임베디드에서 모델 돌리는 연구도 함 헬조선 좆본등 자원적은 쩌리나라는 이게 괜찮은거같기도
개추
SLM 나도 가끔 하는데 토이프로젝트같고 재밌긴함