수많은 가설과 논리적 검증은 결국 실험을 통해서 증명해야되는 학문이잖음
개쩌는 논리여도 성능 안나오면 쓸모없는거고
그럼 결국 gpu 의존성이 존나 크다는건데
회사나 연구실에 속해서 실험을 해볼 수 있는 환경이 아닌 일반인은 연구 자체 허들이 개높은 학문이 아닐까
클라우드 빌려도 api 비용 생각보다 존나 많이 나가는데 ㅅㅂ
수많은 가설과 논리적 검증은 결국 실험을 통해서 증명해야되는 학문이잖음
개쩌는 논리여도 성능 안나오면 쓸모없는거고
그럼 결국 gpu 의존성이 존나 크다는건데
회사나 연구실에 속해서 실험을 해볼 수 있는 환경이 아닌 일반인은 연구 자체 허들이 개높은 학문이 아닐까
클라우드 빌려도 api 비용 생각보다 존나 많이 나가는데 ㅅㅂ
Gpu 안쓰는 연구하면됨
이를테면?
아예 안쓰긴 어렵겠고 3080같은거 사서 적당한 모델 peft
나는 그래서 모든 레이어에 quantization을 적용할수있는 부분을 좀 연구하고싶거든 llm은 허깅페이스에서 지원하니까 그거 라이브러리 보면서 참고하면될거같고, 디퓨전이 조금 어렵네
소형 모델 + 스몰 데이터 하면 가능
소형 모델 + 스몰 데이터같은 경우 해당 방법론이 큰 모델에도 적용이 되는가와 다른 소형, 중형 모델에도 동일하게 적용이 되는가를 모두 실험해서 벤치마킹을 해야되잖아 솔직히 실험할만한 모델은 최소가 32b크기 이상의 모델들인데 5090으로 한다해도 70b모델들은 건드리지도 못한다는거지
대형 모델이랑 소형 모델 파라메터가 얼마나 차이나는데 그걸 왜 걱정함 걍하면 되는걸
single gpu로 실험한 논문도 차고 넘침 experiments setup부분 잘 찾아 보셈 - dc App
가장 논리적이지 않은 분야가 ai같은데ㅋㅋ
가장 논리적이지 않은 건 자연과학 쪽이지 ㅇㅇ 비아그라, 위고비, 코로나 백신 등등 제대로 설명은 못 하고 그저 임상실험만으로 부작용 없지? 판매 허가 때리는데 ㅇㅇ
결과가 나온 프로세스를 정확히 설명할수 없다일뿐이지 ddpm paper같은거봐보면 논리가 없다고 보긴힘들지
의학은 자연과학이아님 - dc App
맨위대댓놈은 자연과학이 뭔지모르는듯
일반인도 할 수 있는 실험이 ai인데? 씹덕들만 봐도 4070으로도 짤 뽑고 난리구만
짤뽑는거랑 논문쓰는거랑 동일선상이냐 이런 댓글 달거면 걍 입닥치고있자..
흠 짤 뽑을 때도 학습을 하고 뽑는데? 이조차 이해 못 하면 걍 본인이 병신이란 얘기지.. 그냥 자퇴하자 멍청해 보이는데
ㅇㅇ 그냥 죽닥치고 있자 상대할필요없네 차단할게
ㄹㅇ 빡대가리네
앞으로는 무슨 댓글을 쓸때마다 gpt한테 물어보고 다렴 진짜 안타까워서 그래 문해력이 부족하니 글이 말하고자 하는 핵심을 이해하지 못하고 전혀 다른 대답을 하고있잖니 에휴 불쌍하다 진짜로 힘내라
내가 할 소리 같은데 ㅎㅎ 연구실은 A100 풀무장한 줄 알겠어
이걸 말 그대로 받아들이네 ㅋㅋㅋㅋㅋㅋ
게이야 논문은 그냥 같은 환경에서 돌렸을때 내가 제안한 부분이 개쩐다만 보이면 되는거라 장비는 크게 관계 없음
GPU 필요 없는 분야도 많아
원래 고액의 실험장비 쓰는 연구가 개인이 하기 힘들지 - dc App