[일반] 이제 llama 로컬에서 돌리려고 cuda 설치 안해도된다ㅋㅋㅋㅋㅋㅋ

[탈조선(reuse2097)]

씨발 ㅋㅋㅋㅋㅋㅋ 걍 웹에서 모델 다운로드하고 글카만 있으면 아무나 llm 로컬로 쓸수있음ㅋㅋㅋㅋ

Webgpu라는 신기술 써서 만든건데

원래 글카 낮으면 파이썬버전 쿠다버전 파이토치 버전 안맞아가지고 설치 개 좆같았는데 이제 신경안써도된다 컄ㅋㅋㅋ

[ASI교총대주교좌석좌주교(7i3eogmeun4l7)]

webgpu는 뭔데

[탈조선(reuse2097)]

웹에서 님의 그래픽카드를 다이렉트로 씁니더

[탈조선(reuse2097)]

Cuda니 cudnn이니 이딴거 버전에 맞춰서 설치할필요가 없이 바로 구동이 가능한거죠. 혁신입미다

[ASI교총대주교좌석좌주교(7i3eogmeun4l7)]

그냥 웹서비스랑 뭐가 다른거??

[탈조선(reuse2097)]

이제 llama말고도 오픈소스로 신기술내는거 데스크탑에서 딸깍해서 쓸수있다는게 아주 큰 장점이죠. 예를들면 웹으로 돌아가는 Gui ageent라던가