.....뭐지. 드립인가 아닌가. 헷갈리넹....
현AI는 사칙연산만 씀. 파라미터가 1750억개다, 100억개다. 이러는 게 전부 사칙연산 하나라고 봐도 됨. 그럼 컴퓨터에서 계산기는 어디에 있냐. 보통 CPU에 있음. 그래서 CPU를 써서 계산하면 AI가 동작함. 근데 그래픽 작업은 사칙연산이 대부분이라서, 사칙연산만 하는 하드웨어가 생겼는데 그게 GPU임. 이름처럼 그래픽 담당. 이러고보니 AI랑 그래픽이랑 어짜피 사칙연산만 하는 건 같으니까 AI를 GPU로 돌리게 됨. 게임 시장 때문에 GPU가 커지고 있었는데 AI 가 운좋게 터지면서 로또 맞은거징. 어쨌든 GPU는 그래픽 위주의 하드웨어긴하니까 AI 전용 칩을 만들겠다는 기업들도 생겨난건데 규모의 경제가 실현돼어야 할텐데 어찌 될 지 모르겠음.
ssd로는 돌릴 수 있다
하… 이 잼민이놈 능지처참하네. 어그로냐?
llama.cpp나 kobold.cpp로 cpu+램으로 가능 속도가 처참해서 그렇지
.....뭐지. 드립인가 아닌가. 헷갈리넹.... 현AI는 사칙연산만 씀. 파라미터가 1750억개다, 100억개다. 이러는 게 전부 사칙연산 하나라고 봐도 됨. 그럼 컴퓨터에서 계산기는 어디에 있냐. 보통 CPU에 있음. 그래서 CPU를 써서 계산하면 AI가 동작함. 근데 그래픽 작업은 사칙연산이 대부분이라서, 사칙연산만 하는 하드웨어가 생겼는데 그게 GPU임. 이름처럼 그래픽 담당. 이러고보니 AI랑 그래픽이랑 어짜피 사칙연산만 하는 건 같으니까 AI를 GPU로 돌리게 됨. 게임 시장 때문에 GPU가 커지고 있었는데 AI 가 운좋게 터지면서 로또 맞은거징. 어쨌든 GPU는 그래픽 위주의 하드웨어긴하니까 AI 전용 칩을 만들겠다는 기업들도 생겨난건데 규모의 경제가 실현돼어야 할텐데 어찌 될 지 모르겠음.
눈으로 숨쉬는소리하고있네