스케일 만능론의 LLM
그 학습을 위해 돌아가는 고성능 고비용 고전력의 그래픽카드가 수만대 수십만대씩 돌아가는 실정에
단순한 사칙연산 하나 추론 못한다는거에 실망감을 느낄수 밖에 없음 ..
계산 비용을 줄이기 위한 하드웨어 개선, 기술 개선이 시급하다
하드웨어는 신제품에 년단위 제품 발주에 년단위 학습에 년단위니까 기대가 안되고 기술 밖에 없다
그래서 비트넷 떡밥 어디갔냐 또 소리소문 없이 사라졌네 큐스타 마냥
스케일 만능론의 LLM
그 학습을 위해 돌아가는 고성능 고비용 고전력의 그래픽카드가 수만대 수십만대씩 돌아가는 실정에
단순한 사칙연산 하나 추론 못한다는거에 실망감을 느낄수 밖에 없음 ..
계산 비용을 줄이기 위한 하드웨어 개선, 기술 개선이 시급하다
하드웨어는 신제품에 년단위 제품 발주에 년단위 학습에 년단위니까 기대가 안되고 기술 밖에 없다
그래서 비트넷 떡밥 어디갔냐 또 소리소문 없이 사라졌네 큐스타 마냥
인간이 하는 사칙연산도 한자릿수+한자릿수를 외우고 구구단을 외운뒤 특정 알고리즘을 반복해서 큰수의 사칙연산을 하잖아. Llm이 코딩의 도움을 받아서 사칙연산을 성공하면 그것또한 llm이 사칙연산을 한거라고 봐도 되는거 아닐까?
지금 요점은 그 성공을 위한 코스트가 너무 비효율적인게 문제임 단순한 사칙연산이 수만 수십대면 흠.. 말다했지
그 사칙연산을 할 수 있는걸 이용해서 일정수준 이상의 문제를 풀 수 있느냐가 문제 아니냐
결론적으로만 보면 그렇지 그 과정에서 사칙연산은 필수 불가결인 요소인데 이 요소에만 수만 수십만대의 그래픽 카드로도 안되는거라면 얼마나 더 코스트를 넣어야 하나 고민을 해봐야겠지
너무 과한 걱정이라고 생각함.
뭐 지피티5 봐야지 얘 하나로 ai 거품은 판가름 날듯
결국 기다려보자는 말밖에 못하겄노
그냥 AI가 계산기 쓸 수 있으면 되는 거 아닌가