GPU든 ASIC이든 FPGA든 그래서 하드웨어 설계시 전력사용량 당연히 고려함 미세동정 크기 줄어드는 것도 계속 반영되고 있고
익명(landofooo)2023-09-03 12:28
무어의 법칙으로 하드웨어도 충분히 발전중
부패하는유전자!!!(sansss2015)2023-09-03 12:33
아직까지는 '모델 키우면 무조건 성능 향상이 있다.' -> '돈이랑 전기 많이 먹는다.' 이게 맞아서, TPU에서는 '우리가 더 전력 소모량 적다.' 라면서 키워달라고 하고 있는 것 같더라.
알트만도 핵융합에 투자중인데, 얘가 투자하는 건 28년인가 전력공급을 목표로 하고, 국가단위 발전소랑 다른 시스템이긴한데, 어쨌든, 전에 알트만도 AI 전력소모량에 대해서 질문 받았을 때, 지금은 문제로 보이지만 미래엔 해결 가능한 문제일거다. 핵융합도 그 해법 중 하나라고 언급하긴 함.
AI가 발달하고 연구분야에도 점차 활용을 높히면, 기술 발전이 빨라지고, 전기 소비 관련 부분도 해결 가능할거라는 낙관론적 의견을 이야기 했었음.
꼭 저거 없이도 성장한계 도달함
GPU든 ASIC이든 FPGA든 그래서 하드웨어 설계시 전력사용량 당연히 고려함 미세동정 크기 줄어드는 것도 계속 반영되고 있고
무어의 법칙으로 하드웨어도 충분히 발전중
아직까지는 '모델 키우면 무조건 성능 향상이 있다.' -> '돈이랑 전기 많이 먹는다.' 이게 맞아서, TPU에서는 '우리가 더 전력 소모량 적다.' 라면서 키워달라고 하고 있는 것 같더라. 알트만도 핵융합에 투자중인데, 얘가 투자하는 건 28년인가 전력공급을 목표로 하고, 국가단위 발전소랑 다른 시스템이긴한데, 어쨌든, 전에 알트만도 AI 전력소모량에 대해서 질문 받았을 때, 지금은 문제로 보이지만 미래엔 해결 가능한 문제일거다. 핵융합도 그 해법 중 하나라고 언급하긴 함. AI가 발달하고 연구분야에도 점차 활용을 높히면, 기술 발전이 빨라지고, 전기 소비 관련 부분도 해결 가능할거라는 낙관론적 의견을 이야기 했었음.
아하 핵융합이나 엇비슷한 기술이 나와줄거라 보고 잏는거네 답번 ㄱㅅㄱㅅ
이미 경량화 모델들이 쏟아져 나오는중 - dc App
성능 다운그레이드 없이? 극기 꾸준히 되면 좋긴 한데
아직 까지는 크게 신경 안 쓰는 듯한데 혹시 모르긴 하지