파운더리랑 설계 다 국내에서 할수있어서
amd rocm처럼 프레임워크만 만들어서 구축하면 괜찮은데
엔비디아 gpu사오는건 진짜 임시방편아닌가
퓨리오사같이 npu 자국내에서 만드는게 진짜 급할텐데
삼성 수율 낮다고 지랄할 사람이 있을거같아서 미리 말하지만
어차피 데이터센터용은 5나노 4나노같이 수율 잘나오는 성숙 공정써서 패키징 좆같이 못하는거 빼고는 삼파도 쓸만한데
자꾸 엔비디아 gpu 가져오는거에만 혈안이 되어있네
파운더리랑 설계 다 국내에서 할수있어서
amd rocm처럼 프레임워크만 만들어서 구축하면 괜찮은데
엔비디아 gpu사오는건 진짜 임시방편아닌가
퓨리오사같이 npu 자국내에서 만드는게 진짜 급할텐데
삼성 수율 낮다고 지랄할 사람이 있을거같아서 미리 말하지만
어차피 데이터센터용은 5나노 4나노같이 수율 잘나오는 성숙 공정써서 패키징 좆같이 못하는거 빼고는 삼파도 쓸만한데
자꾸 엔비디아 gpu 가져오는거에만 혈안이 되어있네
gpu는 기업들이 적극구매하는게 선결조건인거 같은데 반대가 된거같은..
ㅇㅇ 그래서 국내 칩개발 지원도 목표 중 하나임. - dc App
npu + 프레임워크 해서 작정하고 k-uda 하면 차라리 응원할텐데
필요하긴한데 이쪽으로는 좀 소홀한거 같아서 아쉬운듯
지금 엔비디아 gpu 쓰는 이유가 뭔지는 아냐?
ㅇㅇ 알지 학습은 엔비디아 gpu가 압도적으로 유리하니까 근데 평생 엔비디아 gpu사서 호구같이 엔비디아 지갑해줄거냐?
아니 국가 사업이란게 A를 한다고 A를 제외한 모든 사업을 버리는 식으로 진행되는게 아님; 지금 당장 AI 쓸 새끼들은 GPU 필요하니까 GPU 확보 하고 동시에 AI 칩도 지원한다는게 불가능한 일이 전혀 아니고 실제로도 우리나라를 포함한 많은 나라에서 그렇게 진행하고 있음;;;;
트레이닝은 엔비디아 아니면 거의 불가능함
추론말고 학습은 엔비디아나 tpu아니면 거의 불가능하긴하지
지금 GPU 사는건 학습용임 추론용이 아니라
근데기본적으로 아예엔비디아잡을생각아니면 사오는게가격도싸고유리하지 중국도내부에서다할수있지만 엔비디아꺼사오려고하잖와
확보 후 연구 시작하는게 속도가 빠른가보지
일단 대학들이라던지 기업들 지원하려면 당장은 엔비디아 gpu사야하는건 맞지 프레임워크가 한두달안에 뚝딱하고 만들어지는것도 아니고
cuda 대신할만한걸 어케 만듬? 중국도 헤메는판에
중국은 반도체 찍어낼 인프라 없으니까 구형 공정이랑 hbm2가지고 전력 차력쇼하는거고 헤메지는 않음.. 그냥 성능 구린 ai칩 가지고 물량빨로 밀어붙이는거지
가장 현안은 둘다 하는거라고 생각됨. 모델 학습했으면 공개해야할텐데, 이 때 쓰이는 추론용서버는 국산 NPU로 하면 되지.
퓨리오사도 지금 당장은 추론 타겟으로 개발중이라 그칩에서 학습을 하는게 어케어케 구현해도 효율이 안나옴. AI 학습 클러스터는 아직까진 GPU 써야해
추론전용으로는 이미 국산 NPU들 쓸만한 수준임. 인공지능 연산이 아니라 서버 효율 높여주는 망고부스트같은 DPU 개발기업도 있고. 이것저것 국산 팹리스들 반도체 섞어서 추론 클러스터 만들어서 증명하면, 확실히 세계적으로 홍보효과도 생길거