추론에서 점점 안쓸꺼 같기는함

학습에서야 당연히 계속 쓰겠지만 

llm 학습도 아니고 겨우 서비스 하는데 한장에 몇천만원이 넘는 h100을 계속 쓰고 다닐 순 없으니까

이건 NVENC 안쓰고 gpu로 비디오 디코딩하는거나 마찬가지인데 언제까지 이러고 있겠냐


최근 몇년간 국내 npu 스타트업 괜히 우후죽순 생긴게 아님

이런 스타트업 회사들 말하는 거 보면 쿠다 생태계 강력한거 당연히 알고 있고 

기존 업체들이 강력한거도 알고 있지만 충분히 모델 호환성 가격 전성비등으로 경쟁가능하다고 이야기함

다만 가장 중요한게 어느 실제 서버 들어가서 충분한 시간 검증된 레퍼런스가 있어야 되는데

우리나라 스타트업들 전부 클라우드 서비스 하는 대기업 뒷배있다는게 ㄹㅇ 강점임

리벨리온은 kt 사피온은 skt 퓨리오사는 네카오 뒷배인데 이런 국내에서 업력 쌓고 경험쌓으면 해외도 ㄹㅇ 가능성 있다고 본다 

인력도 검색해보면 알겠지만 삼성 하이닉스는 기본에 인텔 amd 퀄컴 스페이스x ibm 빅테크 다니다 온사람 ㅈㄴ 많음


거기에 생각보다 선단공정 반도체 만드는 파운드리, hbm 만드는 메모리 회사, 팹리스 도와주는 디자인하우스 같은나라에 있는나라 흔치 않음

사실 여기밖에 없음 그러니까 해외에서 놀다가 사이즈 나오겠다 싶어서 다시 들어오는 사람이 있는 거지 아니면 뭐하려 미국 버리고 반도 돌아오겠음

내년부터 데이터센터향 npu 양산 슬슬 시작하는 일정인데 이게 해외기준으로도 굉장히 빠른편이라서 개인적으로는 국내 npu회사 미래 좀 기대중임