[%] AI 천문학적인 비용 필요없음

[익명(203.211)]

조단위가 필요하니, 국내기업 케파로 AI 불가능하니 말하는 애들은
AI == LLM 이라고 생각하는거 아님?
비젼쪽은 생각보다 고사양 필요없음.
4090 4대정도면 왠만한건 다 함.
H100 2대정도면 왠만한건 다 함.

[미쿠쟝마지스키(6974aaai)]

비전도 큰 모델 만들려면 돈 만이 들어가는 거 아니? - dc App

[익명(203.211)]

LLM이나 생성형 AI만큼은 아니고 국내기업들은 힘든 정도로 천문학적인 돈은 절대아니잖아

[미쿠쟝마지스키(6974aaai)]

비전 모델도 요즘 트랜스포머 쓰고 패러미터 수 빌리언 단위로 잼 - dc App

[미쿠쟝마지스키(6974aaai)]

비전 모델에서 큰 모델을 잘 안 쓰는건 성능 차이가 안 나서가 아니라 리얼타임 인퍼런스라는 제약이 걸린 경우가 많아서고, 이런 제약 없는 환경에선 빌리언 단위 트랜스포머 모델 많이많이 만듬 - dc App

[익명(203.211)]

그건 당연한데, 근데 비전이 쓰이는 분야들이 대부분 리얼타임 인퍼런스가 필요하지않아?

[미쿠쟝마지스키(6974aaai)]

그치 근데 근데 인퍼런스 타임에 일어나는 일과 트레이닝 타임에 일어나는 일을 분리해서 봐야 할 필요가 있을 거 같다 - dc App

[익명(203.211)]

그런데 비젼쪽은 llm정도의 레이턴시를 가지는게 불가능하기때문에 결국 모델이 그렇게 커지기는 힘들지않아?

[미쿠쟝마지스키(6974aaai)]

짱큰 모델을 만들어서 모델을 압축하고 싶다면? - dc App

[미쿠쟝마지스키(6974aaai)]

4090 네 대에 모델 쪼개서 올리는 거보다 H100이 2-10배 정도 빠를 거라고 생각함, 이런 차이도 상당히 큼 - dc App

[익명(203.211)]

짱큰 모델을 만들어서 압축해서 60프레임정도 나오는건 좀 어렵지않을까

[미쿠쟝마지스키(6974aaai)]

그럴 수도 있지 근데 네가 말한 부분은 비전의 일부에 불과하고 그런 부분조차 컴퓨팅파워가 빵빵한게 훨씬훨씬 유리하다 - dc App

[익명(203.211)]

아 그리고 내가말하는건 h100 수십대까진 필요없다구. 요즘 스타트업들도 펀드받아서 h100 한두대는 돌리던데.

[익명(203.211)]

제목에 어그로를 좀 섞었는데 하고싶었던 말은, ai는 빅테크들이나 하는거지 국내기업은 헛수고라고 하는게 개소리라구. 할만한 분야 널렸다

[미쿠쟝마지스키(6974aaai)]

ㅇㅇ 할만한 분야는 많지 그렇게 따지면 llm 중에서도 할 거 만아 근뎅 - dc App

[익명(203.211)]

Llm은 내가 잘 몰라서. 어떤게 할만함??

[미쿠쟝마지스키(6974aaai)]

인퍼런스 최적화 리얼타임에 가깝게 최적화하는게 중요할 때도 있지 엘엘엠도 - dc App

[익명(203.211)]

엣지나 클라에서 돌리는 모델들이 그렇겠네

[익명(60.253)]

병신인증하노ㅋ

[익명(203.211)]

프갤로

[익명(60.253)]

선민의식 좆되네ㅋ 먼 프갤로야ㅋㅋㅋㅋㅋ

[익명(203.211)]

프갤로

[익명(60.253)]

븅신ㅋ

[익명(203.211)]

프갤로

[익명(60.253)]

’프갤로‘ 라고 달아봐 못달겠지? ㅋㅋㅋㅋ

[익명(203.211)]

프갤로

[익명(60.253)]

달아봐~ 븅신ㅋㅋㅋ

[익명(218.52)]

나 비전인데, 생각하는 기업규모가 얼마인진 모르겠지만, 4090 네대는 부족한곳이 많을듯

[익명(203.211)]

그럼 h100 2대로 정정할게

[익명(218.52)]

그정도면 좋겠다 우리 부서도 h100사줬으면..

[익명(203.211)]

여튼 국내기업은 못한다는건 개소리라는거지ㅋㅋㅋ

[익명(60.253)]

글쓴이가 좀 모자른애임 이해하셈

[익명(203.211)]

60.253 프갤로

[익명(223.38)]

정작 비전 쪽으로 할 수 있는게 없음 이미지 생성, 사물 식별, 3d 렌더링 생성 같은 걸로 벌어 먹고 살기엔 b2c엔 수요가 없고 b2b로 가야 하는데 b2b는 시장이 작아 소비자한테 팔아먹으려면 인간이랑 상호작용이 필요한데 텍스트나 오디오 쪽으로 갈 수 밖에 없고 결국 llm은 반강제적이야 챗지피티가 dalle보다 더 성공적인 것도 그 이유고

[익명(203.211)]

북미 유니콘 대부분이 b2b임. b2c가 돈되는 시장은 거의 끝물인데, 아직도 b2c만 붙잡고있는것도 한국 it 불황의 이유 중 하나임. 한국같은 제조업국가에서 비젼으로 할수있는게 없다는건 말도안됨

[익명(223.38)]

한국 같은 제조업 국가에서도 비전으로 할 수 있는 게 많았으면 벌써 뉴스에 도배했겠지 할 수 있는 게 없으니까 여전히 아무 말도 없는거고 쓴다쳐도 겨우 불량품 검사하는데나 쓰지 그 외에 그렇게 바이럴하던 자율주행도 현대차 그리고 테슬라조차 레벨5 중 레벨2에서 둘 다 발전이 없어 llm의 경우 클로드, 퍼플렉시티 외 잡다한 것들도 다 b2c로 하지만 b2b로도 에이전트로 활용하는 방안을 갖고 있지 비전은 뭐가 있나 자율주행과 불량품 검사 외 생각해보면 사실 없어 엑스레이 사진 분석에 쓸거라 했지만 알파고 등장 후 10년 지난 현재도 의료계 대체도 못 했고

[익명(223.38)]

북미 유니콘이 b2b인 것과 별개로 비전 ai 쪽은 유니콘 기업이 없어 매력적인 게 없기에 ai를 선도한다는 미국에선 제조업 버린 지 오래라서 vision을 제조에 활용해본다는 솔루션은 있을 리가 없고 애초에 제조사마다 공장이 다 다르고 제조품도 다 다른데 그걸 커버하는 비전 모델이 나올 리가 없지 llm이 성공할 수 있었던 이유는 웹 크롤링으로 텍스트 데이터 긁으면 돼서 사실상 데이터량이 무한하기 때문인데 비전에서 그런다는 건 불가능해 레이블링조차 llm은 self supervised가 가능해서 그 수고가 덜어지는데 비전은 레이블링을 누군가 해줘야 해석이 가능하거든

[퇴물(180.68)]

AI에 천문학적인 비용이 들어가는 이유는 하드웨어이슈도 물론 있지만 학습시킬 데이터가 공짜가 아니라서 그렇슴. 공짜 데이터로는 한계가 있으니 문헌정보나 여러 데이터를 추가로 넣어야되는데 거기에 소모되는 인력비용, 정제비용, 라이센스비용등도 고려되야 함. 함부로 막 가져다 쓰다가 백과사전 같은거 상업자료 함부로 도용한거 씨부려버려서 걸리면 아작남.

[choi4624(choi4624)]

국내 연구소들이 항상 지적하는 문제. 심지어 "한국어" 벽도 있어서