[일반] 미래는 모놀리스다

[익명(106.102)]

개좋소들도 msa한다고 깝치고 좋지랄들하는데 llm기반 대에이전트시대가 도래하면 msa기반은 성능저하와 병목의 원인이다. 안그래도 crud보다 대기시간이 긴 에이전트작동은 상태를 유지하며 추론 검증평가 재시도를 반복해야하는데 msa로 토막을 내놓을 내놓고 메시지로 통신하는거 자체가에러다

[순한무토낑(121.159)]

성능 가격을 생각할라면 니네들이 하는 자바스크립트 자바스프링이런거 만지작거릴게아니고 근본적으로 cluster최적화된소프트웨어만들생각을해야징

[익명(106.102)]

Cluster 지럴하네 llm추론을 어떻게 클러스터하냐 gpu한 10만장 가지고있냐? 평가지표잘나오게 휴리스틱 튜닝해야지 븅신아

[백갤러 1(211.36)]

@글쓴 백갤러(106.102) ㅋㅋㅋㅋㅋㅋ

[순한무토낑(121.159)]

평가지표가 잘나올려면 scale을올리고 그거에최적화를해야징 웹하는애들이 성능 가격언급하면안된다는겅

[백갤러 2(106.102)]

@순한무토낑(121.159) ㄴ 무토낑 이새끼 붕딱임? 트래픽받는것도 아닌데 스케일을 왜올려

[순한무토낑(175.201)]

개좋소들도 msa한다고 깝치고 좋지랄들하는데 llm기반 대에이전트시대가 도래하면 msa기반은 성능저하와 병목의 원인이다. 안그래도 crud보다 대기시간이 긴 에이전트작동은 상태를 유지하며 추론 검증평가 재시도를 반복해야하는데 msa로 토막을 내놓을 내놓고 메시지로 통신하는거 자체가에러다

[백갤러 3(118.235)]

kubeflow나 검색해보고 와라 - dc App

[백갤러 2(106.102)]

그건 인프라고 요즘처럼 코어로직도 무지성으로 쪼개면 피똥싼다 ㅋㅋ

[백갤러 4(211.210)]

@백갤러2(106.102) 그 코어로직이 저 msa 인프라 위에서 돌아감 안그럼 어차피 자원 활용을 못함 - dc App