[💬] 지피티도 컴퓨터 성능타지??

[Indie(211.34)]

인터넷속도뿐만아니라 컴성능도 타는거같은데 이게 븅신컴에서돌리면 답변 하루종일걸리는데

좋은컴으로돌리니깐 좀 빠른느낌인데

[익명(124.51)]

그러면 폰으로는 어캐 gpt씀

[SR4(succeed4464)]

안 탐

[211214(tomatoss)]

클로드는 메모리 (1~2GB)정도 먹고 있던데 GPT는 안 그럼

[사슴발레리나(dearvalerie)]

사람 몰릴때마다 현저히 느려지고 바보되는거 봐선 그쪽 서버 쓰는거같음

[익명(rent1081)]

gpt는 성능이랑 상관 없지 않나 - dc App

[익명(freedom5644)]

뭔가 채팅방 하나가 엄청 길어지면 컴성능도 쫌 영향이 좀 생기는거 같던데

[Indie 1(183.99)]

그건 컴성능이라기보단 누적된 내용을 서버가 다 반영하려고 해서 그런 것. 구동 특징상 GPT 애플리케이션은 모니터 화면과 다를바 없고 컴퓨터 본체는 미국에 있는거임

[Indie 2(211.221)]

진짜 여기는 개발갤이 아니다ㅋㅋㅋ 와

[익명(hotkey02)]

너 컴퓨터의 vram으로 LLM이 돌아갈것 같음?

[익명(49.161)]

PC 램이 8GB 정도면 대답 안 해버리기도 함

[익명(222.100)]

성능 타겠니? llm은 서버 사이드에서 다 처리한다

[익명(222.100)]

성능 안좋은 컴이 느려보이는 이유는 그냥 클라이언트 사이드 렌더링 하는 경우에 웹 렌더링 조차 버벅거리는 성능 이슈를 지녀서 그런거. 혹은 지연시간이 높다던가

[Indie 3(220.122)]

llm이 이미 학습은 다 끝냄. 우리가 질문하는 글은 이미 학습 끝낸 모델을 통해 결과만 받고 글자 몇조각 결과만 서버를 통해 우리 컴퓨터로 들어오기 때문에 비용이 거의 안듬

[Indie 3(220.122)]

반면 AI가 학습하는 과정은 수조개의 파라미터를 일일이 조정하는 과정을 거치는데 거기서 천문학적인 데이터 비용이 발생 됌. 그건 기업들이 하고 있는거고.

[Indie 4(222.107)]

조금 탐 api 보낼때 현재 대화내용 전부 json화 시켜서 보내야해서 양많은 대화 세션이면 컴퓨터마나 리퀘스트 속도 다름