코파일럿 ㅈㄴ 신가하네 원리가 뭐지

[뮹뮹(firm3831)]

내 코드 다 GPT한테 보내서 응답받아서 뿌리는거지?

관련 코드가 있는 파일을 열어본 다음, 다시 진행하면 퀄리티가 높아지는거 보면

vscdoe한번 켜진 동안은 내 코드들을  계속 어딘가에 저장해놓는거같은데

근데 이렇게 context가 길어지면 분명 비용이 높아질텐데

어떻게 이렇게 스무스하게 처리되는거지

[나트륨찡(natriummi)]

GPT-4는 2021년이 마지막 학습이래

[나트륨찡(natriummi)]

다시 열면 퀄리티 높아지는 건 전처리 잘해서 같음

[나트륨찡(natriummi)]

전처리는 프리프로세싱이라고 함 학습은 끝났는데 퀄리티 높아지는 건 전처리임

[뮹뮹(firm3831)]

너 고수임? 전처리가 대략적으로 어캐되는거임?

[ㅇㅇㅇ(210.179)]

나도 전처리 안다 #define PI 3.14 - dc App

[프갤러 1(116.32)]

깃허브 코드들 학습한거 아닌가

[뮹뮹(firm3831)]

깃헙 코드로 학습해놓은걸 API 형태로 가져와야하는거 아냐?

[프갤러 2(1.230)]

gpt에 보내는 거맞음??

[뮹뮹(firm3831)]

gpt한테 보내는거아냐?? 다른 모델 써?

[프갤러 2(1.230)]

아 질문이 이상하네 깃허브 코파일럿 gpt에 보내는 거 맞음?

[프갤러 2(1.230)]

이미 학습된거아님?

[뮹뮹(firm3831)]

실시간 학습되는 형태던데.. 내 코드 구조에 맞게

[뮹뮹(firm3831)]

결국엔 학습되었더라도 뭔가 응답을 내려보내려면 서버에 요청해야하는거아냐??.. 내가 뭘 잘못이해하고있나

[프갤러 2(1.230)]

모델 자체는 학습이 끝난걸로 알고 있는데

[프갤러 2(1.230)]

모델이 올라가있는 서버든 뭐든 거기서 보내주는 거 아님? 나도 잘모름

[뮹뮹(firm3831)]

ㅇㅅㅇ 서버에서 내려보내주는건데 인풋 토큰이 길어지면 cost가 어마어마하게 늘어나거든. GPT 가격 정책도 보면 인풋 텍스트 양에 따라 달라지고. 근데 코파일럿은 키보드 멈출때마다 API 요청할텐데, 이를 어캐 감당하는지가 궁금한거임

[나트륨찡(natriummi)]

그걸 전처리와 캐싱이라고함

[프갤러 2(1.230)]

api 보내는게 아니라내 이미 학습된 모델을 사용자한테 내장하는 거라는데

[뮹뮹(firm3831)]

그럼 서버 안거치고 내 컴퓨터에서 모델을 구동하는거라고!?

[프갤러 2(1.230)]

좆도 모르지만 당장에 cnn도 내가 만든 모델로 내 서버에 올려서 결과값 반환할 수 있으닌깐?

[프갤러 2(1.230)]

그러네 이렇게 보면 API 보내나보네

[프갤러 3(175.117)]

openai는 a100인가 gpu씀