[일반] 궁금한게 경량화를 계속 진행하는 이유가

[익명(banana1317)]

경량화를 하면 그만큼 스케일을 늘리기가 수월해지기 때문임?

그리고 그만큼 자원을 적게 잡아먹으니까 서비스 하기에도 더 수월해지고?

[프앙차(canned4368)]

gpt4급을 경량화한게 소넷3.5랑 4o잖아? 모델은 작아졌는데 코딩같은 능력은 더 좋아진거 보면 압축에 뭔가 있긴한듯

[정복(pain7858)]

당장 o1만 해도 일주일 제한 때문에 불편함 느끼잖아. 그리고 경량화 자체가 저자원 고출력이니까 모델이 발전을 하려면 계속 경량화시켜야 또 기능을 덧대지 지능이 공기처럼 싸져야한다 모르면 외워

[정복(pain7858)]

*o1 preview 걍 값싸게 만드는 거라고 생각하셈

[익명(banana1317)]

혹시 경량화 단점도 있음? 찐빠가 심해진다거나 뭔가 부작용은 있을거같은데

[정복(pain7858)]

처음 o1 preview 나왔을 때 이제 경량화 거치면서 멍청해진다 ㅇㅇ 이런 종류 글은 있었는데 딱히 근거는 없었던 걸로 기억함 GPT4o인가 4때 이슈가 있었던 거 같은데 나는 잘 모름.. 다른 갤러가 알려줄 거야

[익명(115.143)]

어떤 발전이던 간에 일단 성능을 뽑고 나중에 효율개선을 하는 과정을 거치는데, ai는 그게 경량화지 무지막지하게 일단 때려넣어서 성능 만들기 성공하면, 연구소에서 밖에 못쓰지만 효율개선하면 대량의 사용자한테 돈받고 팔 수 있는거

[익명(shore1232)]

경량화 = 상용화

[콜라조무사(tkatjdrhdghkrnr123)]

경량화와 성능 하락이 일정하지 않아서 필요한 컴퓨터는 줄어드는데 성능은 그대로라면 당연히 해야지.