비추론 5 쓰다보면 이전보다 경량화 많이 한 느낌이 드는데, 거기에 추론만 좀 들어가면(medium 이상) 경량화 티 거의 안 나고 답변도 맘에 듬 전에 베이스 모델 사이즈가 어느 정도는 커야 추론도 효과적이라는 논문을 본 적이 있었는데, 오픈AI가 SOTA 성능에 필요한 베이스 모델의 사이즈를 줄이는데 성공했고 거기다 효율적인 추론까지 가능하게 한거 같음 문제는 공홈에서 쓰면 추론 정도가 복불복임
깊게 숙고해봐 앞에 붙이면 무조건 추론해주는 느낌인데 해보실?
그거 개귀찮음 ㅅㅂ 그래도 low 매칭해주기도 하는 듯
투명하게 api처럼 선택하게 해주면 해결될텐데
그래서 AMA에서 토큰 기반 사용량 말 꺼낸거 같긴 함 원하는거 골라 쓰는 대신 쓴 대로 빼겠다 이거지 근데 그러면 챗GPT 사용량에서 클로드 사용량 느낌 날 듯 ㅋㅋㅋ
깊게 추론하라고 시켜야됨 ㅋㅋ
귀찮아 뒤질거 같음 ㄹㅇ PC는 분명히 자동으로 앞에 그런거 붙이는 확장 프로그램 같은거 나올 듯