기존 Supervised finetuning보다 샘플 효율성이 진짜로 매우 뛰어나서
몇 가지 예제만 있어도 특정 도메인에 전문적인 모델을 잘 만들어낼 수 있다면
의미가 없진 않아보임
전문적인 도메인일 수록 데이터셋 구하기가 어려우니까
물론 특붕이들이 쓸 일은 없겠지만
업계 종사자 아닌 이상에야
기존 Supervised finetuning보다 샘플 효율성이 진짜로 매우 뛰어나서
몇 가지 예제만 있어도 특정 도메인에 전문적인 모델을 잘 만들어낼 수 있다면
의미가 없진 않아보임
전문적인 도메인일 수록 데이터셋 구하기가 어려우니까
물론 특붕이들이 쓸 일은 없겠지만
업계 종사자 아닌 이상에야
RAG로 책 주고 데이터셋 구축하라하믄 안 되나.
결국 강화학습 효율이 얼마나 되는지가 관건
yes!