[일반] 카이스트도 신기한거 많이하네

[익명(dlsjftldk)]

https://huggingface.co/HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1

HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1 · Hugging Face

한시간전에 나온 따끈따근한 모델인데 

이번에 허깅페이스에서 mixtral 8x22b 나온거 인스트럭션 튜닝하는걸 

허깅페이스랑 kaist 랑 같이 했다고하네

새로 적용한 고성능 finetunning 기법을 사용했다고 하는데

그게 카이스트가 만들었거나 관련된건가봄? 

h100 *8 개로 1시간만에 튜닝했다고 함

https://huggingface.co/papers/2403.07691

Paper page - ORPO: Monolithic Preference Optimization without Reference Model

https://huggingface.co/papers/2403.07691

Paper page - ORPO: Monolithic Preference Optimization without Reference Model

카이스트에서 쓴 논문이네