← thesingularity 게시판

[📪정보] 허깅페이스, sLM용 추론 기술 ‘테스트-타임 스케일링’ 오픈 소스 공개

니지카엘(eltldd001) 2024-12-22 23:02 추천 4

https://www.aitimes.com/news/articleView.html?idxno=166443

허깅페이스, sLM용 추론 기술 ‘테스트-타임 스케일링’ 오픈 소스 공개허깅페이스가 오픈 소스 소형언어모델(sLM)의 추론 성능을 향상하는 기술을 공개했다. 오픈AI의 ‘o1’처럼 모델에 추가적인 컴퓨팅 리소스와 시간을 투입해 응답 품질을 높이는 ‘테스트-타임 컴퓨트(Test-Time Compute)’ 방식을 기반으로 한다.허깅페이스는 최근 sLM이 복잡한 수학과 코딩, 추론 문제를 해결할 수 있도록 추가 컴퓨팅 자원과 시간을 활용하는 ‘테스트-타임 스케일링(test-time scaling)’ 기술을 공개했다. 추론 과정에서 더 많은 자원과 시간을 사용해 어려운 질문에 대한 응답 정확도를 높이는 방식이www.aitimes.com

댓글 2

수직(player5319) 2024-12-22 23:03
로컬쩜은 온다

ASI교총대주교좌석좌주교(7i3eogmeun4l7) 2024-12-23 02:08