[📪정보] 누스 리서치, 4일 훈련으로 폐쇄 모델 맞먹는 코딩 모델 개발

[회색(counsel8318)]

누스 리서치, 4일 훈련으로 폐쇄 모델 맞먹는 코딩 모델 개발 - AI타임스

미국의 오픈 소스 대표 기업 중 하나인 누스 리서치(Nous Research)가 엔비디아 'B200' GPU 48개를 활용해 4일 만에 2만4000개의 코딩 문제를 학습한 새로운 코딩 특화 AI 모델을 공개했다. 이 모델은 오픈 소스 모델은 물론, 폐쇄형과도 일부 성능을 겨룰 정도로 경쟁력이 있는 것으로 나타났다. 

누스 리서치는 7일(현지시간) 코딩 특화 AI 모델 ‘누스코더-14B(NousCoder-14B)’를 오픈 소스로 공개했다.

이 모델은 대형 폐쇄형 상용 시스템과 맞먹거나 이를 능가하는 성능을 보인다. 알리바바의 ‘큐원3-14B(Qwen3-14B)’를 기반으로 강화 학습(RL)을 거쳐 성능을 끌어올렸다.

차별점은 ‘극단적인 개방성’이다. 모델 가중치뿐 아니라 RL 환경, 벤치마크 데이터셋, 학습 파이프라인 전체를 공개했다. 자체 개발한 애트로포스(Atropos) 프레임워크를 함께 오픈해, 충분한 연산 자원을 가진 연구자라면 누구나 동일한 실험을 재현하거나 확장할 수 있도록 했다. 

누스코더-14B는 ‘검증 가능한 보상(verifiable rewards)’ 방식의 RL을 사용했다. 모델이 코드 해법을 생성하면 이를 테스트 케이스로 실행하고, 그 결과에 따라 정답이나 오답이라는 단순한 이진 신호를 모델에 피드백으로 제공하는 구조다. 개념적으로는 단순하지만, 이를 대규모로 실행하기 위해서는 상당한 인프라가 필요하다.

이 문제를 해결하기 위해 클라우드 컴퓨팅 플랫폼인 모달(Modal)을 활용해 샌드박스 환경에서의 코드 실행을 병렬로 처리했다. 2만4000개의 학습 문제 각각에는 평균적으로 수백개의 테스트 케이스가 포함돼 있으며, 시스템은 생성된 코드가 시간(15초)과 메모리(4GB) 제한 내에서 올바른 출력을 내는지를 검증해야 한다.

학습에는 DAPO(Dynamic Sampling Policy Optimization) 기법이 적용됐다. 핵심은 ‘동적 샘플링’으로, 모델이 모든 시도에서 항상 풀거나 반대로 모든 시도에서 항상 실패하는 학습 예제는 학습에 유의미한 그래디언트 신호를 제공하지 않기 때문에 과감히 제외했다.

또 ‘반복적 컨텍스트 확장’ 기법을 도입했다. 먼저 3만2000 토큰의 컨텍스트 창으로 모델을 학습한 뒤 이를 4만 토큰으로 확장했다. 평가 단계에서는 컨텍스트를 약 8만 토큰까지 늘렸을 때 정확도가 67.87%로 가장 높은 성과를 냈다.

가장 중요한 점은 학습 파이프라인에서 추론과 검증을 교차로 수행한다는 것이다. 모델이 하나의 해법을 생성하자마자, 이전 해법이 검증되는 동안 다음 문제 풀이를 곧바로 시작한다. 이런 파이프라이닝 방식과 여러 모델 인스턴스가 병렬로 동작하는 비동기 학습을 결합함으로써, 고가의 GPU 클러스터 활용 효율을 극대화했다는 설명이다.

쩐다.

[익명(sleep9291)]

뉴로사마한테 탑재시키자

[익명(sudden9813)]

꿴 갖다쓴거네 그래도 14b면 개쩔긴 하는데

[익명(sguyff)]

뭘 한거냐 ㅋㅋㅋㅋ

[단빗둘이(beast4652)]

엔비디아도 잘 만드네 - dc App

[귀가있는로봇의노래(function8845)]

파인튜닝이래도 대단한걸

[익명(49.246)]

한 언어만 존나 특화시켜서 만들 수 없나?

[익명(perform4782)]

40일줄께 AGI 가져오셈