[📪정보] 0.027B 뇌영감형 아키텍처 ‘계층적 추론 모델’(HRM) 오픈소스공개

[초존도초(htr3c654r6ft)]

← 뒤로

Sapient Intelligence 작성 · 2025년 7월 21일

Sapient Intelligence, 2,700만 파라미터로 복잡한 추론 과제를 해결하는 뇌 영감형 아키텍처 ‘계층적 추론 모델’(HRM)을 오픈소스로 공개

2,700만 파라미터의 뇌 영감형 아키텍처가 사전 학습 없이 단 1,000개의 입력-출력 예제로 ARC-AGI, Sudoku-Extreme, Maze-Hard를 돌파

싱가포르 - 2025년 7월 21일 - AGI 연구 기업 Sapient Intelligence는 오늘, 계층적 구조와 다중 시계열 처리를 활용해 학습 안정성과 효율성을 유지하면서도 상당한 계산 깊이를 달성하는 뇌 영감형 아키텍처인 계층적 추론 모델(HRM)의 오픈소스를 공개했다고 발표했다. HRM은 사전 학습 없이 단 1,000개의 입력-출력 예제와 2,700만 파라미터만으로 오늘날의 대형 언어 모델(LLM)을 계속 좌절시키는 추론 과제를 성공적으로 해결한다.

LLM의 추론 한계를 넘어

현재 LLM은 Chain-of-Thought (CoT) 프롬프팅에 과도하게 의존하며, 이 접근법은 종종 취약한 과제 분해, 방대한 학습 데이터 요구, 높은 지연 시간 문제를 낳는다. 인간 뇌의 계층적·다중 시계열 처리에서 영감을 받은 HRM은 피질 연산에서 관찰되는 세 가지 핵심 원칙—계층적 처리, 시간적 분리, 재귀적 연결성—을 적용하여 이러한 제약을 극복한다. 느리고 추상적인 계획을 수행하는 상위 모듈과 빠르고 세밀한 계산을 수행하는 하위 모듈로 구성된 HRM은 한 번의 순전파에서 자동적 사고(“System 1”)와 의식적 추론(“System 2”)을 동적으로 오가도록 설계됐다.

“AGI의 진정한 목표는 기계에 인간 수준, 나아가 인간을 뛰어넘는 지능을 부여하는 것입니다. CoT는 모델이 확률을 계산해 인간의 추론을 흉내 내도록 하지만, 이는 어디까지나 임시방편일 뿐입니다. Sapient에서는 처음부터 뇌 영감형 아키텍처로 시작하고 있습니다. 자연은 이미 수십억 년에 걸쳐 이를 완성했으니까요. 우리 모델은 벤치마크를 통과하기 위해 단순히 확률을 계산하는 것이 아니라 실제로 사람처럼 사고하고 추론합니다. 우리는 이 모델이 인간 지능에 도달하고 곧 그것을 뛰어넘을 것이라 믿습니다. 그때가 바로 AGI 논의가 본격화될 순간입니다.”

- Guan Wang, Sapient Intelligence 창립자 겸 CEO

뇌에서 영감을 받은 HRM은 서로 다른 시간 척도로 작동하는 두 개의 순환 신경망이 협력해 과제를 해결한다

벤치마크 혁신

규모가 2,700만 파라미터에 불과하고 입력-출력 예제 1,000개만 사용하며, 사전 학습이나 CoT 감독 없이도 HRM은 최첨단 LLM조차 어려워하는 문제를 해결한다. 귀납적 추론의 대표 벤치마크인 Abstraction and Reasoning Corpus(ARC) AGI 챌린지에서 HRM은 ARC-AGI-2에서 5%의 성능을 기록해 훨씬 더 큰 크기와 컨텍스트 길이에 의존하는 OpenAI o3-mini-high, DeepSeek R1, Claude 3.7 8K를 크게 앞선다. 복잡한 스도쿠 퍼즐과 30×30 미로의 최적 경로 찾기에서도 최신 CoT 방법이 전혀 해결하지 못하는 반면 HRM은 거의 완벽한 정확도를 보여준다.

약 1,000개의 학습 예제로만 훈련된 HRM(~2,700만 파라미터)은 ARC-AGI, Sudoku-Extreme, Maze-Hard에서 최신 CoT 모델을 능가한다

Sapient Intelligence 팀은 이미 새로운 실험을 진행 중이며 곧 더 높은 ARC-AGI 점수를 발표할 것으로 기대하고 있다.

실질적 영향

HRM의 데이터 효율성과 추론 정확도는 데이터가 부족하지만 정확도가 중요한 분야에서 새로운 기회를 제공한다. 의료 분야에서 Sapient는 주요 의학 연구 기관과 협력해 드문 질환처럼 신호가 희박하고 미묘하여 깊은 추론이 필요한 복잡한 진단을 지원하기 위해 HRM을 배치하고 있다. 기후 예측에서 HRM은 subseasonal-to-seasonal (S2S) 예측 정확도를 97%까지 끌어올려 사회·경제적 가치로 직결된다. 로보틱스에서는 HRM의 저지연·경량 아키텍처가 온-디바이스 ‘의사 결정 두뇌’로 작동해 차세대 로봇이 동적인 환경에서 실시간으로 인지하고 행동할 수 있게 한다.

향후 로드맵

Sapient Intelligence는 HRM이 현재 주류인 CoT 추론 모델의 실질적인 대안을 제시한다고 믿는다. HRM은 규모가 아닌 아키텍처로 AI의 한계를 확장하고 궁극적으로 오늘날의 모델과 진정한 인공지능 사이의 격차를 해소할 수 있는 보편적 추론 시스템으로 가는 실용적 경로를 제공한다.

이용 가능성

소스 코드는 GitHub github.com/sapientinc/HRM에서 확인할 수 있다.

Sapient Intelligence 소개

Sapient Intelligence는 싱가포르에 본사를 두고 샌프란시스코와 베이징에 연구 센터를 운영하는 글로벌 AGI 연구 기업으로, 복잡한 추론을 위한 차세대 AI 모델을 구축하고 있다. 우리의 미션은 강화 학습, 진화 알고리즘, 신경 과학 연구를 통합한 혁신적 아키텍처를 개발하여 오늘날 LLM의 한계를 넘어 인공지능 일반에 도달하는 것이다.

2025년 7월, 우리는 최소한의 데이터로 깊은 추론을 달성하는 계층적 뇌 영감형 모델 Sapient HRM을 공개했다. 2,700만 파라미터와 약 1,000개의 입력-출력 예제만으로, 사전 학습 없이도 Sapient HRM은 Sudoku Extreme, Maze Hard 등 난이도 높은 수학 과제에서 거의 완벽한 정확도를 보이며 ARC-AGI에서 훨씬 더 큰 현행 모델을 앞선다. 초기 파일럿 적용 분야에는 의료, 로봇 제어, 기후 예측이 포함된다.

우리는 Google DeepMind, DeepSeek, Anthropic, xAI 출신과 칭화대, 베이징대, UC 버클리, 케임브리지대, 앨버타대 연구자들을 포함한 빠르게 성장하는 팀으로, 오늘날의 언어 모델과 진정한 범용 지능 사이의 간극을 좁히기 위해 함께 노력하고 있다.

[난모르것다(farewell1592)]

발사

[천사다천사(jjtheman999)]

[익명(175.118)]

적용될지는 두고봐야겠네 맘바도 그렇고 아닌게많아서

[asi2026(dart5404)]

[asi2026(dart5404)]

https://arxiv.org/html/2506.21734v1

[ㅇㅇ 1(220.120)]

오 이건 사양 별로 안높아서 한번쯤 돌려봐도 괜찮겠는데

[ㅇㅇ 2(211.252)]

sapient intelligence?? 이게 사실이면 좆소에서 개씹대박 냈다는건데?

[익명(edit7404)]

이걸로 언어모델을 만들 수 있을까