[📪정보] (정보글) 재귀 개선의 미래는 '셀프 하네스'에 있습니다.

[월드모델(company2700)]

※ 해당 글은 저의 주관적인 생각이며 틀리거나 부정확할 수 있으니 주의 바랍니다.

'하네스(Harness)'의 미래

https://www.aitimes.com/news/articleView.html?idxno=212582

구글 이어 오픈AI도 '하네스 무용론'...

https://lilianweng.github.io/posts/2026-07-04-harness/

Harness Engineering for Self-Improvement

최근 소식에서 오픈 AI 관련 인물 2명의 의견이 정면충돌하는 일이 있었다.

노엄 브라운(Noam Brown)은 오픈 AI 리서치 부사장이며,

최근 서울에서 열린 ‘국제 머신러닝 학회(ICML) 2026’에 참가하여

하네스를 가능한 단순하게 유지해야 한다고 조언했다.

"몇 달 안에 등장할 차세대 모델이 현재 사용되는 하네스 대부분을 쓸모없게 만들 가능성이 높다"

릴리언 웽(Lilian Weng)은 OpenAI 안전 시스템 부사장을 지내고,  

지금은 Thinking Machines Lab 공동창업자이다.

그는 7월 4일에 ‘Harness Engineering for Self-Improvement’라는 글을 올렸다.

“미래의 자기 개선이 하네스에 얼마나 의존할지는 예측하기 어렵다. 

다만 하네스 엔지니어링은 자기 개선 방향으로 진화해 자동 연구를 가능케 하고, 

그게 다시 더 똑똑한 모델로 이어질 가능성이 크다.”

두 사람의 의견 차이는, 자기 개선이 ‘하네스 계층’에서 일어나느냐, 모델 안으로 흡수되느냐이다.

'하네스(Harness)'란 무엇인가?

Image source: https://x.com/akshay_pachaar/status/2041146899319971922

LLM이 컴퓨터의 CPU라면, 에이전트 하네스는 운영체제에 가깝다.

LLM 자체는 글을 이해하고 답을 만들 수 있지만, 

기억을 관리하거나 외부 도구를 실행하고 오류를 처리하는 능력은 제한적이다.

하네스는 LLM 주변에서 메모리, 검색, 파일 처리, 도구 호출, 권한 확인, 오류 복구, 결과 검증을 맡는다.

덕분에 LLM은 단순히 답변하는 모델을 넘어 실제 작업을 수행하는 에이전트가 된다.

한마디로, 하네스는 LLM의 생각을 실제 행동으로 연결해 주는 실행 환경이다.

Image source: https://x.com/akshay_pachaar/status/2041146899319971922

하네스의 내부 구조는 다음 12가지로 구성된다.

1. 오케스트레이션 루프: 프롬프트 구성, 모델 호출, 도구 실행, 결과 전달을 작업이 끝날 때까지 반복한다.

2. 도구: 에이전트가 파일 검색·실행·웹 접근 같은 외부 작업을 안전하고 구조적으로 수행하게 한다.

3. 메모리: 현재 대화의 단기 정보와 여러 세션에 걸쳐 유지되는 장기 정보를 저장하고 불러온다.

4. 컨텍스트 관리: 요약, 마스킹, 적시 검색 등을 통해 모델에 필요한 핵심 정보만 효율적으로 제공한다.

5. 프롬프트 구성: 시스템 지침, 도구 정의, 메모리, 대화 기록, 사용자 요청을 우선순위에 따라 조립한다.

6. 출력 파싱: 모델의 응답이 최종 답변인지 도구 호출인지 판별하고 구조화된 데이터를 검증한다.

7. 상태 관리: 작업 진행 상황과 중간 결과를 저장해 중단 후 재개, 체크포인트 복원, 디버깅을 가능하게 한다.

8. 오류 처리: 오류 유형에 따라 재시도하거나 모델의 자체 수정, 사용자 개입, 디버깅으로 연결한다.

9. 가드레일과 안전성: 입력·출력·도구 호출을 검사하고 위험하거나 허용되지 않은 행동을 차단한다.

10. 검증 루프: 테스트, 린터, 스크린샷, 별도 평가 모델 등을 이용해 작업 결과가 정확한지 확인한다.

11. 서브 에이전트 오케스트레이션: 복잡한 작업을 전문 에이전트들에게 나누고 결과와 통제권을 조정한다. 

12. 종료·수명주기 관리: 최종 응답, 턴·토큰 한도, 안전 장치, 사용자 중단 같은 조건에 따라 실행을 종료하거나 이어간다. 

이상적인 하네스는 하네스가 없는 것

"모델 그대로 하네스만 바꿨더니...ARC-AGI-3서 인간 효율 99% 근접"

https://www.aitimes.com/news/articleView.html?idxno=212889

AI타임스

하네스의 위력은 ‘ARC-AGI-3’를 보면 체감할 수 있다.

대부분의 벤치마크들은 출시 후 빠른 시간 내에 정복되어 왔다.

하지만 ‘ARC-AGI-3’는 ‘GPT-5.6 Sol’로도 겨우 13.33%가 한계였다.

여기에 '스키마(Schema)'라는 하네스를 적용하자,

'ARC-AGI-3' 벤치마크에서 98.98%의 성능을 기록했다.

오픈 AI 리서치 부사장 ‘노엄 브라운’은 어째서 이런 하네스가 필요 없다고 하는 것일까? 

OpenAI 연구원 댄 로버츠, 9 Years to AGI? OpenAI’s Dan Roberts Reasons About Emulating Einstein.

이 강연을 보면 그 이유를 알 수 있다.

“AI 연구를 따르는 분들은 얀 르쿤(Yann LeCun)이 몇 년 전 만든 슬라이드를 아실 겁니다.

사전 학습이 거대한 케이크라면 강화 학습은 그 위의 작은 체리라는 식의 이야기였죠.

우리는 그 밈을 완전히 뒤집고 싶습니다.

케이크 크기는 같더라도 거대한 강화 학습 체리로 덮어버리는 거죠.”

강화 학습을 활용하면 모델은 다음과 같은 행동을 내부적으로 익힐 수 있다.

- 언제 계획을 세워야 하는지

- 언제 도구를 호출해야 하는지

- 실패했을 때 어떻게 수정할지

- 답변 전에 검증이 필요한지

- 짧게 답할지 오래 추론할지

즉, 지금은 하네스 코드가 강제로 시키는 일을 미래 모델은 학습된 습관처럼 스스로 수행할 수 있다.

따라서 오픈 AI가 케이크를 거대한 강화 학습 체리로 덮어버리겠다는 것은, 

광범위한 분야의 하네스에 들어가는 모든 공통된 판단 로직을 모델에 내재화하겠다는 것이다.

그것은 곧 ‘범용 인공지능’, AGI라 부를 수 있을 것이다.

‘릴리언 웽(Lilian Weng)’의 의견은 틀렸는가?

"AI 재귀적 자기 개선, '하네스 시스템' 자동 최적화가 첫 단추"

https://www.aitimes.com/news/articleView.html?idxno=212539

AI타임스

사실 노엄 브라운과 릴리언 웽의 발언은, 

서로 완전히 다른 시점에서 한 말이기 때문에 충돌하는 의견은 아니다.

노엄 브라운의 말대로 대부분의 하네스의 판단 로직은 강화 학습을 통해 모델에 내재화될 것이다.

따라서 복잡한 외부 하네스는 이러한 모델의 성능에 오히려 악영향을 줄 것이다.

그의 이러한 말은 모델을 사용하는 ‘사용자’ 시점에서의 ‘조언’이다.

반면에 릴리언 웽의 발언은 자가 개선에 초점을 둔 ‘연구자’의 시점에서 한 말이다.

‘재귀적 자기 개선(RSI)’는 보통 지속 학습을 통해 모델의 가중치를 바꿔 개선하는 것을 뜻한다.

그렇다면 이러한 환경에선 체크포인트는 언제 만들어야 하는 것일까?

지속적인 학습 환경에서 실시간으로 가중치가 변하면, 

어떠한 요소 때문에 이러한 결과가 나왔는지 알기 힘들다.

영향을 준 요소를 알 수 없다는 것은 체크포인트 분기 지점을 정할 수 없다는 말과 같다.

위에서 설명했듯이 강화 학습을 통해 하네스의 로직을 모델에 내재화할 수 있다.

이것을 역발상 하면, 하네스란 외부에 구현된 일종의 강화 학습 정책이란 말이다.

즉, 하네스야말로 재귀 개선 체크포인트 생성의 명확한 단위이다.

릴리언 웽은 말한다.

“하네스 엔지니어링은 자기 개선 방향으로 진화해 자동 연구를 가능케 하고, 

그게 다시 더 똑똑한 모델로 이어질 가능성이 크다.

이유는 단순하다. 가중치 파인튜닝은 오류가 누적되고 비용이 크고 되돌리기 어렵다. 

반면 하네스는 코드다 — 읽고, 고치고, 되돌리고, 검증할 수 있다.”

"AI가 스스로 규칙 고친다"…모델 성능 60% 끌어올린 '셀프-하네스' 등장

https://www.aitimes.com/news/articleView.html?idxno=212024

AI타임스

“하네스를 사람이 아니라 AI가 고치기 시작하면?”

이것을 ‘셀프 하네스’라 부른다.

하네스를 지속적으로 개선해나간다는 것은, 

외부에 구현된 일종의 강화 학습 정책을 수정하는 것과 같고.

이것은 곧 모델의 가중치를 바꾸는 지속 학습이 된다.

쉽게 말하자면 하네스를 모델 가중치 업데이트 전에 사용하는, 

가역적이고 검증 가능한 ‘재귀 개선의 실험장’으로 만들자는 것이다.

가중치 업데이트부터 하고 결과를 보는 것이 아니라, 결과가 검증된 뒤에 가중치를 업데이트하는 것이다.

https://www.aitimes.com/news/articleView.html?idxno=212096

샤오미, 스스로 구조 바꾸는 '하네스X' 공개… 성능 최대 44% 향상 - AI타임스

그리고 샤오미는 이것을 실현한 ‘HarnessX’를 발표한다.

HarnessX의 핵심은 모델 가중치를 곧바로 수정하지 않고, 

먼저 모델 외부의 행동 정책인 하네스를 진화시키는 데 있다.

하네스는 프롬프트뿐 아니라 

컨텍스트, 메모리, 도구, 샌드박스, 평가, 제어, 관찰과 훈련 브리지를 포함하는 전체 실행 구조다.

현재 하네스 (H_t)로 작업을 실행하면 상세 추적 기록과 검증기 점수가 생성된다.

AEGIS는 이를 요약하고 실패 원인을 분석한 뒤, 새로운 하네스 후보를 계획·생성·비평한다.

후보가 스모크 테스트와 회귀 검사를 통과하면 (H_{t+1})로 채택하고, 실패하면 기존 (H_t)를 유지한다.

즉 새로운 행동 정책을 모델 가중치에 바로 새기지 않고, 

외부에서 먼저 실행하고 결과를 확인한 뒤 검증된 변경만 남기는 구조다.

이 과정은 강화 학습과 구조적으로 대응된다.

현재 하네스는 상태, 하네스 코드 수정은 행동, 실행 결과와 검증기 점수는 피드백에 해당한다.

차이는 신경망 가중치가 아니라 읽고 비교하고 롤백 할 수 있는 상징적 정책을 먼저 학습한다는 것이다.

이후 HarnessX는 같은 실행 데이터를 GRPO 모델 학습에도 사용해,

성공한 하네스 전략을 모델 가중치에 내부화한다.

그림 3은 HarnessX의 하네스–모델 공진화 루프를 보여준다.

현재 에이전트는 인지 코어인 모델 (M_t)와 도구·프롬프트·메모리·제어 흐름을 포함하는 하네스 (H_t)로 구성된다.

에이전트가 여러 작업을 실행하면 전체 궤적과 검증기 보상이 리플레이 버퍼에 저장된다.

HarnessX는 동일한 작업을 여러 하네스 버전으로 실행한 결과를 그룹화해, 

각 실행이 다른 하네스보다 상대적으로 얼마나 우수했는지를 계산한다.

이 공동 경험은 두 가지 업데이트에 동시에 사용된다.

위쪽의 AEGIS는 실행 실패와 성공을 분석해 외부 행동 정책인 하네스를 (H_{t+1})로 진화시키고, 

아래쪽의 Cross-Harness GRPO는 상대적으로 우수한 실행 행동을 강화해 

모델 가중치를 (M_{t+1})로 업데이트한다.

이렇게 생성된 개선된 모델과 개선된 하네스는 다시 결합되어 다음 작업을 수행한다.

더 좋은 하네스는 더 좋은 학습 데이터를 만들고, 

더 좋은 모델은 더 좋은 하네스를 설계하므로 양쪽이 서로를 개선하는 공진화 루프가 형성된다.

하네스는 ‘안전한 돌연변이 공간’이다

HarnessX에서 하네스는 모델 가중치에 새로운 행동 정책을 바로 학습하기 전에,

다양한 정책을 실행하고 비교하며 문제가 있으면 롤백 할 수 있는 외부 실험 공간으로 작동한다.

이것은 단순한 하네스 엔지니어링이 아니라, AI 연구·개발 과정 자체를 자동화하는 재귀 개선 아키텍처이다.

하네스의 본질은 개인화나 장기기억이 아니다.

모델 전체를 손상시키지 않고 새로운 행동 정책을 시험할 수 있는 외부 표현형 공간이다.

곧 수많은 에이전트가 정책과 학습 시스템의 변이를 만들고, 평가하고, 선택하여 

다음 세대 모델을 생산하는 인공 진화 생태계가 ‘데이터 센터’ 안에 생겨날 것입니다.

하네스는 가중치에 위험한 변화를 직접 적용하기 전에 

새로운 행동 정책을 싸고, 병렬적이고, 가역적으로 탐색하고 검증할 수 있기 때문에 중요하다.

검증된 하네스의 실행 경험만 다음 모델에 흡수하면, 

데이터센터 전체가 안전장치를 갖춘 재귀 개선 기관으로 작동할 수 있다.

https://www.joongang.co.kr/article/25439876

[팩플] 오픈AI, 브로드컴과 손잡고 개발한 AI반도체 공개 | 중앙일보

오픈 AI는 ‘추론’에 대한 기대가 현실화되기 전에 한 발 빠르게 메모리를 선점해서 매수한 전례가 있습니다.

그들은 지금 브로드컴과 추론칩을 만들고 있습니다.

이것은 제 개인적인 사견이지만 곧 ‘학습과 추론’의 경계가 무너지는 때가 가깝다고 봅니다.

‘재귀 개선’을 기준으로 지속 학습과 장기 기억은 이미 해결되었습니다.

여러분은 이미 ‘재귀 개선’의 시대에 살고 있습니다.

[익명(file7346)]

하네스나 훅 없이 항상 내가 원하는데로 동작하는게 가능해?

[균형의수호자(preheat1017)]

언젠가는 가능해지겠지만 지금 수준의 컴퓨팅 파워로는 답없이 느림. 모델이 충분히 똑똑해지면 하네스 없이 모든 종류의 업무를 스스로 파악해서 잘하게 되겠지만, 지금수준의 컴퓨팅 파워로는 한세월 걸림. 과도기적으로 자기개선 시간을 줄이기 위해 인간 장기기억을 이용해서 하네스를 짜는게 효율적임.

[섹하나언제하냐(confuse2920)]

[HeskaPeglad(kill4337)]

[눈누난나(kjh1017)]

[행복한천국으로(adjust7431)]

[박노이호(round4494)]

잘 읽었습니다 감사합니다! "SPEND MONEY"

[천사다천사(jjtheman999)]

"검증된 하네스의 실행 경험만 다음 모델에 흡수하면, 데이터센터 전체가 안전장치를 갖춘 재귀 개선 기관으로 작동할 수 있다." 놀라운 시대다

[trzn3(fjeqk123)]

오

[사신짱(syguff)]

결국 하네스가 핵심이었군 하네스의 경계조차 녹아내리면 완전한 재귀개선의 시대가

[AG+(wxct14ytfbq9)]

컴퓨팅 비용이 지금보다 훨씬 내려가야 현실성 있을듯 하네 - dc App