최신 강화학습 알고리즘을 ‘발견’하기
강화학습(RL) 에이전트는 보통 우리가 손수 짠 규칙(TD, Q-learning, PPO 등)으로 학습합니다. 하지만 인간의 학습 규칙은 사람이 설계한 게 아니라 진화가 만들었죠. 그렇다면 기계가 경험을 통해 자기만의 RL 업데이트 규칙을 스스로 발견하도록 내버려두면 어떨까요?
Junhyuk Oh와 공저자들은 바로 그 방법을 제시합니다. 다양한 환경 전반에서 다수의 에이전트 집단을 학습시키고, 메타러닝으로 “에이전트가 무엇을 목표로 학습해야 하는지”를 출력하는 메타 네트워크를 최적화합니다. 즉, 에이전트의 손실 함수와 부트스트래핑 방식을 엔드투엔드로 함께 배우게 만드는 셈이죠. 에이전트는 여전히 정책과 예측을 내놓지만, 그 예측의 의미는 하드코딩이 아니라 ‘발견’됩니다.
결과는 놀랍습니다. 오랜 벤치마크에서 새로운 기준을 세우는 규칙(“DiscoRL”)이 발견됐거든요. 아타리에서는 57개 게임으로 학습한 버전(Disco57)이 수작업으로 만든 알고리즘보다 성능이 높으면서 실제 시간 관점에서도 더 효율적입니다. 더 흥미로운 건 이 규칙이 일반화된다는 점입니다. 별도 튜닝 없이도 ProcGen에서 최신 수준의 성능을 내고, DMLab, NetHack, Crafter, Sokoban에서도 경쟁력 있는 성능을 보입니다. 발견 과정을 더 다양한 환경으로 확장한 버전(Disco103)은 규칙을 더 강하게 만듭니다. 단지 더 다양한 세계에 노출시키는 것만으로도 성능이 개선되니까요.
내부를 들여다보면, 학습된 ‘예측’은 고전적 가치함수와 다르게 행동합니다. 두드러진 사건(큰 보상, 급격한 정책 변화) 전에 스파이크가 나타나고, 이 예측이 정책을 부트스트랩하고 업데이트하는 데 명시적으로 쓰입니다. 이는 시스템이 옛 개념을 재탕한 게 아니라 유용한 ‘중간 변수’를 스스로 발명했음을 보여줍니다. 발견 과정은 실용적이기도 합니다. 환경당 수억 스텝이면 최상위 규칙을 찾기에 충분했고, 이렇게 배운 규칙은 평가할 때 더 큰 네트워크로도 잘 이전됩니다.
이는 설득력 있는 미래를 가리킵니다. 점점 더 복잡한 RL 손실과 타깃을 사람이 일일이 만들기보다, 학습 알고리즘 자체가 ‘학습되는’ 에이전트를 훈련할 수 있다는 것이죠. 계산 자원, 데이터 다양성, 더 풍부한 환경을 더할수록 스스로 개선됩니다. 조정해야 할 노브는 적고, 역량은 더 커집니다.
1. 즉, 에이전트의 손실 함수와 부트스트래핑 방식을 엔드투엔드로 함께 배우게 만드는 셈이죠. 에이전트는 여전히 정책과 예측을 내놓지만, 그 예측의 의미는 하드코딩이 아니라 ‘발견’됩니다.
2. 오랜 벤치마크에서 새로운 기준을 세우는 규칙(“DiscoRL”)이 발견됐거든요. 아타리에서는 57개 게임으로 학습한 버전(Disco57)이 수작업으로 만든 알고리즘보다 성능이 높으면서 실제 시간 관점에서도 더 효율적입니다.
3. 이는 시스템이 옛 개념을 재탕한 게 아니라 유용한 ‘중간 변수’를 스스로 발명했음을 보여줍니다.
이거 잘하면 재귀개선 열릴 수 도 있겠는데?
그냥 존나 간단하게 요약하자면
'강화학습 자체를 강화학습' 하는거임
ངས་བསམ་ན་ད་llmལ་བའ་དངས་པ་ཞག་ལ་བད་སད་གཏང་ཐབ་ཀ་མ་རད།
굳이 규칙을 부여하지 않고도, 스스로 학습과정에서 규칙을 찾는다는 말이네
그러니까 '규칙자체' 를 강화학습 한다는 발상임
@ㅇㅇ(211.106) 그렇다면 개선된 규칙을 갖고 학습을 하니 더욱 개선된 알고리즘이 튀어나오고, 또다시 이를 통해 규칙을 개선하는 무한 되먹임이 반복된다면 재귀개선의 신호인가?
@ㅇㅇ1(221.148) 그런데 문제는 '그것이 더욱 개선된 알고리즘' 인가 에 대한 점수를 매겨야 하는데 이렇게 된다면 인간개입이 불가피해짐
@ㅇㅇ(211.106) 그렇긴 하네... 그 평가 방식, 그러니까 점수를 부여하는 과정의 자동화는 많이 어려운 상태임?
@ㅇㅇ1(221.148) 우리 우주의 원리를 기술적으로 공식화한 학문인 언어, 수학, 과학 등등의 학문에 적용할려면 결국 '우리 우주' 가 '바둑판' 처럼 닫힌 규칙을 제공해야하는데 우주의 설계범위를 모르는 이상 그것은 불가능함
오준혁씨 딥마인드 연구원이네.. 지렷다
2020년에 한 Discovering Reinforcement Learning Algorithms 라는 알고리즘 후속연구인거 같은데 지켜보긴 해야 할 듯? 근데 왜 컨퍼런스에 안내고 기다렸다 네이처에 낸거지
하지만 여전히 재귀개선의 난제는 남아있음. 강화학습 자체를 강화학습 한다면 그 '강화학습 자체를 강화학습' 하는 방식에 대한 점수가 필요하고 이렇게 된다면 무한 꼬리물기 문제가 발생해버림
어 나도 이거 떠올렸는데 근데 뭐 아타리 정도 문제는 이제 쉬우니까.. LLM에서도 저런게 되는가가
@Azurespace 여기서 이거는 내가 저 아이디어 떠올렸다늩게 아니라 써 준 논문 읽었던거 기억났단 소리
@ㅇㅇ(211.106) 저건 meta rl연구라 애초에 재귀개선이랑 바로 관계있는거 아니지 않나? 보통 환경에 따라 적합한 알고리즘도 달라져서 그걸 meta learning 프레임워크로 설계하는거 같은데..
@Azurespace ㅇㅇ 근데 꼭 LLM이 아니더라도 알고리즘 설계 자체를 충분히 잘 해주는거면 그냥 환경에 따라 이거저거 알고리즘 튜닝 안하고 디스코RL써서 시뮬레이션 돌릴 수도 있어 보이긴 하네.
20년도 연구에서는 LPG 알고리즘을 썼고 올해 연구에서는 디스코를 썼다의 차이인 듯
@ㅇㅇ(211.106) 강화학습 자체를 강화학습하는 것 자체를 강화학습!!
@ㅇㅇ2(175.215) 걍 줜나무거워서 샘플을 효과적으로 쓰는 방법이 안나오면 llm엔 쓰기 어려울듯? 저거 손실이 lifespan 보상 누적합이라 롤아웃한다해도 llm 같은덴 못쓸듯 - dc App
강화학습을 강화학습시키는거라니 재귀개선에 가까워지고 있긴하구나
준혁이햄 ㄷㄷ - dc App
강화학습도… 두를 수 있는거지….!?
그걸 이제 알아서 뭐 어쩌라는 거지? 그것이 가능한 사람은 극소수들의 강자들 뿐이다
@ㅇㅇ7(175.200) 네가 그들과 같은 수준의 강자라는 거냐?
이거 메타러닝이랑 다를게 뭐임? 캐글같은데서 기계학습 성능 극한까지 뽑을때 메타러닝 쓰는데 llm은 도저히 비용시간감당이 안되서 안쓰는 방법인데 이거 효율적으로 돌리는 방법이 있는거임?
걍 강화학습 메타러닝이다이기 - dc App
19특갤 바이브
슬슬 덥구나. .
몇일전에 네이쳐에 바로 억셉돼서 올라왔길래 흥미롭게 봤던 논문인데, 재귀개선 이라고 보긴 힘들고 물론 좋은 내용이지만 이걸로 얼마나 할수있냐는 의문은 있는듯 구글에서 나온거라 기대는 되지만 내 지식으로는 확장성을 판단하기 힘드네
환경당 수억스텝이면 많은건가