SSL 계열의 학습은 인간이 도출해낸 데이터들 중에서 최선이었던 것들의 패턴을 학습하고 일반화하는 거라면
RL 계열은 인간의 휴리스틱에서 벗어난 최적의 결과물을 도출할 수 있음.
간단한 예로 초창기 알파고가 SSL기반이기만 하고 학습에 사용된 기보가 구렸다면 성능이 처참했을테지만, RL기반의 기보없이 self play로만 학습된 알파고는 프로를 가뿐히 능가하는 모습을 보임.
최근 offline 계열이나 decision transformer류가 워낙 많이 나와 SSL이나 다름없게 된건 있지만, 일반화가 아닌 최적 제어가 목표인 분야라 LLM 다음 단계는 의사결정에 집중된 RL이 될거라 생각함.
아직 산업에서 두각을 못내고 있지만, 여전히 AI 학회에서 키워드 2,3위에 들만큼 연구가 활발한 분야라 얀 르쿤이 RL은 죽었다고 한 말이 큰 실수가 되지 않을까 싶네