LLM의 한계를 드디어 인정하는 분위기로 바뀌는건 강화학습을 연구하는 사람들에게는 긍정적인듯

하지만 현재의 rlhf로만 나아가는것도 결국 인간 맞춤화에 불과하다는 의견이 있는데

얼마전 이세돌 인터뷰에 따르면 바둑의 경우는 명확한 룰, 즉 명확한 보상체계가 있었기에, 인공지능이 쉽게 점령할수 있었다고 말함.


그럼 과연 사람들 사이에서 통용되는 객관적인 혹은 범용적인 보상체계라는게 존재하는 작업이 어떤게 있을지, 있다면 이런 분야가 가장 학습하기 쉬운 대상이 아닐지 싶다.

그런점에서 딥마인드가 이런 객관적인 답이 있는 분야인 수학과 과학으로 설정하고 있는 것도 이유가 있다고 생각함.