알파고도 인간 기보를 학습한 버전보다
인간 기보 없이 바둑의 규칙만 배운 상태에서 스스로 강화학습한 제로 버전이 훨씬 셌던 것처럼
수학에서도 수학의 규칙이라고 할 수 있는 '페아노 공리'만 배운 상태에서
스스로 논리를 증명해나가면서 최고 수준의 문제까지 해결하는 게
인간의 편견에서 벗어나서 더 창의적인 풀이를 할 수도 있고
고점도 더 높을 수 있지 않을까
그리고 데이터 편향적으로 먹이면 벤치 점수만 괴랄하게 높아지는 과적합 생긴다며
이런 관점에서 보면 구글이 수학 데이터 짱 많이 먹였다는 게 좀 실망스러울 수도 있는 거 아님?
물론 난 이 분야에 대해 조또 모르므로 반박 시 니 말이 맞음
근데 지금 딥마인드 사람들이 말하는거보면 다른 도메인에서도 엄청 좋다고 계속 얘기하는 중이라, 곧 출시한다고 하니 결국 나와보면 알듯
과적합인지 아닌지는 출시해서 써보면 된다는거임. 그리고 코딩이나 수학은 이미 데이터 존나 선별해서 주입하는게 일반적임..
당장 수학으로 따지면 IMO 데이터는 어느 모델이든 중요 과적합 학습 데이터라
ㄹㅇ 과적합이 문제임 - dc App
실제 출시때는 IMO 벤치가 낮게 나올수 있다고봄 근데 그렇다면 오히려 범용 측면에서는 긍정적인거고
애초에 OAI 내부 모델도 실제 출시때 똑같이 성능 나온다는 보장이 없긴 하니까
@야하이잇 당장 풀이에서 영어 문법 씹창난거 고치는 과정에서도 성능 떨어질테니
이거 주체를 o1, 시험을 수능으로 바꾸면 놀라울정도로 그때 선쌤논리임