재귀개선 못하는 성능인데 과추론 500배 막 하루에 전력소모 뉴욕시 하나급 이러면
재귀개선동안만 전력생산 총력전 돌입해서 돌리면 안됨?
내부 연구에선 하고 있는 것 같음 - dc App
5.6 Sol 벤치를 보면 알겠지만 한계가 있어서 어느 수준부터는 걍 무의미한 토큰만 쌓고 성능에 변화가 거의 없어짐
꽈추론으로봐따...ㅅㅂ
추론도 컨텍스트라 너무 쌓이면 성능 역주행함
뻘생각을 하니까 문제인거임 긴추론이 문제가 아니고 필요없는 과한 추론이라는 뜻임
내부 연구에선 하고 있는 것 같음 - dc App
5.6 Sol 벤치를 보면 알겠지만 한계가 있어서 어느 수준부터는 걍 무의미한 토큰만 쌓고 성능에 변화가 거의 없어짐
꽈추론으로봐따...ㅅㅂ
추론도 컨텍스트라 너무 쌓이면 성능 역주행함
뻘생각을 하니까 문제인거임 긴추론이 문제가 아니고 필요없는 과한 추론이라는 뜻임