이 글에 다른 댓글로도 쓴건데 결국 요즘 openai(를 비롯한 상용 LLM )가 성능을 높이는 방향은 chain-of-thought라는 프롬프트 테크닉을 모델에 내장하는 수준에서 크게 벗어나지 못 하고 있다고 생각함
좀 단순화해서 말하면, 이전의 LLM은 질문 입력 한번에 원하는 답변을 할만한 사고 능력이 없기 때문에 인간이 여러번의 질문을 거쳐서 원하는 방향으로 답변하도록 유도하는 과정을 거쳐야 했고 그걸 cot라고 불렀는데,
이 문제를 해결하기 위해 모델의 능력을 키우는건 한계에 봉착했기 때문에 o1은 모델과 별개로 그냥 인간이 질문하는 패턴 자체를 별도로 강화학습으로 학습해서 cot를 모방하는 모듈을 붙인게 핵심이였음
더 간단하게 말하면 언어모델을 똑똑하게 한게 아니라 다른놈한테 질문하는 패턴을 학습시켜서 옆에 둔거
이게 더 유용하거나 효율적이라고 말할 순 있겠지만 그래서 인간이 질문하는 패턴을 잘 본뜨는게 AGI에 가까워진거냐는 좀 다른 문제니까
물론 이건 현 단계에서 그렇다는거지 앞으로 어떻게 더 발전할지는 모르는거고
이거 진짜임? o1이나 딥시크나 cot 프롬프트를 단순히 내재화 한 거에 불과함?
근데 그러면 왜 그동안 다른 기업들이나 국가(우리나라포함) 왜 못하고 있었던거임?
비효율적임
비효율적이라는게 무슨 의미임? 지금 llm중에 딥시크만큼 효율적인 모델있음?
그것보단 굳이 딥시크처럼 사고할 필요가 없단거임. 1+1 계산할 때 바로 2 나오는거하고 "1은 자연수고 크기가 1인 양수지. +는 연산자인데 a와 b를 합하는 합연산이지. 나머지 1은 자연수도 크기가 1인 양수지. 1은 a고 1은 b라고 했을 때 합연산을 하면 1 + 1이니 2겠군."은 연산량이나 현재 몇백 토큰에 집착하는 현재 기술을 볼때 다름없음.
딥시크,o1의 추론이 cot 프롬프트를 내재화한 거에 불과한다는 주장이 사실이냐는 질문에 왜 비효율적임이라는 이야기가 나오는거임?
관련해서 딥리서치 돌려둔거 글올려놨으니까 궁금하면 봐보삼
ㄳ
cot 프롬프트 내재화 이거 o1 처음 나왔을때 폄하 논리로 쓰이던거임 니 말대로 그렇게 쉬우면 개나소나 다 만들었지 llm에 강화학습 붙여서 만든건 맞는데 그걸 cot프롬 내재화로 퉁치긴 쫌ㅋㅋ