Chat GPT에 요즘 유행하는 CoT 프롬포트는 

CoT(Chain of Thought)에서 파생됨


https://arxiv.org/abs/2201.11903

Chain-of-Thought Prompting Elicits Reasoning in Large Language Models


이 논문의 효과가 뭐냐
사고 체인-> 복잡한 문제를 잘게 쪼개서 단계로 분해->점진적 솔루션을 찾는다는거
인간 사고 체계에서 따왔다고, 인간 사고를 시뮬레이션함

기본적으로 기존의 대규모 언어 모델은 패턴 인식을 함. 이때문에 대량의 데이터에 의존함.
반면에 CoT는 고품질 자연어 예제를 도입함(즉 기존의 모델들이 대량의 데이터를 이용한 양의 처리를 했다면, CoT는 질의 처리를 한다고 볼 수 있지)

이때문에 기본적으로 추론기능이라하여, 복잡한 언어구조를 더 잘게 분해, 논리적 연관성을 찾는다는게 CoT 모델의 추론기능 ㅇㅋ?

CoT가 나온 건 기본적으로 인간 자체가 질문을 '제대로' 할 수가 없음 .왜? 많은 사람들이 논리적인 구조에 의거해서 글짓기와 질문을 할 수 없으니

문맥과 상황에 의존해야하니까 추론 모델이 나온거


이 문제의 시작점은


복잡한 문제를 다룰때, 추론의 단계화가 되고 이게 진짜 효율이 있냐고 이를 검증하는거


이게 핵심 논제화되면서 AI 발전의 하나의 새로운 관점이 도입된거.

그래서 기본적으로 현재 추측되는 GPT의 추론방식은 다음과 같음


1. 단계별 추론

->이 과정에서 단계를 나누는데 이때 누락을 방지하기위한 정확성을 보장해야만함

2. 논리 체인 구축

->단계가 올라갈때마다 논리 체인이 쌓이게 되어서, 문제에 대한 논리적이해를 바탕으로함

3. 인간 사고 시뮬레이션

->결과적으로 이러한 방식은 인간이 일반적으로 복잡한 문제의 문제해결을 할때 나타나는 다층 추론을 통한 최종답을 찾는과정과 유사함



그리고 이러한 CoT 사고 체인은


불확실성의 감소


추론 정확도의 향상을 불러옴


문제는 CoT에 사용되는 데이터는 고품질이어야만 함. 거기에 더해서 단계별 추론 프로세스는 일반적으로 높은 복잡도를 가져서 여태까지 다른 모델들과 달리 높은 컴퓨팅 리소스가 필요하고, 이러한 논리 체인 구축에 드는 훈련도 힘듬


이런 방식으로 이해해야지 뜬금없이 전기 신호 어쩌고는 뭐냐 친구야


즉 기본적으로 CoT 모델은 다단계 추론을 도입한거고 


지식의 보고를 읽어 여기서 맹인이되서 토론할라 하지말고