걍 저 121.139 지피티 대답들고오니까 내가 정확하게 비유들며 설명함


보통


훈련->추론


이런데


훈련으로는 기본적으로 의미에 따라서 유사한 개념으로 의미공간이 형성됨


가령 프로그래밍 계층에 따라서 비슷한 유사도가 엮이는거지


경사하강법과 손실함수는 어떻게 이 LLM이라는 국가에 시,도를 나누느냐와 같음


프로그래밍이라는 도를 나누고, 그 안에서 구를 나눔. 이렇게 시랑 도를 나누면 구조가 안바뀜. 이게 바로 AI의 확률분포임


근데 추론단계 들고오는데


추론단계는 이제 질문(Prompt)을 어떻게 배송하느냐의 스타일일뿐임.


AI에게 질문을 한다. 즉 어떤 구역의 어떤 부분으로 이동해달라와 같음.


입력 텍스트는 승객이 배송기사에게 말하는 출발지와 목적지와 같음(ex 프로그래밍 지구의 근처에 웹 거리로 가주셔요)


추론은 배송기사의 배송 스타일을 결정함. (ex 낮은 온도일 경우, 직진만함, 높은 온도일 경우 여러 구역을 둘러봄)


결국 입력 텍스트가 향하는 목적지가 어디까지 깊이에 있느냐에 따라서 답변의 질이 달라짐


가령


프로그래밍 지구 까지 가주세요


이거랑


프로그래밍 지구의 웹 거리까지 가주세요


이거랑


프로그래밍 지구의 웹 거리의 웹 소켓 건물까지 가주세요


이거랑 당연히 차이가 있고, 이게 망치로 때리는 것과 같다는건데 뭔 소린지 모르겠네


추상화 계층의 차이에 따라서 핀포인트로 들어가야할부분이랑, 추상화를 해놔서 래핑해서 다 간단하게 처리해야할 부분을 LLM이 이해하기 힘들때문에


추상화 레벨을 조절하면서 코딩하는게 어렵기때문에 망치로 때린다고 표현했는데 저 병신은 아예 이해도가 떨어짐ㅋㅋ