이제 한 번 모르겠습니다 나온 게 중요한 거 아님?
99번 환각 하겠지만 비율이 점점 나아지겄지 아마
내가 볼땐 환각을 잡은 개념이 아니라 수학같은 논리성을 요구하는 문제에서 논리적 전개가 막히니 "모르겠다" 라고 답한거 같은데 그러면 우리가 흔히 아는 틀린 "지식"을 맞다고 씨부리는 환각이랑은 좀 다른얘기임.
왜냐하면 기존 LLM들도 논리적 전개가 막히는 부분은 스스로 자가 피드백을 거쳐 모른다는걸 인지하는 경우가 있어서
내가 볼땐 환각을 잡은 개념이 아니라 수학같은 논리성을 요구하는 문제에서 논리적 전개가 막히니 "모르겠다" 라고 답한거 같은데 그러면 우리가 흔히 아는 틀린 "지식"을 맞다고 씨부리는 환각이랑은 좀 다른얘기임.
왜냐하면 기존 LLM들도 논리적 전개가 막히는 부분은 스스로 자가 피드백을 거쳐 모른다는걸 인지하는 경우가 있어서