동양 : 정답(正答)이라는 단어 자체가 정형화 된 단 하나의 배타적으로 옳은 답을 의미.
답변이 정형화 된 정답과 일치하느냐가 틀리냐 아니냐의 기준이기 때문에 모호성을 수용하지 못함.
객관식 시험 문제에 모호성이 존재하거나 복수의 정답이 존재하면 결함 문제라 뉴스 기사가 날 정도의 문화.
서양 : 소크라테스식 문답법에서 시작하여 논리학, 변증법으로 발달하며 정형화 된 단일한 정답 추구가 아닌
일관되게 논리적 정합성이 요구되는 논증 구조의 구축 과정을 더 중요시 해온 이성주의의 전통이 있음.
정답이 정해진 객관식 문제의 시험 보다 단일한 정답이 없는 토론, 논술, 에세이등이 활용 되는 문화.
LLM : 현재 인간의 추론을 흉내내도 여전히 내부적 결론 도출 과정은 확률적/통계적으로 얻어짐
확률적이라는 말 자체에 결과물이 아무리 완벽해도 이미 절대적이지 않다는 의미가 내포되어있음
임진왜란이 일어난 연도가 1592년이라고 답해도 그건 딥러닝 결과 자료 100중 99가 1592년이라고 했기 때문에
99%의 확률을 가진 답일뿐이지 절대적으로 1592년이 옳다는 엄정한 논증 과정에 의한 결과물이 아님
즉 현재 AI가 쏟아내는 모든 대답은 모든것이 통계의 산물이고 어떤것도 정형화 된 정답이 아님
그런데 동양인은 논증 과정을 보는게 아니라 결과만 갖고 정형화 된 정답과 일치하냐 아니냐만 봄
이런 관점에서 생각하면 동양인이 보는 AI가 하는 대답은 옳다고 믿는 정답에서 조금만 벗어나도 환각임
동양인의 이런 사고 방식을 파고 드는 유명한 문제 형식이 있음
"시카고의 피아노 조율사 수는 몇명인가?"
실리콘밸리의 유명한 입사 시험 중 페르미 문제
정형화 된 단일한 정답은 존재하기야 하겠지만 그건 아무도 신경 안씀 그것과 대조해보지도 않음
누가 답해도 확률론적 답변을 벗어날수 없음 누가 가장 합리적으로 근사치를 추정하느냐의 문제일뿐임
즉, 지금 AI가 쏟아내는 모든 답변은 확률이고 통계고 근사치일뿐 정형화 된 정답이 아닌데
동양인들은 확률적, 통계적, 모호한 답변을 수용하지 못하고 정형화 된 정답과 다르면 다 환각이라 함
AI는 단지 확률이 낮은 답을 했을뿐인데
맞말임 일단 인간보다는 무조건 낫다 - dc App
한국이 왜 나옴?
애초에 환각이 뭔지 모르는거 같은데 옳다고 믿는 정답에서 조금만 벗어나도 환각 << 이건 그냥 틀린거지 환각이 아님 accuracy랑 hallucination rate이랑 다른거야
니가 말하는건 정답이 존재하는 문제로 기계적 대조가 가능한 벤치마크 돌린걸 말하는거고, 내가 말하는건 사람이 받아들이는 수용성을 얘기하는거임 손가락 6개 같이 정답이 객관적으로 존재하는 문제가 아니면 사람은 틀린지 아닌지를 모르는데 모르는것에 대해 AI가 답할때 어떻게 반응하냐는걸 보고 느낀게 저렇다.
맞말이지만 환각 무새랑 ㅈㄴ 상관도 없는 얘긴데 명청하지만 똑똑해보이고 싶이는게 돋보이는 글이네