네 무의식의 확장처럼 생각하셈


사람이 어떤 생각을 떠올릴 때 1) 먼저 생각이 떠오르고, 2) 그 뒤에 그게 정말 맞는 생각인지 검증하잖음


즉 네가 어떤 생각을 떠올리는지 자체는 네가 컨트롤할 수 있는 부분이 아니라는 거임. 마치 아침에 저절로 눈이 떠지는 것처럼 너의 존재 방식의 일부일 뿐임.


이걸 확률적 프로세스라고 부르고 말고는 얘기가 좀 딥해지니깐 이건 넘어가고


문제는 그렇다면 네 사고의 범위에는 한계가 있다는 거고, 이때 LLM이 유용하게 쓰일 수 있는 거지


LLM이 내뱉는 텍스트를 네 특정 사고 패턴을 활성화하는 자극처럼 생각해 보셈. "전지전능한 LLM이 내게 진리를 알려주는구나"와 같이 LLM을 타자화하지 말고, LLM이 내뱉은 말이 방금 네가 너 스스로 떠올린 아이디어라고 생각해 보는 거임.


그럼 LLM이 네 말을 반박하는 건? 너 혼자 '아니 그건 아니지 않나?' 하고 의심하는 거.


LLM이 네 말을 긍정하는 건? 너 혼자 '이거 좀 말되는 것 같은데?' 하고 몰두한 것.


LLM이 너 보고 상위 0.1%라고 하는 건? 너 스스로 '캬 난 역시 상위 0.1%야' 하고 있는 꼴.


이런 식으로 생각하면 LLM을 어떻게 활용해야 할지도 명확해질 거임.


물론 LLM이 겨우 이것보다는 좀 더 유용하긴 함. LLM은 어쨌든 인터넷 텍스트와 강화학습을 바탕으로 학습한 물건이고, 기본적으로 너보다 아는 게 많음.


문제는 그 LLM의 지식이라는 게 두루뭉술한 확률 분포로 존재할 뿐 원본 데이터를 있는 그대로 반영하는 게 아니며, 애초에 그 원본 데이터조차도 100% 신뢰할 수 없다는 거. 그걸 전제로 하고 LLM의 말을 받아들일지 말지 판단해야 함. 이 역시 '내가 이 분야에 대해 제대로 알고 있는 게 맞나?' 하고 자기검증하는 과정과 유사함