동생이 LLM 환각에 당해버린 사례를 보니 안타까워서 몇 자 끄적여봄.


1. LLM은 여전히 한국어 한정으로 바보다.


아무리 한국어로 정확하게 물어본다 하더라도, LLM이 한국어에 뛰어난 것은 아니다.


뉘앙스를 잘 못읽는 경우가 많음.


복잡한 요구를 할 때는 영어를 쓰는 것을 추천함.


2. 텍스트로 정리된 사진이 아니면 그냥, 사진은 안쓰는게 좋음.


LLM은 사진을 잘 인식하지 못함. 당장 오늘만 하더라도 손가락 갯수를 틀려버림(4.5랑 4o는 맞췄지만, 언제 틀릴지 모름)


다행인것은 간단한 표같은것은 잘 인식하니 사무업무에는 활용해도 괜찮다고 생각함.


3. 추론모델이라고 만능은 아니다.


2.5pro나 o4-mini-high 급이면 수능 킬러 문항은 100개 중에 99개는 털어버릴 수는 있지만


정복하지 못한 1개가 큰 오류를 일으킬 수 있음. 물론 살면서 그런 오류를 겪을일은 없다고는 생각함.


그리고 추론모델은 수학, 코딩, 과학, 논리 한정으로 힘을 발휘하기 때문에, 물리적 변화(훌라후프를 돌리다가 땅에 떨어트렸습니다. 훌라후프를 발로 차면 어떻게 될까요?) 같은 건 아직 이해하지 못하기 때문에 사용에 주의해야함.


4. 왠만하면 텍스트를 쓰자


사진을 꼭 써야한다면, 사진을 일단 텍스트로 설명해달라고 한 뒤에, 새 채팅을 파서 텍스트로 묻는게 1000배 나음.


이건 영상, 음원에도 해당함.