유입인데 보니까
환각에 시달리는 특붕이들이 생각보다 많은 것 같더라.
AI 특히 LLM에 사용되는 기술적 특성이나 원리에 대해서 제대로 이해하지 않고 쓰면
충분히 그럴 수도 있을 것 같아서 좀 적어봄



LLM 현명하게 사용하는 법은 사실 되게 간단함.


1. 무언가 질문한다면 기본적으로 해당 분야에 대한 지식이 있어야 한다.

2. 기본적으로 AI의 출력은 불신한다.


3. 나온 결과가 옳게 보이더라도 반드시 다른 출처를 통해 확인한다.

(4. AI의 출력에 의미론적인 가치를 두지 않는다...)



한마디로 요약하자면
기본적으로 AI에 대한 불신을 탑재한 태도로 사용해야 한다는 거임
엥 이러면 AI 왜 사용함? 왜 특갤 옴??? 썩 나가라!!!! 처럼 반응할 수 있긴 할 것 같은데
AI의 미래는 모르겠지만 현재는 이 방법으로 접근하는 게 가장 합리적인 태도임.


왜냐면 현재 사용하는 AI의 방법론은 진리값을 판단하는 방식으로 동작하지 않기 때문이야
그러니까 AI(LLM)는 명제도 추론 규칙도 모르고 진실과 거짓이 무엇인지도 모름.



AI가 컴퓨터에서 동작하고 수학적 알고리즘으로 동작하니까
흔히 컴퓨터하면 떠오르는 특성.. 이성, 논리, 결정론적 해답  이런 걸 생각하는 것 같은데
거칠게 이해하면 이런 건 지금 대세 AI 방법론인 신경망적인 접근법과는
정반대에 있다고 생각하면 됨.


AI 기업들이 환각을 못고치는 이유는 기본적으로 그게 환각이 아니라 올바른 출력이기 때문이야.
환각은 오작동이 아님.
개발자가 어디에서 찐빠내서, 또는 학습 데이터에 문제가 있어서 생기는 문제가 아니라는 말임
그래서 개발자 중에서 이런 인문학적인 느낌의 용어에 부정적인 사람도 제법 있어


AI가 우리 기대처럼 작동하는 것처럼 보이는 가장 큰 이유는
해석하는 주체가 사람이어서임.



'보통 점성술 상담에서 출생 시 천체의 위치와 점성술사의 판독 사이에 어떤 객관적 상관관계를 요구하는 경우는 거의 없다.

잘못된 천궁도에서 옳은 판독 결과를 얻을 수 있는 점성술사의 능력을 검토한 후에 이러한 결론에 도달했다.

... 따라서 작동하는 것은 점성술이 아니라 점성술사이다.'


다른 분야의 예시지만
기본적으로 비슷한 골조라고 생각해
의미론적으로 설계되지 않은 AI가 의미론적으로 동작할 때 작동하는 것은 AI가 아니라 인간임.
거기에 네가 입력한 반응이 다시 입력으로 들어간다고??


이게 여기서 특붕이들이 보이는 환각의 가장 큰 원인이라고 생각해


예상 되는 질문
Q.. 이제 AI는 더 이상 LLM이라고 칭하기엔 복잡해지고 기능도 많아졌는데?

A. 맞는 말인데 결국 너에게 도달하는 출력은 LLM을 거침.


Q.. COT, 추론 엔진 같이 논리적으로 동작하게 만든 AI 모델도 있는데?
A. 아님. 논리적으로 동작하는 것처럼 보이게 만든 것이지 결국 이 모델들이 하는 것은 동일함. 단지 학습 데이터의 형식을 바꿨을 뿐이야
그래서 부정론자들이 나오는 거임.


Q.. 알파프루프는 결정론적인 문제도 잘 푸는데?

A. 그건 형식언어인 LEAN을 사용해서임. 그리고 이런 방법론을 취할 때의 실패에 대해선 역사가 말해주고 있징..