[일반] 할루시네이션이 머임?

[익명(211.235)]

내가 아는 할루시는 하이템플러 스킬인데

[익명(125.182)]

환각. 사실과 다르거나 존재하지 않은 이야기를 llm이 지어내는 현상을 뜻함. (예로 들면, 세종대왕이 음주운전을 한 사건에 대해 설명해줘 라고 했을때 존재하지도 않는 이야기를 지어낸다던가 ㅇㅇ) - dc App

[익명(113.199)]

환각은왜생기는거야?

[익명(125.182)]

트랜스포머 기반의 llm모델들은 특정 입력이 주어졌을 때, 그 문장을 이해하고 답변하는게 아닌 다음으로 올 가장 알맞은 단어가 무엇일지 확률적으로 예측해서 동작하는 방식이기 때문 ㅇㅇ 그래서 할루시네이션을 어느정도 보안은 할 수 있어도(파인튜닝이나, 프롬포드 엔지니어링 등등) 완전히 없애기란 불가능하다고 봐야하고, 새로운 대안(강화학습이나 아님 새로운 언어모델 등) 이 필요할 수도 있겠지 ㅇㅇ - dc App

[익명(scene3440)]

확률에 의존하는 아키텍쳐라서 늘 자기 데이터셋에서 가장 확률이 높은 데이터를 출력하는 뿐이기 때문임

[익명(58.234)]

얘는 글을 쓸 때 사람처럼 글의 구성을 어떻게 짤 지 고민한 다음 한번에 주르륵 써내려가는게 아니라, 무지성으로 적당한 단어를 일단 하나 싸놓고 그 다음으로 적당한 단어 찾고, 그 다음 단어 찾는 식으로 글을 써갈김

[익명(58.234)]

헛소리 하는거

[익명(orangestar1122)]

세종대왕 맥북프로 던짐 사건 같은거

[익명(112.168)]

그 할루시도 맞긴 하네 환각 만드는거니까