인간도 당장 제대로 알지 못하는 정보에 대해 이렇다더라 저렇다더라 말하잖아
조심스럽게 말하는 사람들은 그나마 양반인데
거의 확신에 찬 어조로 이게 맞아!!!! 하고 목청 높이는 인간들 꼬라지 보면
LLM환각이 뭐 대수인가 싶어진다
그 사람의 주장이 틀렸다는 객관적인 증거가 있어도 끝까지 아니라고 우기기도 하고
결국 인간이라고 100% 맞는 것도 아니라는 거.
심지어 그 분야에서 나름 경력을 쌓은 전문가들도 조심스럽게 말하는데
사기꾼들은 너무 확신조로 말함.
대놓고 호구들 등 처먹을 목적으로 사기치고 조작하고 조종하고 흰소리 일장연설 하는 경우도 많으니
LLM 환각은 그래도 귀여운 수준이라는 생각이 든다.
물론 LLM 환각 잡는 건 중요함.
근데 인간 환각은 도저히 잡을 방도가 없지만 (특히 지배층이나 권력자라면 더더욱)
LLM 환각은 이거 맞아? 하고 따지면 사과하고 고치려고 든다는 점에서
(헛소리 하는 벽창호)인간보다 LLM이 낫다고 봄.
먼 미래에는 어떻게 될지 모르는 일이지만 당장 내 생각은 이러함.
인간 환각은 전문성 학습해서 줄일수라도 있지 llm은 그게 됨? LLM 참과 거짓을 구분을 못 해서 나온 환각이라 인간 환각이 더 심하다고 해봐야 의미 없음
1. 인간도 참과 거짓 구분 못하는 애들 많음 2. 인간 중에는 변할 수 있는 인간과 평생 변하지 못하는 인간이 있음 3. LLM은 조정하면 나아질 수라도 있지 평생 변할 수 없는 인간은 답이 없음 이라는 이야기임
1,2 인간이라는 개체가 학습하면 변할수 있는데 개개인 특성가지고 얘기하는게 무슨 의도인지 파악이 안됨 3,팩트아닌데 팩트인 것 마냥 얘기하지 마셈 ㅋ
파악이 안 되는 건 네 문제지 내 문제가 아님. 네가 그런 경험이 없는 걸 내가 어떻게 이해 시키냐 점심이나 먹어.
ㅇㅋ
사실 그런 사람들 뇌가 llm식으로 돌아가는게 아닐까? 그냥 지금까지 주워들은것 > 뇌피셜로 "아무튼 그럴거같애!"(확률로 추측) > 아무말대잔치 출력
인간의 환각과 망각을 감성/창의력이라고 우기기도 하지 - dc App
신경망 자체가 인간이든 딥러닝 네트워크이든 컴퓨팅 시스템과 달리 확실성, 재현성이 떨어지는 건 어쩔 수 없는 구조적 문제 같음
LLM의 환각은 아무데서 어떻게 언제 튀어나올지 모르는거고 그게 제일 문제인건데 니가 말한 인간의 환각은 전문성이 떨어지는 특정한 분야에서만 튀어나오잖음 예를 들어서 정치병자면 경제성장률이 1%대로 좆박아도 자기가 지지하는 후보가 집권하면 살림살이가 나아질거라고 믿는 환각이 발생하는데 정상적으로 정치학을 전공한 사람이면 경제성장률부터 올리자고 할거아님?
전문가 아니어도 일상생활에서 일반인의 환각이 엄청 많다고 생각한 거임. 예를 들면 부모님이 어디서 생마늘 생양파가 무슨 질병에 좋다더라 하는 말 듣고 와서 나를 포함한 주변 사람들한테 먹으라고 말하고 다닌다 쳐보자. 이거 부모님한테 따지고 들면 가족 싸움 일어나고 서로 감정 상하지? 이래서 부모님이나 어르신들이 헛소리하는 거에 반박 안하고 네 어르신 맞습니다 이러고 지내는 거잖아. 내가 말한 인간 환각은 사실 이런 일상적인 부분에 더 가까움. 전문가 헛소리는 예전에 줄기세포로 핫했던 ㅎㅇㅅ 박사를 예로 들 수 있을 거 같네. 이 아저씨 그래서 바뀌었음? 안 바뀌었지.
나는 좀 일하면서 쓰는쪽으로 생각했는데 그런새끼들이랑 일하면 회사가 좆박거나 성장하지 못하거나 둘 중 하나지 니가 언급한 그 박사는 예시가 안돼는게 작정하고 사기치는거랑 환각은 엄연히 다른거임 그 박사 본인피셜로 욕심에 잠깐 눈이멀었었다고 인정하잖음
LLM 환각은 아무때나 언제 어떻게 튀어나올지 모르는게 문제다 < 동의함. 그래도 인간 환각보다는 낫다고 생각함. LLM 환각은 끽해야 너 이거 맞아? 의심스러운데? 라고 따질 수라도 있지 인간이 환각하고 있을 때 님 그거 맞아요? 헛소리 같은데요? 라고 할 때 좀 건전하고 감정싸움이 되지 않는 건전한 토론이나 의견교환이 될 수 있을 확률이 별로 없다고 생각함. 이런 케이스는 애초에 헛소리 하는 사람이 너무 강한 믿음이나 신념을 갖고 떠드니까 그런 거긴 하지만.
응아님
일상생활에서 환각은 당연히 괜찮지 일할때 환각있으면 ai는 책임도 안지니까 문제인거임
AI가 책임을 못 지지 최종 책임은 당연히 인간이 질 수 밖에 없잖아. 최종결정권자가 책임을 지지 의견을 내는 일개 사원에게 막중한 책임감은 없는 거랑 같은 거 아닌가
본문의 인간들은 자기가 틀렸다는 거 알면서도 우기는 거라 LLM하고 다르지.