[일반] 질문자가 환각을 유도하게 유도신문한 거잖아

[Hbtt(needle2148)]

<<< '좀 더' 맛있게 먹는 조리법 운운하면 문맥상 이미 맛있게 먹는 조리법이 있다고 가정하고 얘가 헛소리를 함

'좀 더'라는 유도신문성 단어들만 빼도 검색을 하든 안 하든 제대로 답변함

궁금하면 직접 새 세션 파서 해보셈 할 때마다 100% 저러니까

[특특이(ehdehddlfks)]

유도 한다고 유도가 되면 그게 잘못 아닐까요

[Hbtt(needle2148)]

정상적인 채팅에서 저기서 저런 좀 더라는 표현이 나올 수가 없는데

[특특이(ehdehddlfks)]

@Hbtt 딱히 버섯이 아니어도 온갖 것들에 다 적용 된다는 소리잖아

[ㅇㅇ 1(210.117)]

젬황한테 물어봤는데 진짜 뭐라 물어보냐에 따라 답이 다르네 LLM한계인가

[최소경로(fasten0117)]

일반적인 질문에서 1차 필터링에서 문제가 될만한 부분에 필터링이 안될것 거라 생각되진 않는데 ‘좀더’ 라는 가정을 두고 질문 했을때 뚫린다는게 생각할 부분이 많아지긴 하네 지금 llm을 사용하는 유저들이 llm이 어떤 방식으로 답을 도출하는지 하다못해 o3에서 논문으로 공개된 셀프어텐션 기법이 무엇인지, 그래서 지금 oai가 컨텍을 크게 늘리지 못하는 요인이 무엇인지 고려하지 못하고 오직 ai 가 쩐다면서요 근데 쩌는 ai 가 뿔버섯 먹으라는데여? ㅇㅅㅇ 이거 맞음? 이러는 상황이 슬픔 - dc App