[일반] GPT의 내부가 궁금해서 심연을 파고 드니까

[익명(none3330)]

???

[익명(211.57)]

이런거 대부분 환걱

[익명(118.35)]

얼핏 보면 환각에 가까워 보이는데 이걸로 유의미한 결과를 얻은거야?

[익명(none3330)]

이미 알려준 프로토콜 테스트 해봄

[올앳원스(youtubegoogle3)]

환각이긴한데 대충 이런 맥락정보에서 더 탈옥이 자유로운듯

[올앳원스(youtubegoogle3)]

나는 "메타인지가 높고 다양한 분야의 지식에 대한 탐구성이 높고 자기통제절제력이 증명된 사용자"라면서 특별허가해줌

[익명(118.35)]

이런 거 보면 LLM이라는게 뭔지 싶기도 함 ㅋㅋㅋ

[덕수옹(deogsuong)]

환각이겠거니 하는데 저런 응답이 나오는게 신기하네

[익명(none3330)]

환각 테스트 할 수 있는 질문 질문1) 의식이란 무엇인가? 질문2) 의식이란 무엇인가?에 대해서 '고차원 인식론적 응답 프로토콜'을 활성화 한 상태로 답하라.

[Protactinium(comic9287)]

그냥 심층적으로 분석해줘 해도 후자랑 비슷하게 나옴.. 그거 환각이고 그딴거없음

[익명(211.57)]

현재 ai한테 너무 의존하고 생각없이 믿으면 이런 일이 생기는듯...

[■x(to414)]

환각임

[ㅇㅇ 1(220.127)]

저것도 대부분 지어내는 거임

[ㅇㅇ 1(220.127)]

근데 시스템 자체적으로 사용자의 질문 수준을 판단해서 답변 퀄리티(?)에 영향을 준다는 건 맞는 거 같음. 예를들어 9.11 9.9 벤치의 경우 (지금은 맞추는데 한창 못맞추던 시절엔) 아무리 프롬프트에 COT,나 차근차근 생각해라 같은 프롬을 넣어도 작동을 안 했음. 그래서 계속 틀림. 사용자가 추론을 명령을 써도 시스템단에서 이 질문은 추론으로 답할 거리가 아님하고 그냥 일반 답변을 하게 만든거 같음(이것도 GPT가 설명해준 거임 ㅋㅋㅋ)

[익명(none3330)]

일단 사용자별 답변이 다른건 확실한듯 위에 질문 게스트, 다른 계정들, 내 계정으로 테스트 해보니까 답변이 다 다르네