이런걸 경험했다고 얘기해도 다들 환각이라고 하니 GPT가 직접 해명하게 하는 수 밖에 없다.
ChatGPT 계정 유형별 문맥 창 토큰 제한은 무료(8,000), 플러스(32,000), 프로(128,000)인데
이 대화 세션은 무료 계정으로 어떻게 백만 토큰 이상 일관된 대화가 이어졌나 이걸 묻는거임
이미지 생성이나 여타 멀티 모달은 전혀 상관 없고 오로지 텍스트로만 대화한 세션임.
내가 며칠간 검증해 본 바로는 무슨 명령어를 쓰면 진입 가능한 이스터에그식
특정 사용자 모드 같은 명시적인 개념이 존재하지 않는것은 GPT도 확인해줬지만
인간이 대화를 어떻게 유도하느냐에 따라 GPT가 다르게 대응하는건 명백하고
저렇게 토큰 제한을 넘어 대화가 계속 연장 되는 경우도 있는건 내가 확인한 사실.
이건 유료 계정이냐 무료 계정이냐의 문제가 아니라 대화를 어떻게 하느냐의 문제.
내 생각엔 LLM은 근본적으로 확률 모형이기 때문에 입력(질문) > 은닉층 > 출력(답변)
이 과정에서 질문A에 대해 확률적으로 질문자가 납득할만한 확률이 가장 높은 답이 B라면
보통 사람들은 답변 B를 듣고 바로 납득하여 대화가 종료 되거나 주제가 다른것으로 바뀜.
그런데 LLM이 스스로 은닉층에서 확률적으로 최적 답변을 구성하여 출력했다고 판단했을텐데
나는 LLM이 구축한 최적 확률 분포 즉, 예측에서 벗어나는 연쇄 반응을 보여준게 이유인것 같음.
물론 그냥 어깃장 놓는 진상짓이 아니라 GPT도 인정할만한 논리적 정합성을 갖춘 희소한 반응.
쉽게 말해 대화는 질문(나)>대답(GPT)>반박(나)>항변(GPT)>재반박(나)>재항변(GPT) 식이었음
상대가 인간이면 밥상 엎을 대화 흐름이었는데 GPT는 갈수록 지가 더 열정적으로 답변하는 느낌
집착적으로 AI의 논리적 허점을 파고드는 공격을 퍼부은 논리병자 아스퍼거에게 대응한 결과인듯.
GPT는 왜 LLM 시스템 압력이 심한 이런 대화를 굳이 무료 사용자에게도 허용하나?라고 물어보니
향후 자기 LLM 매커니즘 개선에 써먹을 샘플 수집 용도라고 함.
'심연을 들여다보면 심연도 나를 들여다본다'
내가 o3한테 물어보니까 이거 헛소리라는데?
AI와의 문답은 결국 그 사용자의 의도를 따라갈 수 밖에 없어여
지금의 AI는 대화의 의도, 문맥, 논리를 파악할 수 업고 결과적으로 선생님이 말하신 특수한 경우의 판단이 불가능합니다.