[일반] 이전 컨텍스트를 알면서도 무시할 수 있을까?

[익명(59.19)]

예전에 글 중에서 LLM에게 코끼리를 생각하지 말라고 해도 코끼리 관련 내용을 출력하는 경우 있었잖어

지금도 질문할때 LLM의 답변이 어느쪽으로 편향되지 않게 좀 신경써줘야하는데 언제쯤이면 이전 컨텍스트를 필요에 따라 완전히 무시할 수 있게 될까?

물론 예전에 비하면 훨씬 나아지고 있긴 한데 사람들에게 말 하는것처럼 질문 편하게 해보고싶음...

[익명(210.121)]

이미 하고있자나 학습과정에서 페르소나 잡아주기 + 최상위 프롬프트

[글쓴 ㅇㅇ(59.19)]

질문하기 전에 프롬프트 같은걸로 세팅하는거 말하는거? 그런거 없이 기본 세팅에서도 되었으면 좋겠어서

[익명(210.121)]

ㄴㄴ 학습과정에서 더 좋은 답변을 평가하고 지도해주는것 자체가 챗봇 성격 잡아주는 작업임

[익명(liberal1385)]

멀티턴 옵션을 끄시게

[글쓴 ㅇㅇ(59.19)]

이전 컨텍스트 참조를 아예 꺼버린다는거?

[익명(liberal1385)]

@글쓴 ㅇㅇ(59.19) 예전방식으로 가야지 kv 캐쉬옵션도 끄고 input token은 늘리면서 네가했던 기록 넣으면됨

[익명(liberal1385)]

@글쓴 ㅇㅇ(59.19) Bias는 pre나 post에서 변경될순있는데 이미 release된 모델에선 변경하기 쉽지않음

[약팔이아님(vital7966)]

어텐션