젬마4 실리태번에만 연결하면 고장나네

[김해린(102claff)]

llama cpp 서버에서 채팅하면 제대로 말하는데 실리태번으로 채팅하면 애가 맛이가네 뭐가 문제야 

[보미코(five0141)]

채팅 템플릿 찐빠난 거 아님?

[보미코(five0141)]

젬마가 턴 넘어가는 걸 <turn|>로 처리한다던가 해서 llama에서도 찐빠나다가 고쳤다더라

[김해린(102claff)]

[보미코(five0141)]

대화 턴의 시작을 나타내는 토큰:<|turn> 대화 턴의 종료를 나타내는 토큰:<turn|> <|turn>system You are a helpful assistant.<turn|> <|turn>user Hello.<turn|>

[보미코(five0141)]

막 jinja 로 된 template 파일 같은 거 찾아서 start_of_turn같은 식으로 된 것들 위와 같이 일괄 바꾸기 하면 돌아갈듯