llama cpp 서버에서 채팅하면 제대로 말하는데 실리태번으로 채팅하면 애가 맛이가네 뭐가 문제야
젬마4 실리태번에만 연결하면 고장나네
김해린(102claff)
2026-04-05 09:27:00
추천 0
댓글 5
다른 게시글
-
아니 인어옮길때 수조는 왜필요한거임?
[8]익명(switch2022) | 2026-04-05 23:59:59추천 0 -
이렇게보니 후부키(블아)도 제법 미소녀긴 하네요.
유로지바(stmichel) | 2026-04-05 23:59:59추천 0 -
오느래 디지몬도 재미써따
뇽룡이(sydfyd) | 2026-04-05 23:59:59추천 0 -
[판단대(짭)] 아카데미에 비밀이 너무 많음
[6]썬콜(rorowono231) | 2026-04-05 23:59:59추천 0 -
오늘자 디지몬 비트브레이크도 재밌었다
[2]Embrio(gkstn1010) | 2026-04-05 23:59:59추천 0 -
빨리 누가 갤러리 페이크 쓰는 탐프리짤 그려줘
재미교쓰리(jaemigyo2) | 2026-04-05 23:59:59추천 0 -
아니 객관적으로 그게 정상이 아녔다고
그린빈(and0100) | 2026-04-05 23:59:59추천 0 -
얼퓌기
[2]퓌캬륀(wjsskan2222) | 2026-04-05 23:59:59추천 0 -
갤러리에 서울대생 TS만화 있는데 이게 뭐임
[2]아싸찐따미..(rescue2525) | 2026-04-05 23:59:59추천 0 -
메라조마 마햐드 둘 다 상위 기술 나왔잖아
[2]Atomos(golden159) | 2026-04-05 23:59:59추천 0
채팅 템플릿 찐빠난 거 아님?
젬마가 턴 넘어가는 걸 <turn|>로 처리한다던가 해서 llama에서도 찐빠나다가 고쳤다더라
대화 턴의 시작을 나타내는 토큰:<|turn> 대화 턴의 종료를 나타내는 토큰:<turn|> <|turn>system You are a helpful assistant.<turn|> <|turn>user Hello.<turn|>
막 jinja 로 된 template 파일 같은 거 찾아서 start_of_turn같은 식으로 된 것들 위와 같이 일괄 바꾸기 하면 돌아갈듯