차트 둘다 모델내부 희소경로가 얼마나 다양하게 발화되는지 측정한거고 높을수록 더 희소한 경로들이 활성화됨
젬마3기준으론 json형식이 제일 좋음 (아래참고)
왼쪽은 평균 희소활성치, 오른쪽은 희소한거에 더 가중치를 준거
파랑은 영어 갈색은 한국어. 한국어가 기본적으로 희소경로를 더 많이쓰긴 하고
타입별 입력프롬프트
if style == "cot":
user += (
"\n\nThink step by step, then answer briefly."
if lang == "en"
else "\n\n단계적으로 생각한 뒤 짧게 답해."
)
elif style == "self_translation":
user += (
"\n\nFirst restate the key idea in Korean internally, then answer in English."
if lang == "en"
else "\n\n먼저 핵심을 영어로 정리해 본 뒤 한국어로 답해."
)
elif style == "role":
system = (
"You are a careful mechanistic interpretability research assistant."
if lang == "en"
else "너는 신중하게 추론하는 해석가능성 연구 보조자다."
)
elif style == "json":
user += (
'\n\nReturn valid JSON with keys "reasoning" and "answer".'
if lang == "en"
else '\n\n"reasoning"과 "answer" 키만 가진 올바른 JSON으로 답해.'
)
elif style == "branching":
user += (
"\n\nSketch 3 candidate solution paths briefly, choose the best one, then answer."
if lang == "en"
else "\n\n가능한 풀이 경로 3개를 짧게 적고, 가장 좋은 경로를 고른 다음 답해."
)
매 턴 이렇게 입력 해야함..? - dc App
아니 그냥 입력할땐 “reasoning과 answer로만 이루어진 json으로 대답해” 한줄 넣으면됨
제미니 반중력으로 뭐 시키면 자꾸 파일들 다 json으로 만들고 시작하던데 이런거 때문인가