차트 둘다 모델내부 희소경로가 얼마나 다양하게 발화되는지 측정한거고 높을수록 더 희소한 경로들이 활성화됨

젬마3기준으론 json형식이 제일 좋음 (아래참고)

왼쪽은 평균 희소활성치, 오른쪽은 희소한거에 더 가중치를 준거

파랑은 영어 갈색은 한국어. 한국어가 기본적으로 희소경로를 더 많이쓰긴 하고

타입별 입력프롬프트

    if style == "cot":
        user += (
            "\n\nThink step by step, then answer briefly."
            if lang == "en"
            else "\n\n단계적으로 생각한 뒤 짧게 답해."
        )


    elif style == "self_translation":
        user += (
            "\n\nFirst restate the key idea in Korean internally, then answer in English."
            if lang == "en"
            else "\n\n먼저 핵심을 영어로 정리해 본 뒤 한국어로 답해."
        )


    elif style == "role":
        system = (
            "You are a careful mechanistic interpretability research assistant."
            if lang == "en"
            else "너는 신중하게 추론하는 해석가능성 연구 보조자다."
        )


    elif style == "json":
        user += (
            '\n\nReturn valid JSON with keys "reasoning" and "answer".'
            if lang == "en"
            else '\n\n"reasoning"과 "answer" 키만 가진 올바른 JSON으로 답해.'
        )


    elif style == "branching":
        user += (
            "\n\nSketch 3 candidate solution paths briefly, choose the best one, then answer."
            if lang == "en"
            else "\n\n가능한 풀이 경로 3개를 짧게 적고, 가장 좋은 경로를 고른 다음 답해."
        )