토크나이저에서 계산해주는 토큰수보다 실제 입력할 때에 드는 토큰 수가 거의 절반 정도 덜 드는 것 같은데 왜 이런 거임? 한국어 프롬프트라 그런가 아무튼 계산보다 더 적게 들어서 좋긴 한데 이유를 모르겠네..
토큰화도 발전함