[일반] 1.2B 훈련되나싶었는데 걍 데이터패턴을 암기해버리네

[익명(118.217)]

손실함수 줄어드는게 그냥 최대한 훈련데이터랑 비슷한말 지어내게 암기하는것뿐 기억같은게 막 저장되거나 개성이 생겨나거나 그러지를 않네

[ㅁㄱㅌㅊ(39.122)]

1.2b에 뭘 바람

[익명(jnlf8576)]

작은 모델은 암기머신임 최소 7B 8B는 해야

[익명(sudden9813)]

안된다니깐 ㅋㅋ 차라리 얘로 검증 정도나 돌리거나 형식검사 시키면 모를까