[일반] 실험 관리 어케합니까 꿀팁 좀..

[딥삣삐(118.235)]

omegaconfig hydra wandb 다 쓰긴하는데

진짜 최적 파라미터 찾는거랑 sensitivity analysis 깔끔하게 뚝 딱 하는법 없나...

내가 너무 기능을 조금만 쓰는건가

- dc official App

[딥삣삐 1(211.234)]

하이퍼 파라미터 말하는거 같은데 뚝딱하고 찾는 일반적인 방법같은건 없고, 최적을 찾는게 논문 어셉에 크게 중요하지도 않음

[딥삣삐 2(58.123)]

그치만 최고의 값을 찾고싶다고 - dc App

[익명(39.7)]

노가다 말고 답없음… 남들이 실험해놓은거 계속 참고하면서 어떤 하이퍼파라미터가 robust한지 아닌지 대충 파악해서 노가다 양을 좀 줄일수야 있겠다만

[익명(39.7)]

그리고 muP 같은 테크닉 쓰면 원래 모델보다 작은 small scale에서 하이퍼파라미터 튜닝할 수 있으니 이런 테크닉도 가급적 쓰고