한번 forward/backward pass에 샘플 한개가 아닌 여러개 써서 행렬x벡터 계산이 아닌 행렬x행렬계산으로 빠르게 병렬계산하는 방법말고
어떤방법이라도 좋으니 속도 향상시킬수 있는 방법있을까요;;
특히 활성화함수들을 여러개 샘플에 한번에 적용시키는 방법이면 좋을것가타요...
한번 forward/backward pass에 샘플 한개가 아닌 여러개 써서 행렬x벡터 계산이 아닌 행렬x행렬계산으로 빠르게 병렬계산하는 방법말고
어떤방법이라도 좋으니 속도 향상시킬수 있는 방법있을까요;;
특히 활성화함수들을 여러개 샘플에 한번에 적용시키는 방법이면 좋을것가타요...
gpu를 더 좋은거사자 - dc App
속도 향상한다는게 Convergence 까지 걸리는 시간를 향상한다는 거임?
mini-batch 단위로 stochastic하게 돌리고 이 때 gpu 코어들로 병렬처리하는거 말고는 애초에 activiation function들이 non linear functions여서 여러 레이어들과 동치인 function 찾아서 새로운 function 하나오 replace한다던가 그런 방법이라던가 비빌 수 있는 구석이 없음. - dc App
속도 향상시키려면 오히려 하이퍼파라미터 튜닝쪽으로 가야하지 않을까. - dc App