[📪정보] fp16과 fp32 차이 보여주는 예제

[익명(211.36)]

걍 야매로 간단한 예제 짜봤음

다른 사람도 쓸 수 있게 코랩에 때려박은 거라

걍 한 블럭으로 만듬

사이트 들어가서 검정색 동글뱅이 실행버튼 누르면

알아서 딥러닝 한 다음

fp16과 fp32 차이를 그래프로 보여줌

시드 고정은 안해놔서 결과가 매번 달라짐

어떤 때는 fp32 성능이 더 좋을 때도 있고 그런데

대체로 fp16 그래프가 좀 더 깔쌈하다고 느낀다

https://colab.research.google.com/drive/1YWb2qU3F_08FPxXk7oz8o89k5riU9rM9?usp=sharing

Google Colaboratory