해당 댓글은 삭제되었습니다.
numpy 썼습니다 - dc App
부동소수점은 오차가 있을수바께 없고 너무 큰수나 작은수는 제대로 표현못함ㅇㅅㅇ
numpy에서 float128가튼걸 쓰면 제대로 나올수도 있고 제대로 나오지 않을수도 있습니다
그럼 어쩔수없는 문제임? 해결하긴어렵? - dc App
그러니까 float128처럼 오차가 더 적게나는 (더 정확한) 자료형을 써보라는 거지
니가 다루려는 값이 너무 작아서 그래도 씹창이 나면 arbitrary precision을 지원하는 라이브러리를 찾아서 써야지 머 어쩌겠노
아 오차가 적게나는게 아니라 표시할 수 있는 값의 범위가 넓은 ㅇㅅㅇ 말을 약간 잘못했네
해당 댓글은 삭제되었습니다.
numpy 썼습니다 - dc App
부동소수점은 오차가 있을수바께 없고 너무 큰수나 작은수는 제대로 표현못함ㅇㅅㅇ
numpy에서 float128가튼걸 쓰면 제대로 나올수도 있고 제대로 나오지 않을수도 있습니다
그럼 어쩔수없는 문제임? 해결하긴어렵? - dc App
그러니까 float128처럼 오차가 더 적게나는 (더 정확한) 자료형을 써보라는 거지
니가 다루려는 값이 너무 작아서 그래도 씹창이 나면 arbitrary precision을 지원하는 라이브러리를 찾아서 써야지 머 어쩌겠노
아 오차가 적게나는게 아니라 표시할 수 있는 값의 범위가 넓은 ㅇㅅㅇ 말을 약간 잘못했네