[일반] double정밀도 어떻게 계산해야함??

[익명(203.226)]

최대 10만인 정수를 100만으로 나눈 정수를 비교하면 합쳐서 13자리니까 double형으로 오차 없이 비교 가능하지않음?? fraction 자료형 사용해야하나... 실수 오차때문인가 자꾸틀리네

[익명(223.38)]

상대 오차가 1e-15

[익명(203.226)]

아무리 작아봐야 0/1e6인데 다른데서 실수했나보네

[투어리스트(125.137)]

long double 써보셈

[익명(203.226)]

ㅈ바입니다,,,

[투어리스트(125.137)]

아니면 eps 로 비교해보셈
https://stackoverflow.com/questions/356807/java-double-comparison-epsilon

[투어리스트(125.137)]

eps 값 1e-9 정도로 두고? 이것도 안되면 답 없지 ㅋㅋ 최대한 정수로 바꿔봐야지

[익명(203.226)]

근디 이정도 연산이면 실수 오차 없는거아님??

[투어리스트(125.137)]

나도 실수 오차 잘 모름.. 혹시나 이렇게 하면 되지 않을까 하는 거 제안해주는거임