[일반] 수치해석 질문

[익명(210.207)]

round off error 이 무언가를 작은수로 나눌때 더 크게 발생한다고 하는데 왜그러지?

[익명(222.112)]

유효숫자의 수가 한계가 있으니까.

[익명(210.207)]

아 맞다..... 머신숫자는 finite하게 cut해서 나타내니까 그렇지

[ㅅㄲㅁㅇ(as1392)]

1/1.1은 0.0090909가 짤려나가지만 1/0.11은 이 10배가 짤릴테니