거의 같은수를 뺏을때 컴퓨터에서 계산오차가 크게 난다고 하는데 그 이유가 뭐지?
책이 영어라서 도저히 해석을 못하겠네
실수를 정확히 표현할 수 없기 때문갤주를 통해 알아보자https://gall.dcinside.com/board/view/?id=mathematics&no=256017https://gall.dcinside.com/board/view/?id=mathematics&no=264482
책에서는 cancelation of significant digits 때문이라는데 이게 왜 그런건지 모르겠다
실수를 정확히 표현할 수 없기 때문
갤주를 통해 알아보자
https://gall.dcinside.com/board/view/?id=mathematics&no=256017
https://gall.dcinside.com/board/view/?id=mathematics&no=264482
책에서는 cancelation of significant digits 때문이라는데 이게 왜 그런건지 모르겠다