수치해석 책 찾아보면 유효숫자 정의가 좀 다른데
어떤곳은 상대오차로 하고 어떤책은 0이 아닌 숫자부터 세서 같지 않는 숫자가 나올때 그것의 차가 5보다 작거나 같으면 그 바로 전자리까지 유효숫자로 정의하는데
이렇게 다르게 정의하니까 숫자마다 유효숫자가 다르게나오는데
수치해석 책 찾아보면 유효숫자 정의가 좀 다른데
어떤곳은 상대오차로 하고 어떤책은 0이 아닌 숫자부터 세서 같지 않는 숫자가 나올때 그것의 차가 5보다 작거나 같으면 그 바로 전자리까지 유효숫자로 정의하는데
이렇게 다르게 정의하니까 숫자마다 유효숫자가 다르게나오는데
댓글 0