1. 유효범위가 n자리 라는것은
소숫점이하 n자리 라는건가요?
소숫점 앞뒤의 모든 수를 포함해서 n자리 라는거에요?
2. 그 유효범위까지 메모리에 저장 된다는 뜻이에요? 아니면 그 이상도 저장은 되는데 오차가 생긴다는 거에요?
1. 유효범위가 n자리 라는것은
소숫점이하 n자리 라는건가요?
소숫점 앞뒤의 모든 수를 포함해서 n자리 라는거에요?
2. 그 유효범위까지 메모리에 저장 된다는 뜻이에요? 아니면 그 이상도 저장은 되는데 오차가 생긴다는 거에요?
대충 3.141592 * 10^n의 3.141592와 n을 저장함.
2^n
그러기 때문에 특정 범위보다 큰 수나, 엄청 소수부가 긴 놈은 짤림
https://steemit.com/kr/@modolee/floating-point
- dc App
답변들 감사합니다