[일반] 부동소수점 오차 <<< 이건 왜 존재해서 머리를 아프게 할까

[익명(49.169)]

컴퓨터는 계산 편하게 하기 위해 탄생했는데

이런 오차는 구조상 극복 못하나?

컴알못이라 모르겠네 왜 존재하는 건지

[EN_SA(encludingsalt)]

부동소수점 표준이 어떻게 정의되는지(IEEE 754) 공부해보십쇼

[익명(49.169)]

[익명(221.141)]

유리수면 분수 직접 정의해서 할수있는 문제들도 있긴함. 근데 그건 그거나름대로 정수형의 한계가 있고, 또 무리수는 컴퓨터 할애비도 어쩔수가 없는디

[익명(1.240)]

Symbolic Execution

[익명(1.240)]

아무데나 쓰는건 아니지만ㅋㅋㅋ

[익명(115.41)]

적은 메모리로 큰 수 표현하려다보니 생긴거라, 오차 발생하면 안되는 프로그램은 10진수 표현법으로 만들어서 설계하는

[익명(218.147)]

import Decimal