컴퓨터는 어떻게 실수 계산을 하냐

[익명(211.250)]

갑자기 궁금해지는데 컴퓨터는 유리수까지밖에 못다루자너 실질적으론 말여 무리수나 허수는 꼼수론 다룰수 있겠지만

근데 어떻게 울프람알파같은건 어떻게 실수계산을 하는거임? 마찬가지로 꼼수임?

[망고(dcmangong)]

연산속도랑 정확도랑 잘 트레이드오프해서 하지 않을까 - dc App

[?(14.52)]

찾아보면 나옴

[페르시아(xxcaesarpublicxx)]

그게 float에오

[페르시아(xxcaesarpublicxx)]

그래서 엄밀히 따지고 들어가거나 연산 너무 많이 하면 정확도에서 차이 나기 시작함

[익명(211.250)]

float이 루트2를 저장할수 있음?

[페르시아(xxcaesarpublicxx)]

일단 float 내에서는정해진 형식 내에서 루트 2에 가장 가까운 값을 저장하는데, 정확성이 필요한 계산기는 또 특수한 방법이 있을 수도 있지

[익명(106.101)]

수치해석 공부하면됨

[cjp(xcxc0531)]

iRRAM 검색 ㄱㄱ