저 숫자가 뭔 뜻이냐?

[물리기초(112.165)]

코사인값을 구하는데

cos90=0이잖아

자바스크립트에는

Math.cos(90*Math.PI/180)

이라서 해서 실행시켰는데

왜 0이 아니고

6.123233995736766e-17 이렇게 나오지?

200000601.08428824m/s*cos(0)=0이어야 하는데

200000601.08428824m/s*Math.cos(90*Math.PI/180)= 1.2246504797271011e-8 이 나온다.

뭐가 잘못된 건가?

[물리기초(112.165)]

'자바스크립트 10진수의 유효 자릿수는 15자리(IEEE 754규격)이므로, 실제 cos90도와 tan45도의 값(0과 1)과 비교했을 때 오차가 발생한다.' 라고 하던데

[익명(106.101)]

부동소수점

[익명(125.138)]

프로그램에서 삼각함수값은 전부 테일러 전개를 이용해 근사값을 계산함. 그래서 저런 오차가 생기는 거 - dc App

[물리기초(220.81)]

ㅇ