And Why? - dc App
gpt한테 물어봐
나는 답을 알고있어 - dc App
언어 뭔데
실수 리터럴이 float인 언어 - dc App
0.1+0.2같은건 유명해서 아는데 저건 안해봐서 모르겠네 오차나려나
0.5는 이진법으로 딱떨어지는데 0.3은 안되니까 0.8결과나올때 오차있으려나?
0.3은 마지막 비트가 1임. 0.5를 더하면 오른쪽으로 시프트되서 마지막 비트 1이 사라짐. 0.5를 빼면 다시 왼쪽으로 시프트돼서 마지막 비트가 0으로 바뀜. 시프트가 되는 이유는 지수부가 바뀌었기 때문. - dc App
부동소수점 연산과정을 알아야 답할 수 있는거구나!
And Why? - dc App
gpt한테 물어봐
나는 답을 알고있어 - dc App
언어 뭔데
실수 리터럴이 float인 언어 - dc App
0.1+0.2같은건 유명해서 아는데 저건 안해봐서 모르겠네 오차나려나
0.5는 이진법으로 딱떨어지는데 0.3은 안되니까 0.8결과나올때 오차있으려나?
0.3은 마지막 비트가 1임. 0.5를 더하면 오른쪽으로 시프트되서 마지막 비트 1이 사라짐. 0.5를 빼면 다시 왼쪽으로 시프트돼서 마지막 비트가 0으로 바뀜. 시프트가 되는 이유는 지수부가 바뀌었기 때문. - dc App
부동소수점 연산과정을 알아야 답할 수 있는거구나!