소수점에서 1비트 오른쪽을 기준으로 반올림하는 건데 10.011 이 왜 10.1 이 되는 거임?
내가 알기론
0xx 면 밑으로 반올림
100 면 1 앞에 비트에 따라서 반올림
101, 110, 111 은 위로 반올림
이렇게 알고 있는데
소수점에서 1비트 오른쪽을 기준으로 반올림하는 건데 10.011 이 왜 10.1 이 되는 거임?
내가 알기론
0xx 면 밑으로 반올림
100 면 1 앞에 비트에 따라서 반올림
101, 110, 111 은 위로 반올림
이렇게 알고 있는데
저 1을 1이 아니라 9라고 생각해봐
소수점 둘째자리에서 반올림인가 보지 뭐
맞네 소수점 첫째 자리 기준이니 둘째 자리에서 올려야 하구나
까먹고 안 적어놨는데 round-to-even 기준임