진짜 궁금해서 그래
부동소수점 이런게 면접에서 ㄹㅇ나옴?
익명(222.235)
2023-06-12 21:35
추천 0
댓글 8
다른 게시글
-
100억 백지수표에 굴복… `반도체 영웅`서 산업스파이로[도 넘은 반도체 [1]발명도둑잡..(aerohong) | 23.06.12추천 0
-
졸리다발명도둑잡..(aerohong) | 23.06.12추천 0
-
부모아이디만 저장하는 ㅂㅅ같은 자료구조익명(119.196) | 23.06.12추천 0
-
사무실에 파티션 있는게 기본 아님?d(114.205) | 23.06.12추천 0
-
닭카스.jpg익명(118.235) | 23.06.12추천 0
-
전자정부 없어지면 좋겠다 개추익명(119.196) | 23.06.12추천 8
-
전자정부 << 사회악 아니냐 [3]익명(39.7) | 23.06.12추천 0
-
금융으로 와라 [3]익명(211.109) | 23.06.12추천 1
-
나님 시작하신다♥심기불편..(re2002) | 23.06.12추천 0
-
공부 지금이라도 할까익명(211.41) | 23.06.12추천 0
0.1+0.2가 얼마냐 그럼 - dc App
두개 다 이진법으로 표현 안되는 수들이라 정밀도에 따라 다른데 single, double에 따라 7자리 15자리까지만 보존되고 나머지는 값 이상할듯
그래서 나도 정확한 값은 어떻게 출력될지 모른다는말임
사실 나는 학식이라 잘 모름 - dc App
double이 15자리야? - dc App
부동소수점연산 하드웨어 스펙에 있어서 궁금해서 찾아봤었는데 아직도 뭔지 모름
나올 수도 있고 아닐 수도 있고. (-1)^sign * mantissa * 2^E
그냥 0.1+0.1==0.2 같은거 물어봄