C++을 예로들면
기본 실수연산이 부동소수점의 근사값 방식 한계 때문에 부정확해서 못 쓴다고 한다면
따로 계산할 수 있는 알고리즘을 구현해야함??
x: 부동소수점의 근사값 방식 o: 2진수변환에 의한 값손실
그러네요 2진수변환에 의한 값손실~ 오늘도 확실한 개념지식+1 어게이~!! 역시 프갤이 짱이야
인텔 CPU에서 부동소숫점 오류 이슈 있지 않던가 그리고 수치해석 빡세게 돌리려면 보통 포트란 쓸껄
정수와 소수점의 위치를 저장하는 식으로 하면 정확하기야 할 것 같은데
배열로 저장하면될껄요. 저도 예전에 여러 알고리즘으로 원주율 구하는 프로그램을 만들다가 알게되었음
그래서 대학들에서 구해놓은 원주율을 보면 대부분 4~5자리마다 띄어져서 나오더군요
나중에 시간되면 알려줄께요. 시험 끝난지 얼마 안되서 친구들한테 호출이 계속 들어옴
x: 부동소수점의 근사값 방식 o: 2진수변환에 의한 값손실
그러네요 2진수변환에 의한 값손실~ 오늘도 확실한 개념지식+1 어게이~!! 역시 프갤이 짱이야
인텔 CPU에서 부동소숫점 오류 이슈 있지 않던가 그리고 수치해석 빡세게 돌리려면 보통 포트란 쓸껄
정수와 소수점의 위치를 저장하는 식으로 하면 정확하기야 할 것 같은데
배열로 저장하면될껄요. 저도 예전에 여러 알고리즘으로 원주율 구하는 프로그램을 만들다가 알게되었음
그래서 대학들에서 구해놓은 원주율을 보면 대부분 4~5자리마다 띄어져서 나오더군요
나중에 시간되면 알려줄께요. 시험 끝난지 얼마 안되서 친구들한테 호출이 계속 들어옴