2017년 3월 7일 화요일

코딩 삽질노트 - 부동소수

실수에서 고정 소수점 방식은 16바이트/16바이트씩 나눠서 정수부, 소수부로 할당하고 정수부 맨앞 바이트는 부호를 나타낸다함 
그런대 비트수가 올라갈수록 정밀도가 뒤떨어지는 문제가 생긴다고함 한계도 명확하고
부동소수점은 소수점이 고정 X, 그 소수점으로 지수/가수 부분이 결정됨

댓글 없음:

댓글 쓰기