-
[전산기초] 소수점의 표현 Fixed Point vs Floating Point비전공자 공부일기/:: Computer Science 2021. 7. 13. 23:54
2021.07.13 화니의 설명 필기!
이진법으로 소수점을 나타내는 방법
정수부분이 자릿수에 따라 x2, x4, x8, 16, ... 순으로 늘어간다.
한편, 소수부분은 x 1/2, x1/4, x1/8, ... 순으로 계산된다.
따라서 십진수로 25.625 라는 수를 나타낸다고 하면,
25 부분은 11001라고 표현할 수 있고,
625는 정수처럼 계산하는 게 아니라 1/2 + 1/8 이라고 계산해서 101 이라고 표현됨
소수점을 표현할 때 두 가지 방식을 쓸 수 있다.
Fixed
소수점이 고정됐다고 가정 / 장점은 엄청 빠름. but 세밀한 계산이 힘듦(수가 커질수록 ㄴㄴ) / 따라서 임베디드같은 소형 하드웨어에서 쓰는 방법
ex) 1 byte = 0 0 0 0 / 0 0 0 0 <--- 이렇게 비트를 쪼개서 정수자리, 소수자리에 각각 할당한다.
십진수 2.2를 이진수로 표현한다고 할 때
Fixed point --> 0010.0010
십진수 32.2를 이진수로 표현한다고 할 때
Fixed point --> 0010.0010
Floating
327.25 --> 0.32735 x 10^3
--> 이 때 32735 부분을 exp, 3승의 3을 mantissa 라고 해서 0, exp, mantissa
'비전공자 공부일기 > :: Computer Science' 카테고리의 다른 글
[전산기초] 정보 전송 방식 (0) 2021.07.17 [전산기초] DOS의 개요 (0) 2021.07.17 [전산기초] 보수 Complement = 보충하는 수! (0) 2021.07.12 [전산기초] 자료의 표현 (0) 2021.07.12 [전산기초] 컴퓨터 시스템의 구성 (0) 2021.07.11