[Computer Architecture] 고정 소수점 & 부동 소수점

dohyoungK·2023년 10월 9일
0

CS 정리노트

목록 보기
3/5
post-thumbnail

[Computer Architecture] 고정 소수점 & 부동 소수점


컴퓨터에서 실수를 표현하는 방법은 고정 소수점, 부동 소수점 두 가지 방식이 존재

고정 소수점(Fixed Point)

실수를 정수부와 소수부로 나누고 정수와 소수를 표현하는 비트 수를 미리 정해 해당 비트만을 사용해 실수를 표현

  • 첫 1bit는 부호를 나타내고, 양수는 0, 음수는 1로 표현한다.
  • 다음 15bit는 정수부를 나타낸다.
  • 다음 16bit는 소수부를 나타낸다.
  • 정수부와 소수부는 2진수로 변환된 수를 그대로 넣고, 나머지 bit를 0으로 채운다.

장점: 실수를 표현하는 방식이 단순하고, 속도가 빠르다.
단점: 정수부, 가수부의 비트가 고정되어 있어 큰 실수를 표현하기 어렵다.

부동 소수점(Floating Point)

실수를 지수부(크기, 가수의 어디쯤 소수점이 있는지)와 가수부(실수의 실제값)로 나누고 지수의 값에 따라 소수점이 움직이는 방식으로 실수를 표현

  • 2진수로 변환한 수를 정규화한다.
  • 첫 1bit는 부호를 나타내고, 양수는 0, 음수는 1로 표현한다.
  • 다음 8bit는 지수부를 나타내고, 정규화 과정에서의 지수에 bias를 더한 값으로 채운다.
  • 다음 23bit는 가수부를 나타내고, 소수 부분의 값으로 채운다.

장점: 표현할 수 있는 실수의 범위가 넓어진다.
단점: 오차가 발생해 결과가 부정확할 수 있다.

0개의 댓글