Java(2.1) 부동소수점 - float, double

NtoZ·2023년 2월 19일
0

Java

목록 보기
4/23
post-thumbnail

부동소수점

인파 블로그 :[JAVA] ☕ 실수 표현(부동 소수점) - 원리 한눈에 이해하기


1. 실수의 2진수 표현

  • 정수부 2진수 변환
  • 실수부 2진수 변환
  • 2진수 무한소수

2. 실수의 메모리 표현

  • 고정 소수점 방식
  • 부동 소수점 방식
  • 부동 소수점 계산 방법
  • 배정도 부동소수점 방식

3. 프로그래밍에서의 소수 계산 오차

  • 소수 정확히 계산하는법
  • 정수 치환하여 계산
    - BigDecimal 클래스
    - double과 floot의 비교연산 문제

참고 자료 :

인파 블로그 :[JAVA] ☕ 실수 표현(부동 소수점) - 원리 한눈에 이해하기
[DataStructure] - 데이터의 비트 표현

profile
9에서 0으로, 백엔드 개발블로그

0개의 댓글