부동소수점 실수계산 오차가 생기는 이유(얄팍한 코딩사전)

박우영·2023년 2월 26일
0

동영상으로 하는 CS공부

목록 보기
9/14

  • 컴퓨터는 2진법을 이용하기때문에 0.1+0.2 같은 값을 계산했을때
    0.3이 안나오고 0.3~~ 의 오차가 나온다
  • 프로그래밍 언어를 사용하다보면 소수점을 나타내는 경우가 많은데 이를 모르고 했을때와 알고 사용할때 컴퓨팅사고력 향상에 도움이 되었다.
profile
박우영
:)
이전 포스트

JVM, JRE, JDK (얄팍한 코딩사전)

다음 포스트

클라우드 컴퓨팅

0개의 댓글