# floating point
총 7개의 포스트

Fixed point VS Floating Point
컴퓨터는 숫자들을 2진수로 표현을 한다.그러면 실수와 같은 소숫점이 있는 숫자들은 어떻게 표현을 해야할까?마찬가지로 2진수를 사용한다. 이런 소숫점이 있는 아이들은 2가지 방식으로 컴퓨터가 처리를 할 수 있는데 먼저 첫번째는 Fixed point(고정 소숫점), 그리고
2022년 11월 7일
·
0개의 댓글·
0컴퓨터가 Floating Point를 잘 다루지 못하는 이유
From. 코드스타터 노션Appendix부동소수점이란?컴퓨터가 실수를 표현하는 방식고정소수점정수를 표현하는 비트 수와 소수를 표현하는 비트 수를 미리 정해 놓고 해당 비트 만큼만 사용해서 숫자를 표현하는 방식예) 실수 표현에 4byte(32bit)를 사용하고 그 중 부
2021년 11월 14일
·
0개의 댓글·
0
[Programming Language Week2] Data type, Specification, Type Checking, Floating point vs Fixed point
Three major components in a programming languageData: Basic information unit to hold values to determine the state of a systemOperations: Actions to m
2020년 9월 14일
·
0개의 댓글·
1