# floating point
총 4개의 포스트
컴퓨터가 Floating Point를 잘 다루지 못하는 이유
From. 코드스타터 노션Appendix부동소수점이란?컴퓨터가 실수를 표현하는 방식고정소수점정수를 표현하는 비트 수와 소수를 표현하는 비트 수를 미리 정해 놓고 해당 비트 만큼만 사용해서 숫자를 표현하는 방식예) 실수 표현에 4byte(32bit)를 사용하고 그 중 부
2021년 11월 14일
·
0개의 댓글
[Programming Language Week2] Data type, Specification, Type Checking, Floating point vs Fixed point
Three major components in a programming languageData: Basic information unit to hold values to determine the state of a systemOperations: Actions to m
2020년 9월 14일
·
0개의 댓글