# IEEE 754

mysprtlty

🏷️정확도와 정밀도 IEEE 754를 공부하다 보면 헷갈리는 두 개념이 등장한다. 흔히 정확도와 정밀도를 혼용해서 사용하지만, 이 둘을 명확하게 구분해두지 않으면 나중에 더 헷갈린다. 📌정확도 (accuracy) 참값에 얼마나 근접했는가(가까운가)에 대한 측도 📌정밀도 (precision) 데이터들이 얼마나 밀도있게 모여있는가에 대한 측도 정밀도는 오차와 굉장히 깊은 관련이 있다. 빨간 과녁이 참 값이다. 🔍ex) 실수 12.345(참 값)를 연속해서 참조해야 하는 상황이다. ||

michaelllx34

[목차] 서론 문제 현상 & 알아야 하는 이유 원인 분석 컴퓨터가 이해하는 언어 해결방안 2가지 > ### [서론] 위와 같은 코드를 Visual Studio에서 입력하면 우리의 상식을 벗어난 결과가 출력된다. 저 찌꺼기값은 무시할 수 있을만큼 작아보이지만, 아주 큰 수를 다루거나 정밀한 분야에서는 상당히 치명적인 결과를 초래할 수 있다. > ### [원인 분석] 컴퓨터는 신호가 있을 때는 1, 없을 때는 0의 두가지로 모든 것을 표현한다. 따라서 인간이 입력한 10진법의 값을 본인들이 사용하는 2진법으로 바꾼 뒤 계산하게 되는데 이 때 첫번째 문제점이 발생한다. >"10진법의 유한소수를 2진법으로 바꾸면 무한소수가 나오는 경우가 있다." ex) 0.1(10진법) -> 0.000110011001100...(2진법) 인간에게 1/3이라는 수를 소수

cherryheering

실수를 표현하기 위해 2진 소수점을 표현할 방법이 필요하다. 정수의 경우와 마찬가지로 문맥에 따라 실수를 표현하는 방법이 달라질 수 있다. 📚 실수를 표현하는 방법 1. 고정소수점 표현법 2진수를 사용해 소수를 표현하기 위해 2진 소수점의 위치를 임의로 정하는 방법이 있다. 예를 들어, 4비트가 있다면 그 중 2비트는 2진 소수점의 오른쪽에 있는 분수들을 표현하는 데 쓰고(네가지 분숫값 표현), 2비트는 왼쪽에 있는 숫자들을 표현하는 데 쓸 수 있다(네가지 정숫값 표현). 이렇게 소수점의 위치가 항상 일정하기 때문에 이런 방식을 고정소수점(fixed-point) 표현법이라고 부른다. 10.01은 10이 정수 부분이고 01은 분수 부분이다. 따라서 정수 부분은 2이며, 분수 부분은 0.25(1/4)이다. 정수 부분은 2진 표현법과 비슷하다. 소수점 오른쪽에 있는 숫자들(분수 부분)은 2진수의 경우 1/2, 1/4

doodream

자바스크립트 에서의 숫자 자바스크립트에서 일반적인 숫자는 배정밀도 부동소수점 숫자 라고 불리우는 64비트 형식의 IEEE-754에 저장됩니다. 이점을 상기합시다. 숫자를 입력하는 다양한 방법 10의 지수를 e로 나타냄으로서 길게 늘어뜨릴 숫자를 쉽게 표현할 수 있습니다. 2, 8, 16진수 표현법 2진수는 0b를 이용해서, 8진수는 0o를 사용해서 표현이 가능합니다만 자주 쓰이지는 않습니다. 16진수는 색을 나타내거나 문자를 인코딩할 때 등 다양한 곳에서 많이 쓰입니다. 16진수는 0x를 이용해서 짧게 표현이 가능합니다. Number.toString() Number객체에 한해서 toString(base)는 매개변수안에 표현하고 싶은 진법을 입력하면 해당 진법으로 숫자를 변환해서 문자열로 반환해줍니다. 때에 따라서 굉장히 매력적인 함수로 쓰입니다. 어림수 구하기 Math.floor(Number) 이런 종류의 함수는 매개변

jaden_94

비전공자의 컴퓨터 과학 이야기 IEEE 754.jpeg 첫 번째 주제는 바로 IEEE 754 부동소수점 표준이다. 기본적으로 컴퓨터는 소수를 표현하기 위해 부동소수점을 사용한다. 부동소수점 표기법은 수를 부호, 지수, 유효숫자 부분으로 나누어 표현하는 방법으로 정의된다. IEEE 754 부동소수점 표준에는 32비트, 64비트, 43비트, 79비트에 대한 형식을 정의하고 있으며, 많은 프로그래밍 언어에서 부동소수점을 표현하기 위해 IEEE 표준을 따르고 있다. 그렇다면, IEEE 754 표준은 구체적으로 어떻게 표현될까? 많이 사용되는 32비트 부동소수점 형식에 대해 살펴보자. 32비트 부동소수점의 겨우 부호 비트(1bit), 지수부(8bit), 가수부(23bit) 구조로 이루어져 있다. 부호비