수치해석 OT

오류의 종류

Round-off error

• 숫자를 표현할수 있는 길이가 제한되어 있어 생기는 오류

Truncation error

• 수학적 계산을 표기하기 위해 근삿값을 사용하기에 생기는 오류

---

Significant Digit

유효숫자

• 확신을 가지고 사용할수 있는 숫자의 자리
• 확신 가능한 자릿수와 추정 자릿수 한자리를 포함한다.
• 0.00134 와 같은 경우에서 왼쪽의 0들은 유효숫자에 포함되지 않는다.
  • 3개의 유효숫자를 가짐
• 오른쪽에 붙는 0들은 유효숫자로서 사용된다.
  • 0.0013400 은 5개의 유효숫자를 가진다.
• 수치해석은 근사값을 찾는 과정이기에, 유효숫자가 중요하다.
• 파이/e 와 같이 컴퓨터로 전부 표현 불가능한 수를 사용할때에도 유효숫자가 필요하다.

유효숫자의 계산법

덧셈/뺄셈

• 소수점 아래 자리수가 작은것에 일치시킨다.
  

곱셈/나눗셈

• 유효숫자의 갯수가 작은것에 일치시킨다.
  

---

Accuracy

정확성

• 측정된 값이 참값과 얼마가 가까운지

Precision

정밀성

• 측정된 결과들의 밀집도가 얼마나 작은지

---

Error

실제 값 = 추정치 + 에러(오차)

즉, 추정치 = 실제 값 - 오차 가 된다.

• 실제 오차율($\epsilon_{t}$) = 실제 오차 / 실제 값 ( * 100 )
  • 100을 곱해 백분율으로 표현 가능하다.
• (현재 추정값 - 이전 추정값) / 현재 추정값 ( * 100 )
  • 상대적 오차율($\epsilon_{a}$)을 구할수 있다.
  • 위 값의 절대값이 아래 값($\epsilon_{s}$)보다 적을때까지 계산을 진행하게 된다.
  • 여기에서 비교에 사용될 값은 다음과 같이 구할수 있다.

n개의 유효숫자에 대해
(0.5 * 10^(2-n))%