[TIL] FLOAT + ROUND

khnn·2020년 8월 17일
0

SQL

목록 보기
4/11

CAST(대상 AS FLOAT)로 변형했던 값을 반올림하려고 했더니 오류가 떴다.

혹시 float의 문제인가 싶어서 cast (august as float) -> cast (august as decimal)로 수정한 뒤 다시 반올림해보았다. 결과가 잘 나왔다.

Floating-point value의 경우 approximate한 값이고, exact value로 저장되지 않는다고 한다. Platform에 따라 결과값이 달라지기도 한다.그래서 비교에 있어서 floating-point value를 사용하는 것은 문제가 될 수 있다.

반면 decimal 데이터 타입은 float나 double에 비해 이러한 오류가 덜하다.

profile
쌓으며 배우는 중

0개의 댓글