호빵의 IT 개발소

부동 소수점 에러란? 본문

CS(전공지식)/기술면접 준비

부동 소수점 에러란?

호빵Stack 2025. 4. 14. 21:13

부동 소수점 에러 (Floating Point Error)

  • 부동 소수점은 실수를 이진수로 표현하기 위한 방식이지만, 모든 실수를 정확히 표현할 수는 없음.
  • 그 결과, 작은 오차가 누적되거나, 예상치 못한 결과가 발생하는 경우가 있음.
  • 대표적인 문제:
    • 0.1 + 0.2 != 0.3
    • 좌표 누적 오차
    • 정밀도 손실에 의한 조건문 실패
  • 원인은 IEEE 754 방식의 이진 부동소수점 표현의 한계

 

 

면접 스타일 답변 예시:

부동 소수점 에러는 실수를 이진수로 정확하게 표현할 수 없기 때문에 발생하는 오차 현상입니다.
예를 들어 0.1 같은 값은 이진 부동 소수점으로는 무한 반복되기 때문에
0.1 + 0.2를 계산해도 정확히 0.3이 아니라 0.30000000000000004 같은 값이 나올 수 있습니다.
이런 오차는 게임에서 좌표 계산이나 충돌 판정, 스코어 계산, 금융 처리 등에서
조건문이 틀어지거나 누적 오차가 쌓이면서 눈에 보이는 버그로 이어질 수 있습니다.
그래서 이런 문제를 방지하기 위해 보통 == 대신 오차 허용 범위(epsilon)를 사용하거나
정확한 계산이 필요한 경우 고정 소수점(Fixed Point) 방식을 사용하기도 합니다.

'CS(전공지식) > 기술면접 준비' 카테고리의 다른 글

전방 선언이란?  (0) 2025.04.14
Nan이란?  (0) 2025.04.14
노멀 맵이란?  (0) 2025.04.14
더블 버퍼링이란?  (0) 2025.04.14
렌더링 파이프 라인이란?  (0) 2025.04.14
Comments