[Java] float 와 double 데이터 타입이 정확성을 보장할 수 없는 이유

출처

ChatGPT

---

'float'와 'double' 데이터 타입은 부동 소수점 수(floating-point numbers)로, 컴퓨터 시스템에서 실수를 표현하기 위해 사용된다. 하지만 이들은 정밀도(precision)의 한계 때문에 특정한 범위나 비트 수를 넘어서면 정확성을 보장할 수 없다. 

 

부동 소수점 수의 표현 방식

부동 소수점 수는 IEEE 754 표준에 따라 저장되며, 이 방식은 숫자를 저장하기 위해 다음과 같은 세 가지 구성 요소로 이루어져 있다.

'아이트리플이' 라고 읽는다.

1. 부호 비트 Sign Bit

• 숫자가 양수인지 음수인지를 나타낸다.
• 1비트를 사용한다.

2. 지수부 Exponent

• 숫자의 범위를 결정하는 데 사용된다. 숫자를 2의 거듭제곱으로 표현한다.
• 'float' 는 8비트를 사용하고, 'double'은 11비트를 사용한다.

3. 가수부 Significand or Mantissa

• 숫자의 정확성을 나타낸다.
• 'float'는 23비트를 사용하고, 'double'은 52비트를 사용한다.
• 가수부는 1.XXXX... 형식의 소수점 이하 부분을 저장한다.(암시적 1이 존재)

 

IEEE 754 부동 소수점 형식

Float(단정도, 32비트)

float를 '단정도'라고도 부르나보다.

• 1비트 : 부호 (Sign)
• 8비트 : 지수(Exponent)
• 23비트 : 가수(Mantissa)

Double(배정도, 64비트)

double은 '배정도'라고도 부르나보다.

• 1비트 : 부호(Sign)
• 11비트 : 지수 (Exponent)
• 52비트 : 가수 (Mantissa)

 

정확성의 한계

부동 소수점은 매우 큰 수나 매우 작은 수를 표현할 수 있는 유연성을 제공하지만, 정밀도(precision)와 관련하여 몇 가지 한계가 존재한다 주요 이유는 다음과 같다.

1. 유한한 비트 수

정밀도의 제한

'float'는 32비트, 'double'은 64비트로 표현된다. 이 비트 수가 고정되어 있기 때문에 모든 실수를 정확하게 표현할 수 없다.

예를 들어, 'float'의 가수부는 23비트로 제한되어 있어 약간의 정밀도 손실이 발생할 수 있다.

2. 무한한 실수 집합의 표현

실수의 무한성

실수는 무한대에 걸쳐 존재하지만, 컴퓨터는 유한한 메모리만을 사용해 실수를 표현해야 한다. 이는 정확도를 손실할 수 밖에 없게 만든다.

예를 들어, 0.1을 정확하게 이진수로 표현할 수 없다.

3. 근사치 표현

근사치에 의한 오차

많은 실수는 이진 부동 소수점 형식으로 정확하게 표현할 수 없으며, 이는 근사치로 저장된다.

이러한 근사치 때무네 부동 소수점 연산에서 오차가 누적될 수 있다.

4. 정규화 및 비정규화 숫자

부동 소수점 숫자를 표현할 때 컴퓨터 시스템에서 실수를 표현하기 위한 두 가지 형식으로 정규화 숫자와 비정규화 숫자를 사용한다.

정규화(Normalized) 숫자

정규화된 숫자는 가수부가 1로 시작하는 형식을 가진다. 그러나 특정 상황에서는 비정규화된 숫자가 발생할 수 있다.

 

상세 설명

정규화 숫자 Normalized Number

정규화된 숫자는 부동 소수점 표현에서 가장 일반적인 형식으로, 숫자가 가장 효율적으로 표현되도록 한다. 정규화된 숫자는 가수(Mantissa) 부분이 특정 형식을 갖도록 해 최대한 많은 유효 자릿수를 사용한다.

표현 방식

정규화된 부동 소수점 숫자는 다음과 같은 형식을 갖는다.

정규환된 부동 소수점 숫자 형식

• 부호 비트 (Sign Bit) : 숫자가 양수인지 음수인지를 나타낸다.
• 지수(Exponent) : 숫자의 스케일을 조정한다. 정규화된 숫자는 지수가 특정 범위 내에 있어야 한다.
• 가수(Mantissa) : 1.XXXX 형식으로 저장되어, 수수점 아래의 값을 표현한다. 암시적 1(implicit 1)을 사용해 효율성으로 높인다.

특징

• 암시적 1 : 가수 부분은 항상 1로 시작한다. 이는 실제로 저장되지 않으며, 암시적으로 가정된다.
• 최대 유효 자릿수 : 정규화된 형식은 가수에 가장 많은 유효 자릿수를 포함하여 숫자의 정확성을 높인다.
• 지수 범위 : 지수는 특정 범위 내에 있어야 하며, 이를 벗어나는 경우 오버플로우가 발생한다.

예시

// 예시: 정규화된 float 값
float example = 3.14f;

// IEEE 754 표현:
Sign: 0
Exponent: 128 (0b10000000)
Mantissa: 0b10010011001100110011010 (정규화된 형식)

 

이 경우, 부호 비트는 0(양수), 지수는 128(0을 기준으로), 가수는 0.31415926...이다.

 

장점

• 최대 정밀도 제공 : 정규화된 형식은 가능한 최대한의 유효 자릿수를 제공하여 계산의 정확성을 유지한다.
• 효율적 저장 : 암시적 1을 사용해서 비트의 사용을 최소화하고 최대한의 정보를 저장한다.

비정규화(Denormalized) 숫자

매우 작은 수는 비정규화되어 저장되며, 이는 가수의 가장 앞자리가 0이 된다. 비정규화 숫자는 정밀도가 더 떨어진다.

 

상세 설명

비정규화 숫자 Denormalized Number (= 서브노멀 값 Subnormal Numbers)

비정규화된 숫자는 매우 작은 숫자를 표현하기 위한 형식으로, 정규화된 형식이 제공할 수 없는 작은 값을 처리할 수 있도록 한다.

표현 방식

비정규화된 부동 소수점 숫자는 다음과 같은 형식을 갖는다.

비정규화 숫자 표현 형식

• 부호 비트 (Sign Bit) : 숫자의 부호를 나타낸다.
• 지수 (Exponent) : 모든 비트가 0인 경우 비정규화된 형식으로 간주한다.
• 가수 (Mantissa) : 0.XXXX 형식으로 저장되어, 소수점 아래의 값을 표현한다. 암시적 1이 존재하지 않는다.

특징

• 명시적 0 : 가수 부분은 0으로 시작한다. 암시적 1이 존재하지 않으므로, 소수점 아래의 숫자만 포함된다.
• 확장된 범위 : 비정규화된 형식으로 0에 매우 가까운 값을 표현할 수 있는 능력을 제공해 범위를 확장한다.
• 정밀도 손실 : 암시적 1이 없기 때문에 정밀도가 떨어질 수 있다.

예시

// 예시: 비정규화된 float 값
float denormalExample = 1.4e-45f;

// IEEE 754 표현:
Sign: 0
Exponent: 0 (비정규화 상태)
Mantissa: 0b00000000000000000000001 (비정규화된 형식)

 

 이 경우, 부호 비트는 0, 지수는 0(비정규화 상태), 가수는 가장 작은 비트만 활성화된 상태다.

 

장점

• 확장된 표현 범위 : 매우 작은 값을 처리할 수 있는 능력을 제공한다.
• 서브노멀 값 추리 : 정규화된 형식으로 처리할 수 없는 서브노멀 값을 표현할 수 있다.

 

정규화와 비정규화의 차이점

특징	정규화 숫자	비정규화 숫자
가수 Mantissa	암시적 1 포함(1.XXXX)	명시적 0 포함(0.XXXX)
정밀도 Precision	최대 유효 자릿수 제공	감소된 정밀도
범위 Range	넓은 범위 표현	0에 가까운 작은 값 표현
지수 Exponent	일반적인 범위 내에서 사용	모든 비트가 0일 때 비정규화로 간주
유효성 Validity	매우 작은 수는 표현 불가	매우 작은 수 표현 가능
오버플로우 Overflow	큰 값 처리에 효과정	매우 작은 수에서만 사용
언더플로우 Undreflow	오버플로우 및 언더플로우 발생 가능	작은 값에 대한 언더플로우 방지

 

정규화와 비정규화의 활용

정규화

• 주로 일반적인 수치 계산에서 사용되며, 최대한의 정밀도를 유지한다.
• 계산에서 가장 효율적인으로 메모리를 사용해, 대부분의 부동 소수점 연산이 정규화된 상태로 처리된다.

비정규화

• 매우 작은 값을 다룰 때 중요하며, 서브노멀 값이 필요한 상황에서 사용된다.
• 과학적 계산에서 매우 작은 값이 중요할 때 비정규화 상태로 표현되어야 한다.
• 비정규화된 숫자는 특히 언더플로우를 방지하는 데 유용하다.

 

왜 범위를 넘어서면 정확성을 보장하지 못하는가?

1. 표현 가능한 유효 자릿수 제한

정밀도 제한

'float'는 약 7자리, 'double'은 약 15자리의 유효 자릿수(significant digits)만 정확하게 표현할 수 있다. 이 한계를 넘어가는 경우, 더 작은 변화는 반영되지 않을 수 있다.

// 예시: float의 정밀도
float a = 1234567.0f; // 정확
float b = 12345678.0f; // 부정확, 반올림 발생

 

2. 지수 범위의 제한

오버플로우와 언더플로우

• 관련 글 -> [용어] 오버플로우(Overflow), 언더플로우(Underflow)

'float'와 'double'은 표현 가능한 수의 범위가 한정되어 있다. 너무 큰 값이나 너무 작은 값은 오버플로우(overflow)나 언더플로우(underflow)로 인해 무한대 또는 0으로 처리된다.

// 예시: float의 오버플로우
float large = 3.4028235e38f; // 최대값에 가까운 값
float overflow = large * 2.0f; // Infinity

 

3. 연산 중 누적 오차

연산 누적 오류

반복적인 부동 소수점 연산은 누적 오차를 초래할 수 있다. 이는 특히 반복문이나 누적 계산에서 심각한 영향을 미칠 수 있다.

// 예시: 부동 소수점 누적 오차
float sum = 0.0f;
for (int i = 0; i < 100000; i++) {
    sum += 0.0001f;
}
System.out.println("Sum: " + sum); // 예상 값: 10.0, 실제 출력: 9.999999

 

대안 및 해결 방법

부동 소수점의 정밀도 문제를 완전히 해결할 수는 없지만, 몇 가지 대안을 통해 문제를 완화할 수 있다.

1. 정수 연산 사용

가능한 경우 정수 연산을 사용해 정밀도를 유지한다.

2. 고정 소수점 표현

고정 소수점(fixed-point) 표현을 사용해 정밀도를 개선한다.

3. 큰 수를 다룰 때 BigDecimal 사용

Java의 'BigDecimal' 클래스는 부동 소수점 대신 정확한 소수 연산을 제공한다.

4. 계산 순서 최적화

계산 순서를 변경해 오차 누적을 최소화한다.

5. 오차 전파 관리

중요 연산 전에 오차 전파를 최소화하도록 설계한다.