[Java][JVM] StackOverflowError의 원인과 해결 방법

출처

ChatGPT

---

StackOverflowError는 자바 프로그램에서 발생하는 런타임 에러로, 호출 스택의 최대 크기를 초과할 때 발생한다. 이는 보통 무한 재귀 호출이나 너무 깊은 메소드 호출로 인해 스택 메모리가 고갈될 때 발생한다.

 

StackOverflowError의 원인

1. 무한 재귀 호출 Infinite Recursion

재귀 함수가 종료 조건 없이 자신을 계속 호출할 때 발생한다.

예를 들어, 잘못된 재귀 호출이 종료되지 않고 계속 반복되는 경우이다.

public void recursiveMethod() {
    recursiveMethod(); // 종료 조건 없이 계속 자신을 호출
}

 

2. 너무 깊은 재귀 호출 Too Deep Recursion

재귀 호출이 종료 조건이 있어도, 재귀 깊이가 매우 깊어 스택이 초과될 수 있다.

예를 들어, 재귀 깊이가 너무 깊어 스택 프레임을 초과할 때 발생한다.

public int factorial(int n) {
    if (n == 1) return 1;
    return n * factorial(n - 1);
}
// 큰 값으로 호출할 경우, 깊이가 매우 깊어져 StackOverflowError 발생 가능

 

3. 무한 루프와 같은 잘못된 반복 구조

루프 내에서 메서드를 반복 호출하면서 종료 조건이 없거나 조건이 적절하게 설정되지 않으면 스택이 초과될 수 있다.

 

StackOverflowError 해결 방법

1. 재귀 함수의 종료 조건 확인 및 수정

재귀 함수가 항상 종료될 수 있도록 적절한 종료 조건을 설정해야 한다.

종료 조건이 제대로 설정되었는지 확인하고, 종료 조건이 충족될 때 재귀 호출이 종료되는지 확인한다.

public void recursiveMethod(int count) {
    if (count == 0) return; // 종료 조건을 명확히 설정
    recursiveMethod(count - 1);
}

 

2. 재귀 호출 깊이 줄이기

재귀 호출의 깊이를 줄이는 방법으로는 알고리즘을 최적화한다.

재귀 호출을 반복문으로 변환하거나, Tail Recursion Optimization(Tail Call Optimization)이 가능하면 활용한다.

public int factorial(int n) {
    int result = 1;
    for (int i = 2; i <= n; i++) {
        result *= i;
    }
    return result;
}

 

 

• 관련 글 -> [Kotlin][프로그래밍 개념] Tail Recursion Optimization (Tail Call Optimization)
• 관련 글 -> [Java] Tail Recursion Optimization 대체 방법

 

3. 메모이제이션(Memoization) 사용

재귀 호출의 중복 계산을 줄이기 위해 메모이제이션 기법을 사용해 이미 계산된 값을 저장하고 재사용한다.

이는 특히 피보나치 수열과 같은 계산에 유용하다.

private static Map<Integer, Integer> memo = new HashMap<>();

public int fibonacci(int n) {
    if (n <= 1) return n;
    if (memo.containsKey(n)) return memo.get(n);
    
    int result = fibonacci(n - 1) + fibonacci(n - 2);
    memo.put(n, result);
    
    return result;
}

 

4. 스택 크기 늘리기

StackOverflowError를 해결하기 위해 재귀 깊이를 증가시키는 대신, 자바의 JVM 옵션을 사용해 스택 크기를 늘릴 수 있다.

명령줄에서 -Xss 옵션을 사용해 스택 크기를 지정한다.

java -Xss2m YourProgram

 

그러나, 스택 크기를 늘리는 것은 임시 방편일 뿐 근본적인 해결책이 아니다. 프로그램 로직을 검토해 재귀 깊이를 줄이는 것이 더 좋다.

 

5. 무한 루프와 같은 잘못된 반복 구조 수정

코드 내에서 잘못된 조건으로 인해 반복적으로 호출되는 메소드가 있는지 확인하고 이를 수정한다.

 

요약

StackOverflowError는 대부분 재귀 호출이 잘못된 경우에 발생한다. 문제를 해결하기 위해서는 재귀 함수의 종료 조건을 명확히 설정하고, 재귀 깊이를 줄이는 방법을 고려해야 한다. 또한, 메모이제이션과 같은 최적화 기법을 사용하여 중복 계산을 방지하고, 필요한 경우 JVM의 스택 크기를 조정할 수 있다. 근본적인 해결책은 코드를 최적화하여 스택 사용량을 줄이는 것이다.