[ART][Compiler] JIT 컴파일러와 AOT 컴파일러의 병행 사용 이유 + ART 예시

출처

ChatGPT

 

---

 

JIT(Jist-In_Time) 컴파일러와 AOT(Ahead-Of-Time) 컴파일러는 서로 다른 장점과 단점을 가지고 있으며, 각각의 컴파일 방식이 병행해서 사용될 때 서로의 단점을 보완할 수 있다. 이러한 병행 사용은 성능 최적화와 효율적인 자원 활용을 목표로 한다. 

 

JIT 컴파일러

특징

1. 런타임 최적화

프로그램이 실행되는 동안에 메소드나 코드 블록을 컴파일한다. 자주 실행되는 코드 패스를 집중적으로 최적화할 수 있다.

• 코드 패스 용어 설명 [Compiler] 코드 패스(코드 경로) + 코드 패스와 컴파일러 최적화

2. 적응형 최적화

프로그램의 실제 실행 상황에 맞춰 최적화를 수행한다. 예를 들어, 특정 조건문이 항상 참일 경우, JIT는 이러한 패턴을 학습하고 최적화할 수 있다.

3. 빠른 스타트업

초기에는 바이트코드르 해석(interpreting)하여 실행하다가, 점점 필요한 부분을 컴파일하여 최적화한다.

 

단점

초기 실행 속도

처음 실행될 때는 해석 모드로 시작하기 때문에, JIT 컴파일이 완료되기 전까지는 실행 속도가 느릴 수 있다.

메모리 사용량 

JIT 컴파일 시, 추가적인 메모리  자원을 사용하게 되며, 실행 시점에 코드를 분석하고 최적화하는 데 오버헤드가 발생한다.

 

AOT 컴파일러

특징

1. 빠른 시작 시간

프로그램 실행 전에 미리 기계어로 컴파일되어 있어, 프로그램의 시작 시간이 빠르다.

2. 기본 성능 보장

코드가 미리 컴파일되므로 실행 시점에서의 최적화 작업이 필요 없이, 초기 성능이 더 좋다.

 

이 문맥에서 "초기 성능이 더 좋다"는 의미는 애플리케이션 실행을 시작할 때 빠르게 응답하고, 초기 작업을 신속하게 처리할 수 있다는 것을 뜻한다. 프로그램이 시작할 때, 즉 프로그램의 시작 시간이나 초기 실행 단계에서 성능이 우수하다는 의미이다.

 

단점

1 최적화의 한계

프로그램의 실제 런타임 정보(실행 패턴 등)를 활용한 최적화가 불가능하다.

2. 대응력 부족

다양한 실행 환경에 대한 적응력이 떨어질 수 있다. 모든 상황에 최적화된 코드를 사전에 준비하는 것이 불가능할 수 있다.

 

JIT와 AOT의 병행 사용 이유

1. 성능 최적화

JIT 컴파일러는 런타임에 프로그램의 실행 패턴을 분석하고, 자주 호출되는 메소드나 코드 경로에 대한 최적화를 수행할 수 있다. AOT 컴파일러는 미리 기계어로 변환하여 빠른 시작 시간을 제공한다. 두 가지 방법을 병행 사용하면, 초기 실행 시에는 AOT로 빠르게 실행하고, 실행 중에는 JIT로 최적화를 통해 성능을 향상시킬 수 있다.

2. 빠른 시작과 적응형 최적화

AOT 컴파일러는 빠른 시작 시간을 제공하기 때문에 프로그램을 빠르게 실행할 수 있다. 이후 JIT 컴파일러가 프로그램 실행 중에 추가적인 최적화를 수행해 성능을 개선한다. 이러한 방식은 특히 대형 애플리케이션에서 유리하다.

3. 메모리 사용의 균형

JIT 컴파일러는 실행 중인 코드의 최적화를 위해 추가 메모리를 사용할 수 있지만, AOT 컴파일된 코드는 이미 최적화된 상태로 메모리에 로드되기 때문에 메모리 사용을 더 잘 제어할 수 있다. 병행 사용하면 메모리 사용을 효과적으로 관리할 수 있다.

4. 플랫폼 독립성과 성능

자바와 같은 언어는 다양한 플렛폼에서 실행될 수 있다. AOT 컴파일은 특정 플랫폼에 맞춰 최적화된 코드를 생성할 수 있지만, JIT 컴파일러는 실행 중 플랫폼에 맞춰 추가적인 최적화를 수행할 수 있다. 이를 통해 다양한 환경에서 일관된 성능을 보장할 수 있다.

-> AOT 컴파일러가 플랫폼에 최적화된 코드 생성 + JIT가 실행 상황에 최적화 수행 -> 다양한 플랫폼에서 일관된 성능 제공 보장

5. 코드의 안전성과 유연성

AOT 컴파일된 코드는 이미 컴파일된 상태로 제공되므로 안정적인 성능을 보장한다. 그러나 JIT 컴파일러는 실행 중인 프로그램에 맞춰 최적화를 계속 진행할 수 있기 때문에 유연성을 제공한다. 이 조합은 다양한 요구사항에 맞춰 안정성과 유연성을 동시에 제공한다. 

 

안드로이드에서의 예 : Android Runtime (ART)

Android Runtime(ART)는 안드로이드 5.0(Lollipop)부터 도입된 런타임 환경이다.

기존의 Dalvik VM을 대체했다. ART는 JIT와 AOT 컴파일을 모두 지원하여 애플리케이션의 성능과 응답성을 개선하는데 기여하고 있다.

 

ART의 주요 특징

1. JIT 컴파일러

1] 런타임 최적화

• 애플리케이션이 실행되는 동안 JIT 컴파일러는 자주 사용되는 코드 경로(코드 패스)를 최적화하여 성능을 향상시킨다.

2] 적응형 컴파일

• 런타임에 프로그램의 실제 사용 패턴을 분석하여 적절한 최적화를 적용한다.

3] 빠른 응답성

• 초기에는 빠르게 코드를 실행할 수 있도록 JIT 컴파일을 통해 인터프리터 방식으로 시작하고, 이후 중요한 경로는 컴파일한다.

2. AOT 컴파일러

1] 애플리케이션 설치 시점의 컴파일

• 앱을 설치할 때 바이트코드를 네이티브 코드로 컴파일해 실행 속도를 향상시킨다.

2] 빠른 시작 시간

• 네이티브 코드로 미리 컴파일되어 있어 앱의 시작 시간이 빠르다.

3] 배터리 효율성

• 네이티브 코드를 사용해 실행하기 때문에 CPU 사용량이 줄어들어 배터리 효율성이 증가한다.

3. 혼합 모드

1] 성능

• ART는 JIT와 AOT 컴파일러의 장점을 겹합하여 앱의 성능 최적화한다. 앱 설치 시 AOT로 주요 코드가 컴파일되고, 런타임 시 JIT로 실행 패턴에 따라 추가 최적화를 수행한다.

2] 저장 공간 효율

• AOT로 인해 저장 공간을 많이 차지할 수 있는 점을 고려하여, 필요할 때만 JIT를 사용하여 메모리와 저장 공간 사용을 최적화한다.

4. 프로파일 기반 컴파일(PGO, Profile-Guided Optimization)

• 프로파일 기반 컴파일은 무엇인가 -> [Android][ART] ART의 프로파일 기반 컴파일

1] 프로파일 수집

• 앱이 실행될 때 JIT 컴파일러가 성능 프로파일을 수집한다. 이 프로파일은 사용자가 가장 많이 사용하는 코드 경로에 대한 정보를 제공한다.

2] AOT 최적화

• 다음에 앱을 업데이트하거나, 장치를 충전하는 동안, ART는 이 프로파일을 사용해 AOT 컴파일을 통해 자주 사용되는 경로를 더욱 최적화한다.

3] 적응형 성능 향상

• 실행 시 수집된 데이터를 기반으로 미래의 실행을 위한 최적화를 수행한다.

Dalvik VM vs ART

안드로이드 초기 런타임 환경인 Dalvik VM은 JIT  컴파일을 중심으로 등장했다. 그러나 ART는 AOT와 JIT를 결합해 더 나은 성능과 효율성을 제공한다.

특징	Dalvik VM	ART
컴파일 방식	JIT 중심	AOT + JIT
앱 시작 시간	비교적 느림	더 빠름(AOT 컴파일 덕분)
런타임 성능	런타임 최적화에 제한적	프로파일 기반 최적화로 성능 좋은
배터리 효율성	낮음(런타임 컴파일 부담)	더 좋음 (AOT로 인한 CPU 부담 감소)
업데이트 시간	앱 설치 및 업데이트 시 빠른	프로파일 기반 최적화로 더 긴 업데이트 시간

 

 

Android N에서의 변화

안드로이드 Nougat(N, 7.0) 부터는 ART에서의 컴파일링 전략이 더욱 발전했다. Nougat의 ART는 프로파일 가이드 최적화(PGO)를 사용해 초기 설치 시 완전한 AOT  컴파일 대신, 프로파일을 기반으로 필요한 부분만 AOT 컴파일을 한다. 이후, JIT 컴파일러가 런타임 시 자주 실행되는 코들 추가로 최적화한다.

 

이 방식의 이점들은 다음과 같다.

1] 빠른 설치 시간

•  처음 앱을 설치할 때, 완전한 AOT 컴파일을 피하고, 필요한 부분만 컴파일해 설치 시간을 줄인다.

2] 적응형 성능 향상

• 사용자 패턴에 따라 JIT가 필요한 부분을 최적화하여, 시간이 지남에 따라 앱의 성능을 개선하다.

3] 저장 공간 효율성

• 프로파일 기반으로 필요한 부분만 컴파일해 저장 공간을 절약한다.

 

예시 : Android 애플리케이션 설치 및 실행 과정

1. 애플리케이션 설치

• 설치 시 AOT 컴파일러가 기본적으로 자주 사용될 수 있는 코드 부분을 네이트브로 컴파일한다. 이 과정은 상대적으로 빠르게 이루어진다.
• 프로파일 데이터가 없는 새로운 앱은 최소한의 AOT 컴파일을 통해 설치 시간을 단축한다.

2. 앱 실행

• 처음 실행 시 JIT 컴파일러가 작동하여 런타임 최적화를 수행한다.
• 프로파일 수집을 통해 사용자의 사용 패턴을 학습한다.

3. 배터리 충전 시 최적화

• 기기가 충전 중이거나 사용되지 않을 때, 프로파일 데이터를 활용하여 AOT 컴파일러가 앱의 주요 경로를 최적화한다.
• 향후 실행 시 더 나은 성능을 제공한다.

Android Runtime(ART) 파트 결론

안드로이드 JIT와 AOT 컴파일러를 병행 사용하는 ART는 애플리케이션 성능, 시작 시간, 메모리 및 배터리 효율성을 최적화한다. 이러한 접근 방식은 다음과 같은 이유로 효과적이다.

 

1] 성능

• AOT로 인한 빠른 실행과 JIT로 인한 적응형 최적화를 통해 뛰어난 성능을 제공한다.

2] 효율성

• 적절한 메모리 및 저장 공간 사용을 통해 사용자 경험을 개선한다.

3] 유연성

• 다양한 사용 패턴과 하드웨어 환경에 적응하여 최적의 성능을 유지한다.

ART는 안드로이드 생태계에서 애플리케이션의 성능과 효율성은 극대화하기 위해 JIT와 AOT의 장점을 결합한 중요한 기술이다. 이를 통해 개발자는 더 나은 사용자 경험을 제공할 수 있고, 사용자들은 더욱 빠르고 효육적인 애플리케이션을 사용할 수 있다.

 

JIT와 AOT 병행 사용 이유 결론

JIT와 AOT 컴파일러를 병행해 사용하는 것은 현대 소프트웨어 개발에서 성능 최적화와 자원 관리에 중요한 역할을 한다. 이 두 컴파일러는 각자의 장점을 살려 프로그램의 다양한 요구사항을 충족시키며, 특히 대규모 시스템에서 큰 효과를 발휘한다.

 

1. JIT 컴파일러는 런타임 최적화와 다형성 지원을 통해 효율적인 실행을 제공한다.

-> 위의 글에서 다형성에 대해 설명한 적이 없는 데 갑자기 다형성 지원이란 표현이 나왔다. 🤔 이거 곧 알아본다.

2. AOT 컴파일러는 빠른 시간 시간과 안정적인 성능을 보장한다.

 

결과적으로 두 컴파일러의 병행 사용은 최상의 성능과 유연성을 제공한다.

 

---

ChatGPT에게 이 글의 출처를 물었다.

JIT 컴파일러와 AOT 컴파일러 병행 사용에 대한 출처

1. Oracle's Official Java Documentation
   • 내용: Oracle의 공식 자바 문서에서는 JIT(Just-In-Time) 컴파일러와 AOT(Ahead-Of-Time) 컴파일러의 차이점과 사용 사례를 설명하고 있습니다.
   • 설명:
     • JIT 컴파일러는 런타임에 자주 실행되는 코드 패스를 최적화하여 실행 성능을 개선합니다.
     • AOT 컴파일러는 애플리케이션 시작 시간을 단축시키기 위해 코드를 사전에 컴파일합니다.
     • 두 컴파일러의 결합은 빠른 시작 시간과 높은 런타임 성능을 동시에 달성할 수 있습니다.
   • 링크: Java Performance Documentation
2. GraalVM Documentation
   • 내용: GraalVM은 Oracle에서 제공하는 다목적 가상 머신으로, JIT와 AOT 컴파일을 지원하며 두 컴파일러의 병행 사용에 대한 설명을 포함합니다.
   • 설명:
     • GraalVM은 AOT로 미리 컴파일된 네이티브 이미지를 생성하여 빠른 시작 시간을 제공합니다.
     • 런타임 중 JIT 컴파일을 사용하여 코드 경로를 최적화하고 성능을 개선합니다.
     • 이 접근 방식은 클라우드 환경에서의 빠른 배포와 높은 처리 성능을 보장합니다.
   • 링크: GraalVM Documentation
3. "Java Performance: The Definitive Guide" by Scott Oaks
   • 내용: 이 책은 Java 성능 최적화에 대한 심층적인 통찰을 제공하며, JIT와 AOT 컴파일러의 장단점과 사용 사례를 분석합니다.
   • 설명:
     • JIT 컴파일은 자주 호출되는 메서드를 최적화하여 런타임 성능을 극대화합니다.
     • AOT 컴파일은 코드 실행 전 미리 컴파일하여 빠른 시작을 지원합니다.
     • 두 기술의 조합은 대규모 시스템에서의 성능을 극대화하는 데 사용됩니다.
   • 링크: Java Performance on Amazon
4. "Optimizing Java: Practical Techniques for Improving JVM Application Performance" by Ben Evans, James Gough, Chris Newland
   • 내용: 이 책은 JVM 애플리케이션의 성능 최적화에 대한 실용적인 기술을 제시하며, JIT 및 AOT 컴파일러의 최적화 방법을 설명합니다.
   • 설명:
     • JIT 컴파일러는 런타임에 성능을 최적화하고, 실행 빈도가 높은 코드 경로를 동적으로 개선합니다.
     • AOT 컴파일러는 애플리케이션의 초기 성능을 개선하기 위해 코드를 사전에 최적화합니다.
     • 이 두 접근 방식을 함께 사용하면, 애플리케이션의 다양한 사용 시나리오에서 최적의 성능을 얻을 수 있습니다.
   • 링크: Optimizing Java on Amazon
5. "Compilers: Principles, Techniques, and Tools" by Alfred V. Aho, Monica S. Lam, Ravi Sethi, Jeffrey D. Ullman
   • 내용: 컴파일러 이론의 기초와 현대 컴파일러 설계에 대한 이 책은 JIT 및 AOT 컴파일의 기법과 응용을 설명합니다.
   • 설명:
     • JIT 컴파일러는 프로그램의 실행 시점을 기반으로 최적화를 수행하며, 동적 컴파일을 통해 성능을 향상시킵니다.
     • AOT 컴파일러는 코드의 정적 분석을 통해 사전에 최적화된 실행 파일을 생성합니다.
     • 병행 사용은 다양한 프로그램 요구 사항을 충족시키기 위한 복합적인 최적화 전략입니다.
   • 링크: Compilers on Amazon