JITコンパイル（実行時コンパイル）とは：仕組み・利点・トレードオフ

JITの仕組み

一般的なJIT対応ランタイムは、まずインタープリタまたは単純なベースラインコンパイラによってコードの実行を開始する。プログラムの実行に伴い、システムは頻繁に実行される関数やループなどの「ホット」なコードパスを特定する。ある領域がホットになると、JITはその領域を最適化されたネイティブコードへ変換し、解釈実行用またはベースラインの表現を置き換える。この処理には、しばしば次の要素が含まれる。

• 頻繁に実行されるコードを検出し、型、分岐頻度、インライン化の機会などの実行時情報を収集するプロファイリング。
• 観測された利用パターンに適した機械語命令を出力するコード生成。
• インライン化、定数畳み込み、ループ展開、特化した呼び出し規約などの最適化。
• フォールバックと最適化解除。最適化器が置いた前提が成立しなくなった場合、ランタイムは安全な表現へ戻ることができる。

戦略と階層

現代のシステムでは、階層的なアプローチがよく採用される。軽量なインタープリタまたは高速なベースラインコンパイラが初期実行を処理し、起動時の遅延を抑える。プロファイリングによって安定したホットパスが示されると、より上位の最適化JITが、それらのパスに対してより積極的な変換を施してコンパイルする。この設計により、解釈実行の即応性と、最適化されたネイティブコードの高いスループットとの均衡が図られる。

利点とトレードオフ

JITコンパイルは、実際の実行時データを利用して特化したコードを生成するため、実行時性能を大幅に向上させることがある。実行時情報なしでは安全に行えない、あるいは不可能な積極的最適化も可能にする。一方で、生成したネイティブコードを保持するための追加メモリ、実行中のコンパイルに費やすCPU処理、ピーク性能に達するまでの初期ウォームアップ期間というコストがある。ランタイムは、オンデマンドコンパイル、段階的コンパイル、コンパイルキャッシュを用いてこれらのコストを軽減する。

歴史、例、解釈実行との関係

コードを実行時に変換するという概念は、純粋な解釈実行や事前コンパイルに代わる方式として、数十年にわたりさまざまな形で存在してきた。JIT技術を実装する広く利用されているプラットフォームには、Java Virtual Machine、V8 JavaScriptエンジン、.NET Common Language Runtime、Python向けのPyPy、LuaJITなどがある。対照的に、インタープリタは中間命令を実行のたびに処理するのに対し、JITはネイティブコードを生成するため、変換処理を繰り返す必要がない。

典型的な用途と注目すべき点

• コンパイルのオーバーヘッドを時間にわたって償却できるため、高性能なサーバーアプリケーションや長時間稼働するプロセスが特に恩恵を受ける。
• 動的言語では、実行時に判明する型情報と制御フロー情報によって特化が可能になるため、JITによる大きな効果を得られる。
• JITを支えるツール群には、プロファイリング用インターフェース、ガベージコレクションとの統合、実行とコンパイルを協調させるためのセーフポイントが含まれる。

技術的な観点と実装の詳細については、一般的なJITの概要を参照。JITを理解すると、一部のプログラムが起動時には遅く見えても、しばらく実行すると高速になる理由を説明できる。ランタイムが、その後の利用に備えてホットなコードをネイティブ命令へ変換し、最適化しているためである。