Trace JIT di Dunia Nyata dari CPython Core Dev Sprint

Ini adalah ringkasan mendalam tentang tantangan teknis yang dihadapi kompiler JIT (Just-In-Time) pelacakan baru milik CPython.

Penghambat Trace (Trace Blockers)

JIT pelacakan mengidentifikasi jalur kode yang sering dieksekusi ("jalur panas" / hot path) selama eksekusi program, lalu merekam micro-operations pada jalur tersebut untuk menghasilkan kode mesin yang dioptimalkan. Namun, proses ini terhenti ketika JIT bertemu kode yang tidak bisa dilihat ke dalamnya, yaitu "penghambat trace". Dalam kasus CPython, contoh yang paling representatif adalah pemanggilan fungsi ekstensi yang ditulis dalam C.

• Penjelasan teknis: Blog tersebut menggunakan fungsi Python murni yang menghitung nilai pi (π) sebagai contoh. JIT milik PyPy dapat mengoptimalkan loop komputasi numerik ini dengan sangat efisien sehingga menunjukkan performa 42 kali lebih cepat daripada CPython. Namun, jika hanya satu pemanggilan fungsi C yang tidak dapat dilacak JIT, yaitu hic_sunt_leones(), ditambahkan di dalam loop, performa PyPy anjlok tajam menjadi hanya sekitar 1,8 kali lebih cepat daripada CPython. Satu "penghambat trace" ini pada dasarnya melumpuhkan sebagian besar kemampuan optimasi JIT. Alasannya, JIT tidak mengetahui cara kerja internal fungsi C tersebut, sehingga tidak bisa mengoptimalkan seluruh loop sebagai satu unit dan harus memproses kode secara terpisah sebelum dan sesudah pemanggilan fungsi C.

---

Alur Kontrol Berbasis Data (Data-Driven Control Flow)

Masalah ini muncul ketika alur kontrol program sangat berubah tergantung pada data masukan. JIT pelacakan bekerja paling efektif dengan asumsi bahwa ada "jalur panas" yang konsisten, tetapi jika jalur eksekusi terus berubah sesuai data, asumsi ini runtuh.

• Penjelasan teknis: Blog tersebut memberi contoh fungsi yang menerima 9 argumen. Setiap argumen bisa berupa None atau angka, dan di dalam fungsi terdapat rangkaian kondisi berbentuk if <var> is None: .... Dalam situasi ini, jalur kode yang dieksekusi berubah setiap kali tergantung pada kombinasi nilai None yang masuk sebagai argumen. Akibatnya, JIT menghadapi masalah "jumlah trace eksponensial (exponential number of traces)". Artinya, JIT akan mencoba membuat kode teroptimasi terpisah untuk setiap kemungkinan kombinasi argumen None, yang menimbulkan overhead sangat besar dan pada akhirnya dapat membuatnya jauh lebih lambat daripada CPython yang tidak memakai JIT.

Kesimpulannya, posting blog ini menekankan bahwa agar JIT pelacakan baru CPython bisa berhasil diterapkan, ia harus menyelesaikan masalah "penghambat trace" dan "alur kontrol berbasis data" ini. Ini menunjukkan bahwa persoalannya bukan sekadar masalah implementasi sederhana, melainkan mungkin merupakan keterbatasan mendasar dari teknologi JIT pelacakan itu sendiri.