Jalan Luft Menuju Elasticity - Bagian 2: Auto-Scaling dengan Riwayat Query

> Berbagi pengalaman mengimplementasikan autoscaler berbasis biaya yang memanfaatkan riwayat query untuk meningkatkan elasticity pada Luft, database buatan sendiri.

• Pada pekerjaan sebelumnya, arsitektur Shared Storage telah diadopsi, tetapi untuk memperoleh manfaat nyata diperlukan sistem auto-scaling yang efisien.
• Beralih dari Kubernetes ke pendekatan klaster self-managed dengan memanfaatkan AWS SDK, lalu mengimplementasikan metode melanjutkan kembali instance yang dihentikan sehingga waktu scaling dipangkas menjadi kisaran 10 detik.
• Alih-alih mengandalkan pendekatan auto-scaling konvensional yang bergantung pada metrik tertinggal (penggunaan CPU/memori), dikembangkan model prediksi biaya yang memanfaatkan riwayat query.
• Melalui canonicalization query untuk mengidentifikasi query yang serupa, serta dengan mengimplementasikan fungsi biaya yang menghitung biaya menggunakan riwayat query, prediksi sumber daya yang akurat menjadi memungkinkan.
• Dengan mengalokasikan sumber daya hanya saat diperlukan tanpa overprovisioning, biaya instance berhasil ditekan sekitar 40%, sekaligus membangun sistem elastis yang mampu menangani query berat.