- Model fondasi untuk peramalan deret waktu yang dikembangkan oleh Google Research
- Dipra-latih dengan 100 miliar titik data deret waktu dunia nyata
- Menunjukkan performa zero-shot yang unggul di berbagai benchmark publik
- Dapat diterapkan pada dataset dengan domain dan satuan waktu yang beragam
- Peramalan deret waktu digunakan secara luas di berbagai bidang seperti ritel, keuangan, manufaktur, layanan kesehatan, dan ilmu alam
- Sebagai contoh, di bidang ritel, peningkatan akurasi peramalan permintaan berkontribusi pada pengurangan biaya inventaris dan peningkatan pendapatan
- Kebangkitan model deep learning
- Model deep learning yang telah membuktikan performa unggul dalam berbagai pengaturan digunakan secara luas untuk peramalan deret waktu
- Dalam kompetisi M5, model deep learning juga meraih hasil yang baik
- Perkembangan large language model
- Large language model yang digunakan untuk tugas pemrosesan bahasa alami seperti terjemahan, retrieval-augmented generation, dan pelengkapan kode berkembang dengan cepat
- Model ini dilatih dengan data teks dalam jumlah besar sehingga mampu mengidentifikasi pola bahasa
- Dengan dikombinasikan bersama pencarian, model ini dimanfaatkan sebagai alat zero-shot yang kuat untuk menjawab dan merangkum pertanyaan tentang peristiwa terkini
- Keterbatasan model peramalan berbasis deep learning
- Meski menunjukkan performa yang lebih baik daripada metode tradisional, masih ada kesulitan dalam menurunkan biaya pelatihan dan inferensi
- Diperlukan siklus pelatihan dan validasi yang panjang sebelum model dapat diuji pada data deret waktu baru
- TimesFM adalah model fondasi khusus decoder untuk peramalan deret waktu
- Satu model peramalan tunggal yang dipra-latih dengan 100 miliar data deret waktu dunia nyata
- Memiliki 2 juta parameter, jauh lebih kecil dibanding large language model modern
- Menunjukkan performa zero-shot yang mendekati pendekatan supervised state-of-the-art pada dataset dari berbagai domain dan satuan waktu
- Langsung memberikan peramalan yang sesuai pada data deret waktu yang belum pernah dilihat tanpa pelatihan tambahan
- Memungkinkan pengguna berfokus pada peningkatan peramalan untuk tugas downstream nyata seperti perencanaan permintaan ritel
- Makalah: "A decoder-only foundation model for time-series forecasting", dijadwalkan dipresentasikan di ICML 2024
Opini GN⁺
- Ini tampak seperti model peramalan deret waktu baru yang menjanjikan, tetapi tampaknya masih perlu divalidasi pada beragam kasus penggunaan nyata. Khususnya, belum adanya dukungan untuk peramalan probabilistik terasa kurang dari sisi kepraktisan
- Menarik bahwa nilai frekuensi yang diberikan sebagai input tidak harus mencerminkan frekuensi asli data deret waktu dan dapat disesuaikan secara arbitrer, tetapi nilai mana yang optimal tampaknya perlu diuji sesuai dengan tiap data dan kasus penggunaan
- Checkpoint pertama yang dirilis berfokus pada univariat, sehingga versi yang mampu melakukan peramalan multivariat juga patut dinantikan. Perbandingan performa pada dataset benchmark peramalan deret waktu multivariat juga tampaknya diperlukan
- Saat mengadopsi model ini, akan dibutuhkan tenaga ahli yang dapat memilih dan melakukan tuning model sesuai dengan karakteristik deret waktu target peramalan (panjang, distribusi, musiman, frekuensi, dan lain-lain) serta horizon peramalan yang dibutuhkan. Penyediaan API inferensi end-to-end tampak memudahkan pemanfaatan, tetapi keterbatasan model black box juga perlu dipertimbangkan
- Pustaka peramalan deret waktu serupa lainnya mencakup Kats dari Meta, GluonTS, Darts, dan sktime. Akan lebih baik jika karakteristik, kelebihan, dan kekurangan masing-masing pustaka dibandingkan terlebih dahulu, lalu memilih model yang paling sesuai untuk data nyata
Belum ada komentar.