Memperkenalkan torchtune: pustaka Python untuk melakukan fine-tuning model bahasa besar

• torchtune adalah pustaka PyTorch baru yang dirancang agar fine-tuning model bahasa besar (LLM) menjadi mudah. Pustaka ini menyediakan building block yang dapat dikonfigurasi dan bersifat modular, sehingga pengguna dapat menyesuaikan proses pelatihan dan mengadaptasi LLM untuk kasus penggunaan tertentu.

• torchtune mendukung seluruh alur kerja fine-tuning, mulai dari pengunduhan dataset dan checkpoint model hingga pencatatan progres dan metrik, kuantisasi model, dan evaluasi pada benchmark populer.

• Selain itu, torchtune juga menawarkan kompatibilitas dengan sistem inferensi produksi yang populer dan memungkinkan inferensi lokal untuk menguji model yang telah di-fine-tune.

• torchtune dibangun dengan mempertimbangkan skalabilitas, demokratisasi, dan interoperabilitas, sehingga dapat diakses oleh pengguna dari semua tingkat keahlian serta memungkinkan integrasi mulus dengan ekosistem LLM open source.

• Untuk inferensi dan kuantisasi yang efisien, torchtune menyediakan integrasi dengan Hugging Face Hub, PyTorch FSDP, Weights & Biases, EleutherAI's LM Evaluation Harness, ExecuTorch, dan Torchao.