- Kita memang bisa melakukan query ke LLM (model bahasa besar) dengan bahasa alami, tetapi terkadang LLM tidak memahami maksud manusia secara tepat
- Untuk mengatasi hal ini, para peneliti dari SRIlab (Secure, Reliable, and Intelligent Systems Lab) di ETH Zürich mengusulkan konsep bernama LMP (Language Model Programming)
- Bahasa dan platform yang mengimplementasikan konsep LMP itulah LMQL (Language Model Query Language)
- Sintaks deklaratif yang mirip dengan pernyataan SQL
- Dengan memberikan batasan yang jelas pada hasil keluaran LLM, cara kerjanya dapat dikendalikan agar tidak menghasilkan hasil yang tak terduga
- Diimplementasikan dengan Python, sehingga fungsi Python atau alur kontrol dapat digunakan dalam query AI
- Mendukung GPT-4 melalui OpenAI API serta model transformer yang di-host secara lokal
- Karena menghemat token yang dikonsumsi, biaya penggunaan API berbayar dapat ditekan hingga 26~85%
- Makalah: https://doi.org/10.48550/arXiv.2212.06094
- Dokumentasi: https://docs.lmql.ai/
- Playground: https://lmql.ai/playground
- Github: https://github.com/eth-sri/lmql
Belum ada komentar.