10 poin oleh joone 2024-01-29 | Belum ada komentar. | Bagikan ke WhatsApp

Halo. Sekitar hampir 1 tahun yang lalu saya pernah membagikan alat bernama loz di sini.
https://id.news.hada.io/topic?id=8594

Saat itu, ini adalah alat berbasis OpenAI API yang terhubung dengan Unix pipe untuk menjalankan berbagai fungsi, dan juga mendukung penulisan pesan git commit. Pada pembaruan kali ini, alat ini mendukung ollama, sehingga Anda dapat dengan mudah memasang dan mencoba model LLM yang diinginkan secara lokal.

Yang saya uji adalah Llama2 dan Code Llama, dan keduanya berjalan baik di lingkungan lokal. Karena ollama bekerja berdasarkan llama-cpp, alat ini tetap bisa digunakan meskipun tanpa GPU.

Sebagai referensi, sebagian besar git commit message pada proyek loz ditulis melalui gpt-3.5-turbo dan code llama.

Saat ini saya mengujinya di Ubuntu 22.04. Kemungkinan besar juga berjalan baik di Mac. Silakan dicoba, dan jika ada bug atau ide, mohon beri tahu saya.

Belum ada komentar.

Belum ada komentar.