Ollama merilis pustaka Python & JavaScript
(ollama.ai)- Ollama adalah open source yang memudahkan menjalankan LLM seperti Llama 2 dan Mistral secara lokal
- Mendukung Mac/Linux, dan Windows segera bisa dijalankan lewat WSL2
- Versi awal pustaka Python dan JavaScript untuk Ollama telah dirilis, sehingga aplikasi baru maupun aplikasi yang sudah ada dapat diintegrasikan dengan Ollama hanya dengan beberapa baris kode
- Dapat menggunakan kemampuan dan nuansa Ollama REST API apa adanya
Memulai
- Di Python, instal melalui
pip install ollama, lalu setelahimport ollamaAnda dapat memulai percakapan dengan menggunakan fungsiollama.chat. - Di JavaScript, instal melalui
npm install ollama, lalu setelahimport ollama from 'ollama'Anda dapat memulai percakapan dengan menggunakan fungsiollama.chat.
Contoh penggunaan
- Kedua pustaka mendukung seluruh rangkaian fitur Ollama.
- Contoh Python mencakup streaming, multimodal, penyelesaian teks, pembuatan model kustom, dan pengaturan klien kustom.
Handle GitHub baru
- Pustaka ini dan repositori utama Ollama kini dikelola di organisasi GitHub baru,
ollama. - Mereka juga menyampaikan terima kasih kepada anggota komunitas yang memelihara pustaka untuk berinteraksi dengan Ollama dalam berbagai bahasa pemrograman seperti Dart, Swift, C#, Java, PHP, dan Rust.
1 komentar
API node juga berjalan dengan baik. Kali ini saya menggunakannya dengan baik.