[Open Source] Klien LLM multi untuk iOS dan macOS - LLM Bridge
(github.com/bipark)Sebelumnya saya pernah membuat dan merilis sebagai open source klien LLM khusus Ollama secara terpisah untuk iOS dan macOS, tetapi kali ini saya membuatnya ulang dengan menggabungkan kode iOS dan macOS berbasis Swift/SwiftUI serta menambahkan API yang didukung.
- Mendukung Ollama dan LMStudio sebagai LLM lokal.
- Jika port pada komputer yang memasang LLM di Ollama dibuka ke luar, Anda dapat menggunakan LLM gratis dari jarak jauh juga.
- LMStudio adalah program pengelola LLM lokal dengan UI bawaan, sehingga Anda dapat mencari model di HuggingFace lalu memasangnya untuk bereksperimen dengan berbagai model.
- Di LLM Bridge, Anda dapat mengatur IP dan port lalu menggunakan model yang sudah terpasang untuk menerima jawaban atas kueri.
- Mendukung OpenAI
- Anda bisa mendapatkan API key, memasukkannya ke aplikasi, lalu menggunakan ChatGpt melalui pemanggilan API.
- Menggunakan API bisa lebih murah daripada membayar biaya langganan bulanan.
- Mendukung Claude
- Menggunakan API key
- Dapat mengirim gambar untuk model yang mendukung gambar
- Mendukung file PDF dan TXT
- Mengekstrak teks menggunakan PDFKit lalu mengirimkannya
- Mendukung file teks
- Open source
- Swift/SwiftUI
- Tautan sumber
Belum ada komentar.