Ollama meluncurkan aplikasi baru untuk Mac dan Windows

• Ollama merilis aplikasi desktop baru untuk macOS dan Windows
• Kini mengunduh model dan mengobrol bisa dilakukan dengan mudah di lingkungan GUI
• Fitur drag-and-drop file memudahkan interaksi dengan dokumen teks dan PDF
• Saat menangani dokumen berukuran besar, pengaturan context length (panjang konteks) dapat ditingkatkan untuk menganalisis materi yang lebih panjang
• Berdasarkan mesin multimodal baru dari Ollama, gambar juga dapat dikirim ke model yang mendukung gambar (misalnya Gemma 3 model dari Google DeepMind)
• Juga mencakup fitur pemrosesan dokumen yang mendukung berbagai format file seperti file kode
• Aplikasi baru Ollama dapat diunduh untuk macOS dan Windows melalui situs resmi
• Pengguna yang hanya membutuhkan versi CLI dapat mengunduhnya secara terpisah dari GitHub Releases

[GN⁺]

Komentar Hacker News

• Belakangan ini Ollama tampaknya sedang beralih dari fokus pada pengembang ke pengguna umum, dengan beranda situsnya sebagai pusat perubahan itu situs Ollama Dulu fokusnya pada versi CLI untuk pengembang, tetapi sekarang bahkan hampir tidak disebut lagi Di bagian bawah blog hanya ada keterangan singkat bahwa "versi CLI dapat diunduh dari halaman rilis GitHub Ollama" Bukan bermaksud mengkritik, hanya saja perubahannya cukup mencolok sehingga menarik untuk diamati Dulu saya pernah mencoba berbagai aplikasi local LLM, dan dua yang paling saya sukai adalah LM Studio dan Msty Aplikasi ini juga pasti akan saya coba Satu fitur yang saya rasa kurang adalah seperti aplikasi desktop ChatGPT yang bisa langsung membuka chat baru dengan 'hotkey global (Alt+Space)' dan memungkinkan kita cepat bertanya lewat UI kecil yang diperkecil Akan bagus kalau aplikasi local LLM juga mengadopsi ide seperti ini

  • Saya admin Ollama Saya sama sekali tidak merasa kami mengabaikan pengembang Kami semua adalah pengembang, dan kami membuat Ollama untuk kami gunakan sendiri Masing-masing membuat berbagai prototipe untuk dipakai, lalu semuanya merasa paling puas dengan Ollama sehingga kami fokus mengembangkannya lebih lanjut Ollama dari awal sampai akhir ditujukan untuk pengembang, dan kami akan terus fokus pada hal itu

  • Saya penasaran apakah Anda pernah mencoba pygpt.net Memang antarmukanya agak berlebihan dan namanya juga sedikit disayangkan, tetapi dari semua yang pernah saya pakai, ini yang paling memuaskan

  • Perubahan seperti ini justru positif juga bagi pengembang Kalau lebih banyak pengguna memasang Ollama, nanti aplikasi AI desktop berbasis Ollama juga bisa didistribusikan tanpa perlu membundel model terpisah Tidak ada biaya tambahan, jadi kita juga bisa menawarkan langganan gratis/murah kepada pengguna Model Qwen30B terbaru juga sangat kuat Kalau ada template instalasi yang bisa memeriksa spesifikasi PC pengguna (RAM, performa CPU/GPU, dll.) dan memasang/mengunduh Ollama bila belum ada, rasanya akan jauh lebih nyaman Akan bagus juga kalau ada API yang bisa meminta izin lalu memasang model saat modelnya belum terinstal

  • HugstonOne sudah punya fitur seperti itu, termasuk tab baru dan lain-lain Selain itu, saya bingung kenapa kebanyakan pengembang melakukan eksposur spam yang berlebihan Ollama adalah pelopor di bidang AI dan aplikasi yang hebat, saya sungguh menyampaikan terima kasih

  • Saya pernah dengar Msty dan sempat mencobanya sebentar, tetapi setelah melihat lagi belakangan ini tampaknya fiturnya cukup kaya Saya belum tahu LM Studio, tetapi yang ini bisa dipakai gratis untuk penggunaan komersial (tidak seperti Msty) Kalau dipakai sebagai tool berbasis antarmuka chat, saya penasaran dengan perbandingan kelebihan dan kekurangan kedua aplikasi itu

• Saya tidak begitu memahami perubahan Ollama kali ini Aplikasi desktop frontend justru kebalikan dari alasan saya memakai Ollama selama ini

Awalnya saya memakainya sebagai backend local LLM, dan pengguna lama biasanya sudah menemukan, membuat, atau mengustomisasi frontend mereka sendiri hingga terbiasa Bahkan belakangan model lokal tercanggih kadang terlambat tersedia, dan saya curiga jangan-jangan ini karena fokus ke frontend tersebut Sekarang, alih-alih Ollama, saya berencana mencari opsi alternatif yang dari awal menyertakan UI sendiri atau tetap konsisten hanya sebagai backend CLI Kalau ada yang lebih baik, mungkin saya akan pindah; seharusnya memang sudah saya lakukan dari dulu Saya harap ini bukan langkah awal Ollama meninggalkan fokus CLI lalu berubah menjadi antarmuka LLM umum berbasis langganan

• Berbagai GUI untuk Ollama sebenarnya sudah ada

Aplikasi sekarang tampaknya hanyalah versi Ollama yang menyertakan GUI secara default

• Setelah mencoba UI Ollama, saya heran karena tidak ada opsi untuk terhubung ke instance Ollama jarak jauh

PC paling kuat saya tidak selalu menjadi komputer tempat saya menjalankan GUI

• Saya sangat setuju soal ini Saya suka lingkungan desktop Windows/macOS, tetapi kurang suka OS-nya; sedangkan Linux/BSD bagus sebagai OS tetapi kurang nyaman sebagai lingkungan desktop, jadi workstation kuat saya selalu ada di Linux headless dan saya mengaksesnya dari Windows/macOS lewat SSH Kebanyakan pengembang tampaknya benar-benar tidak paham kebutuhan seperti ini Setiap kali menjalankan perintah di terminal, kalau browser tab terbuka atau URL tidak dicetak ke terminal, rasanya sangat menyulitkan dan membuat frustrasi

• Bisa diakali dengan SSH port forwarding (ssh -L 11434:localhost:11434 user@remote) untuk terhubung ke instance Ollama jarak jauh Tetap saja, akan jauh lebih baik kalau ada dukungan native

• Karena ada fitur di aplikasi untuk mengekspos Ollama ke jaringan, mungkin dukungan itu akan segera hadir

• Saya mencoba UI Ollama di Windows (sebelumnya hanya pakai CLI)

• Saya suka kesederhanaannya. Ini sempurna untuk menyiapkan local LLM dengan mudah bagi teman, keluarga, atau orang nonteknis
• Dukungan multimodal dan Markdown berjalan dengan baik
• Di dropdown pemilihan model, semua model lokal saya dan model populer dari registry ikut muncul Untuk penggunaan sederhana, ini terasa lebih praktis daripada Open WebUI Hal-hal seperti pengaturan prompt/advanced settings mungkin akan segera ditambahkan, dan untuk sekarang justru kesederhanaannya adalah kelebihannya

• Memproses teks saja tidak cukup

Selain bahasa Inggris, fitur seperti transkripsi suara lebih dari 30 detik, pembuatan suara, dan pembuatan gambar juga sangat penting Pemrosesan teks sekarang sudah menjadi hal dasar

• Saya penasaran kenapa Linux tidak didukung

UI-nya tampaknya berbasis Chrome (mungkin Electron), jadi seharusnya porting ke Linux juga cukup mudah Saya juga penasaran dengan tautan source code

• Electron memang mengklaim cross-platform, tetapi kenyataannya bukan soal 'sekali klik langsung rilis ke Linux'

Selalu ada berbagai masalah besar-kecil seperti versi glibc atau dukungan GPU

• Frasa resmi Ollama adalah “Unduh aplikasi versi baru untuk Mac dan Windows / versi CLI dapat diunduh terpisah dari GitHub” Setelah saya cek, kesannya tidak seperti open source Selain itu, tampaknya ini bukan Chrome melainkan memakai system webview, jadi sepertinya aplikasi tauri

• Katanya berbasis Electron, jadi agak aneh kalau ini dipromosikan sebagai native

• Pengembang Linux atau power user sebenarnya sudah bisa memakai Ollama hanya dengan CLI Aplikasi Mac/Windows sekarang tampaknya memang ditujukan untuk pengguna umum

• Ollama tampaknya ingin menjadi antarmuka standar bagi perusahaan untuk mendistribusikan open model

Fokus pada ‘lokal’ mungkin hanya sampingan dan bukan tujuan jangka panjangnya Saya yakin sebentar lagi mereka akan mengumumkan strategi ‘cloud API sendiri + open model’ dengan aplikasi ini sebagai jembatannya

• Saya sangat tidak setuju dengan pendapat bahwa “lokal” itu hanya sampingan Bagi perusahaan yang tidak bisa memakai layanan cloud (misalnya industri pertahanan), lokal adalah default-nya Itulah alasan sebenarnya memakai open model, meskipun performanya belum sempurna

• Kami juga memakai Ollama karena data sama sekali tidak boleh keluar dari jaringan internal perusahaan Kalau ada sedikit saja unsur cloud, tim legal langsung ribut Karena itu kami menjalankan Ollama langsung di laptop (seri M sangat kuat) dan juga di server intranet internal LM Studio baru-baru ini berubah menjadi bisa dipakai komersial tanpa call-me pricing, jadi kami juga mempertimbangkannya

• Kalau Anda power user atau bisa coding, saya sarankan membuat sendiri UI chat kustom sesuai kebutuhan Cukup ambil endpoint yang kompatibel dengan OpenAI dan framework komponen frontend chat, sisanya relatif mudah Saya juga membuatnya dalam seminggu dengan bantuan Gemini dan memakainya setiap hari Memang belum production-ready, tetapi bisa diubah sesuka hati dan penambahan fitur juga bisa dilakukan cepat sendiri

  • Ini benar-benar komentar tingkat “ya sudah, bikin Linux sendiri saja” Tidak mudah diakses semua orang

  • Saya juga membuat chatbot sendiri berbasis Python saat mendalami AI·LLM, lalu lanjut memakai [Vercel AI SDK+endpoint API yang kompatibel dengan OpenAI] Pada akhirnya malah jadi produk VT.ai - Python, VT Chat

  • Saya juga memakai pendekatan yang sama Yang benar-benar penting adalah model apa yang dipakai; sisanya hampir sepele Lihat juga skrip open source yang saya pakai(tautan Show HN) Mudah dibuat dengan bantuan ChatGPT dan semacamnya, dan saya memakainya setiap hari Sebentar lagi saya juga akan menambahkan DDG dan pencarian GitHub

  • Atau bisa juga langsung memakai Open WebUI sebagai basis, lalu mengustomisasinya sebebas mungkin sesuai selera

• Saya sedang mencari antarmuka chat LLM pribadi yang sempurna Syarat wajibnya adalah mendukung model lokal/jarak jauh/cloud (kompatibel dengan OpenAI API) sekaligus, dan mudah ganti model maupun menjalankan multi-query Kesan saya sejauh ini:

• Msty: paling saya suka, bisa query ke beberapa model sekaligus + desainnya enak dilihat, kekurangannya bukan open source + kadang freeze di Linux

• Jan.ai: tidak bisa query ke banyak model sekaligus

• LM Studio: bukan open source + tidak mendukung model jarak jauh/cloud (tidak yakin apakah ada plugin)

• GPT4All: error JSON saat memakai model openrouter, dan pergantian model harus dilakukan manual di setiap chat sehingga merepotkan Saya belum menguji Librechat, Open WebUI, AnythingLLM, atau koboldcpp Kalau ada rekomendasi lain, saya ingin mendengarnya

  • Saya suka webUI, tetapi pengaturan per model di file teks dalam browser terasa rumit, dan dokumentasinya juga penuh istilah yang membingungkan Librechat cepat sekali logout sehingga praktis tidak bisa dipakai Saya dengar sesi login bisa dipertahankan dengan https, tetapi karena saya memakai Tailscale, menjalankan banyak layanan dalam satu host jadi merepotkan

  • Ada juga aplikasi yang saya buat sendiri, dinoki.ai Berjalan lokal, mengutamakan privasi, dan diimplementasikan native dengan Swift untuk macOS dan WPF untuk Windows

  • OpenWebUI sudah mencapai kualitas yang saya inginkan untuk memakai berbagai model dengan mudah lewat antarmuka chat

  • Saya sudah berbulan-bulan memakai AnythingLLM dan benar-benar puas Kita bisa menyimpan set model/prompt lewat beberapa “workspace”, mendukung Ollama dan LLM lainnya Saya menjalankannya di Raspberry Pi via Docker, lalu mengaksesnya dari mana saja lewat tailscale Tampilan selulernya juga bagus, dan kalau dipadukan dengan ekstensi Raycast Claude, hampir semua hal yang saya penasaran jadi bisa diselesaikan

  • Saya juga menyarankan untuk membuat sendiri Sekalian bisa belajar tren terbaru dan juga menyenangkan Saya membuat antarmuka saya pada 2023 lalu menambahkan fitur sedikit demi sedikit, dan belakangan juga menghubungkan model lokal lewat MLX Membuat antarmuka ternyata lebih mudah dari yang dibayangkan, dan pengembang bisa belajar banyak dengan mencobanya sendiri

• Saya pernah mencoba Ollama sekali dulu lalu langsung menghapusnya Kalau hanya model yang didukung resmi Ollama saja yang bisa dipasang dengan mudah, itu terasa tidak nyaman Sejak setelah itu saya merasa LM Studio adalah yang terbaik

  • OLLAMA juga bagus, tetapi bersama Lmstudio, HugstonOne terasa lebih unggul dari sisi pengalaman