LM Studio Bionic: Agen AI untuk Model Terbuka

 (lmstudio.ai)
1 poin oleh GN⁺ 5 jam lalu | 1 komentar | Bagikan ke WhatsApp
  • LM Studio Bionic adalah aplikasi terpisah yang menangani coding, riset, dan pekerjaan dokumen dengan model terbuka lokal atau cloud, sehingga Anda dapat mengontrol langsung privasi dan biaya penggunaan AI
  • Model dapat dijalankan langsung di perangkat atau dihubungkan melalui LM Link, dan untuk tugas kompleks Anda dapat memilih model open-source besar di LM Studio Secure Cloud
  • Keyboard suara menggunakan model transkripsi real-time multibahasa Voxtral dari Mistral AI untuk mengubah suara menjadi teks di dalam perangkat, di aplikasi apa pun
  • Untuk coding, tersedia penelusuran, penyuntingan, debugging codebase, dan inline diff; untuk pekerjaan dokumen, tersedia pemrosesan sandbox, pencarian web, checkpoint otomatis, dan pratinjau dalam aplikasi
  • Semua pengguna mendapat kebijakan Zero Data Retention dan data pengguna tidak digunakan untuk pelatihan; permintaan cloud juga tidak disimpan setelah pemrosesan selesai

Coding, suara, dan pekerjaan dokumen

  • Agen Bionic berfokus pada coding dan pekerjaan dokumen, serta memungkinkan Anda menyesuaikan biaya dengan memilih model dan lingkungan komputasi yang sesuai untuk tiap tugas

  • Keyboard suara yang berjalan di dalam perangkat

    • Mentranskripsikan ide, prompt, dan revisi di dalam perangkat dengan model audio lokal
    • Saat peluncuran, tersedia Voxtral, model transkripsi real-time multibahasa berperforma tinggi dari Mistral AI
    • Jika keyboard suara dijalankan di aplikasi apa pun, hasil transkripsi akan dimasukkan di posisi kursor saat ini

  • Proyek Code untuk menangani codebase lokal

    • Jika folder lokal dihubungkan, Anda dapat menelusuri codebase, menjelaskan kode yang belum familiar, atau mengubah dan men-debug-nya
    • Perubahan kode dapat ditinjau melalui inline diff
    • Pencarian kode bergaya agen membantu menemukan file terkait dan melacak perilakunya
    • Model yang didukung mencakup GLM 5.2 dan Kimi K2.7 Code

  • Proyek Work untuk dokumen, presentasi, dan spreadsheet

    • Menangani dokumen, PDF, presentasi, spreadsheet, dan lainnya, atau membuat materi baru dari awal
    • Memproses dokumen di lingkungan sandbox agar terisolasi dari komputer dan file lainnya
    • Mendukung perapian direktori lokal, penyuntingan file, peringkasan materi, serta pemanfaatan informasi eksternal melalui pencarian web bawaan
    • Dengan checkpoint otomatis, perubahan dapat ditinjau atau dikembalikan, dan materi serta alur kerja dapat dikelola bersama melalui pratinjau dalam aplikasi
    • Cakupan dukungan akan terus diperluas agar lebih banyak format file dapat dipratinjau

Menjalankan model lokal, terhubung, dan cloud

  • Di aplikasi Bionic, Anda dapat mengunduh LLM lokal terbaru dan menjalankan berbagai tugas, dari chat sederhana hingga pekerjaan agen tingkat lanjut; eksekusi lokal berbasis runtime LM Studio
  • Ada tiga cara eksekusi yang dapat dipilih sesuai tugas
    • Menjalankan model lokal di perangkat
    • Menghubungkan model melalui LM Link
    • Menggunakan model open-source garis depan berskala besar di LM Studio Secure Cloud
  • Secure Cloud menyediakan model terbuka terbaru yang kuat untuk coding, penalaran, pemanggilan tool, dan pekerjaan konteks panjang
    • Permintaan cloud diproses sementara dan tidak disimpan setelah selesai
    • Zero Data Retention diterapkan pada semua data pengguna Bionic dan data tersebut juga tidak digunakan untuk pelatihan

Instalasi dan ketentuan penggunaan

  • LM Studio Bionic adalah aplikasi baru yang terpisah dari LM Studio yang sudah ada
    • Jika memerlukan pengaturan lanjutan tingkat rendah, Anda dapat tetap menggunakan LM Studio yang sudah ada bersama Bionic
    • Untuk menggunakan model cloud, Anda perlu membuat akun LM Studio dan mengatur pembayaran
    • Setelah menghubungkan proyek dan memilih model, Anda dapat mulai bekerja dengan agen Bionic
  • Pengalaman Bionic akan terus ditingkatkan dengan mempertimbangkan peningkatan performa model terbuka dan contoh penggunaan pada proyek nyata

Bacaan terkait

1 komentar

 
GN⁺ 5 jam lalu
Opini Hacker News

  • Saya Yagil, pendiri LM Studio. Jika ingin mencoba GLM 5.2 / Kimi K2.6 / Kimi Coder K2.7 di Bionic, kirim nama pengguna lmstudio.ai Anda ke hn-jul16@lmstudio.ai, nanti akan saya beri kredit
    Untuk coding, gunakan di proyek “Code”; untuk membuat dan mengedit dokumen, gunakan di proyek “Work”. Proyek Work membuat checkpoint otomatis setiap kali agen melakukan perubahan, dan saya ingin mendengar masukan setelah Anda mencobanya

    • Ini salah satu framework eksekusi agen yang bagus untuk melihat proses penalarannya. Kadang membaca penalaran lebih berguna daripada jawaban akhir, dan saya suka karena ini membukanya lebih transparan daripada Claude Code atau Codex
      Anda mengatakan telah menegosiasikan zero data retention (ZDR) dengan “penyedia”, jadi saya penasaran apakah modelnya di-host langsung oleh LM Studio atau oleh pihak lain. Kalau pihak eksternal, saya juga ingin tahu siapa
    • Saya suka LM Studio dan berencana mencoba Bionic malam ini. Saya sangat menantikan aplikasi integrasi Android, sampai-sampai iri dengan pengguna iPhone
    • Saya penasaran apakah API key z.ai coding plan bisa digunakan
    • Saya benar-benar suka LM Studio, tetapi arah baru yang berpusat pada cloud dan kepercayaan ini bisa membuat banyak orang kehilangan kepercayaan. Karena perusahaan-perusahaan sudah berulang kali berjanji soal “zero data retention” dan “tidak melatih model dengan data pengguna”, ini terdengar seperti permintaan untuk percaya lagi
      Saya juga tidak menemukan lokasi perusahaan di situsnya, dan saya mendapat kesan pendekatan ala AS yang sudah membosankan selama 20 tahun—“percaya saja pada kami”—sedang diekspor lagi

  • Ini pertama kalinya saya mencoba framework eksekusi agen untuk model lokal, tetapi karena saya suka LM Studio, saya langsung mencoba Bionic, dan kesan pertama saya sangat bagus. UI-nya mirip dengan Codex yang biasa saya pakai, jadi terasa familier dan mudah dimulai; saat saya menunjuk ke library model LM Studio yang sudah ada dan menjalankan Qwen3.6 35B, hasilnya sesuai harapan
    Namun ada beberapa hal yang perlu diperbaiki. Di layar utama hanya ada nama proyek, dan direktori kerja saat ini tidak ditampilkan dengan jelas seperti di Codex. Saat menekan Enter, aplikasi menampilkan “Working” alih-alih “Loading model” ketika memuat model; saya juga tidak menemukan cara untuk memuat model lebih dulu sebelum mengirim permintaan, atau menurunkan model tanpa menutup aplikasi seperti tombol eject di LM Studio. Ketika saya menentukan direktori “GitHub & Projects”, aplikasi juga membuat folder baru dengan nama yang sama

  • Jika Apple memiliki model lokal dan framework eksekusi yang cukup bagus, sepertinya sebagian besar pengguna umum akan memakainya. Saya bertanya-tanya apakah pada akhirnya LLM akan menjadi antarmuka lain untuk komputasi

    • System Model Apple cukup bagus, tetapi panjang konteksnya dibatasi 4K. Untuk utilitas Python kecil yang memproses sedikit data, itu lumayan, tetapi secara keseluruhan batasan ini mengecewakan
      Secara terpisah, Siri di beta iOS terbaru menjadi sangat bagus sampai mengejutkan. Saat ditanya model apa yang dipakai, Siri menjawab bahwa untuk masalah sulit ia menggunakan Gemini, lalu model Apple aman di cloud, dan terakhir model Apple lokal
    • Menurut saya, untuk sebagian besar tugas pengguna umum, LLM setingkat era ChatGPT 3.5 sudah cukup. Jika ditambah tool calling dan model sekelas itu ditanamkan di perangkat untuk digunakan terlebih dahulu, pengguna AI bisa terbagi antara mereka yang tidak mau membayar dan mereka yang bersedia membayar mahal untuk performa model frontier
    • Jawabannya bergantung pada apakah perkembangan model cukup stagnan sehingga model berskala perangkat bisa menandingi performa model frontier. Jika bisa, LLM akan menjadi antarmuka komputasi baru; jika tidak, akan sulit
    • Mesin jaringan saraf sejak awal memang ditakdirkan menjadi paradigma komputasi alternatif bagi mesin von Neumann. Kalau bukan karena Minsky, mungkin kita sudah mencapai tingkat kegunaan lebih awal, jadi saya heran mengapa ini dibicarakan seolah-olah hanya perubahan kecil
    • Dalam komputasi 1.0, manusia harus mempelajari bahasa komputer agar bisa berinteraksi penuh dengan komputer; dalam komputasi 2.0, komputerlah yang mempelajari bahasa manusia

  • Saya penasaran apa alasan memilih ini dibanding framework eksekusi agen lain. Khususnya, ini tampak punya keunggulan sebagai paket enterprise untuk mengendalikan penggunaan model frontier cloud karena alasan biaya dan keamanan data

    • Ternyata tidak banyak framework eksekusi yang tidak terikat pada model tertentu dan bukan sekadar rangkaian asal-asalan kode Python atau JavaScript. Produk yang menghindari perilaku konyol seperti membengkakkan konteks atau mengompresnya berlebihan bahkan lebih jarang
      Saya enggan menjalankan agen Python/JavaScript yang mungkin dibuat dengan vibe coding karena risiko keamanan dan supply chain-nya terlalu besar

  • Menyenangkan menguji model lokal mana yang menjadi agen lebih baik, tetapi ada beberapa keterbatasan
    Agen terkunci pada satu direktori dan tidak bisa mengakses seluruh sistem; tidak ada pencarian web lokal, meski bisa ditambal dengan ddg atau MCP lokal. Tidak ada SSH, jadi tidak bisa masuk ke server dan menyuruhnya bekerja; proses pemuatan model juga tidak ditampilkan, sehingga perlu progress bar atau persentase. Saat memasukkan dokumen ke direktori Work, saya penasaran apakah selain menambah lewat tombol “+”, drag and drop juga bisa. Di lingkungan lokal sehari-hari saya memakai opencode bersama LM Studio, jadi saya menantikan perkembangannya

  • Katanya ini aplikasi terpisah dari LM Studio biasa, tetapi saya tidak bisa menemukan cara mengunduhnya

  • Senang melihat LM Studio berkembang ke workflow agen. Di tengah tool model lokal yang terus membaik, pilihan open source bernilai besar bagi developer yang ingin menjaga datanya tetap privat

  • Saya berharap LM Studio mendukung hardware AMD dengan lebih baik. Sangat dibutuhkan solusi siap pakai yang langsung berjalan di Radeon tanpa konfigurasi tambahan

  • Salah satu alasan saya pindah dari Ollama ke LM Studio adalah model bisnisnya, jadi saya khawatir sekarang arahnya berubah menjadi “menggunakan model open source frontier terbesar melalui LM Studio Secure Cloud”

    • Unsloth Studio benar-benar open source, dan melihat model kuantisasi, saya lebih percaya Unsloth daripada LM Studio, jadi saya ingin merekomendasikannya
    • Agar adil, Ollama juga cukup agresif mendorong layanan cloud miliknya sendiri
      Model besar terbaru seperti Minimax, GLM, dan Kimi kadang tidak menyediakan versi unduhan resmi bahkan setelah berbulan-bulan, dan hanya merilis versi cloud
    • Ollama sejak awal punya kontroversi, tetapi sejauh yang saya tahu LM Studio tidak demikian. Karena itu, saya sedikit lebih percaya bahwa LM Studio akan menjalani transisi ini dengan relatif mulus

  • Aplikasi LM Studio dan aplikasi LM Studio Bionic yang baru sama-sama closed source. Banyak orang tidak tahu hal ini, jadi perlu diingatkan

    • Unsloth Studio open source dan dioperasikan oleh Unsloth, yang membuat model kuantisasi kelas terbaik di industri, jadi saya menyarankan untuk beralih
    • Fakta bahwa ia closed source adalah alasan terbesar saya tidak sering memakai LM Studio. Setelah hanya menguji model baru atau versi kuantisasi, saya meng-host sendiri dengan llama.cpp
      LM Studio tidak mendukung fitur seperti input audio, dan kadang memiliki bug yang tidak ada di llama.cpp murni, sehingga untuk sebagian penggunaan malah bisa merugikan
    • Sudah ada banyak sistem agen open source, dan jika Anda lebih suka UI, OpenCode juga punya aplikasi desktop beta
      Menurut saya, terutama untuk alat pengembangan closed source yang nantinya bisa dimonetisasi dan membatasi akses, kita tidak membutuhkannya
    • Saya penasaran stack teknologi apa yang dipakai, dan apakah ini aplikasi native. Sebagai aplikasi desktop, desainnya cukup cocok untuk tujuannya
    • Saya bertanya-tanya apakah fakta bahwa ini closed source memang merupakan hal kontroversial