Morph (YC S23) Menerapkan Pengeditan Kode AI dengan Kecepatan 4.500 Token per Detik

• Saat proses menempelkan perubahan yang dihasilkan alat coding AI ke file yang sudah ada menjadi bottleneck, Morph mencoba mengganti penulisan ulang seluruh file dan pencarian-penggantian yang rapuh dengan model Fast Apply
• Agen menghasilkan output edit longgar yang menyisakan baris yang tidak diubah seperti //...existing code..., lalu Morph menerapkan perubahan sebenarnya berdasarkan file asli
• Model yang disediakan adalah morph-v3-fast dengan 4.500+ tok/sec dan morph-v3-large dengan 2.500+ tok/sec, dan digunakan oleh create.xyz, databutton, continue.dev, dan lainnya
• Untuk pencarian, Morph menyediakan model embedding dan reranking, serta sedang menyiapkan model edit inline bergaya Cmd-K sebagai produk berikutnya dan Morph Tab API dengan latensi sub-500ms
• Pendekatan ini pertama kali dipelopori oleh Cursor, tetapi tidak dibuka sebagai API; Morph mengedepankan API yang bisa langsung diintegrasikan developer dan tier gratis yang besar

---

Bottleneck dalam menerapkan pengeditan kode AI

• Proses menyisipkan perubahan kode buatan AI ke kode yang sudah ada secara stabil adalah fokus utama masalah yang ingin dipecahkan Morph
  • Penulisan ulang seluruh file bisa lambat dan mahal
  • Metode pencarian-penggantian mudah rusak karena perbedaan kecil dan dapat menimbulkan error
• Morph dirancang agar agen mengeluarkan perubahan secara longgar
  • Baris lama yang tidak diubah dirujuk seperti // ...existing code...
  • Dengan file asli dan patch longgar sebagai input, Morph menerapkan edit sebenarnya menggunakan model Fast Apply dan speculative decoding
• Tujuannya adalah membuat patch AI lebih cepat, stabil, dan mudah digunakan dalam produksi
• Materi terkait dapat dilihat di bawah ini
  • Video demo
  • Demo langsung
  • Dokumentasi

Jajaran model dan produk berikutnya

• Morph menyediakan dua model Fast Apply
  • morph-v3-fast: 4.500+ tok/sec
  • morph-v3-large: 2.500+ tok/sec
• Model-model ini digunakan untuk menjalankan Fast Apply di create.xyz, databutton, continue.dev, dan lainnya
• Untuk pencarian kode, Morph juga menyediakan model pencarian untuk embedding dan reranking
• Fitur berikutnya diarahkan untuk membuat alur edit menjadi lebih singkat
  • Inline Edit Model, Cmd-K: edit inline yang sangat cepat tanpa memutus alur kerja developer
  • Morph Tab API: model yang memprediksi edit kode dan aksi berikutnya, menargetkan latensi sub-500ms dan saat ini masih dalam beta tertutup
• Morph menilai bahwa dalam pengalaman developer, kecepatan inferensi mentah itu penting, dan edit Fast Apply lebih baik daripada penulisan ulang seluruh file dari sisi kecepatan, biaya, dan keandalan
• Ketika benchmark tugas sempit jenuh di atas 99%, Morph menilai kompleksitas akan bergeser dari satu model frontier ke arah model khusus yang dioptimalkan untuk inferensi

[GN⁺]

Komentar Hacker News

• Saya cenderung tidak setuju dengan klaim bahwa dalam pengalaman pengembang, kecepatan inferensi mentah lebih penting daripada akurasi. Alasan pengguna tetap memilih model yang lebih besar meski harus menerima tok/sec yang jauh lebih lambat pada akhirnya karena kualitas kode adalah kriteria nomor satu. Pada perubahan kode besar (misalnya 5.000 token), latensi sekitar 200~300ms bukan angka yang terlalu berarti. Kecepatan edit itu sendiri bukan bottleneck sebesar kualitas. Jika pengurangan 200ms saat mengubah kode dianggap lebih penting daripada kualitas, saya sama sekali tidak bisa setuju. Kalau memakai 1~2 agen secara paralel, biasanya sebagian besar perbaikan sudah selesai saat saya sedang me-review kode. Saya penasaran metrik apa yang dipakai untuk mengukur kualitas, dan seberapa besar perbedaan tingkat error antara model cepat dan model besar

  • Saya merasa peningkatan kecepatan inferensi sekitar 50% memberi nilai yang jauh lebih besar pada alur kerja saya dibanding peningkatan akurasi satu digit. Toh saya tetap harus memeriksa sendiri perubahannya, jadi siklus iterasi yang lebih cepat terasa lebih baik. Namun, kalau akurasinya sudah cukup tinggi sampai saya bisa lebih jarang atau lebih sedikit melakukan verifikasi, maka keunggulan kecepatan inferensi hampir tidak berarti lagi

  • Sepenuhnya setuju. Setelah model AI mengusulkan perubahan kode, hal pertama yang harus dilakukan adalah meninjau hasilnya dengan teliti. Dalam sebagian besar kasus, karena konteks yang hilang dari prompt atau token tertentu, kode sering jadi duplikat atau malah dihasilkan ke arah yang aneh. Kalau perubahan diterapkan sekaligus, debugging jadi lebih sulit, dan makin banyak penyisipan kode massal seperti ini menumpuk, makin besar kemungkinan basis kode rusak lebih cepat dari yang diperkirakan

  • Setahu saya, ini bukan sekadar selisih ±300ms, melainkan jarak yang sangat besar seperti 300ms versus 10 detik. Menunggu respons model besar seperti itu jelas menjadi kendala bagi saya. Selain itu, untuk tugas sederhana seperti ini rasanya resource terpakai secara tidak perlu. Sebenarnya, pekerjaan menerapkan perubahan kode secara cerdas menurut saya adalah area yang sudah cukup bisa ditangani lingkungan pemrograman yang ada. Saya penasaran apakah ini benar-benar tugas yang cukup sulit sampai harus membutuhkan LLM

  • Sepertinya bagimu waktu review terasa seperti bottleneck. Saat ini saya sedang membuat fitur yang bisa membantu seseorang meninjau hasil agen kode jauh lebih cepat. Kalau kamu punya waktu, saya ingin mewawancarai alur kerjamu lebih detail. Silakan hubungi lewat komentar atau kontak di profil saya

  • Intinya menurut saya adalah menjaga developer tetap berada dalam kondisi flow. Error dan latensi sama-sama memutus flow. Pada akhirnya, kualitas (akurasi) adalah faktor terpenting dalam coding. Evaluasi kualitas pada dasarnya memakai 2 kriteria. Pertama, performa end-to-end pada keseluruhan jalur dari kueri pengguna sampai tugas selesai (benchmark gaya aider); kedua, akurasi penerapan (masalah tata bahasa/sintaks, diff tingkat karakter, dan sebagainya). Tingkat error antara model besar dan model cepat ada di kisaran sekitar 2%. Untuk bahasa yang kompleks atau sulit, model besar lebih cocok, dan ada juga opsi untuk otomatis me-routing model yang sesuai dengan tugas

• Saya pernah memakai Microsoft Copilot, dan terutama pada tahap penerapan kode terasa terlalu lambat dan merepotkan. Aneh rasanya bahwa di tempat dengan resource melimpah, modelnya tetap tidak dilatih dengan baik. Permintaan saya: tolong masukkan system prompt ke dokumentasi resmi agar LLM bisa menghasilkan format diff terbaik. Setiap kali LLM di-upgrade, format diff sering berubah, jadi selalu merepotkan karena harus menebak format mana yang paling optimal. Selain itu, kebijakan privasinya juga tidak terlalu jelas bagi saya; kalau saya memahaminya dengan benar, apakah itu berarti data pengguna berbayar juga disimpan/dipakai untuk training? Saya ingin tahu bagaimana cara membayar layanan ini tanpa telepon dan tanpa data saya dipakai untuk pelatihan. Saya merujuk ke Morph Privacy Policy

  • Opsi ZDR (Zero Data Retention) juga tersedia. Kirim email ke [e-mail] dan kami akan mengaturnya. Jika memakai Morph lewat OpenRouter, itu selalu Zero Data Retention

  • Permintaan “jangan latih model dengan data saya” terdengar agak lucu. Cara model seperti ini dibuat pada dasarnya memang hasil pelatihan dari kode orang lain. Memakai alat seperti ini sambil berkata data saya jangan dipakai untuk training pada dasarnya terasa egois, mirip dilema kepentingan bersama. Model bisa jadi lebih baik justru lewat mekanisme seperti itu

• Saya mencoba menerapkan contoh HTML dari demo resmi apa adanya di https://morphllm.com/dashboard/playground/apply, lalu meski saya tidak meminta perubahan apa pun, CSS malah ditambahkan dan bahkan muncul section contact. Hal-hal ini tidak ada di instruksi update

  • Tangkapan yang tajam. Contoh HTML itu ternyata belum meng-uncomment snippet yang di-hardcode. Sekarang sudah kami perbaiki

• Dari sisi biaya, kesannya Morph jauh lebih mahal daripada Gemini Flash. Gemini Flash juga cukup bagus untuk pembuatan kode, dan AI yang bisa menerapkan edit dengan cepat memang menarik, tapi harganya tidak bisa dibilang murah. Misalnya, Morph v3 fast harganya input $1.20/M token, output $2.70/M token, sedangkan Gemini 2.5 Flash input $0.30/M token dan output $2.50/M token (rujukan: OpenRouter)

  • Itu harga berdasarkan opsi zero data retention. Harga di situs resmi Morph adalah input $0.80 / 1M token dan output $1.20 / 1M token. Ada juga kebijakan diskon untuk volume besar/reserved instance

• Saya bertanya supaya tidak salah paham, apakah Morph ini alat untuk “menerapkan” hasil dari LLM lain, bukan LLM miliknya sendiri? Jadi yang dimaksud 4.500 token per detik itu bukan generasi, melainkan penerapan?

  • Betul. Tapi Morph sendiri juga merupakan LLM. Dalam praktiknya, strukturnya adalah LLM besar memakai LLM kecil seperti tool call

• Sangat mengesankan. Saya sedang mencari solusi seperti ini untuk sistem AI coding internal, dan saya penasaran apa bedanya dibanding proyek open-source seperti Osmosis Apply 1.7B. Dengan asumsi model Morph bukan open-source/open-weight

  • Sebaiknya coba keduanya sendiri! Model kami unggul cukup jauh dalam hal kecepatan dan akurasi

• Dulu saya tidak melihat Morph di OpenRouter, tapi sekarang sepertinya sudah ada. Namun model yang terdaftar tampak seperti versi lama? Apakah ada rencana untuk mendukungnya lebih aktif. Dan saya penasaran dengan hasil benchmark perbandingan performa model fast apply terhadap Relace atau Llama/Cerebras, terutama dari sisi akurasi

  • Kekuatan Hacker News memang luar biasa! Sekarang model baru juga sudah terdaftar di sana

  • Saat ini model v2 mengarah ke morph-v3-large. Sebentar lagi v3-large dan v3-fast juga akan ditambahkan

• Saya penasaran dengan perbandingan terhadap Relace. Keduanya sama-sama perusahaan lulusan YC, dan fiturnya juga tampak sangat mirip Relace

  • Pertanyaan yang bagus. Bahkan daftar pelanggan (create.xyz, continue.dev) juga ditampilkan sama

• Akan sangat bagus kalau ada ekstensi browser yang membuat jembatan antara ChatGPT dan VSCode, lalu menyisipkan Morph (atau Claude) di antaranya agar agentic coding bisa langsung dipakai lewat web UI. Ini ide memanfaatkan antarmuka web alih-alih API

  • Dengan MCP, tujuan itu bisa tercapai. Akan segera dirilis

• Kalau ada fitur AI yang secara cerdas mengotomatiskan rebase+merge, rasanya kecepatan pengembangan akan meningkat drastis. Jika AI bisa memahami niat di balik perubahan kode dari beberapa pengguna lalu menggabungkannya otomatis, itu benar-benar akan meningkatkan produktivitas

  • Kalau memakai Claude Code, fitur itu sebenarnya sudah bisa digunakan. Cukup minta, “gabungkan branch lain dan selesaikan konfliknya”

  • Saya penasaran, seberapa sering kamu mengalami situasi merge conflict?