GGML·llama.cpp bergabung dengan Hugging Face

Kabar bahwa Hugging Face telah mengakuisisi Georgi Gerganov, pengembang inti llama.cpp dan mesin GGML.

Poin utama: dengan llama.cpp (mesin de facto standar untuk menjalankan LLM secara lokal) dan teknologi berbasis GGML masuk ke bawah Hugging Face, dua pilar ekosistem AI lokal open-source kini terintegrasi menjadi satu.
llama.cpp tetap 100% open-source dan dipertahankan dengan fokus pada performa.

Perubahan utama yang diperkirakan:

• model berformat GGUF di library transformers akan didukung dan dikonversi otomatis hampir setingkat one-click
• saat model baru muncul, model tersebut bisa langsung dijalankan secara lokal dengan performa tinggi tanpa optimasi manual
• arah pengembangan menuju peningkatan besar pada alat AI lokal dan lingkungan pengguna

Makna: infrastruktur yang memungkinkan individu dan perusahaan menjalankan LLM berkualitas tinggi secara lokal dengan bebas tanpa bergantung pada server terpusat akan semakin diperkuat.