Tabby: Asisten coding AI yang di-host sendiri

 (github.com/TabbyML)
4 poin oleh GN⁺ 2025-01-13 | 1 komentar | Bagikan ke WhatsApp

  • Pengenalan Tabby

    • Tabby adalah asisten coding AI yang dapat di-host sendiri, sebagai alternatif untuk GitHub Copilot.
    • Memiliki arsitektur mandiri yang tidak memerlukan DBMS atau layanan cloud.
    • Dapat dengan mudah diintegrasikan dengan infrastruktur yang ada melalui antarmuka OpenAPI.
    • Mendukung GPU kelas konsumen.

  • Fitur baru

    • 6 Desember 2024: Integrasi deployment Llamafile dan pengalaman pengguna Answer Engine yang ditingkatkan akan ditambahkan di Tabby v0.21.0.
    • 10 November 2024: Peralihan antar berbagai model chat backend di Answer Engine didukung di Tabby v0.20.0.
    • 30 Oktober 2024: Tabby v0.19.0 menambahkan thread terbaru yang dibagikan ke halaman utama untuk meningkatkan visibilitas.
    • 9 Juli 2024: Integrasi Codestral diumumkan.
    • 5 Juli 2024: Tabby v0.13.0 memperkenalkan Answer Engine, yang mengintegrasikan data internal tim pengembang untuk memberikan jawaban yang tepercaya.
    • 13 Juni 2024: VSCode 1.7 menghadirkan berbagai pengalaman chat di seluruh pengalaman coding.
    • 10 Juni 2024: Postingan blog tentang peningkatan pemahaman konteks kode Tabby diumumkan.
    • 6 Juni 2024: Tabby v0.12.0 menyediakan integrasi mulus dengan Gitlab SSO, GitHub/GitLab yang di-host sendiri, dan lainnya.
    • 22 Mei 2024: Tabby VSCode 1.6 menyediakan beberapa pilihan dalam inline completion dan mendukung pesan commit yang dibuat otomatis.
    • 11 Mei 2024: v0.11.0 menghadirkan peningkatan enterprise besar termasuk integrasi GitHub dan GitLab, halaman aktivitas, serta fitur Ask Tabby.
    • 22 April 2024: v0.10.0 memperkenalkan tab laporan terbaru yang menyediakan analitik per tim.
    • 19 April 2024: Tabby mengintegrasikan snippet lokal yang relevan untuk code completion.
    • 17 April 2024: Seri model CodeGemma dan CodeQwen ditambahkan ke registri resmi.
    • 20 Maret 2024: v0.9 menonjolkan UI admin dengan fitur lengkap.
    • 23 Desember 2023: Tabby dapat di-deploy ke cloud secara mulus melalui SkyServe dari SkyPilot.
    • 15 Desember 2023: v0.7.0 menyediakan manajemen tim dan akses keamanan.
    • 15 Oktober 2023: Code completion berbasis RAG diaktifkan di v0.3.0.
    • 27 November 2023: v0.6.0 dirilis.
    • 9 November 2023: v0.5.5 mencakup desain ulang UI dan peningkatan performa.
    • 24 Oktober 2023: Pembaruan besar untuk plugin IDE Tabby di VSCode/Vim/IntelliJ.
    • 4 Oktober 2023: Model terbaru yang didukung Tabby dapat dilihat di direktori model.
    • 18 September 2023: Dukungan inferensi Metal untuk Apple M1/M2 ditambahkan di v0.1.1.
    • 31 Agustus 2023: Versi stabil pertama Tabby v0.0.1 dirilis.
    • 28 Agustus 2023: Dukungan eksperimental untuk CodeLlama 7B.
    • 24 Agustus 2023: Tabby terdaftar di JetBrains Marketplace.

  • Memulai

    • Instalasi, ekstensi IDE/editor, dan cara konfigurasi dapat dilihat di dokumentasi.

  • Komunitas

    • Anda dapat terhubung dengan TabbyML melalui Twitter/X, LinkedIn, dan newsletter.

Bacaan terkait

1 komentar

 
GN⁺ 2025-01-13
Komentar Hacker News

  • Seorang pengguna menyebut produk ini mungkin bagus, tetapi proses wawancaranya buruk. Ia mengikuti beberapa kali wawancara, tetapi setelah wawancara terakhir kontak terputus tanpa penjelasan. Setelah menulis sebuah posting blog, selama beberapa bulan tetap tidak ada kabar, dan baru mendapat balasan setelah terus-menerus menanyakannya. Semua wawancara berbentuk tugas, dan total waktu yang ia investasikan lebih dari 10 jam.

  • Disebutkan bahwa hal-hal yang diklaim sebagai alternatif GitHub Copilot tidak berjalan di VS2022. Ia mengatakan menginginkan asisten AI yang di-host sendiri dan bisa digunakan di VS2022. Ia mempertanyakan mengapa tidak ada alternatif, padahal VS2022 mendukung plugin.

  • Disebutkan bahwa demo penyelesaian fungsi findMaxElement di halaman utama adalah contoh saat ini atau masa depan. Enam baris kode Python yang diusulkan, katanya, bisa diganti dengan return max(arr). Kode yang diusulkan dinilai berada pada level pemula. Ia khawatir orang yang menggunakan fitur autocomplete secara membabi buta akan mandek dari sisi kemampuan teknis. Mungkin bisa mendapat story point, tetapi ia mempertanyakan apakah keterampilan nyata benar-benar meningkat.

  • Disebutkan bahwa ia sama sekali tidak menyangka proyek Tabby bisa naik ke halaman depan HN. Sejak dirilis, Tabby telah berkembang pesat dan menjadi platform pengembang AI yang komprehensif, dengan fitur pelengkapan kode dan chat codebase. Pengguna Tabby mengatakan mereka menemukan Tabby sebagai satu-satunya platform yang memberikan pengalaman onboarding layanan mandiri. Performanya juga disebut sebanding dengan opsi lain di pasar. Jika penasaran, ia merekomendasikan untuk mencobanya.

  • Seorang pengguna yang belum akrab dengan AI lokal mengatakan ingin mencoba Tabby. Ia penasaran bagaimana perbandingan "run tabby in 1 minute" dengan 4o-mini gratis dari chatgpt. Ia bertanya apakah di MacBook Pro spesifikasi menengah, cukup menjalankan perintah Docker untuk mendapatkan AI yang cepat dan kompeten. Disebutkan bahwa daya komputasi M1/M2 terbatas dan kemungkinan hanya cocok untuk penggunaan pribadi. Jika membutuhkan instance bersama untuk tim, disarankan mempertimbangkan hosting Docker dengan CUDA atau ROCm.

  • Disebutkan bahwa di Community Edition, telemetri IDE/Extensions tidak bisa dimatikan. Ia penasaran data apa saja yang termasuk dalam telemetri tersebut.

  • Disebutkan bahwa semua contoh adalah kode yang bisa ditemukan di library. Sebagian kode diragukan kualitasnya. Ada kekhawatiran bahwa LLMs bisa menjadi bot spam bagi codebase.

  • Disebutkan bahwa idenya bagus karena tidak mengirim data ke perusahaan besar dan bisa mempercayai TOS. Efektivitas asisten coding disebut berbanding lurus dengan panjang konteks, sedangkan model terbuka yang bisa dijalankan di komputer biasanya lebih kecil. Ia ingin melihat materi yang mengukur kegunaannya pada codebase yang lebih kompleks.

  • Disebutkan bahwa ia sedang meneliti solusi AI self-hosted di tempat kerja. Ia penasaran bagaimana perusahaan ini menghasilkan uang. Tersedia opsi gratis/komunitas/open source, dan ia bertanya bagaimana batas "hingga 5 pengguna" dipantau. Ia juga ingin tahu apa yang terjadi jika pengguna melebihi 5 orang.

  • Disebutkan bahwa Tabby hanya mendukung penggunaan satu GPU. Untuk memakai beberapa GPU, perlu menjalankan beberapa instance Tabby dan mengatur CUDA_VISIBLE_DEVICES atau HIP_VISIBLE_DEVICES. Ia bertanya apakah penggunaan dua GPU yang terhubung dengan NVLink memang tidak didukung, atau situasinya berbeda karena NVLink memperlakukan dua GPU tersebut sebagai satu kesatuan.