Show HN: Menambahkan Mistral Codestral dan GPT-4o ke Jupyter Notebooks

Pretzel 🥨 alternatif Jupyter yang modern dan open source

Pretzel adalah fork dari Jupyter yang dibuat untuk meningkatkan kemampuan Jupyter. Menambahkan pembuatan dan pengeditan kode dengan AI, penyelesaian tab inline, chat sidebar, dan fitur perbaikan error. Beralih dari Jupyter ke Pretzel sangat mudah. Semua pengaturan, key binding, dan ekstensi Jupyter tetap berfungsi sebagaimana adanya.

Memulai cepat

• Instal: pip install pretzelai lalu jalankan pretzel lab untuk membuka antarmuka web. Atau gunakan versi hosting gratis: pretzelai.app
• Mulai mengetik di sel untuk menggunakan fitur penyelesaian tab inline
• Klik "Ask AI" di sel Jupyter atau tekan Cmd+K (Mac) / Ctrl+K (Linux/Windows) untuk membuka prompt AI
• Aktifkan sidebar AI dengan Ctrl+Cmd+B (Mac) atau Ctrl+Alt+B (Linux/Windows) untuk chat dengan AI, membuat kode, dan mengajukan pertanyaan
• Untuk pengaturan penggunaan API key OpenAI, lihat bagian Settings

Instalasi

• Instal Pretzel dengan pip: pip install pretzelai
• Jika menggunakan conda, instal pip terlebih dahulu lalu instal Pretzel: conda install pip lalu pip install pretzelai
• Jalankan Pretzel: pretzel lab

Cara penggunaan

Penyelesaian tab inline

• Mulai mengetik di sel untuk menggunakan fitur penyelesaian tab inline dengan Codestral dari Mistral
• Tunggu 1 detik agar fitur penyelesaian dipicu

Membuat dan mengedit kode di sel notebook

• Di sel, tekan Cmd+K (Mac) / Ctrl+K (Windows/Linux) atau klik "Ask AI" untuk membuka kotak teks prompt AI
• Sebut @variable untuk merujuk ke variabel dan dataframe yang ada di memori
• Jika sudah ada kode, prompt akan mengedit kode yang ada
• Jika sebagian kode di sel dipilih/disorot, hanya kode yang dipilih yang akan diedit
• Anda dapat menerima/menolak respons atau mengubah prompt lalu mengirimkannya kembali
• Gunakan ↑ / ↓ untuk menelusuri riwayat prompt

Menggunakan sidebar AI

• Aktifkan sidebar AI dengan Ctrl+Cmd+B (Mac) / Ctrl+Alt+B (Linux/Windows) atau ikon Pretzel di sidebar kanan
• Anda dapat bertanya, membuat kode, atau mencari kode yang sudah ada
• AI selalu menggunakan kode di sel aktif sebagai konteks. Jika sebagian kode di sel aktif disorot, hanya kode yang disorot yang digunakan sebagai konteks

Contoh penggunaan:

• "Modify the function my_function in @notebook to be more efficient" ← mencari dan mengubah fungsi my_function di seluruh notebook
• "Where is the code in @notebook that removes outliers"? ← mencari kode yang menghapus outlier di seluruh notebook
• "Can you explain what this code does?" ← menjelaskan kode di sel saat ini

Menambahkan kode di tengah kode yang sudah ada

• Letakkan kursor di baris kosong atau baris kode yang sudah ada, lalu buka kotak teks prompt AI dengan Cmd+K
• Jika prompt diawali dengan inject atau ij, AI akan menambahkan kode baru tanpa mengedit kode yang sudah ada
• Kode ditambahkan satu baris di bawah baris tempat kursor berada

Memperbaiki error dengan AI

• Saat terjadi error, tombol "Fix Error with AI" akan muncul di kanan atas. Klik tombol tersebut untuk mencoba memperbaiki error

Settings

• Pretzel berfungsi secara default tanpa konfigurasi
• Secara default, Pretzel menggunakan server AI gratis. Dapat dikonfigurasi untuk menggunakan API key OpenAI/Azure

Dukungan OpenAI

• Buka menu Settings di menu bar atas, lalu klik Settings Editor
• Cari Pretzel, lalu pilih Pretzel AI Settings di panel kiri
• Pada dropdown AI Service, pilih OpenAI API Key, lalu masukkan API key ke OpenAI Settings > API Key
• Jika menggunakan OpenAI Enterprise, Anda juga dapat memasukkan base URL untuk panggilan OpenAI
• Model default adalah GPT-4o, dan dapat diubah di dropdown OpenAI Model

Dukungan Azure

• Sama seperti pengaturan OpenAI, Anda dapat menggunakan model yang di-host di Azure dengan memilih Use Azure API di dropdown AI Service

Feedback, bug, dan dokumentasi

• Laporan bug: https://github.com/pretzelai/pretzelai/issues
• Feedback dan keluhan: [e-mail]

Informasi terkait Jupyter

• Dokumentasi asli Jupyter dapat dilihat di sini, dan README Jupyterlab juga dapat dilihat di sini

Kebijakan privasi, pengumpulan data, dan retensi

• Tidak mengumpulkan informasi pribadi. Hanya menggunakan telemetri dasar untuk fitur AI
• Jika mengizinkan cookie, pengguna dapat dikenali sebagai pengguna yang sama di beberapa sesi browser
• Hanya prompt untuk fitur AI yang dikumpulkan, respons tidak dikumpulkan. Telemetri prompt dapat dinonaktifkan di Settings
• Kode sama sekali tidak dikumpulkan. Bahkan saat menggunakan server AI cloud milik Pretzel, kode tidak disimpan
• Jika menggunakan versi hosting Pretzel, akun pengguna dibuat berdasarkan alamat email. Anda dapat login kapan saja untuk menghapus data yang tersimpan
• Server hosting dapat digunakan gratis, tetapi data dan akun akan dihapus 30 hari setelah login terakhir. Untuk menghapus akun segera, kirim email ke [e-mail] dengan subjek "Account Deletion"

FAQ

Q. Apa yang terjadi dengan Pretzel AI versi sebelumnya? A. Dapat dilihat di folder pretzelai_visual. Untuk detail lebih lanjut, lihat PR ini

Q. Model AI apa yang digunakan Pretzel? A. Pretzel menggunakan model AI yang berbeda untuk berbagai tugas:

1. Model default: GPT-4o
   • Menawarkan keseimbangan yang baik antara kecepatan dan kualitas
   • Jika menggunakan API key sendiri, dapat diubah di Settings Pretzel
2. Penyelesaian inline: model Codestral dari Mistral
   • Sangat unggul untuk penyelesaian kode
   • Performa sangat cepat (model 22B parameter)
3. Opsi alternatif:
   • Jika menggunakan API key sendiri tetapi tidak menyediakan API key Mistral, Pretzel akan menggunakan GPT-4o juga untuk penyelesaian inline

Q. Bagaimana dengan fitur X? A. Ada banyak fitur yang ingin dibuat. Jika ada fitur yang Anda inginkan, silakan buka issue

Q. Di mana roadmap-nya? A. Ada roadmap kasar di bagian atas README. Ada banyak fitur yang ingin dibuat, tetapi saat ini dikerjakan oleh dua orang. Prioritas akan ditentukan dengan mengumpulkan feedback. Silakan buka issue atau kirim feedback lewat email

Q. Mengapa menggunakan lisensi AGPL? Mengapa tidak memakai lisensi MIT/BSD3? A. Tujuan membuat Pretzel adalah membangun alat data yang hebat dan bisa digunakan gratis oleh individu maupun perusahaan. Lisensi AGPLv3 digunakan untuk mencegah pihak ketiga mengambil kode lalu menjualnya tanpa berkontribusi kembali ke komunitas

Q. Mengapa memilih fork dari Jupyter? Mengapa tidak berkontribusi langsung ke Jupyter? A. Mereka menyadari bahwa berpindah ke alat baru itu sulit. Dengan fork dari Jupyter, biaya perpindahan diminimalkan. Jupyter adalah produk yang matang, dan fitur dapat ditambahkan dengan cepat

Q. Apa yang harus dilakukan jika perusahaan khawatir menggunakan alat berlisensi AGPLv3? A. AGPL hanya menjadi hambatan jika Pretzel dimodifikasi dan didistribusikan ulang secara publik. Jika digunakan sebagai alat internal perusahaan, AGPL tidak mewajibkan pembagian kode. Jika AGPL menjadi masalah, silakan hubungi mereka untuk mencari solusi

Q. Bagaimana rencana menghasilkan uang? Mengapa diberikan gratis? A. Mereka berencana menghasilkan pendapatan dengan menjual versi hosting ke perusahaan. Versi hosting akan mencakup fitur yang dibutuhkan perusahaan seperti kontrol akses data, koneksi ke sumber data, integrasi GitHub, dan dashboard yang bisa dibagikan. Versi untuk penggunaan pribadi tidak akan diubah menjadi berbayar

Pendapat GN⁺

• Pretzel memperluas kemampuan Jupyter untuk menyediakan alat yang lebih baik bagi data scientist dan engineer. Fitur pembuatan dan pengeditan kode berbasis AI berpotensi sangat meningkatkan produktivitas
• Mengesankan bahwa fitur baru ditambahkan sambil tetap menjaga kompatibilitas dengan Jupyter. Hampir tidak ada biaya perpindahan, yang menjadi keuntungan besar bagi pengguna
• Penggunaan lisensi AGPL untuk mendorong kontribusi ke komunitas merupakan hal yang positif. Namun, di beberapa perusahaan, masalah lisensi bisa membuat adopsi menjadi ragu
• Fitur AI Pretzel mempermudah penulisan kode dan debugging, tetapi hasilnya dapat bervariasi tergantung performa dan akurasi model AI. Perlu peningkatan berkelanjutan pada model AI
• Alat dengan fitur serupa Pretzel mencakup Google Colab dan ekstensi Jupyter di VSCode. Penting untuk membandingkan kelebihan dan kekurangan masing-masing alat sebelum memilih