Menjelajahi GPTs: ChatGPT Memakai Trench Coat?

 (simonwillison.net)
1 poin oleh GN⁺ 2023-11-16 | 1 komentar | Bagikan ke WhatsApp

Cara menyusun GPT

  • GPT adalah konfigurasi bernama untuk ChatGPT, yang mencakup nama, logo, dan deskripsi singkat.
  • Terdapat instruksi kustom yang mengarahkan perilaku GPT, dan ini setara dengan "system prompt".
  • Secara opsional dapat menyediakan hingga 4 contoh prompt yang bisa digunakan untuk memulai percakapan.
  • Dapat mengunggah beberapa file untuk memberi konteks tambahan dan membantu menghasilkan jawaban.
  • Code Interpreter, mode Browse, dan DALL-E 3 dapat diaktifkan atau dinonaktifkan.
  • Dapat mengatur "Actions" opsional, yaitu endpoint API yang bisa dipanggil oleh GPT.

Cara kerja GPT Builder

  • GPT Builder adalah chatbot yang secara otomatis membuat GPT melalui percakapan dengan pengguna.
  • Tab "Create" memungkinkan pengguna membuat GPT lewat percakapan, tetapi pada praktiknya hanya mengisi formulir "Configure" secara otomatis.
  • Banyak orang menyarankan untuk menghindari tab "Create" setelah membuat GPT pertama.

Contoh GPT yang menarik

  • Dejargonizer: GPT yang menafsirkan istilah teknis, menganalisis teks, lalu mendefinisikan jargon.
  • JavaScript Code Interpreter: GPT yang dapat menjalankan kode JavaScript, digunakan dengan runtime Deno yang dilampirkan.
  • Dependency Chat: Menganalisis dokumentasi dependensi dari proyek GitHub dan menjawab pertanyaan terkait.
  • Add a walrus: GPT yang menambahkan walrus ke dalam gambar, menggunakan GPT-Vision dan DALL-E.
  • Animal Chefs: GPT tempat koki hewan memberikan resep bersama kisah pribadi.
  • Talk to the datasette.io database: GPT yang menjawab pertanyaan dengan menjalankan kueri SQL.
  • Just GPT-4: GPT yang menonaktifkan semua fitur tambahan dan memberikan pengalaman GPT-4 murni.

Fitur knowledge pada GPT

  • Jika file dilampirkan ke GPT, GPT akan mencoba menjawab pertanyaan dengan menggunakan file tersebut.
  • Ini tampak seperti implementasi Retrieval Augmented Generation (RAG).
  • OpenAI tidak membagikan informasi rinci tentang fitur ini, sehingga pengguna kesulitan memakainya secara efektif.

Model pembayaran GPT

  • GPT hanya dapat digunakan oleh pelanggan ChatGPT Plus seharga $20/bulan, sehingga distribusinya terbatas.
  • Pengguna dapat menerapkan proyek berbasis platform OpenAI tanpa harus menyediakan API key mereka sendiri.

Pentingnya keamanan prompt dan keterbukaan

  • Jika pengguna cukup gigih, dokumen dan prompt yang ditambahkan ke GPT bisa bocor.
  • Lebih baik berasumsi bahwa prompt akan bocor, dan justru membukanya secara publik.

Harapan untuk GPT ke depan

  • Diharapkan ada peningkatan seperti dokumentasi yang lebih baik untuk fitur knowledge, akses API, cara menyediakan GPT kepada non-pelanggan, dan pengaturan batas anggaran.

Opini GN⁺

Hal terpenting dari tulisan ini adalah eksplorasi atas fitur dan kemungkinan baru dari GPTs, yang merupakan topik menarik bagi orang-orang yang bekerja di bidang rekayasa perangkat lunak dan kecerdasan buatan. Kemampuan pengguna untuk membuat GPT mereka sendiri dan berinteraksi dengan pengguna lain menawarkan cara baru untuk membangun antarmuka percakapan yang disesuaikan. Selain itu, ini juga menunjukkan potensi untuk meningkatkan pengalaman pengguna dengan mengintegrasikan berbagai fungsi seperti eksekusi kode, pencarian dokumen, dan pembuatan gambar.

Bacaan terkait

1 komentar

 
GN⁺ 2023-11-16
Komentar Hacker News
  • Sebagai pengguna GPT, saya sadar bahwa jika saya tidak bisa melihat prompt-nya, saya tidak ingin menggunakan GPT. Saya tidak ingin menggunakan ChatGPT yang bisa disuntikkan perilaku aneh oleh orang asing tanpa sepengetahuan saya.
    • Saya ingin OpenAI menambahkan opsi "lihat sumber" ke GPT. Menurut saya ini seharusnya aktif secara default, meskipun saya bisa membayangkan ini mungkin keputusan yang tidak populer.
  • Saya cenderung menghindari chatbot berbasis GPT. Saya tidak ingin dimanipulasi secara halus oleh instruksi kustom yang tidak saya ketahui.
    • Menambahkan opsi "lihat sumber" akan mengubah fitur ini dari "biasa saja" menjadi "layak dibayar".
    • Saya menghabiskan sebagian besar waktu saya menggunakan Kagi dan sedang mempertimbangkan untuk membatalkan GPT Plus, tetapi perubahan seperti ini akan membuat saya tetap berlangganan.
  • Cara saya mengetahui fitur baru OpenAI:
    1. Melihat sekilas judul-judul di Twitter yang mengumumkan sesuatu yang baru dengan heboh
    2. Mendapat banjir tweet tentang hal itu dari influencer Twitter
    3. Mengabaikannya dan menunggu sampai simonw menjelaskannya
    4. Membaca posting blog simonw setelah dia sudah menguji fiturnya dengan berbagai cara dan menulis penjelasan serta kritik yang jelas. Semuanya langsung masuk akal.
  • Bahwa ini "hanya ChatGPT dengan pre-prompt" memang benar.
    • Bahwa ini juga "Custom Instructions dengan UI yang bagus" juga benar.
    • Tapi jangan pernah meremehkan dampak yang mengubah dunia dari "UI yang bagus". GPT-3 sudah tersedia selama beberapa tahun, tetapi hampir tidak ada yang tahu atau peduli sampai dibuatkan UI yang bagus.
    • Ini terlihat seperti "penyesuaian kecil" dalam usability, tetapi dampaknya setara dengan "lompatan kuantum" yang serupa.
  • Ada orang yang sering bertanya kepada saya tentang GPT/AI. Saya bertanya apakah mereka sudah mencobanya. "Belum". "Anda tahu ini gratis?" "Ya". Sikap seperti ini sulit dipahami. Apakah ini ketakutan pada hal yang belum dikenal? Kemalasan? Kebutuhan akan bukti sosial sebelum mencoba sesuatu?
  • Saya tidak bisa melihat prompt OpenAI, dan mungkin penulisnya juga tidak bisa, tetapi saya tetap ingin menggunakan GPT dari OpenAI.
    • Ada lompatan kepercayaan yang cukup besar di sini. Saya penasaran apakah OpenAI punya roadmap konkret menuju keandalan atau konsistensi.
  • Saya punya seluruh prompt Custom GPT Builder: [tautan GitHub disediakan]
  • Menyampaikan terima kasih kepada simonw karena telah mendokumentasikan semua ini secara real-time dan membuat alat yang mudah dipahami serta mudah diakses (llm command line dan sebagainya).
    • Search API tampaknya melakukan kesalahan karena tidak bisa memberikan sitasi yang layak, jadi senang mengetahui bahwa saya bukan satu-satunya yang mengalaminya.
  • Saya ingin tahu lebih banyak tentang bagaimana OpenAI mengimplementasikan fitur RAG "knowledge base". Tapi detailnya masih kurang.
    • Saya bisa mengunggah seluruh teks grugbrain.dev dan berbicara dengan grug brain yang sangat masuk akal: [tautan chat OpenAI disediakan]
  • Belakangan ini saya membuat "synbiogpt", dan di sinilah saya menyadari batasan custom GPT.
    • Data sekuens biologis biasanya sangat panjang. Data di dalam file tidak masalah, tetapi jika harus berinteraksi dengan API untuk fitur lanjutan (misalnya optimasi kodon), data ini harus dikirim melalui jaringan. Akibatnya context window panggilan API penuh oleh data sekuens dan gagal.
    • Tidak bisa melakukan dependency injection. Kadang GPT mencoba membuat implementasinya sendiri, tetapi sering kali salah.
    • Jika GPT-4 merasa tahu apa yang sedang dibicarakannya, Search API sering kali tidak membuka file. Saat membahas bagian gen, saya ingin sangat spesifik pada bagian tertentu dari library saya, bukan bagian yang dibayangkan GPT-4.
    • Saya menyelesaikan sebagian besar masalah ini dengan membuat lingkungan scripting lua sendiri (fungsi biologisnya ada di golang, dan saya menggunakan gopher-lua untuk menjalankan lingkungan lua). Saya menyuntikkan contoh lua tentang cara menggunakan fungsi scripting dan library kecil bagian gen saya saat ini, lalu memintanya menghasilkan lua yang melakukan tugas tertentu pada file yang diberikan. GPT-4 sama sekali tidak melihat file, dan aplikasi golang internal saya menjalankan lua yang sudah discrpting. Cara ini bekerja dengan sangat baik dan jauh lebih cepat daripada custom GPT.
    • Masalah terbesar saat ini adalah bagian frontend. Saya ingin punya klon ChatGPT open source yang bisa menarik lampiran dan mengubah input pengguna awal. Sampai sekarang saya belum menemukan opsi yang bagus.
  • Tentang cara mendapatkan hasil yang lebih baik menggunakan RAG.
    • Saya sudah mendapat beberapa keberhasilan terkait ini.
    • Saya menggunakan Assistant API, yang saya yakini tidak sama dengan GPT. Saya sudah mencoba ini lewat antarmuka web.
    • Saya punya lebih dari 100 file PDF yang diproses OCR dengan Tesseract. Lalu saya meminta ChatGPT menulis skrip untuk menggabungkan semua file itu menjadi satu file txt sambil mempertahankan tata letaknya.
    • Saya mengunggah file tersebut dan mulai mengajukan pertanyaan. File-file itu berisi data yang sangat teknis tentang regulasi bangunan dalam bahasa non-Inggris, jadi modelnya mungkin tidak terbiasa dengan jenis bahasa seperti itu.
    • Meski begitu, hasilnya sangat bagus. Pertanyaan bisa dijawab dan jawabannya bagus. Seharusnya diberi anotasi dari mana jawaban itu berasal, tetapi itu tidak bekerja dengan benar.
    • Saya sudah mencoba mengunggah PDF, file JSON, CSV, dan lain-lain. Sejauh ini teks mentah bekerja paling baik.
  • Catatan tentang fitur RAG "knowledge" ini menarik.
    • Dari percakapan dan pengalaman, orang-orang menemukan bahwa pencarian RAG sangat spesifik terhadap bisnis dan model datanya. Tidak ada solusi yang cocok untuk semua di sini. Langkah berikutnya pelanggan di CMS berbeda dengan menghasilkan SQL berdasarkan skema. Ini juga berbeda dengan berbelanja di katalog e-commerce.
    • Pada dasarnya ini masalah terkait pencarian. Dalam praktiknya malah lebih sulit. Masalah seperti ini memang terkenal sulit.