1 poin oleh GN⁺ 2024-02-02 | 1 komentar | Bagikan ke WhatsApp
  • Ini adalah halaman web sederhana untuk merakit prompt ChatGPT dengan mengisi bagian kosong
  • Templatnya mengarahkan pengguna untuk memasukkan secara berurutan peran, hasil yang dibutuhkan, cara pelaksanaan, kondisi, permintaan, dan format keluaran akhir
  • Area contoh juga mengulang struktur yang sama untuk menunjukkan bentuk prompt yang sudah selesai
  • Saat ini contoh nyatanya masih kosong, dan hanya menampilkan petunjuk “gunakan builder untuk membuat prompt”
  • Fitur yang bisa dipastikan saat ini bukan pengaturan yang kompleks, melainkan lebih dekat ke kerangka kalimat untuk prompt builder

Menyusun prompt berbasis isian kosong

  • Di bawah judul LLM Prompting, halaman ini memakai format yang membuat pengguna menyusun prompt dengan menyambungkan potongan kalimat
  • Alur inputnya terdiri dari potongan kalimat berikut
    • Act like a ,
    • I need a ,
    • you will ,
    • in the process, you should ,
    • please ,
    • input the final result in a ,
    • here is an example:

Status tampilan saat ini

  • Struktur prompt yang sama juga diulang di area contoh
  • Isi contoh yang sebenarnya masih belum diisi
  • Di bagian akhir ditampilkan petunjuk [Empty prompt, use the builder to create a prompt]
  • Jika hanya melihat konten yang tersedia, fungsi intinya adalah templat pembuatan prompt berbasis isian kosong

1 komentar

 
GN⁺ 2024-02-02
Opini Hacker News
  • Saya penasaran apakah orang masih sering memakai prompt kustom belakangan ini
    Dulu hasilnya jauh lebih baik, jadi saya sangat mendalami prompt engineering dan penulisan prompt kustom, tetapi setiap pembaruan mengubah cara efektif untuk mengarahkan perhatian ChatGPT, sehingga lama-lama makin merepotkan
    Sekarang saya sesekali memakai ChatGPT kustom, tetapi kebanyakan memakai ChatGPT bawaan, dan rasanya selisih kualitasnya juga makin kecil
    Prompt yang panjang membuat waktu respons terlalu lama, jadi saya jadi lebih memilih jawaban yang cukup baik dan cepat daripada jawaban yang lebih baik tetapi lambat. Daripada berusaha mendapatkan jawaban sempurna dalam sekali jalan, lebih mudah mengajukan pertanyaan lanjutan kalau masih kurang

    • Saya rasa sekarang ini sebaiknya dilihat sebagai mengasah intuisi prompt, bukan “prompt engineering”. Prompt engineering yang sebenarnya, misalnya A/B testing dengan evaluasi, ternyata sangat jarang, dan sering kali sejak awal bukan pola pikir yang tepat
      Yang diperlukan adalah membangun intuisi tentang ChatGPT dan memikirkan apa yang dibutuhkan agar ChatGPT bekerja lebih baik, semacam theory of mind
      Kebanyakan orang sudah bisa memakai ChatGPT dengan baik hanya dengan tahu cara mengedit prompt. Ini sebenarnya hampir seperti fitur tersembunyi, dan di aplikasi pun masih belum bisa dilakukan
      Untuk belajar berinteraksi dengan AI, kondisi benar-benar sadar mungkin bukan yang paling optimal, jadi saya juga ingin merekomendasikan koktail keras atau ganja, tetapi klaim terakhir ini perlu eksperimen terkontrol
    • Pengalaman saya sama. Mereka mungkin terus fine-tuning model dengan chat pengguna nyata, jadi prompt yang ditulis asal-asalan saat sedang bepergian pun tampaknya makin dipahami dengan baik
    • Menarik bahwa makin panjang input, makin lambat responsnya. Saya sama sekali tidak merasakan penurunan kecepatan, jadi penasaran apakah itu hanya terjadi di paket gratis ChatGPT
    • Saya membatalkan akun setelah ChatGPT4 membuat fitur akses ke Bing tidak bisa dimatikan
    • Saya tidak melihat itu sebagai benar-benar terlibat mendalam dalam “prompt engineering”. Menurut saya prompt engineering dulu, sekarang, maupun ke depan bukanlah sebuah bidang yang nyata
  • Agar benar-benar berguna bagi orang yang baru masuk ke bidang ini, ada beberapa hal yang dibutuhkan. Sebagiannya sudah diimplementasikan, itu bagus
    Akan bagus jika tersedia beberapa template baik untuk instruksi awal maupun prompt pascapemrosesan. Misalnya prompt yang sudah teruji agar output sebisa mungkin mengikuti format tertentu seperti JSON, daftar, atau CSV terbatas, atau template input yang sebisa mungkin mencegah jailbreak dasar dari prompt utama
    Orang yang memakai ChatGPT setiap hari sudah menemukan cara pemanasan terbaik atau cara mencegah output tak terduga yang meledak, dan butuh waktu lama untuk mempelajarinya dari nol, jadi template yang tepercaya akan sangat bagus bagi pemula

    • Respons API yang membutuhkan JSON valid bisa diminta dengan mode JSON: https://platform.openai.com/docs/api-reference/chat/create#c...
    • Saat ingin menerima respons sebagai JSON valid, instruksi kuat seperti ini cukup efektif
      “Hasilnya harus mencakup semua konten dan berupa JSON yang valid. Jangan menyimpang dari format ini dalam keadaan apa pun. Semua nilai harus lengkap dan tidak boleh ada yang terlewat. Jangan tambahkan teks apa pun selain hasil JSON.”
      Kalau hanya meminta JSON yang valid, hasilnya tidak selalu sesuai harapan; misalnya API GPT-4 kadang menambahkan pemformatan, sehingga saya makin lama makin memberi instruksi yang lebih rinci
  • Saya mungkin agak bias karena sekarang cukup mendalami pekerjaan terkait ChatGPT dan membuat 1–2 aplikasi per minggu
    Jika pengguna sasaran yang dibayangkan adalah orang yang belum terbiasa dengan large language model berbasis prompt, bagi orang itu baik masalah maupun ruang solusinya belum terdefinisi dengan cukup jelas
    Misalnya, pilihan yang sudah ditentukan sebelumnya kurang, dan terlalu banyak bagian “definisikan sendiri”. Makna pemilih yang disediakan juga tidak transparan, sehingga sulit mengetahui bagaimana, misalnya, “you will Detect” akan membantu pengguna
    Akibatnya, tidak jelas bagaimana pilihan memengaruhi output, dan alat ini menjadi masalah ayam-dan-telur. Katanya membantu memahami sistem, tetapi untuk memakainya secara efektif pengguna harus memahami sistem
    Pada tingkat ini, mungkin lebih mudah meminta ChatGPT membuatkan prompt yang efektif

    • Saya berasumsi pengguna sasarannya adalah orang yang setidaknya sedikit mengenal large language model berbasis prompt dan butuh sedikit panduan. Jika begitu, ini tampak seperti framework yang bagus dan sederhana untuk meningkatkan kemampuan
    • Karena saya belum pernah mengerjakan proyek yang durasinya kurang dari beberapa bulan, saya penasaran jenis aplikasi yang bisa dibuat dalam setengah minggu itu seperti apa. Penasaran apakah ada tautan yang bisa dibagikan
  • Saat kita berbicara dengan bot seperti ini, sebenarnya kita sedang berbicara dengan siapa?
    https://medium.com/@colin.fraser/who-are-we-talking-to-when-...
    Menyajikan teknologi ini lewat antarmuka chat yang diantropomorfisasi, yaitu tampak seperti mengenakan kostum manusia, adalah pilihan yang disengaja. Jika ada kecerdasan umum buatan yang terkurung di dalam sistem kita, berinteraksi lewat antarmuka chat mungkin tampak alami
    Namun sebaliknya, mudah juga untuk berpikir bahwa teknologi yang berinteraksi lewat antarmuka chat pastilah kecerdasan umum buatan. Jika menangani large language model secara langsung di Playground, chat hanyalah satu lapisan asap dan cermin yang memperkuat ilusi bahwa ada lawan bicara

    • GPT terutama adalah aktor improvisasi. Ia dilatih untuk melanjutkan teks yang diberikan sealami mungkin, sehingga jika tidak tahu apa yang seharusnya datang berikutnya, ia akan mengarang sesuatu yang terdengar masuk akal
      Lalu aktor improvisasi universal ini dilatih untuk memainkan peran tertentu, yaitu orang yang menjawab pertanyaan. Namun jika dibiarkan menjawab pertanyaan apa pun, bisa muncul nasihat berbahaya, maka ia dilatih sebagai penjawab pertanyaan yang memberikan nasihat tidak berbahaya
      Untuk membuat model mengerjakan sesuatu, kita perlu tahu peran apa yang harus dimainkannya. Peran “orang yang berusaha menjawab pertanyaan” itu fleksibel, dan memungkinkan respons dibuat lebih sesuai kebutuhan
      Jadi antarmuka percakapan ada setengahnya karena UI yang menjelaskan dirinya sendiri, dan setengah lainnya untuk mengarahkan model agar memainkan peran yang berguna
  • Ini tidak terlihat terkait secara khusus dengan ChatGPT. Ini hanya formulir untuk mengeklik dan menggabungkan blok teks, dan sepertinya bisa dipakai untuk model bahasa besar apa pun
    Saya rasa terpaku pada satu model bahasa besar dari penyedia proprietari tertentu tidak membantu perkembangan bidang ini

    • Benar. Jelas ini bukan khusus ChatGPT, lebih mirip formulir untuk mengisi bagian-bagian kalimat. Namun, ChatGPT adalah salah satu nama yang paling mudah dikenali, dan tampaknya lebih baik dalam menghasilkan keluaran dalam berbagai format
      Prompt builder ini bisa digunakan untuk model bahasa besar apa pun
  • Akan bagus kalau ada analisis nyata tentang bagaimana tiap fitur prompt meningkatkan respons

    • Sedikit promosi, mungkin ada alat seperti itu :) https://github.com/agenta-ai/agenta
      Kami sedang membuat platform untuk mengevaluasi prompt dan alur kerja model bahasa besar yang lebih kompleks
      Dari yang kami lihat pada pengguna, hasil prompt sangat probabilistik. Sulit digeneralisasi; misalnya, seorang pengguna yang membuat alat bantu penjualan menemukan bahwa hanya dengan mengubah urutan kalimat dalam prompt, akurasinya naik signifikan
    • Dalam catatan kaki posting blog bulan lalu, saya menulis bahwa menambahkan “saya akan memberi tip 500 dolar jika Anda memberi jawaban bagus” ke prompt sistem meningkatkan performa model, tetapi Hacker News sangat marah dan menyebutnya pseudosains: https://news.ycombinator.com/item?id=38782678
      Saya sedang menyiapkan tulisan baru yang menunjukkan efek ini secara lebih akademis
    • Sayangnya, ini sangat sulit karena dua alasan
      Pertama, ruang inputnya nyaris tak terbatas. Input bahasa alami arbitrer, sumber data opsional, dan kasus penggunaan arbitrer semuanya mungkin, jadi sangat sulit mengetahui sebelumnya apakah respons bisa “ditingkatkan” sebelum dicoba pada kasus penggunaan nyata
      Kedua, ruang output juga sulit diukur. Kegunaan bisa didefinisikan berbeda oleh tiap orang, dan ini makin rumit terutama ketika kita mulai memakai GPT untuk membuat hasil kreatif, melampaui sekadar “mesin pencari yang lebih baik”
  • Saya tidak pernah benar-benar memahami arti istilah “prompt engineering”. Pada akhirnya, apakah itu pernah melampaui “bisakah Anda menjelaskan masalah yang ingin diselesaikan atau tugas yang ingin dilakukan dengan jelas dan tepat”? Itu terlihat seperti kemampuan komunikasi dasar
    Saya belum pernah melihat data yang ketat bahwa format prompt tertentu seperti “Anda adalah B, melakukan C, dan harus melakukan D” lebih baik daripada instruksi lain yang jelas dan ringkas
    Mengejutkan bahwa sesuatu yang dulu disebut kemampuan komunikasi yang baik kini diberi nama baru, tetapi mungkin stereotip lama bahwa engineer tidak bisa menulis memang lebih mendekati kenyataan

  • Saya penasaran apakah pola “bertindaklah seperti ~” masih diperlukan
    Di GPT-4 saya sudah tidak memakainya lagi. “Persona” bawaan sudah menjawab sebagian besar prompt dengan cukup baik, dan mengatakan “bertindaklah seperti ahli ...” tidak menghasilkan keluaran yang terlihat lebih baik
    Alat yang benar-benar saya inginkan adalah yang bisa menguji dan membandingkan beberapa prompt dengan perubahan kecil secara ringan tetapi efektif, agar kita mendapat gambaran mana yang lebih baik. Saya penasaran apakah ada yang pernah melihat alat yang bagus seperti ini

    • Saya penasaran apakah maksudnya menguji beberapa prompt terhadap sekumpulan pertanyaan. Saya tidak menemukan alat khusus untuk itu, dan saat membandingkan prompt saya menjalankan pertanyaan dan prompt berulang kali dengan skrip pendek
      Akan menarik membuat alat yang cukup ditambahi prompt yang ingin diuji, tetapi tantangan pertama yang terlintas adalah membuat kumpulan pertanyaan yang akan digunakan
      Saya juga penasaran apakah pengujian prompt yang dimaksud di sini adalah menguji prompt sistem terhadap kumpulan pertanyaan, atau menguji cara menanyakan pertanyaan yang sama dengan beberapa cara
    • Saya rasa pola itu sekarang tidak terlalu berguna
      Dan saya akan membuat alat seperti itu lalu mengirim DM lewat Twitter kalau sudah siap
  • Secara umum, semakin panjang daftar instruksi, sepertinya semakin kecil kemungkinan ChatGPT mengikuti tiap instruksi. Rasanya perhatiannya terbagi; jika hanya mengatakan “lakukan A”, ia melakukan A, tetapi jika mengatakan “lakukan A dan B”, ia melakukan keduanya namun masing-masing hanya sebagian
    Pengalaman terbaik saya adalah memberi prompt pendek atau sedang, lalu menggunakan contoh one-shot atau few-shot. Few-shot sangat bagus terutama ketika ingin menyuruhnya melakukan beberapa hal sekaligus