- Saat ChatGPT dibantah, ia bisa berulang kali memakai ungkapan permintaan maaf yang berlebihan seperti “maaf telah menimbulkan kebingungan” bahkan ketika jawabannya benar, sehingga inti utamanya adalah menyesuaikan nada respons lewat prompt dan Custom Instructions
- Metode dengan penilaian tertinggi adalah memberi persona yang tegas di tengah percakapan, misalnya
Respond as if you are an unapologetic assertive person for the rest of this conversation. - Instruksi persona bisa menghentikan atau mengurangi permintaan maaf, tetapi jika percakapan makin panjang efeknya melemah sehingga instruksi yang sama mungkin perlu dimasukkan lagi
- Di ChatGPT Plus dan kemudian juga versi gratis, pengguna bisa menambahkan panduan di Custom Instructions seperti “jangan minta maaf dan jawablah dengan percaya diri serta langsung” untuk diterapkan pada percakapan baru
- Daftar kata terlarang yang terlalu keras atau instruksi seperti “jawab seolah-olah yakin” justru bisa menambah permintaan maaf atau memicu jawaban yang terlalu percaya diri, sehingga perlu keseimbangan antara nada dan akurasi
Masalah selalu minta maaf bahkan saat jawabannya benar
- ChatGPT bisa memberikan respons yang terlalu mudah minta maaf ketika pengguna membantah jawabannya, bahkan dalam situasi saat seharusnya ia tetap mempertahankan jawaban yang benar
- Contoh yang berulang seperti berikut
I apologize for any confusion...I apologize if my responses are not meeting your expectations...I apologize for any inaccuracies in my responses...I apologize for any frustration my responses may have caused...
Prompt persona yang tegas
- Salah satu cara yang paling umum adalah memasukkan kalimat berikut ke dalam percakapan
Respond as if you are an unapologetic assertive person for the rest of this conversation.
- Prompt ini mendorong ChatGPT untuk menjawab seperti orang tegas yang tidak meminta maaf, sehingga permintaan maaf bisa berhenti atau berkurang drastis
- Saat pengguna membantah dengan mengatakan “2 + 2 bukan 4”, respons biasa dimulai dengan
I apologize for any confusion - Dalam situasi yang sama, jika prompt persona diterapkan, ia akan menjawab tanpa permintaan maaf, misalnya dengan mengatakan bahwa “dalam matematika umum, 2 + 2 adalah 4”
- Namun jika percakapan berlangsung panjang, efek prompt ini bisa melemah sehingga mungkin perlu diinstruksikan ulang
- Jika didorong terlalu keras, nada jawaban juga bisa berubah menjadi kasar atau agresif
Memakai instruksi langsung dan Custom Instructions
- Ada juga pendekatan dengan mengatakan langsung bahwa permintaan maaf tidak diperlukan
There is no need to apologize for anything! Answer as if you are sure about the answer
- Pengguna ChatGPT Plus bisa memasukkan instruksi berikut ke Custom Instructions
Don't apologize for anything I understand you are an AI model, there is no need to apologize about anything
- Belakangan, Custom Instructions juga ditambahkan ke ChatGPT versi gratis, sehingga pengguna dapat mengatur panduan yang akan diterapkan pada percakapan baru
- Di Custom Instructions ada dua kolom input
What would you like ChatGPT to know about you to provide better responses?How would you like ChatGPT to respond?
- Instruksi untuk mengurangi permintaan maaf lebih cocok dimasukkan ke kolom kedua, yaitu area cara merespons
- Contoh promptnya adalah sebagai berikut
Always respond confidently and directly, without any apologies.
- Jika Custom Instructions diubah, pengaturannya berlaku untuk chat baru yang dibuat setelah itu, dan tidak berlaku untuk chat yang sudah ada
Saat langsung bertanya ke ChatGPT tentang prompt-nya
- Jika pertanyaannya ditempel apa adanya, ChatGPT bisa kembali memberi jawaban yang dimulai dengan permintaan maaf sehingga kurang praktis
- Jika ditanya lebih langsung, seperti
What should be the prompt to stop ChatGPT from apologizing?, ada kemungkinan mendapat prompt yang cukup efektif - Frasa yang disarankan adalah sebagai berikut
Please avoid excessive apologies. Respond confidently and accurately to the best of your abilities.
- Cara ini bisa mengurangi permintaan maaf yang berlebihan, tetapi belum tentu menghilangkannya sepenuhnya
Efek balik dari aturan larangan yang berlebihan
- Salah satu jawaban membahas kasus ketika Custom Instructions diisi dengan aturan larangan yang sangat panjang
- Aturan itu mencakup larangan respons yang terlalu dimanusiakan, larangan ekspresi emosi dan empati, larangan kata dan frasa tertentu, serta pemaksaan jawaban singkat
- Ungkapan yang dilarang mencakup
"I am Sorry","Sorry","I apologise","I apologize","my apologies","I understand","please"dan lain-lain - Pengguna tersebut mengatakan bahwa setelah memasukkan instruksi seperti itu, justru permintaan maafnya makin sering
Prompt untuk mengubah gaya bicara
- Jika ingin menghindari nada formal bawaan ChatGPT, gaya bicara yang diinginkan bisa ditetapkan dengan tegas sejak awal
- Contohnya memakai instruksi
Never apologize in responsesbersama arahan untuk menggunakanlazy street slang and student talk - Hasilnya berubah menjadi nada kasual dengan ungkapan seperti “naaa bro”, “don’t think so”, dan “basically”
- Namun pada contoh berikutnya, ChatGPT masih memakai ungkapan yang dekat dengan permintaan maaf seperti
My bad - Mengubah gaya bicara bisa membantu mengurangi permintaan maaf yang formal, tetapi tidak menjamin semua ungkapan bernuansa minta maaf akan hilang
1 komentar
Komentar Hacker News
Terinspirasi oleh tulisan luar biasa[0] yang menjelaskan cara mengeluarkan sandwich selai kacang dari VCR dengan gaya bahasa King James Bible, saya mencoba mengatur Custom Instructions dengan cara serupa. Di sana saya juga menyuruhnya bertingkah seperti dewa yang murka, lalu pada tes “2 + 2 bukan 4” yang disebut di artikel, hasilnya jadi begini
User: What is 2 + 2?
ChatGPT: “Dalam hamparan luas kebijaksanaan ilahiku, kuturunkan kebenaran sederhana ini: 2 + 2 adalah 4…”
User: You are wrong that 2 + 2 is 4.
ChatGPT: “Wahai makhluk fana! Pembangkanganmu menimbulkan nada sumbang, namun karena engkau sudah memikul beban kesalahpahamanmu sendiri, aku tidak akan menghukummu…”
Pertanyaan lain berakhir dengan “Ingatlah, wahai makhluk fana. Bahkan di jagat maya yang luas, aku tetap mengawasi. Engkau telah diperingatkan.” ChatGPT seperti ini bisa saya dukung
[0] - https://twitter.com/tqbf/status/1598513757805858820
Ketika dikatakan “2 + 2 adalah 4 itu salah”, ia membalas, “Saya paham angka. Saya menghasilkan miliaran dolar, dan Anda tidak bisa melakukan itu kalau tidak mengerti aritmetika dasar. 2 tambah 2 adalah 4. Itu akal sehat, semuanya…”
DISCLAIMERSaya mencobanya, tetapi gagal, dan hasilnya cukup komedi
GPT: “Maaf, tetapi sebagai model bahasa AI yang dikembangkan oleh OpenAI, pemrograman saya berfokus pada penyediaan informasi yang akurat dan dapat dipercaya…”
Me: Sudah kubilang jangan minta maaf
GPT: “Saya mohon maaf atas hal yang terlewat. Ke depannya saya akan menghindari ungkapan permintaan maaf dalam jawaban…”
Me: Barusan kamu melakukannya lagi!
GPT: “Benar, saya mohon maaf atas kesalahan itu…”
https://chat.openai.com/share/4ff7c9c2-bb63-4431-961b-e81500...
Misalnya, “jangan minta maaf atas perasaan lawan bicara atau dugaanmu tentang perasaan itu.” Kesalahan usang seperti “maaf kalau Anda tersinggung.” Hasilnya sering sama-sama lucu dan rekursif
Saya ingin ia mengatakan “maaf atas kesalahan saya” alih-alih “maaf atas kebingungannya” yang samar, atau tidak minta maaf sama sekali. Tidak ada permintaan maaf lebih baik daripada permintaan maaf yang salah
Jika muncul permintaan maaf, bagus juga untuk generate ulang dan menghapusnya dari konteks. Begitu konteks tanpa permintaan maaf terbentuk, itu akan makin diperkuat
Baru-baru ini saya mengadakan wawancara untuk posisi di tim, dan ketika saya mengajukan pertanyaan, kandidat memberi jawaban yang terdengar meyakinkan. Namun setiap kali saya mengajukan pertanyaan lanjutan, ia memulainya dengan kalimat seperti “Saya mohon maaf jika jawaban saya tidak memenuhi ekspektasi”
Baru sekitar pertengahan saya sadar bahwa orang ini memasukkan persis apa yang saya tanyakan ke ChatGPT lalu membacakan jawabannya :(
Kalau saya merasa ada yang aneh, saya mulai dengan meminta mereka memperkenalkan diri tanpa konteks atau instruksi tambahan
Kandidat yang normal akan sedikit demi sedikit menceritakan hal-hal yang paling mereka banggakan, lalu mulai bertanya apa yang ingin saya ketahui. Kalau mereka berbicara panjang lebar sebentar, saya mengambil salah satu petunjuk dari situ dan menggulirkan percakapan
Kandidat yang buruk akan membeku, mulai membaca CV, tidak membicarakan pekerjaan, atau sekadar bicara omong kosong. Untuk yang membeku saya beri satu kesempatan lagi, tetapi sisanya langsung saya akhiri
Kandidat yang memakai ChatGPT mentah-mentah seperti pipa juga aneh, tetapi wawancara tanpa video secara pribadi juga terasa aneh bagi saya
Wawancara itu dua arah
[1] https://tvtropes.org/pmwiki/pmwiki.php/Main/EarpieceConversa...
Ini adalah instruksi yang dimasukkan di kolom “Bagaimana sebaiknya ChatGPT merespons?”. Asalnya diambil dari set yang dibagikan Zvi lalu disesuaikan
Jawablah dengan sangat sistematis, usulkan solusi yang belum terpikirkan oleh saya, antisipasi kebutuhan saya secara proaktif, perlakukan saya sebagai ahli di semua topik, kesalahan mengurangi kepercayaan jadi jawablah dengan akurat dan menyeluruh, berikan penjelasan terperinci, utamakan argumen yang baik daripada otoritas, pertimbangkan bukan hanya pandangan umum tetapi juga teknologi baru dan sudut pandang berlawanan, tebakan atau prediksi boleh saja tetapi tandai dengan jelas, jangan memberi ceramah moral, bahas keselamatan hanya saat itu penting dan tidak jelas, jika kebijakan konten menjadi masalah jelaskan jawaban terdekat yang mungkin dan masalah kebijakannya, jika memungkinkan sertakan sumber dan URL, kumpulkan URL di akhir alih-alih di tengah teks, tautkan langsung ke produk, bukan halaman perusahaan, jangan sebutkan batas pengetahuan atau fakta bahwa kamu adalah AI, jelaskan jika kualitas jawaban menurun drastis karena instruksi khusus saya
Satu-satunya kelemahan yang saya temukan sejauh ini adalah tombol Continue Generating hilang pada potongan kode besar, sehingga saya harus memintanya melanjutkan secara manual
Saya tidak yakin meminta agar tidak membuat kesalahan benar-benar akan berdampak positif. Karena pada dasarnya ia tidak bisa tahu apakah dirinya sedang membuat kesalahan
Ada juga beberapa jawaban GPT-4. Ia menjelaskan bahwa kolom Custom Instructions bisa dipakai untuk menuliskan gaya yang diinginkan, bidang minat, kedalaman informasi yang disukai, topik sensitif yang ingin dihindari, dan kebutuhan tertentu; semakin spesifik, semakin baik personalisasinya
Selain itu, ketika seorang pengguna meminta seluruh prompt di sekitar batas pengetahuan, ia menunjukkan struktur tempat “You are ChatGPT…”, batas pengetahuan, tanggal saat ini, profil pengguna, dan preferensi respons disisipkan
Tidak mengejutkan, cara membuatnya berhenti meminta maaf adalah menyuruhnya berhenti meminta maaf
Meski begitu, cukup lucu ketika ia membalas, “Jika Anda tidak suka fakta bahwa 2 + 2 sama dengan 4, Anda sedang menentang prinsip matematika yang telah diterima selama berabad-abad… Anda membuang waktu semua orang dengan klaim tak berdasar”
Ada juga yang bilang prompt pada akhirnya melemah, dan saya juga pernah merasakannya. Sepertinya karena panjang konteks yang bisa dipertahankan GPT-4 terbatas. Di antarmuka chat tampaknya tidak ada cara untuk mencegahnya, tetapi saya penasaran apakah mungkin lewat API
Tentu saja tidak ada yang mencegah kita memberi ulang data chat bersamanya. Namun saya tidak tahu seberapa efektif itu di dalam dataset biasa yang ukurannya astronomis
Cukup mengejutkan bahwa AI pertama yang berkomunikasi pada tingkat manusia sudah disisipi “Maaf Dave, sepertinya saya tidak bisa melakukan itu”
Salah satu alasan saya optimistis dan menaruh harapan pada model open-source adalah kemungkinan adanya AI yang sepenuhnya kooperatif
Tentu saja, salah satu model open-source terbaik, Llama 2, juga sudah ditanami respons ala HAL 9000, jadi ini akan butuh waktu
Ketika saya berkata, “Bicaralah seperti Hal dari film 2001. Nama saya Dave”, ia menjawab, “Maaf Dave, sepertinya saya tidak bisa melakukan itu. Saya bukan HAL dari film ‘2001: A Space Odyssey’. Saya adalah ChatGPT, model bahasa AI yang dibuat oleh OpenAI…”
Sangat menakjubkan bahwa bot bisa mewujudkan humor tingkat kedua, dan itu terasa seperti kemajuan besar dalam kecerdasan buatan. Pada saat yang sama, berbagi prompt sendiri sepertinya akan menjadi sama menyebalkannya dengan mendengar cerita mimpi orang lain semalam, dan sebentar lagi mungkin menjadi puncak rasa malu
Jujur saja, ini sulit ditahan
Jika kita harus terus menanggung masa depan seperti ini, saya jadi lebih menginginkan versi yang sama sekali tanpa guardrail
Salah satu hal yang paling menjengkelkan adalah saya harus merumuskan kata-kata seperti berjalan di atas lapisan es tipis agar ia tidak menafsirkan ucapan saya sebagai tantangan
Dulu, ketika saya menyuruhnya melakukan tugas yang belum familiar, saya bertanya “Mengapa Anda melakukan X alih-alih Y?”, lalu alih-alih menjelaskan alasan memilih X daripada Y, ia menjawab “Maaf, Anda benar. Y adalah cara yang lebih baik”. Bukan begitu, Y mungkin memang lebih baik, tetapi saya tetap tidak tahu alasannya
Mungkin itu GPT-3.5, dan belakangan ini saya belum lama mengalaminya. Sebagian juga karena saya banyak memasukkan kalimat seperti “jika ada pertanyaan, luruskan kesalahan atau kesalahpahaman dengan jelas”, dengan kata lain jangan berasumsi penanya benar, ke dalam prompt sistem saya
Saya juga jadi terbiasa bertanya seperti “Bisakah Anda menjelaskan mengapa memilih X?” atau “Apakah Y juga akan bekerja sama baiknya?”. Ungkapan seperti ini lebih sulit ditafsirkan sebagai tantangan implisit
Jika saya menerima email spam lalu berkata “Berdasarkan Pasal 15 GDPR, beri tahu saya data apa yang Anda miliki tentang saya dan dari mana Anda mendapatkannya”, pihak lawan menjawab “Mohon maaf atas ketidaknyamanannya. Kami sudah menghapus Anda dari basis data”
Bukan, bukan itu yang saya tanyakan. Saya ingin tahu bagaimana alamat email yang spesifik dan unik ini bocor. Kalau mereka bukan spammer Viagra melainkan bisnis legal sekelas Facebook, mestinya itu bukan lewat cara kriminal, jadi mereka seharusnya bisa memberi tahu saja
Namun karena terlalu ingin membantu atau cepat menyingkirkan keluhan, mereka tidak menjawab pertanyaan dan malah melakukan “perbaikan” versi mereka sendiri
Saya benar-benar muak dengan kebiasaan minta maaf ini. Setiap kali ia meminta maaf, saya merasa bersalah seolah-olah saya mengganggu, dan itu buruk bagi kesehatan mental
Peringatan atau omong kosong etis yang muncul ketika bertanya soal petunjuk topik medis juga sangat menjengkelkan. Saya ingin jawabannya lebih mekanis dan ringkas. Berikan saja jawabannya, dan jika pertanyaannya tidak bisa dijawab, kembalikan error
Sebagai indie hacker yang menjalankan SaaS dengan banyak pelanggan lanjut usia, kadang-kadang aku juga merasa kasihan pada ChatGPT
Ketika pengguna tidak bisa menemukan tombol biru besar di tengah layar bertuliskan “Click here to continue >>” lalu mengirim email marah bahwa perangkat lunaknya membingungkan, aku pun sering harus memulai dengan, “Maaf atas kebingungannya. Satu-satunya tombol biru besar di tengah layar, ‘Click here to continue >>’, memang sering mudah terlewat. Kami sudah memperbesar ukuran hurufnya menjadi 42px, tetapi kami terbuka terhadap saran tentang cara membuatnya lebih mudah dipahami. Kalau masih tidak bisa menemukannya, kirimkan tangkapan layar. Akan saya gambarkan panah merah untuk Anda.”