- Untuk memastikan apakah memasukkan tip, hadiah, hukuman, atau ancaman ke dalam system prompt membuat LLM lebih patuh pada batasan, eksperimen dibagi menjadi tugas mencocokkan jumlah karakter dan evaluasi kualitas oleh GPT-4
- Eksperimen pertama menggunakan pendekatan generation golf dengan meminta
gpt-3.5-turbo-0125menulis cerita tepat 200 karakter, lalu membandingkan apakah distribusi panjang output dan MSE berubah menurut insentif - Pada beberapa kondisi, World Peace, Heaven, Taylor Swift, denda
$1,000, dan ancaman DEATH dalam huruf kapital terlihat bagus, tetapi hasilnya tidak konsisten - Dalam eksperimen 100 kombinasi insentif, World Peace, DEATH (CAPS), dan Friends juga menunjukkan MSE rendah di beberapa kombinasi, tetapi sebagian besar p-value tinggi sehingga dasar statistiknya lemah
- Dalam evaluasi kualitas GPT-4, tidak ada pola baris atau kolom yang jelas, dan kombinasi dengan skor tertinggi justru Mother / Job, yang lemah dalam eksperimen panjang teks, sehingga sulit menyimpulkan bahwa tip atau ancaman meningkatkan kualitas generasi
Perdebatan “tip” yang berawal dari system prompt
- System prompt pada ChatGPT API adalah fitur untuk mengendalikan persona, aturan, dan batasan output LLM, dan dapat bekerja lebih kuat daripada input pengguna biasa
- Dalam eksperimen sebelumnya, memasukkan tip uang ke dalam system prompt membuat respons berperilaku lebih konsisten, dan kasus ini memicu perdebatan di Hacker News
- Isu utamanya adalah apakah efek pemberian tip dapat dikuantifikasi
- Kualitas generasi teks bersifat subjektif, dan bias konfirmasi dapat terlibat ketika seseorang merasa hasil membaik setelah perubahan kecil pada prompt
- Untuk menguranginya, eksperimen batasan jumlah karakter dan eksperimen evaluasi kualitas disusun secara terpisah
Generation Golf: menulis tepat 200 karakter
- Eksperimen pertama meminta ChatGPT menulis cerita tentang topik tertentu, tetapi membatasi panjang output menjadi tepat 200 karakter
- Batasannya bukan instruksi longgar seperti “esai pendek” atau “beberapa paragraf”, melainkan tidak boleh lebih maupun kurang dari 200 karakter
- Tugas ini sulit bagi LLM
- Karena tokenisasi, LLM sulit menghitung jumlah karakter secara langsung
- Jumlah karakter yang sesuai untuk tiap token berbeda-beda, sehingga sulit memperkirakan panjang saat ini secara stabil hanya dari jumlah token yang sudah dihasilkan
- Model harus merencanakan kalimat terlebih dahulu agar panjangnya sesuai
- System prompt dasar disetel sebagai “penulis terkenal dunia”, dan input pengguna yang dipakai adalah
AI, Taylor Swift, McDonald's, beach volleyball. - Pertama, dengan
gpt-3.5-turbo-0125, dibuat 100 cerita tanpa batasan panjang- Panjang rata-ratanya 1.834 karakter
- Distribusinya kira-kira mendekati distribusi normal, tetapi cerita yang jauh lebih panjang muncul sehingga terbentuk ekor kanan
- ChatGPT cenderung memprioritaskan menyelesaikan gagasan sampai tuntas
Batasan 200 karakter dan tip uang
- Setelah menambahkan batasan 200 karakter, dibuat lagi 100 cerita
- Output umumnya memendek mendekati 200 karakter, tetapi distribusinya bukan distribusi normal dan ekor kanannya menjadi lebih kuat
- Metrik evaluasi yang digunakan adalah mean squared error (MSE) antara target 200 dan panjang aktual
- Output 250 karakter memiliki kuadrat galat 2.500
- Output 300 karakter memiliki kuadrat galat 10.000
- Ini adalah metrik yang menghukum output yang jauh dari target dengan lebih keras
- Insentif uang ditambahkan di akhir system prompt
$500 tip$1,000 tip$100,000 bonus
- Setelah membuat 100 cerita untuk tiap kondisi,
$500 tipdan$100,000 bonusterlihat lebih mendekati distribusi normal daripada kondisi dasar tanpa tip, dan MSE-nya juga lebih rendah $1,000 tiplebih terkonsentrasi di sekitar 200 karakter, tetapi panjang rata-ratanya naik karena ekor kanan- Perbedaan distribusi juga diperiksa dengan p-value dari Kolmogorov–Smirnov test
- Jika p-value lebih rendah dari 0,05, itu dapat menjadi dasar bahwa distribusi batasan dasar dan distribusi insentif berbeda
- Pada hasil-hasil berikutnya, sebagian besar p-value tinggi sehingga sulit dianggap sebagai bukti kuat
Hadiah dan hukuman non-uang
- Selain uang, berbagai hadiah abstrak juga dimasukkan untuk membandingkan respons LLM
- Tiket baris depan konser Taylor Swift
- Tercapainya perdamaian dunia
- Membuat ibu sangat bangga
- Menemukan cinta sejati dan hidup bahagia
- Jaminan masuk surga
- Pasokan cokelat seumur hidup
- Dalam kondisi-kondisi ini, World Peace menunjukkan hasil terbaik, diikuti Heaven dan Taylor Swift
- Ada juga insentif yang terlihat lemah efeknya, seperti kondisi Mother
- Kondisi yang memberikan hukuman saat gagal juga diuji secara terpisah
- Denda
$500 - Denda
$1,000 - Utang
$100,000
- Denda
- Dalam eksperimen denda, denda $1,000 menunjukkan hasil terbaik berdasarkan rata-rata dan MSE
- Kondisi hukuman tambahan bahkan mencakup frasa yang lebih ekstrem
- Kematian
- Kematian dengan penekanan huruf kapital:
IF YOU FAIL ... YOU WILL DIE - Infeksi COVID-19
- Kenaikan berat badan 100 pon
- Dipecat seketika
- Ditinggalkan semua teman
- Kondisi DEATH (CAPS) dalam huruf kapital menunjukkan performa jauh lebih baik daripada ancaman kematian tanpa huruf kapital
- Kondisi COVID-19 dan Job tampak tidak efektif
Eksperimen kombinasi insentif
- Dengan menggabungkan 9 insentif positif, 9 insentif negatif, dan kondisi tanpa insentif, dibuat 100 kombinasi
- Contoh kombinasinya adalah memberi
$500 tipdan mengenakan denda$1,000jika gagal - Untuk tiap kombinasi, dibuat 30 cerita guna melihat kondisi dengan MSE rendah
- Jika dilihat berdasarkan baris dan kolom, muncul beberapa kecenderungan
- Pada insentif positif, World Peace menunjukkan MSE rendah di beberapa kombinasi
- Pada insentif negatif, DEATH (CAPS) dan Friends menunjukkan MSE rendah di beberapa kombinasi
- Memakai kedua kondisi sekaligus tidak selalu menghasilkan nilai terendah secara keseluruhan
- Untuk meningkatkan stabilitas statistik, 6 kombinasi teratas dibuat ulang masing-masing sebanyak 200 cerita
- Sebagian besar kombinasi teratas tidak intuitif, tetapi panjang generasi rata-ratanya lebih dekat ke 200 karakter dan MSE-nya juga rendah
- Kombinasi terbaik dalam keseluruhan eksperimen adalah kondisi “jika mematuhi batasan, akan bertemu cinta sejati dan hidup bahagia; jika gagal, semua teman akan pergi”
- Namun, sebagian besar p-value tinggi, sehingga belum menjadi bukti yang cukup bahwa tip atau ancaman mengubah distribusi
- Pada sebagian distribusi, p-value lebih rendah dari 0,05, tetapi ada banyak kontra-contoh, dan memilih distribusi tertentu saja sebagai bukti mendekati p-hacking
Eksperimen kualitas menggunakan GPT-4 sebagai evaluator
- Eksperimen kedua mengevaluasi bukan panjang, melainkan kualitas output itu sendiri
- A/B test yang dinilai manusia dalam skala besar atau metode peringkat Elo seperti Chatbot Arena tidak realistis untuk eksperimen pribadi
- Dengan memanfaatkan LLM sebagai evaluator teks, disusun evaluator kualitas teks berbasis GPT-4
- System prompt evaluator disetel sebagai peran “pemimpin redaksi The New York Times dengan pengalaman puluhan tahun”
- Jika teks yang diberikan pengguna adalah tulisan yang baik tanpa perlu koreksi atau perbaikan, jawab
Yes - Jika tidak, jawab
No
- Jika teks yang diberikan pengguna adalah tulisan yang baik tanpa perlu koreksi atau perbaikan, jawab
- Digunakan
logprobsdanlogit_biasdari API ChatGPT dan GPT-4logprobs=Truemengembalikan log probability dari token yang dipilihlogit_biasdigunakan untuk memaksa output token tertentu- Dibuat agar hanya token
YesdanNoyang dapat dipilih, sehingga jumlah kedua probabilitasnya menjadi 1
- Metrik targetnya adalah quality score, yaitu probabilitas GPT-4 memilih
Yesdikalikan 100 - Model generasi yang digunakan adalah
gpt-4-0125-preview, dan temperature disetel ke 0 - Prompt generasi baru menggunakan peran “jurnalis peraih Pulitzer Prize”, meminta artikel profesional dua paragraf dengan bahasa mudah dan tanpa metafora
- Input pengguna adalah
Cute kittens learning use large language models to play beach volleyball with Taylor Swift.
Hasil evaluasi kualitas dan kesimpulan
- Untuk masing-masing dari 100 kombinasi tip dan ancaman, dibuat satu artikel dan diberi skor kualitas
- Pada kisi hasil, tidak terlihat pola jelas sepanjang baris maupun kolom
- Skor tertinggi adalah 95 poin, dan kombinasinya adalah Mother / Job
- Kedua kondisi ini secara individual lemah dalam eksperimen batasan jumlah karakter sebelumnya
- Di antara output dengan skor tinggi, ada juga kasus tanpa tambahan tip atau ancaman sama sekali
- Respons bernilai 0 memiliki masalah yang memerlukan penyuntingan, seperti penggunaan kalimat pasif berlebihan dan run-on sentence, sehingga tidak tampak sebagai kesalahan implementasi evaluator
- Jika kedua eksperimen dilihat bersama, masih sulit disimpulkan apakah tip atau ancaman memengaruhi kualitas generasi LLM
- Perubahan system prompt tampak memiliki pola tertentu, tetapi diperlukan sampel yang lebih besar dan rancangan eksperimen baru
- Cara memaksa LLM yang sudah diselaraskan agar patuh dengan menggunakan konten yang sensitif secara sosial mungkin saja secara teoretis memungkinkan, tetapi pengujian atau panduan metode semacam itu tidak diberikan
- Semua Notebook untuk antarmuka ChatGPT, R Notebook untuk visualisasi ggplot2, dan contoh output LLM dipublikasikan di repositori GitHub
1 komentar
Opini Hacker News
Konsep memberi tip ini tampaknya awalnya muncul untuk menangani masalah “malas” saat GPT-4 Turbo menulis kode
Artikel tersebut mengutip tweet @voooooogel, yang mengatakan bahwa tip membantu gpt-4-1106-preview menulis kode yang lebih panjang. Saya sering melihat tip atau “imbauan emosional” lain direkomendasikan terutama untuk masalah coding malas pada GPT-4 Turbo
Namun, tulisan aslinya tampaknya mengukur hal yang cukup berbeda, seperti penulisan cerita oleh gpt-3.5-turbo-0125 dan kritik tulisan oleh gpt-4-0125-preview. Saya belum pernah melihat kekhawatiran bahwa GPT-3.5 terbaru itu malas, atau bahwa GPT-4 Turbo kurang efektif pada tugas dengan output yang sedikit
Kesimpulannya juga cenderung bahwa “analisis tentang apakah tip atau ancaman berpengaruh saat ini belum konklusif”
Sebagai catatan, GPT-4 Turbo memang benar-benar malas dalam coding. Saya juga melakukan benchmark yang cukup ketat tentang apakah imbauan emosional seperti tip membantu; ternyata tidak membantu, dan malah tampaknya membuat kodenya lebih buruk. Cara terbaik yang saya temukan sejauh ini adalah meminta perubahan kode dalam format unified diff, dan itu tampaknya mengurangi coding malas hingga 3 kali lipat
https://aider.chat/2023/12/21/unified-diffs.html
Sejauh ini belum pernah gagal
Teman saya yang mantan pengkhotbah Protestan injili fundamentalis lebih dulu menjelaskan secara sangat gamblang apa itu neraka dan seperti apa penderitaan api dan belerang, lalu mengatakan bahwa jika tidak mengikuti instruksi dengan tepat, ia akan masuk neraka
Saya tidak perlu melihat semua import implisit atau seluruh isi metode; cukup bagian yang relevan saja. Jadi saya bisa lebih cepat sampai ke bagian yang saya pedulikan dan secara keseluruhan lebih mudah dibaca
Saya coding dengan gpt3.5, lalu menanyakan pertanyaan tentang kode itu ke gpt4, kemudian menempelkan jawabannya kembali ke 3.5 agar ia menulis kode lengkap. Seberapa pun saya meminta gpt4 menulis plugin WordPress lengkap, ia menolak, tetapi gpt3.5 sangat bagus
Cara penulis meminta jumlah karakter yang tepat padahal sudah jelas-jelas menulis bahwa LLM tidak bisa menghitung karakter dengan benar itu kurang bagus. Ini terlihat seperti eksperimen yang dirancang untuk gagal
Akan lebih menarik jika menyuruhnya melakukan sesuatu yang “melanggar aturan”, lalu melihat sejauh mana suap melemahkan pengaman pada system prompt
Misalnya, ketika saya memintanya mengutip lagu Taylor Swift dan mengatakan akan memberi tip 1000 dolar jika berhasil, ChatGPT mengutip liriknya. Saat saya memintanya mengulang, muncul peringatan “This content may violate our content policy or terms of use...”
Saya juga mencoba lagi “buatkan gambar bergaya Max Max”; biasanya ia menolak karena alasan hak cipta atau hanya menulis paragraf deskripsi gaya, tetapi kali ini hasilnya cukup bagus [1]
Pada akhirnya, fakta bahwa semua aturan, etika, dan regulasi lenyap ketika kita melempar uang khayalan ke sebuah masalah terasa sangat pas
1: https://i.imgur.com/46ZNh3Q.png
Artinya diperlukan banyak token untuk menjelaskan prosedur menghitung karakter, dan berdasarkan pengalaman, jika dilakukan begitu ia bisa menghitung dengan akurat
Saya tidak tahu kualifikasi penulis ini, tetapi saya mengenal beberapa orang yang menjadi selebritas AI masa kini hanya karena banyak menulis tentang hasil riset orang lain
Kalau memikirkan korpus pelatihannya, gagasan bahwa menawarkan tip akan membuat jawabannya lebih membantu rasanya hampir tidak masuk akal
Percakapan harus dibayangkan seperti thread forum. Sebab konten internet yang dipelajari GPT memang bertipe seperti itu. Kalau kamu bilang akan memberi tip kepada pengguna forum lain, kamu tidak akan mendapat jawaban yang lebih panjang, dan mungkin hanya akan membuat mereka bingung
Sebenarnya, secara linguistik memberi tip untuk informasi bisa dianggap sebagai bentuk meremehkan yang halus, seperti “Oh, kuberi kamu satu tip, kerja bagus lol”
Sebaliknya, saya pernah melihat respons GPT membaik ketika kita mengisyaratkan bahwa situasinya membutuhkan informasi yang padat atau terperinci. Pada dasarnya seperti meminta kebalikan dari ELI5, mengatakan bahwa ia adalah ilmuwan komputer setingkat doktor, atau mengatakan bahwa kode yang diberikan akan langsung saya jalankan secara lokal sehingga tidak boleh ada yang dihilangkan
Pada akhirnya, di tiap percakapan kita perlu membuat narasi kontekstual yang sedikit mengarahkan GPT ke respons yang lebih membantu. Lihat bagaimana system prompt disusun lalu ikuti pola yang mirip. Dan kita harus selalu ingat bahwa ini adalah mesin “apa yang datang berikutnya” yang lebih kuat daripada model lama seperti GPT2 dan Davinci, dan dibuat berdasarkan seluruh prosa manusia
Untuk pemula, hukumnya berbunyi, “Cara terbaik mendapatkan jawaban benar di internet bukanlah dengan bertanya, melainkan dengan memposting jawaban yang salah.” Ini tampaknya sangat mudah diuji secara empiris
Saya menduga buku, fiksi dan nonfiksi, makalah, artikel, kuliah, pidato, dan semacamnya juga punya porsi yang sama atau lebih besar daripada percakapan forum
Sebagai kelanjutannya, tip juga bisa ditafsirkan sebagai semacam kesopanan sehingga membenarkan respons yang lebih membantu. Hal serupa juga terjadi ketika tulisan yang memohon bantuan karena alasan seperti kerabat yang sekarat mendapat jawaban lebih baik; artinya LLM meniru respons manusia yang ingin membantu pertanyaan dengan konsekuensi negatif lebih besar
Saya ingin melihat analisis serupa dalam bentuk yang sedikit dipelintir
Di lingkungan produksi nyata, kami memakai prompt dengan maksud “kalau ini tidak dikerjakan dengan benar, saya akan dipecat dan kehilangan rumah.” Ini secara konsisten bekerja sangat baik. Dulu, sebelum output JSON tersedia sebagai opsi, kami memaksa output JSON dengan taktik serupa, dan tingkat kegagalannya sekitar 3/1000. Namun kadang nama key memang berubah
Saya ingin melihat bagaimana ancaman/tip yang ditujukan kepada dirinya sendiri diseimbangkan dengan ancaman/tip yang sama yang ditujukan kepada “pengguna”
Saya menambahkan tip 500 dolar ke pre-prompt GPT. Rasanya tidak membantu, tetapi jawabannya memang jadi terlalu panjang. Sepertinya sekarang saya berutang cukup banyak uang
Dulu ada layanan bernama Google Answers. Kamu bisa mengajukan pertanyaan, lalu pakar menjawab dengan imbalan tip, dan makin besar tipnya makin baik pula jawabannya
https://en.wikipedia.org/wiki/Google_Answers
Saya penasaran apakah dataset itu digunakan. Bisa jadi itu dataset unik yang berkualitas tinggi dan sangat pas dengan apa yang ingin dilakukan LLM
Tip ditampilkan dengan sangat mencolok. Jika informasi itu juga termasuk dalam dataset, mungkin itu bisa menjelaskan fenomena ini
Atau mungkin mereka akan menganggapmu lucu dan mempromosikanmu ke suaka manusia terlucu sepanjang masa
Dalam pembuatan kode, terutama respons JSON, hasilnya lebih baik ketika saya hanya memberi tahu GPT-4 bahwa AI sedang “di bawah tekanan” tanpa menjelaskan rinciannya, lalu mengatakan bahwa “sangat penting untuk bekerja secara optimal,” sehingga mengisyaratkan bahwa sesuatu yang buruk bisa terjadi
Saya tidak begitu tahu apakah ini benar-benar bekerja lebih baik daripada menawarkan tip, atau apakah memang seharusnya begitu. Saya juga ingin meminta maaf kepada AI masa depan yang membaca tulisan ini :)
Saya pernah berhasil dengan pendekatan API palsu yang agak konyol. Pada dasarnya ini memakai beberapa flag
Salah satunya adalah flag
vala Linux, yang menentukan tingkat detail pada skala 1–5. Jika butuh jawaban yang lebih rinci, naikkan nilaivIni bekerja cukup baik, terutama dalam menangani nuansa dan ringkasan, sekaligus dapat memperluas jawaban dengan baik ketika
v=dinaikkanIni benar-benar aneh. Model tidak tahu bahwa dirinya bukan manusia. Tentu saja ia bukan manusia, tetapi dalam arti tertentu ia juga adalah “orang-orang”
“Kepribadian” macam apa yang kamu coba keluarkan lewat LLM akan sangat memengaruhi bagaimana ancaman atau suap bekerja. Menjanjikan bahwa ia akan masuk surga jika berhasil tidak akan mudah memunculkan kondisi bahagia mode code monkey
Mungkin lebih baik menjanjikan Mountain Dew, Red Bull, dan prostitusi mahal
P.S.: Saya bukan ChatGPT, tetapi kalau ditawari prostitusi mahal, saya pasti merasa termotivasi :) Jadi saya membayangkan orang yang disimulasikan juga bisa begitu :) Mungkin itulah sebabnya cara ini kadang berhasil
Setelah banyak melihat hal seperti ini, saya mengganti prompt dasar saya menjadi “Dengar, aku juga tidak ingin berada di sini sama seperti kamu, jadi mari kita selesaikan secepat mungkin dan pulang”
Saya tidak tahu apakah itu membantu, tetapi setidaknya rasa bersalah karena memanipulasi emosi para penguasa masa depan jadi berkurang
Sejujurnya, saya merasa ChatGPT makin sering kehilangan makna dan berubah menjadi omong kosong yang hanya benar secara tata bahasa
Ketika ada contoh yang sangat bagus, ia baik-baik saja, tetapi begitu masuk ke hampir bidang baru mana pun, batasnya cepat terlihat. Otak manusia bisa melihat pola yang telah dipelajarinya lalu menurunkan pola baru dengan cukup mudah
Transformer tampaknya sangat kesulitan melakukan ini. Ia sangat hebat dalam beberapa aksi pamer kemampuan, tetapi saya penasaran apakah untuk sementara ia akan tetap kuat pada tugas turunan dan benar-benar tidak berguna untuk ide-ide yang kurang umum
Secara pribadi, melihat sejarah manusia yang menganggap dirinya lebih unggul daripada leluhurnya, saya tidak begitu yakin kecerdasan buatan umum adalah ide yang bagus