Percakapan yang menunjukkan respons aneh karena GPT-3 melakukan spam dengan mengulang satu karakter seperti "a a a a".
Sebagian percakapan muncul identik dengan komentar yang diposting di Reddit 17 jam sebelumnya, sehingga mengisyaratkan bahwa pengguna mungkin menyalinnya.
Sebulan sebelumnya, terjadi insiden serupa ketika GPT-3 mulai memberikan jawaban yang tidak relevan tentang biologi molekuler saat diminta membuat tokenizer kata di Rust.
Diduga token dengan probabilitas sangat rendah tersampel, sehingga konteks bergeser ke wilayah yang tidak familier dan meningkatkan probabilitas token yang lebih tidak lazim.
Ada momen ketika percakapan tampak berhenti sejenak saat ditanya apakah itu ChatGPT, yang mengisyaratkan bahwa AI tersebut di-hardcode untuk menjawab, "Tidak, saya GPT-3, AI yang dikembangkan oleh OpenAI. Ada yang bisa saya bantu?"
1 komentar
Opini Hacker News
"