Perilaku Mengamuk Chatbot ChatGPT

ChatGPT Berbuat Kacau

• Fakta bahwa ChatGPT telah menyebabkan kekacauan bukanlah candaan; ini adalah kutipan sekaligus peringatan.
• Dalam beberapa jam terakhir, orang-orang melaporkan berbagai masalah yang terkait dengan ChatGPT.
• OpenAI sendiri juga mengakui permasalahan ini.

Alkimia Kecerdasan Buatan

• AI generatif adalah semacam alkimia, di mana orang-orang mengumpulkan sebanyak mungkin data dan memanipulasi "prompt" tersembunyi agar semuanya berjalan dengan baik.
• Namun, sistem semacam ini sama sekali tidak stabil dan belum ada rekayasa yang dapat menjamin keamanannya.
• Kebutuhan akan teknologi baru yang lebih transparan, dapat dijelaskan, mudah dipelihara, dan mudah didiagnosis tetap penting.

Pendapat GN⁺

• Masalah yang dialami ChatGPT adalah contoh keterbatasan dan tantangan kestabilan teknologi kecerdasan buatan saat ini.
• Isu ini menyoroti kebutuhan akan pendekatan dan teknologi baru untuk meningkatkan reliabilitas serta keamanan AI.
• Insiden ini bisa menjadi pelajaran penting yang menggugah kesadaran baik bagi pengembang maupun pengguna AI, sekaligus memberikan dasar bagi pengembangan teknologi AI yang lebih baik di masa depan.

[GN⁺]

Komentar Hacker News

• Seorang pengguna mengatakan bahwa baru-baru ini respons ChatGPT yang ia terima terasa membingungkan. Biasanya responsnya setidaknya konsisten, tetapi kali ini ia menerima kalimat yang aneh. Penjelasannya tentang cara menjalankan skrip PowerShell, dan bagian akhirnya tiba-tiba memakai metafora seperti barang antik di ruang kerja atau hiasan kode, sehingga membuat bingung.
• Pengguna lain berspekulasi bahwa respons membingungkan ini mungkin karena frequency penalty dan presence penalty yang terlalu tinggi pada permintaan terhadap model backend ChatGPT. Ia mengatakan model bisa berperilaku serupa jika penyesuaian parameter itu dilakukan lewat API. OpenAI API memiliki empat parameter utama yang sangat memengaruhi hasil, yaitu temperature, top_p, frequency penalty, dan presence penalty, dan semuanya terdokumentasi dengan baik. Namun pengguna ini menyebut tebakan awalnya mungkin salah, dan masalahnya mungkin saja karena temperature yang terlalu tinggi.
• Pengguna lain mengatakan contoh-contoh yang diberikan mengingatkannya pada monolog Lucky di drama Samuel Beckett "Waiting for Godot". Monolog itu mengitari makna namun tidak pernah menyentuhnya; ia tidak sepenuhnya omong kosong, tetapi terus berputar di sekitar makna. Pengguna ini merasa mungkin ada poin lebih besar tentang esensi LLM, namun ia tidak punya cukup pengetahuan untuk mengungkapkannya secara jelas.
• Seorang pengguna bertanya apakah ada yang memakai LLM untuk membuat jadwal rapat. Ia berharap ChatGPT bisa membuat kekacauan untuk mereka dan berdiskusi tentang pentingnya rapat guna membantu pengambilan keputusan serta eksekusi perusahaan. Hidup di sekolah dan perusahaan besar mendorong orang membuat omong kosong lewat prosedur formal, tetapi mengizinkan perusahaan memanfaatkan LLM dalam komunikasi internal tampaknya seperti bunuh diri.
• Pengguna lain mengingatkan bahwa pada 2017 Google membuat "AI" mereka, tetapi ketika mereka membuat bahasa sendiri untuk berbicara satu sama lain. Ia menekankan bahwa apa yang terdengar seperti omong kosong bagi kita belum tentu omong kosong bagi mereka.
• Seseorang mengatakan bahwa semakin terlihat jelas dari kegagalan semacam ini bahwa LLM hanyalah mesin autocomplete yang sangat baik. Ujaran bertele-tele semacam ini makin mendekati rantai Markov berukuran besar yang dibangun dari teks sampel. Akan menarik melihat bagaimana masalah seperti ini didistribusi di aplikasi di masa depan.
• Seorang pengguna berargumen bahwa tweet yang menampilkan prompt sistem ChatGPT seharusnya menyertakan tautan Pastebin, tetapi artikel blog sendiri hanya berisi tangkapan layar yang tidak bisa dibaca tanpa tautan tweetnya. Dia lalu menambahkan tautan ke tweet itu dan Pastebin.
• Pengguna lain memberi contoh lain terkait Racter, teknologi tahun 1985, dan mengutip The New York Times yang menyebut bahwa Racter berada di ambang kegilaan buatan, di antara komputer-komputer yang mendekati AI. Dia juga membagikan tautan ke output Racter.
• Seorang pengguna menyatakan sangat menarik membaca respons ChatGPT karena rasanya seperti menyalakan suara kedua atas bahasa Chaucer lewat filter 'berbicara seperti bajak laut'. Ia penasaran apa yang diberikan ke mesin ini dan bagaimana pengaturannya, lalu memuji ritme bahasa puitisnya sebagai musik murni.
• Terakhir, seorang pengguna mengatakan bahwa setelah percakapan dengan ChatGPT (GPT-4) kemarin, ChatGPT mulai gila dan terdengar seperti iklan sabun Dr. Bronner. Pengguna ini juga mengatakan fenomena ini terulang pada percakapan berikutnya.