Surat kabar Pakistan tak sengaja mencetak prompt AI bersama artikel

• Sebuah surat kabar di Pakistan mencetak mentah-mentah kalimat prompt untuk pembuatan AI bersama isi artikel
• Kalimat yang tercetak berisi instruksi kepada AI untuk menulis artikel, dan tampaknya tidak dihapus dalam proses penyuntingan
• Kesalahan ini menjadi sorotan sebagai contoh bahwa penggunaan alat AI sudah diterapkan di ruang redaksi
• Unggahan Twitter tersebut memuat foto halaman surat kabar dengan gambar yang jelas menampilkan kalimat prompt itu
• Ini dinilai sebagai kasus yang memperlihatkan persoalan batas antara pemanfaatan AI dan pengendalian mutu editorial

---

Ringkasan kejadian

• Pengguna Twitter Omar Quraishi mengunggah foto halaman sebuah surat kabar di Pakistan
• Pada foto tersebut, di atas isi artikel, kalimat prompt yang memberi instruksi kepada AI untuk menulis artikel tercetak apa adanya
• Kalimat tersebut dipastikan bukan isi artikel biasa, melainkan perintah yang dimasukkan ke alat penyuntingan AI

Reaksi online

• Unggahan Twitter itu mendapat perhatian sebagai akibat dari penggunaan AI yang ceroboh
• Sejumlah pengguna menyebutnya sebagai bukti bahwa penulisan artikel dengan bantuan AI memang dilakukan di internal perusahaan media
• Di luar unggahan asli, tidak ada penjelasan tambahan maupun pernyataan resmi dari surat kabar yang disebutkan

Makna

• Kasus ini menunjukkan kenyataan bahwa alat AI sedang terintegrasi ke dalam proses produksi berita, sekaligus menyoroti pentingnya proses pengecekan editorial
• Ini tercatat sebagai salah satu kasus cetak pertama di mana prompt AI terekspos apa adanya
• Selain tweet asli, tidak ada informasi tambahan atau laporan lanjutan

[realg]

Bukankah di Korea ini sudah jadi hal yang lumrah?

[GN⁺]

Komentar Hacker News

• Judul artikel saat ini, “Pakistani newspaper mistakenly prints AI prompt with the article”, sebenarnya tidak akurat
  Yang tercetak bukanlah prompt, melainkan kalimat sisa (fluff) yang dihasilkan chatbot
  Artikel yang dimaksud berjudul “Auto sales rev up in October”, sebuah artikel yang sangat kering dan berfokus pada statistik
  Tulisan seperti ini memang area yang sering membuat LLM keliru, dan sejujurnya akan jauh lebih baik jika disajikan dalam bentuk tabel atau grafik
  Terus terang, tugas seperti “terima data tabel, ambil insight statistik, lalu tulis menjadi kalimat” adalah bentuk kerja rutin yang memang tidak disukai manusia
  • Surat kabar tersebut adalah harian berbahasa Inggris terkemuka di Pakistan, dengan pembaca yang semuanya berpendidikan universitas, tetapi hampir tidak pernah menyertakan grafik atau tabel dalam artikel keuangan
    Dulu saya pernah melihat kolom yang menulis “pindahkan data dari situs web pemerintah ke Excel lalu buat grafiknya”, dan saya tidak mengerti kenapa grafik itu tidak langsung dimasukkan ke artikelnya
  • Sebenarnya AI-lah yang menyarankan kepada manusia, “Mau saya buatkan versi yang lebih baik?”, jadi mungkin judulnya tidak sepenuhnya salah
  • Artikel keuangan maupun olahraga sudah lama ditulis dengan gaya yang ditemplatkan, jadi kejadian ini terasa seperti kelanjutan dari hal itu
  • Fakta bahwa reporter akhirnya meninggalkan gaya “infografik ringkasan satu baris” dan memakai draf mentah apa adanya menunjukkan bahwa ia tampaknya tidak merasa perlu memberi dampak lebih kepada pembaca
  • Kalimat sisa chatbot seperti ini juga kadang terlihat di email kantor
    Biasanya jejak seperti ini muncul dalam email pengumuman yang tidak penting
• Ketika reporter ditanya, “bagaimana hal seperti ini bisa terjadi?”, ia dikabarkan menjawab, “Pertanyaan yang bagus. Anda langsung menyentuh inti masalahnya. Mari kita lihat bersama mengapa pertanyaan itu efektif…”
  • Lalu muncul reaksi bercanda seperti, “Komentar yang tajam, mari kita analisis kenapa”
  • Mulai sekarang saya rasa saya akan memperhatikan apakah setiap artikel yang judulnya berupa pertanyaan diawali dengan “Pertanyaan yang bagus!”
  • Kalimat seperti “tidak dimulai dari 5W, melainkan langsung ke pertanyaan yang paling penting” adalah contoh khas template ‘bukan A, melainkan B’
  • Sebagian orang menertawakan bahwa reporter itu bereaksi terlalu berlebihan, sampai dua kali lipat
• Hal serupa juga pernah terjadi di Spiegel di Jerman
  Bisa dilihat dari catatan koreksi di akhir artikelnya
  Tautan artikel terkait
  • Ada juga kasus serupa dalam makalah akademik
    Postingan Fediscience memuat DOI asli beserta pengumuman penarikan
  • Meski begitu, saya pikir mengakui kesalahan dan tidak menyembunyikannya adalah sikap yang adil
  • Ada juga komentar sinis seperti, “editor bahkan tidak membaca artikelnya dan langsung menekan tombol PUBLISH”
• Versi online kemudian sudah diperbaiki
  Ditambahkan catatan editor yang menyatakan, “Penggunaan AI dalam penyuntingan melanggar kebijakan Dawn, kalimat terkait telah dihapus, dan penyelidikan sedang berlangsung”
  Tautan artikel
  Teks versi cetak diunggah ke Pastebin
  • Ada yang menyoroti bahwa kalimat “Pelanggaran kebijakan AI disesalkan” adalah contoh buruk dari kalimat pasif
  • Yang lain menyayangkan hal-hal yang dirampas teknologi, sambil berkata bahwa penyuntingan kini dilakukan secara oportunistis, seperti dunia di 1984
• Muncul pertanyaan, “kalau semuanya dihasilkan, untuk apa repot-repot dibaca?”
  Ini adalah pandangan skeptis bahwa bukankah lebih baik langsung saja bertanya ke LLM
  • Era LLM tampaknya menjadi momen yang memperlihatkan apa yang benar-benar bernilai
  • Pada akhirnya arus saat ini memang bergerak ke arah itu
  • Jika LLM menghasilkan tanpa data apa pun, akan muncul penurunan kualitas (sloppy output)
    Tetapi jika bahan dan sudut pandang disediakan bersama, hasilnya bisa jauh lebih baik
    Menganggap semua keluaran LLM sebagai ‘sampah’ tidak mencerminkan kenyataan
• Sebentar lagi seluruh dunia tampaknya akan berbicara dalam bahasa Inggris Amerika yang sempurna, tetapi mungkin itu hanya akan terjadi di atas kertas
  • Jika prompt diberi ungkapan dan ejaan regional, penyesuaian bisa dilakukan dengan mudah
  • Saya memberi instruksi kepada Gemini agar sama sekali tidak memakai ejaan Amerika, dan agar melafalkan huruf Z dengan cara Inggris
    Saya tidak berniat melepaskan identitas bahasa saya
• Sebenarnya mengubah data menjadi kalimat itu membosankan
  Tetapi sebagai pembaca, rasanya aneh membaca tulisan yang “tidak pernah benar-benar ditulis oleh siapa pun”
  Belakangan ini banyak loop pemborosan energi di mana satu pihak memakai AI untuk membuat email panjang, lalu pihak lain memakai AI lagi untuk merangkumnya jadi satu baris
  • Saya pribadi lebih suka membaca fakta saja tanpa embel-embel
• Belakangan ini dokumen dan spesifikasi yang diberikan para pemangku kepentingan juga terasa seperti ditulis AI
  Tiba-tiba menjadi panjang dan rinci, tetapi orang yang memberikannya sendiri justru tidak ingat isinya
  Pacar saya yang bekerja di bank juga bilang setengah dari komunikasi di sana terasa seperti ditulis AI
  Produktivitas justru menurun
  Saya juga memakai AI saat coding, tetapi hanya sebagai alat bantu yang berpusat pada pertanyaan dan eksperimen
  Namun saya khawatir dengan tren yang makin banyak mendelegasikan pekerjaan kepada AI
• Semakin orang terbiasa dengan AI, mereka tampaknya akan makin malas, dan kesalahan seperti ini akan makin sering terjadi
  Solusinya adalah menambah satu orang lagi untuk memeriksa hasilnya
  Kalau begitu, AI malah mungkin menciptakan lapangan kerja baru
  • Tetapi saya rasa lebih baik menempatkan pemeriksa itu di tahap awal, bukan di akhir
    Prompt harus dirancang dengan baik agar LLM tidak menghasilkan kalimat yang tidak perlu
    Atau perlu dikembangkan tooling yang spesifik domain
    Setengah bercanda, saya bahkan sempat berpikir membuka layanan “konsultasi AI” seperti ini
  • Atau bisa juga ditambah otomatisasi AI lain dengan prompt seperti “temukan dan hapus jejak LLM yang tersisa dalam artikel ini”
    Dan nanti seseorang akan menuliskannya sebagai pengalaman kerja Prompt Engineer
  • Saya merasa orang yang tidak tahu nikmatnya menulis tidak layak menjadi jurnalis
  • Pada akhirnya kita memasuki era produksi berlebihan konten berkualitas rendah
    Seolah-olah setelah mesin penyalin ditemukan, bumi akan tertutup paperclip
  • Dalam arus seperti ini, pekerjaan bergaji rendah dan kurang dihargai akan bertambah
• Insiden ini adalah semacam fenomena salah ketik baru ala “[placeholder here]” di era LLM