Ars Technica menarik artikel setelah menerbitkan kutipan palsu yang dihasilkan alat AI

• Kutipan bermasalah tersebut dipastikan salah diatribusikan sebagai berasal dari sumber, padahal dihasilkan oleh AI dan bukan ucapan nyata dari orang yang disebut
• Media itu menyebut insiden ini sebagai kegagalan serius dalam standar editorial, dan menegaskan bahwa semua kutipan langsung harus mencerminkan pernyataan yang benar-benar diucapkan sumber
• Hasil peninjauan internal menyatakan tidak ditemukan kasus serupa tambahan, dan insiden ini dipahami sebagai kasus tunggal
• Ars Technica menegaskan kembali kebijakannya bahwa konten buatan AI tidak diizinkan kecuali untuk tujuan demonstrasi yang diberi label dengan jelas, serta meminta maaf kepada pembaca dan kepada pihak yang salah dikutip

---

Penarikan artikel dan ringkasan insiden

• Ars Technica pada Jumat sore mengumumkan bahwa mereka telah menerbitkan artikel yang berisi kutipan palsu yang dihasilkan alat AI, lalu menarik artikel tersebut
  • Kutipan itu berupa pernyataan yang tidak pernah diucapkan oleh orang sebenarnya, tetapi tetap salah diatribusikan ke sumber meskipun dibuat oleh AI
  • Media tersebut menyebutnya sebagai “pelanggaran standar yang serius”
• Tim editorial menyatakan bahwa “kutipan langsung harus selalu mencerminkan apa yang benar-benar dikatakan oleh sumber”

Tinjauan internal dan kebijakan

• Ars Technica telah lama membahas bahaya ketergantungan berlebihan pada alat AI, dan kekhawatiran itu juga tercermin dalam kebijakan internalnya
• Mereka menjelaskan bahwa pemuatan kutipan dalam insiden ini dilakukan dengan cara yang tidak sesuai dengan kebijakan tersebut
• Setelah meninjau hasil kerja terbaru, mereka menyatakan bahwa tidak ditemukan masalah tambahan, dan untuk saat ini insiden tersebut tampak sebagai kasus tunggal

Aturan terkait materi buatan AI

• Ars Technica pada prinsipnya melarang publikasi materi yang dihasilkan AI
  • Namun, pengecualian hanya diizinkan bila diberi label dengan jelas dan untuk tujuan demonstrasi
  • Dalam insiden ini, aturan tersebut tidak dipatuhi

Permintaan maaf dan tindak lanjut

• Media itu meminta maaf kepada para pembaca atas kegagalan ini, dan juga secara langsung meminta maaf kepada korban kutipan palsu Scott Shambaugh
• Tim editorial berjanji akan memperketat standar editorial dan mencegah kejadian serupa terulang

Kesimpulan

• Melalui insiden ini, Ars Technica kembali menegaskan pentingnya verifikasi dan transparansi atas konten buatan AI
• Mereka sedang memperkuat prosedur internal untuk memulihkan kepercayaan editorial dan menjaga standar peliputan yang etis

[xguru]

Agen AI memublikasikan tulisan yang memfitnah saya
Agen AI menulis tulisan yang memfitnah saya – lalu lebih banyak hal terjadi

[GN⁺]

Komentar Hacker News

• Sebagai mantan jurnalis teknologi, saat bereksperimen dalam peliputan dengan alat yang belum tervalidasi, hasilnya harus ditinjau sangat teliti dalam lingkungan yang terkontrol
  Editor senior harus selalu terlibat, dan sebaiknya dimulai dari artikel yang minim kontroversi
  Selain itu, jika reporter tetap memaksakan diri karena tidak bisa menulis saat sakit akibat budaya perusahaan atau kebijakan cuti sakit, Ars perlu melakukan refleksi internal

  • Awalnya saya pikir artikel itu tidak memberi isyarat seperti itu, tetapi kemudian saya melihat media sosial penulisnya dan jadi paham. Setuju
  • Di beberapa media yang saya tahu sedang menurun, editor adalah pihak pertama yang diberhentikan. Setelah itu kualitas merosot tajam, dan lingkaran setannya makin cepat. Sekarang bahkan banyak yang tidak punya editor senior sama sekali
  • Saya ingat dulu reporter junior bertugas melakukan fact-check untuk kutipan, tanggal, nama, dan sebagainya
  • Saat sakit demam tinggi dan tetap bekerja dari rumah, kesalahan seperti ini sangat mungkin terjadi. Justru masalahnya adalah organisasi menerima naskah dari orang yang sedang sakit begitu saja
  • Pada dasarnya saya rasa masalahnya adalah budaya di mana orang mengharapkan jurnalisme gratis. Tidak suka biaya langganan atau iklan, lalu mengakali dengan tautan arsip, yang pada akhirnya memberi beban berlebihan kepada reporter. Budaya Ars juga bermasalah, tetapi ada latar sosial yang lebih besar

• Melalui permintaan maaf yang diunggah Benj Edwards di Bluesky, ia mengakui tanggung jawab
  Ia menjelaskan sebagian situasinya, tetapi mengatakan ini sepenuhnya tanggung jawabnya. Apakah ini kejadian satu kali masih harus dilihat

  • Inti masalahnya adalah ia bekerja sambil terbaring di tempat tidur dalam kondisi demam. Ini membuat orang bertanya-tanya soal budaya kerja Ars Technica
  • Permintaan maaf itu terasa dimulai dengan upaya membangkitkan simpati dan meredam kesalahan. Sulit melihatnya sebagai permintaan maaf yang sungguh tulus
  • Saya kritis terhadap Ars, tetapi saya tidak menganggap buruk jika reporter bereksperimen dengan alat AI. Hanya saja harus jauh lebih hati-hati.
    Seperti yang juga dikatakan dalam komentar terkait, bahkan media yang skeptis terhadap AI pun perlu mengalami langsung keterbatasan alat-alat ini
  • Pembaca yang penasaran kemungkinan akan menelusuri artikel-artikel lama untuk mencari tahu apakah ada kasus serupa
  • Insiden ini bukan sekadar masalah satu reporter tertentu, melainkan bagian dari perdebatan sosial tentang kesalahan berulang yang ditimbulkan oleh penggunaan alat AI

• Kumpulan thread HN terkait terbaru

  • An AI agent published a hit piece on me – more things have happened
  • AI Bot crabby-rathbun is still going
  • The "AI agent hit piece" situation clarifies how dumb we are acting
  • An AI agent published a hit piece on me
  • AI agent opens a PR write a blogpost to shames the maintainer who closes it

• Rasanya aneh melihat sebagian pelanggan Ars memuji berlebihan karena Ars menemukan kesalahannya dan menarik artikelnya dengan jujur.
  Padahal ini etika jurnalistik yang sangat mendasar, dan kali ini terungkap karena pihak yang dirugikan sendiri menunjukkannya lewat komentar

  • Meski begitu, saya tetap melihat positif bahwa mereka memperbaikinya dan berjanji mencegah kejadian serupa. Banyak organisasi bahkan tidak melakukan itu
  • Saya rasa pernyataan yang jelas bahwa “hal seperti ini tidak akan terjadi lagi” lebih baik daripada media lain. Ada tempat yang bahkan membuat seluruh artikel dengan AI

• Bagus bahwa Ars dan reporternya mengakui tanggung jawab, tetapi redaksi catatan penarikan terasa kurang memadai
  Alih-alih mengatakan “tidak memenuhi standar”, seharusnya disebutkan secara jelas bahwa mereka menerbitkan “kutipan palsu yang dihasilkan AI”.
  Dengan begitu, orang yang sebelumnya membaca artikelnya bisa meluruskan informasi yang salah

• Saya memeriksa bagian mana yang dimanipulasi. Kutipan GitHub di awal memang asli, tetapi kutipan di bagian terakhir semuanya palsu
  Teks itu tampak seperti diambil dari blog Shambaugh, tetapi kalimat-kalimat tersebut sebenarnya tidak pernah ada
  Versi aslinya bisa dicek lewat tautan arsip

• Rasanya aneh bahwa tidak ada tautan ke artikel yang ditarik
  Diskusi terkait sedang berlangsung di forum Ars
  Artikel aslinya bisa dilihat di web archive

  • Tidak adanya tautan terasa seperti upaya whitewash yang disengaja
  • Namun, menautkan kembali artikel yang sudah ditarik juga bisa mengaburkan makna penarikannya
  • Penulis artikel tersebut dicantumkan sebagai Benj Edwards dan Kyle Orland

• Saya penasaran langkah pencegahan agar tidak terulang seperti apa yang akan diambil ke depan.
  Mengapa penggunaan LLM tidak diungkapkan, dan apakah ada artikel lain dengan kasus serupa, juga menjadi pertanyaan
  Kali ini ketahuan karena kutipannya palsu, tetapi kalau tidak, mungkin saja tidak akan ada yang sadar

  • Pada akhirnya responsnya terlihat sebatas “ini kesalahan, dan kami akan lebih berhati-hati ke depan”
  • Posisi resminya adalah “artikel ini tidak ditulis oleh AI, hanya peringkasan kutipan yang diserahkan ke AI”. Namun keputusan itu sangat ceroboh

• Mengingat Ars sudah lama memperingatkan soal bahaya ketergantungan pada AI, insiden ini terasa sangat mengejutkan
  Pemalsuan kutipan melanggar kebijakan internal, dan memulihkan kepercayaan tidak akan mudah
  Untungnya, orang yang menjadi target kutipan telah memblokir akses LLM, sehingga halusinasi AI itu bisa terungkap