Ars Technica memecat reporter setelah kontroversi kutipan palsu buatan AI

• Ars Technica memecat reporter Benj Edwards setelah kontroversi artikel yang memuat kutipan palsu yang dihasilkan alat AI
• Artikel bermasalah itu membahas insiden ketika AI memposting tulisan yang mengkritik insinyur manusia Scott Shambaugh, lalu belakangan diketahui memuat kutipan palsu dan akhirnya ditarik
• Edwards menjelaskan bahwa saat menggunakan alat AI berbasis Claude Code terjadi kesalahan, lalu ketika mencoba menelusuri masalah dengan ChatGPT, ia memasukkan kutipan yang keliru
• Ars Technica menyebut insiden ini sebagai “pelanggaran standar yang serius”, telah menyelesaikan peninjauan internal, dan berencana merilis panduan penggunaan AI ke depannya
• Insiden ini menunjukkan bahwa di tengah benturan antara pemanfaatan AI di media dan standar etika, bahkan pakar AI pun dapat terekspos pada kesalahan manusia dan keterbatasan teknis

---

Ringkasan kasus pemecatan reporter Ars Technica

• Ars Technica mengakhiri hubungan kerja dengan reporter Benj Edwards setelah kontroversi artikel yang memuat kutipan palsu buatan AI
  • Media tersebut dimiliki oleh Condé Nast
• Artikel yang menjadi masalah adalah liputan insiden terkait AI yang dipublikasikan pada 13 Februari, tentang kasus ketika agen AI memposting tulisan yang mengkritik insinyur manusia Scott Shambaugh
• Setelah Shambaugh menunjukkan bahwa artikel itu memuat kutipan yang tidak pernah ia ucapkan, pemimpin redaksi Ken Fisher mempublikasikan permintaan maaf dan menarik artikel tersebut

Permintaan maaf pemimpin redaksi dan langkah internal

• Dalam permintaan maafnya, Fisher mengakui bahwa artikel tersebut memuat “kutipan palsu yang dihasilkan alat AI” dan menyebutnya sebagai “pelanggaran standar yang serius”
• Ia menambahkan bahwa insiden ini tampaknya merupakan “kasus terisolasi”, dan setelah itu Ars Technica mengumumkan bahwa peninjauan internal telah selesai
• Direktur kreatif Aurich Lawson menutup thread komentar pembaca dan menyatakan bahwa “langkah internal yang semestinya telah diselesaikan”
  • Ia juga menyebut bahwa ke depannya akan dirilis panduan bagi pembaca tentang bagaimana AI digunakan dan tidak digunakan

Penjelasan Benj Edwards

• Dalam postingan di Bluesky, Edwards mengatakan bahwa ia “secara keliru memasukkan kutipan palsu saat menggunakan alat AI” dan mengakui tanggung jawab penuh
  • Ia menjelaskan bahwa saat itu ia sedang cuti sakit, dan terjadi kesalahan ketika ia menggunakan alat AI eksperimental berbasis Claude Code untuk merapikan kutipan
  • Setelah itu, dalam proses menggunakan ChatGPT untuk mencari penyebab masalah, ia akhirnya memasukkan kalimat parafrasa alih-alih pernyataan asli ke dalam artikel
• Ia menegaskan bahwa “artikelnya ditulis manusia, tidak ada artikel yang dihasilkan AI”, dan menyatakan bahwa rekan penulis Kyle Orland tidak terkait dengan kesalahan tersebut

Reaksi pembaca dan perkembangan lanjutan

• Pembaca Ars Technica meluapkan kekecewaan dan kemarahan yang kuat di thread komentar artikel
• Per 28 Februari, profil Edwards di Ars Technica telah diubah ke bentuk lampau, mengonfirmasi bahwa ia bukan lagi reporter di sana
• Futurism menanyakan status pekerjaannya kepada Ars Technica, Condé Nast, dan Edwards, tetapi media dan pemiliknya tidak menjawab, sementara Edwards mengatakan ia “tidak bisa berkomentar”

Kontroversi penggunaan AI di media dan konteksnya

• Insiden ini disebut sebagai satu lagi contoh setelah kontroversi terkait AI di CNET, Sports Illustrated, dan lainnya
• Artikel tersebut menyoroti bahwa saat ini organisasi media mendorong pemanfaatan AI tetapi masih kekurangan standar etika yang jelas
• Lingkungan seputar adopsi AI juga dipengaruhi secara kompleks oleh sengketa hak cipta, meluasnya konten buatan AI, dan penurunan trafik akibat AI Overviews milik Google
• Dalam konteks ini, kasus Ars Technica menjadi contoh yang menampakkan titik pertemuan antara teknologi AI dan kesalahan manusia
• Edwards menyebut ia “merasakan ironi sebagai reporter bidang AI yang terjebak halusinasi AI” dan mengatakan bahwa meski ia mengutamakan akurasi, kali ini merupakan kegagalan yang menyakitkan

[GN⁺]

Pendapat Hacker News

• Jurnalis dan blogger sering menganalisis kesalahan dan permintaan maaf orang lain sambil memperdebatkan apakah itu tulus

  • Dalam kasus ini, Aurich Lawson dari Ars Technica menghapus artikel yang berisi kutipan palsu buatan LLM dan mengunggah semacam non-permintaan maaf yang ambigu
  • Pada akhirnya wartawan itu dipecat, tetapi Ars bahkan tidak menerbitkan artikel tentang hal tersebut
  • Di zaman ketika kejujuran dianggap sebagai kelemahan, saya berharap Ars menjadi teladan transparansi dan akuntabilitas, jadi ini mengecewakan
  • Ars mengakui kesalahannya dan memecat wartawan itu, jadi itu tetap bentuk pertanggungjawaban
    • Wartawannya sendiri juga menjelaskan dengan rinci di Bluesky
    • Keluhannya hanya bahwa penjelasan itu tidak cukup memuaskan
  • Jika wartawan itu meliput bidang terkait AI, ia seharusnya wajib memverifikasi kutipan yang dihasilkan LLM
    • Jika tim editorial juga tidak memeriksanya, ini menunjukkan standar editorial Ars
    • Perlu dicek apakah artikel lain juga menghilang dengan cara serupa
  • Saya bertanya-tanya apakah memang lazim bagi media untuk mengumumkan bahwa mereka telah memecat seseorang
    • Ars saat itu memang melaporkan soal masalah sumber kutipan itu dalam beberapa hari
  • Tim editorial Ars sudah lama punya standar rendah
    • Setengah dari judulnya menyesatkan dan merupakan clickbait yang mengejar klik
    • Terlalu banyak headline yang tidak bisa dipercaya
  • Menyebut Aurich Lawson sebagai pihak yang menghapus artikel itu adalah bentuk ungkapan yang seperti ‘menyalahkan pembawa pesan’
    • Ia hanya wajah komunitas itu, kemungkinan besar tidak punya wewenang sebesar itu

• Berbagi pengalaman pribadi dengan reporter Benji

  • Awalnya wawancaranya bagus, tetapi ketika proyek itu kemudian mendapat perhatian dan saya menghubungi lagi, saya ditolak dengan alasan panduan off-the-record / embargo
  • Hubungan dengan jurnalis terasa tidak transparan dan menimbulkan kesan ketertutupan media
  • Saat berkomunikasi dengan wartawan, sebaiknya selalu meninggalkan rekam jejak tertulis
  • Di Jerman, sikap mencoba memanfaatkan wartawan untuk promosi proyek pribadi dipandang sangat negatif
    • Respons Benji justru tampak sebagai penilaian yang normal dan etis
  • Sebagai jurnalis, jika menerima usulan topik yang sudah dibahas media lain, biasanya akan ditolak
    • Karena mereka menginginkan liputan eksklusif, dan hampir semua PR pitch ditolak
  • Kadang wartawan juga hanya sibuk atau sulit menyampaikan penolakan, jadi mereka tidak membalas
  • Jurnalis cenderung enggan meliput topik yang sama dua kali
  • Ars cenderung meringkas/menulis ulang artikel eksternal, atau hanya melakukan liputan sendiri untuk artikel eksklusif

• Organisasi kami menggunakan pemblokir otomatis untuk memverifikasi kutipan hukum yang dihasilkan AI

  • Jika kutipan tidak cocok dengan database resmi, itu ditandai sebagai halusinasi (hallucination) dan diverifikasi ulang oleh manusia
  • AI hanyalah alat bantu draf, dan keputusan akhir harus lolos verifikasi manusia
  • Seperti pendekatan Anders Hejlsberg, lebih aman membuat AI membangun alat daripada menyuruhnya langsung mengerjakan tugas
    • Dengan begitu cakupan verifikasi jadi lebih kecil, dan kita hanya perlu memastikan akurasi alatnya

• Masalah yang lebih besar daripada pemecatan wartawan secara individu adalah runtuhnya struktur editorial

  • Dalam 10 tahun terakhir, perusahaan media mengurangi staf verifikasi, dan akibatnya sistem pengecekan fakta menghilang
  • Ditambah lagi dengan adopsi alat AI, output ditingkatkan tanpa verifikasi sehingga terjadi kegagalan sistemik
  • Ini adalah masalah struktural yang mirip dengan Swiss cheese model dalam kecelakaan industri
  • Ke depan, perlu ada diskusi agar media secara transparan mengungkapkan apakah mereka memakai AI

• Saya menghormati dan mendukung Ars Technica, tetapi insiden ini adalah tanggung jawab tim editorial

  • Jika artikel diterbitkan di bawah merek mereka, seharusnya ada prosedur verifikasi fakta
  • Meski begitu, Ars masih punya banyak wartawan hebat, jadi tidak adil menilai keseluruhan dari satu kesalahan
  • Eric Berger bias terhadap Musk, dan Dan Goodin kurang memahami teknologi
    • Sebaliknya Ashley Belanger adalah yang paling dapat dipercaya berkat liputan langsung dan tulisan yang mendalam
    • Beth Mole juga memadukan keahlian dan selera humor
  • Saya merindukan Maggie Koerth dan Jon Stokes yang dulu
  • Kita tidak boleh terlalu percaya pada proses verifikasi internal media besar

• Merangkum konteks diskusi sebelumnya dan membagikan linimasa kontroversi artikel AI terkait

• Media besar sudah mewajibkan penggunaan LLM

  • Ada pedoman internal tentang cara menghaluskan output AI agar tidak kentara, serta prosedur verifikasi kutipan
  • Karena tekanan target kinerja, wartawan yang tidak memakai AI bahkan bisa dipecat
  • Ini bukan hanya masalah Ars, tetapi fenomena yang lebih luas akibat struktur yang berpusat pada klik
  • Ada juga sanggahan yang meminta bukti untuk hal ini
    • Mengklaim ini sebagai ‘rahasia umum’ tanpa bukti konkret bisa terlihat sebagai penghindaran tanggung jawab manajerial
  • Ada pula yang ingin mendengar lebih banyak apakah pedoman seperti itu benar-benar ada, khususnya soal cara menyamarkan output AI

• Judul artikel menyebut pemecatan wartawan, tetapi sebenarnya fakta yang terkonfirmasi masih kurang

  • Dasarnya adalah perubahan bio wartawan dari ‘is’ menjadi ‘was’ serta fakta bahwa pihak terkait tidak membantahnya
  • Jika melihat postingan Benj di Bluesky, ini tampaknya bukan pengunduran diri sukarela

• Sentimen kritik terhadap Ars sangat keras, tetapi wartawan itu sudah membayar harganya

  • Saya percaya Ars akan lebih berhati-hati ke depannya

• Akurasi Google AI Overview meningkat sampai tingkat yang mengejutkan

  • Sekarang kadang saya bahkan tidak memeriksa tautannya
  • Namun ini pada dasarnya hanya merangkum hasil pencarian, dengan struktur yang menggerus konten dari situs sumber
  • Dalam praktiknya, ia juga masih sering memberikan informasi yang salah
  • Sering kali isi tautan tidak sesuai dengan ringkasannya
  • Seorang pengguna mengatakan AI bahkan mengarang proyek riset yang tidak pernah ada
  • Kita perlu sering memeriksa tautan dan menyadari batas reliabilitas AI