Produksi konten berbasis AI AdVon dan penggunaan penulis palsu
- Seorang penulis di negara berkembang bekerja sebagai kontraktor di AdVon Commerce, dibayar beberapa sen per kata untuk menulis ulasan produk online
- Peran penulis itu segera berubah menjadi merapikan draf yang dihasilkan oleh sistem AI "MEL" yang sedang dikembangkan AdVon
- Penulis diminta meninggalkan catatan rinci tentang pekerjaan MEL, yang ia yakini digunakan untuk menyetel AI yang pada akhirnya akan menggantikan perannya
- Ketika MEL "sudah cukup terlatih untuk bisa menulis sendiri", para penulis dipecat
- Penulis itu mengatakan ia "sangat menderita" dan bahwa "mereka eksploitatif"
Kasus penggunaan penulis palsu oleh AdVon
- Seorang karyawan Gannett menemukan bahwa ulasan produk dipublikasikan di situs USA Today dengan byline yang tampaknya bukan milik orang sungguhan
- Di Sports Illustrated, AdVon juga menjalankan operasi serupa dengan menggunakan byline penulis palsu dan foto profil buatan AI
- AdVon tidak membantah bahwa byline tersebut palsu dan foto profilnya dibuat oleh AI, tetapi mengklaim bahwa artikel sebenarnya ditulis oleh manusia sungguhan
Penyebaran luas konten AdVon
- Penulis palsu dan karya AdVon ditemukan secara luas, dari media gosip selebritas seperti Hollywood Life dan Us Weekly hingga surat kabar ternama seperti LA Times
- McClatchy mengakhiri hubungannya dengan AdVon dan menghapus ratusan artikel AdVon dari lebih dari 20 surat kabar, termasuk Miami Herald dan Sacramento Bee
- Di masa lalu, situs web AdVon menyatakan bekerja sama dengan banyak media ternama seperti PC Magazine, Mashable, AskMen, Good Housekeeping, People, Parents, Food & Wine, InStyle, Real Simple, Travel + Leisure, Better Homes & Gardens, dan Southern Living
Video demonstrasi pembuatan ulasan dengan AI MEL milik AdVon
- Seorang manajer AdVon menunjukkan proses ketika MEL AI menghasilkan seluruh isi artikel hanya dengan memasukkan judul artikel dan tautan produk Amazon
- Hasil kerja MEL sering kali canggung, kabur, dan kadang bahkan saling bertentangan
- Jika output-nya tidak masuk akal, manajer cukup memerintahkan untuk menghasilkan versi baru
- Sang manajer berkata, "Tujuan kami adalah membuatnya tidak terdengar seperti ditulis robot"
Kualitas rendah ulasan AdVon dan kesalahan-kesalahan aneh
- Ulasan AdVon dipenuhi filler dan hal-hal yang benar apa adanya, dan terkadang memuat kesalahan ganjil sehingga sulit dipercaya telah ditinjau serius oleh manusia sebelum dipublikasikan
- Ada kasus topik berubah mendadak tanpa penjelasan, seperti ulasan sabuk angkat beban yang tiba-tiba membahas sabuk pakaian, atau ulasan microwave yang berubah menjadi oven biasa
- Dalam ulasan microwave lain oleh penulis yang sama, kesalahan aneh yang sama berulang, seperti mengatakan aluminium foil boleh digunakan di microwave
Penetapan penulis palsu dan penggantian dengan byline orang nyata
- Setelah artikel selesai dikerjakan, memberi nama penulis palsu adalah bagian dari tugas para orang dalam AdVon
- Setelah seorang karyawan Gannett menunjuk penulis palsu AdVon di USA Today, nama-nama palsu mulai menghilang dan diganti dengan nama orang yang tampak nyata, terutama orang-orang yang punya hubungan pribadi dengan CEO AdVon, Ben Faw
- Muncul byline bernama Julia Yoo, yang tampaknya adalah istri Ben Faw, dengan riwayat yang terlalu mentereng dibanding karyawan AdVon lain, seperti gelar dari MIT, pengalaman sebagai eksekutif Autodesk, dan pernah menjadi penasihat ekonomi Gedung Putih di pemerintahan Obama
- Muncul juga byline Denise Faw, yang tampaknya adalah ibu Ben Faw
Ulasan bersponsor AdVon melalui SellerRocket
- CEO AdVon Ben Faw dan presiden Eric Spurling juga menjalankan perusahaan lain bernama SellerRocket, yang menerima bayaran promosi dari penjual produk Amazon untuk dimuat di media yang sama tempat AdVon menerbitkan ulasan produk
- Karyawan SellerRocket menjelaskan dengan sangat terus terang dalam video YouTube bagaimana skema ini bekerja
- Produk pelanggan SellerRocket ditandai di CMS AdVon dengan "ikon roket kecil yang lucu" dan "selalu diprioritaskan"
Karier dan praktik bisnis CEO AdVon Ben Faw
- Faw memiliki karier yang tampak mentereng, tetapi menurut mantan kolega, ia terus berusaha menghasilkan lebih banyak uang lewat konten berkualitas rendah
- Disebut bahwa Faw "sepenuhnya meremehkan konsumen" dan "hanya peduli mencari cara agar bisa cepat dan murah menghasilkan lebih banyak uang untuk dirinya sendiri"
- Faw menekankan hubungan pribadi dan bisnisnya dengan petinggi perusahaan induk Futurism dalam upaya memengaruhi peliputan
Perubahan klaim dan kontradiksi AdVon
- Awalnya AdVon membantah tidak menggunakan AI, tetapi setelah ditunjukkan bukti video ulasan yang dibuat AI, mereka mengakui menggunakan AI untuk sebagian klien
- Riwayat pengeditan artikel yang diberikan AdVon tidak meyakinkan karena ditulis terlalu cepat untuk terlihat seperti hasil tulisan manusia
- AdVon mengklaim MEL AI belum beroperasi hingga 2023, tetapi profil LinkedIn para karyawan membantah hal itu
- AdVon mengklaim tidak memecat penulis karena peralihan ke AI, tetapi jumlah penulis di LinkedIn tampak menurun tajam
Reaksi pembaca terhadap konten AI dan tren industri
- Dalam survei segera setelah kasus penulis palsu Sports Illustrated, 80% responden mengatakan praktik itu seharusnya dibuat ilegal
- Jurnalisme adalah industri yang bertumpu pada kepercayaan, tetapi dalam labirin penulis palsu dan ancaman hukum ala AdVon, bahkan pertanyaan dasar seperti apakah penulisnya orang nyata atau apakah AI yang membuat artikel menjadi sulit dipercaya
- Sebagian media sedang mencari cara memakai AI secara jujur, tetapi kebanyakan eksperimen tersandung masalah seperti kesalahan dan potensi plagiarisme
- Dalam skenario terburuk, AI mengancam akan memungkinkan para penipu memproduksi massal konten berkualitas rendah dalam skala yang belum pernah terjadi, hingga menutupi seluruh web dengan spam
- Tidak mengejutkan jika perusahaan seperti AdVon memakai AI untuk memuntahkan konten buruk sambil menyingkirkan penulis, tetapi ketika media tepercaya ikut mendistribusikannya, itulah tragedi era AI
1 komentar
Kalau begini, apakah pada akhirnya satu-satunya solusi adalah membuat akun dengan verifikasi identitas berbasis nomor unik yang diberikan kepada tiap orang, seperti di Korea atau Tiongkok.... Menakutkan ya