Hasil pencarian “produk X vs Y” sekarang hampir semuanya jadi omong kosong AI
Melihat dead internet makin membesar membuatku ingin berlangganan Kagi. Sepertinya suatu hari nanti kita akan butuh sertifikasi konten buatan manusia
Sayangnya Kagi juga bukan obat mujarab. Aku membayar dan memakainya setiap hari untuk mendukung alternatif Google, tetapi masalah hasil pencarian gambar maupun teks yang dipenuhi sampah AI masih parah
Perbandingan produk adalah contoh yang jelas, tetapi yang lebih mengkhawatirkan adalah pencarian terkait medis. Minggu ini aku mencoba mencari penelitian tentang obat yang sedang kuminum; hasil yang lima tahun lalu pun sudah tercemar optimasi mesin pencari kini jauh lebih buruk, dipenuhi ratusan halaman spam buatan GPT yang dibuat untuk memancing klik
Pada akhirnya aku menyerah memakai mesin pencari, menemukan makalah yang lumayan relevan di nih.gov, lalu harus menelusuri daftar sitasinya secara manual untuk mencari informasi
Rasanya benar-benar aneh mengingat internet yang kupakai saat kecil dan usia 20-an, sambil tahu bahwa internet itu tidak akan pernah kembali
Menyaksikan dead internet makin membesar terasa cukup surealis
Menurutku iklan jelas menyulutnya: internet jadi terkomersialisasi dan tersentralisasi ke platform yang memusuhi pengguna. Internet lama bahkan sekarang pun tampak jauh lebih baik, tetapi selama 15 tahun terakhir ia kehilangan sebagian besar penggunanya
Menambahkan “Reddit” di akhir setiap kueri pencarian memang membantu, tetapi sepertinya tinggal tunggu waktu sampai sebagian besar konten Reddit juga menjadi hasil buatan AI
Mencari “baby peacock” di Kagi pun menghasilkan hasil yang hampir sama dengan Google, dan kebanyakan berupa gambar AI
Ini bikin gila. Internet sudah mati
Baru-baru ini aku membeli rumah, lalu mencari pekerjaan perbaikan rumah seperti bagaimana menyiapkan trim sebelum dicat. Hampir semua hasilnya adalah content farm buatan AI, ada iklan di setiap paragraf, video autoplay yang tidak relevan mengikuti halaman, muncul modal persetujuan cookie, lalu segera muncul lagi modal berlangganan newsletter yang meminta kita “jadi teman”
Suka tidak suka, sekarang sepertinya satu-satunya tempat untuk menemukan informasi sungguhan tinggal Reddit
Untuk pencarian seperti ini, YouTube dan TikTok paling bagus. Video belum sepenuhnya dibanjiri AI, dan hampir semua hal terkait pekerjaan manual bisa ditemukan di sana
Aku jauh lebih suka konten teks daripada video, tetapi konten teks asli yang benar-benar ditulis manusia nyaris mati. Reddit mungkin pengecualian langka untuk saat ini. Forum-forum lama yang masih hidup juga masih ada per bidang, tetapi biasanya semakin amat sulit ditemukan
Lebih baik membeli buku umum perawatan rumah
Misalnya https://archive.org/details/stanleyhomerepai0000fine/page/14... mengarah ke bab “Painting Trim the Right Way” dari buku Stanley Home Repairs terbitan 2014
Toko buku bekas juga layak dilihat. Perbaikan rumah tidak banyak berubah
Bisa juga menyalakan Wine dan mencoba CD-ROM “Black & Decker Everyday Home Repairs” terbitan Broderbund: https://archive.org/details/BlackDeckerEverydayHomeRepairsBr.... Menurut https://www.goodreads.com/book/show/3424503-everyday-home-re..., isinya panduan langkah demi langkah untuk lebih dari 100 masalah rumah tangga umum, dari memperbaiki keran bocor sampai memperbaiki lantai kayu solid, juga menyediakan animasi dan narasi, serta mencakup perkiraan waktu, biaya, bahan yang diperlukan, dan daftar alat
Kelihatannya benar-benar cukup bagus
Sebagai pemilik rumah yang dibangun pada 1939 dan memperbaikinya sendiri, aku baru menyiapkan perpustakaan referensi rumah setelah cukup jauh menjalani pekerjaan perbaikan, padahal seharusnya kulakukan sebelum memegang obeng
Renovations dari Taunton Press (https://www.bookfinder.com/search_s/?title=Renovation%205th%...) adalah referensi pertama yang kulihat saat memulai proyek perbaikan rumah. Bab 18 seluruhnya membahas pengecatan. Buku-buku Taunton lainnya juga bagus, tetapi cakupan Renovations tidak tertandingi
Trim MDF putih datar yang dibeli sekarang biasanya sudah diberi primer, jadi siap langsung dicat
Aku punya mobil lama dan mobil baru; untuk mobil lama, karena sudah ada pada era internet lama, cara memperbaiki apa pun bisa ditemukan. Saat itu orang-orang meninggalkan catatan pengerjaan untuk segala macam hal
Untuk mobil baru, informasi pengerjaannya hampir tidak ada, dan kebanyakan hanya video YouTube berisi orang yang tidak tahu apa-apa merekam perbaikan DIY yang buruk
Menurutku YouTube adalah sumber terbaik untuk perbaikan rumah. Tentu, kalau yang diinginkan teks dan foto, aku paham
Dalam ekonomi internet yang berpusat pada produksi dan monetisasi “konten”, mungkin sejak awal besar kemungkinannya akan berakhir seperti ini
Ini dimulai dengan menempelkan iklan pada konten yang sudah ada, lalu bergeser ke jejaring sosial dan media sosial, yang pada akhirnya adalah mesin untuk melakukan crowdsourcing produksi konten yang lebih banyak dan menampilkan iklan di sampingnya. Karena ada uang yang dipertaruhkan, produksi konten menjadi bisnis penting, dan teknologi memenuhi permintaan itu dengan cara membuat konten lebih murah daripada uang yang bisa dihasilkan darinya
Masalah mengelola konten tidak diinginkan yang dibuat manusia pun sebenarnya sudah mulai menggerogoti model bisnis ini, dan kini alat generatif menghasilkan konten yang tidak diinginkan lebih cepat daripada kecepatan pengelolaannya. Setelah mencapai tingkat kejenuhan tertentu, orang akan kehilangan minat, dan alat-alat yang dulu memisahkan konten bagus dan buruk dengan heuristik algoritmis juga akan menjadi tidak berguna. Satu-satunya jalan keluar yang terlihat adalah konten buatan manusia yang dikurasi oleh manusia, tetapi saya tidak tahu apakah ada model bisnis seperti itu pada skala yang dituntut industri
Banyak orang memandang blog dengan rasa nostalgia, tetapi blog adalah salah satu contoh awal ketika internet bergeser dari konten yang bertahan lama menjadi produksi massal artikel ala content farm
Internet awal lebih terasa seperti menjelajahi perpustakaan. Kebanyakan situs tidak diharapkan diperbarui setiap hari, bahkan setiap bulan pun tidak, dan tulisan hampir selalu ditata berdasarkan isi, bukan urutan terbaru
Ketika blog terlalu berfokus pada hal baru, banyak hal berubah, dan banyak situs menjadi jelas lebih buruk saat beralih dari membangun perpustakaan materi yang tahan lama ke mengejar page view baru. Diskusi online juga mengalami proses serupa saat berpindah dari forum ke struktur rekomendasi ala Reddit/HN. Di forum lama, diskusi yang berlangsung lebih dari 10 tahun masih ada, tetapi di Reddit atau HN, setelah beberapa jam saja sebuah postingan terdorong keluar dari halaman dan diskusinya mati
Kepercayaan manusia bahkan hampir sulit melampaui 100 orang, apalagi pada skala seluruh internet, jadi saya rasa model bisnis seperti itu tidak ada. Manusia tampaknya akan kembali ke skala suku yang memang menjadi ukuran alami untuk dipahami dan menjadi bagian darinya
Chat grup privat jauh lebih populer dan umum daripada yang kita akui, dan dalam lingkungan seperti ini arus ke arah itu akan makin cepat
Dalam sistem terbuka, kurasi manusia memang mungkin, tetapi jika ada beberapa silo raksasa, efisiensi algoritmis bekerja di dalamnya dan menghasilkan kondisi seperti sekarang
Saya berharap orang kehilangan minat dan berhenti mengonsumsi konten sampah, tetapi taruhan pihak seberang adalah orang akan makin terbiasa dengan konten pasokan algoritmis berkualitas makin rendah, sementara industri memeras keuntungan tanpa henti dengan cara apa pun. Melihat sejarah TV kabel, tampaknya memang ada titik batas
Konten buatan manusia yang dikurasi manusia pada dasarnya adalah retweet
Kelompok monokultur kecil seperti segelintir mahasiswa yang bosan akan selalu memahami algoritme, mengambil alih platform dengan porno dan spam, lalu menggerogoti sumber daya. Alat yang lebih baik dan keterkaitan insentif finansial yang dibuat untuk membantu kelompok yang lemah justru memperbesar kesenjangan. Ini menjadi masalah karena para influencer finansial membayar bukan untuk dipermalukan oleh segelintir influencer pasar konten, melainkan untuk diakui massa
Tapi mengapa itu menjadi masalah? Para produsen “konten tidak diinginkan” hanya mengoptimalkan apa yang paling dihargai pasar. Jika itu masalahnya, maka keberadaan pasar itu sendiri adalah masalah. Lalu apa yang harus dilakukan? Menghancurkannya saja juga bisa masuk akal
Sejak Gutenberg, penerbitan tampaknya terus bergerak ke arah monetisasi konten. Melihat sejarah Gereja Katolik, mungkin bahkan sebelum itu pun sudah begitu
Bukan cuma gambar. Jika Anda mencari di Google sesuatu yang bisa dianggap pertanyaan umum, di 3–5 hasil teratas sering muncul word salad dari AI generatif
Saat mulai membacanya, Anda tidak langsung menyadarinya. Lalu Anda mulai mencurigai bahkan hal-hal yang jelas bukan AI generatif. Manusia punya intuisi tentang bagaimana seseorang bisa salah, dengan cara apa mereka salah, nada bicara seperti apa saat mereka salah, seberapa besar kemungkinan mereka salah, di format dan platform mana kesalahan muncul, seberapa sering mereka salah, dan bagaimana orang lain bereaksi. AI adalah sesuatu yang sama sekali berbeda. Tidak ada intuisi atau pengalaman apa pun yang bisa memberi tahu kapan AI yang terdengar meyakinkan itu sedang salah
Seluruh heuristik yang selama ini secara bawah sadar kita pakai untuk menilai kualitas informasi yang disampaikan menjadi lumpuh dalam semalam; itu bisa menjadi resep untuk kegilaan dan kemalangan. Seumur hidup, hampir tidak pernah saya merasa sesedih ini dengan sebuah teknologi
Sejujurnya, saya melihat ini sebagai akhir internet terbuka. Yang gagal bukan Google, melainkan realitas internet terbuka itu sendiri
Jika butuh bantuan atau punya pertanyaan, saya tidak memakai Google dan tidak memposting di forum publik. Saya bertanya di chat grup privat, tempat semua orang adalah manusia sungguhan, tidak ada yang mencari uang, dan tidak ada yang menyalin-tempel ChatGPT demi mengumpulkan poin internet untuk menjual akunnya nanti
Hanya ada satu jalan perubahan, dan orang tidak akan menyukainya: semua konten di internet harus terhubung dengan identitas hukum. Setiap postingan dan setiap komentar di Facebook harus bisa dikaitkan dengan orang nyata
Saya tidak melihat heuristiknya sebegitu berbeda. Spam optimasi mesin pencari dan konten omong kosong sudah ada sebelumnya, dan Google maupun YouTube sama-sama penuh dengan “kreator konten” manusia yang mengoptimalkan klik dan memanipulasi sistem rekomendasi YouTube
Konten AI juga tidak jauh berbeda. Hanya saja sekarang membuat konten semacam itu 100 kali lebih mudah, sehingga jauh lebih sering terlihat. Pada dasarnya ini bukan masalah AI, melainkan masalah insentif dan model bisnis berbasis iklan. AI membuat masalah degradasi layanan jauh lebih mencolok, tetapi masalah itu memang sudah ada
Saya tidak tahu solusinya. Dugaan saya, ketika konten berkualitas rendah membanjiri semuanya, internet publik akan makin kurang penting seiring waktu, dan banyak komunikasi akan berpindah ke komunitas kecil yang sangat bergantung pada verifikasi identitas dan kredensial manusia
Bukan bermaksud merusak suasana, tetapi hilangnya privasi masih jauh lebih menyedihkan
Sulit menjelaskan mengapa, tetapi entah karena saya tidak tahu seperti apa rupa anak merak, contoh ini membuat sisi gelap AI terasa sangat kuat
Saya terbiasa cukup memercayai hasil pencarian. Memang ada hasil yang aneh atau nyaris tidak masuk akal, tetapi hanya sesekali di antara lautan gambar yang relevan. Sekarang saya bisa benar-benar buta terhadap sesuatu yang tidak saya ketahui. Sebagai orang yang tumbuh dengan Google sebagai sesuatu yang “ada begitu saja”, ini benar-benar menakutkan
Kalau Google ingin tetap relevan, bukankah mereka harus menyelesaikan masalah ini dengan satu atau lain cara? Jika mencari gambar dan membuat gambar menghasilkan hasil yang sama, lalu apa lagi arti pencarian gambar?
Hal yang sama bisa dikatakan untuk pencarian umum. Apa pun yang dicari, yang muncul adalah satu halaman iklan, lalu beberapa halaman content farm, lalu halaman-halaman yang “terdengar seperti pakar tapi pada akhirnya tetap content farm”
Karena internet dibiayai lewat iklan, menemukan konten berkualitas baik jadi sangat sulit. Kalau Anda bukan kreator konten atau Google, insentifnya sudah benar-benar melenceng
Sepertinya tujuannya adalah watermarking, tetapi rasanya tidak ada orang yang bisa menganggap web berada dalam kondisi selain kemunduran yang terkelola. Struktur AI yang memakan AI pada akhirnya akan mengakhiri semuanya. Menurut saya Platformer menjelaskannya paling baik: https://www.platformer.news/google-io-ai-search-sundar-picha...
Persoalannya adalah apa yang akan datang berikutnya, dan sepertinya tidak ada yang punya jawabannya
Saya tidak tahu apa maksud “menyelesaikan”. Ini sudah sedang menyelesaikan masalahnya. Kalau orang-orang menganggapnya cukup oke, selesai sudah
Dasarnya adalah semua berita dan media sosial lain di planet ini
Google lebih mungkin menyelesaikannya dengan membuat orang tidak menyadari bahwa bayi merak itu buatan AI
Saya pikir ini salah satu alasan mengapa perusahaan teknologi besar melobi regulasi AI yang lebih ketat. Mereka bukan takut AI berkuasa, melainkan takut AI menghancurkan bisnis mereka
Yang paling parah adalah hasil yang menyalin judul Snopes “Video Genuinely Shows White ‘Baby Peacock’?” dengan hanya menghapus tanda tanyanya. Halaman itu menjelaskan bahwa foto tersebut bukan anak merak sungguhan
Kalau mencari dengan istilah yang lebih tepat, peachick, tampaknya 100% gambar yang muncul adalah gambar asli. Namun setengah halamannya masih menyebutnya “baby peacocks”
Hasil pertama adalah Adobe Stock. Orang mungkin mengira standarnya lebih tinggi daripada Pinterest atau TikTok, tetapi kenyataannya begini
Dalam waktu dekat, kemungkinan besar sebagian besar video YouTube dan podcast akan dibuat oleh AI. Misalnya lewat alat seperti Notebook LM
Namun, belum pasti apakah audiens benar-benar akan menikmati konten buatan AI seperti itu. Secara pribadi, saya lebih menyukai konten buatan manusia. Rasanya lebih autentik dan lebih imersif
Alat AI mutlak membutuhkan mekanisme deteksi yang kuat, seperti watermark tepercaya, agar platform lain dapat mengidentifikasi konten buatan AI. Sayangnya, alat deteksi audio buatan AI saat ini masih kurang memadai: https://www.npr.org/2024/04/05/1241446778/deepfake-audio-det...
Saya juga baru saja merapikan daftar “podcast” yang dibuat oleh Notebook LM: https://github.com/ListenNotes/notebooklm-generated-fake-pod...
Kita perlu mempertimbangkan apakah ingin mendengarkan podcast yang dibuat AI. Orang mungkin bisa menerima program yang mereka buat sendiri, tetapi saya rasa mereka akan kurang menyukai “podcast” yang dibuat AI oleh orang lain
Saya ingin percaya bahwa konten buatan manusia terasa lebih autentik dan imersif, tetapi saya bertanya-tanya berapa lama itu akan tetap benar
Saya “ingin” lebih menyukai konten buatan manusia, tetapi AI tampaknya bisa mengoptimalkan keterlibatan manusia dengan lebih baik. Terutama untuk konten pemicu dopamin yang sederhana seperti video TikTok. Kita tidak serumit yang kita kira
Sayangnya, mekanisme deteksi pada alat AI tidak akan pernah benar-benar bekerja dengan baik. Tidak ada cara untuk menyingkirkan pelaku jahat, dan ada banyak uang yang dipertaruhkan dalam membuat AI berpura-pura menjadi manusia. Mungkin justru konten buatan manusia yang perlu diberi watermark atau tanda tangan
Membaginya secara dikotomis seperti ini tidak terlalu membantu
Misalnya, 10 tahun lalu pun saya menonton video YouTube yang narasinya sepenuhnya menggunakan TTS. Pembuatnya tidak ingin memakai suaranya sendiri, jadi ia menulis naskah lalu memasukkannya ke sistem TTS. Dengan tingkat teknologi saat itu, suaranya terdengar mengerikan, tetapi orang-orang menikmati videonya dan jumlah tayangannya juga tinggi. Apakah ini akan disebut buatan AI?
Sekarang, bahkan tanpa AI generatif pun ada TTS yang jauh lebih baik. Video seperti itu mungkin kini lebih enak ditonton. Karena variasi nadanya sedikit, kita mungkin bisa tahu bahwa itu bukan manusia, tetapi barangkali perlu mendengarkan lebih dari 1 menit untuk membedakannya. Apakah ini buatan AI?
Kini dengan AI generatif, dimungkinkan menghasilkan suara yang mungkin tidak bisa dikenali sebagai AI. Namun jika naskahnya ditulis oleh manusia, apakah itu baik-baik saja? Apakah ini buatan AI?
Terakhir, misalkan dalam video yang sama pembuatnya menulis naskah sendiri, tetapi merasa tulisannya kurang bagus atau karena bahasa Inggris bukan bahasa ibunya, ada banyak kesalahan tata bahasa. Jadi ia menyerahkan naskah ke GPT, bukan hanya untuk memperbaiki tata bahasa, tetapi juga memberinya tujuan seperti “menjadi naskah untuk video populer” agar diperbaiki. Setelah itu ia meninjau apakah inti yang ingin disampaikannya sudah tersampaikan, lalu melanjutkan ke pembuatan suara. Apakah ini buatan AI?
Bagi saya, semua kasus ini baik-baik saja dan tidak lebih rendah daripada sesuatu yang dibuat dengan alur kerja sepenuhnya manusia. Selama pembuatnya manusia dan merasa bahwa ia menyampaikan apa yang perlu ia sampaikan, itu sudah cukup
Saya ingin mengirim draf tulisan blog ke GPT dan memintanya menuliskannya untuk saya. Alasan saya belum melakukannya adalah karena hasilnya tidak memiliki “suara” saya. Isinya bisa memuat apa yang ingin saya katakan, tetapi gaya tulisannya benar-benar berbeda. Jika GPT/Claude bisa meniru gaya saya dengan lebih baik, saya akan langsung memakainya. Hampir tidak ada orang yang suka menyunting tanpa henti, terutama penulis
Masalahnya adalah berapa lama sampai kita tidak bisa lagi membedakan perbedaannya
Listen Notes menghapus lebih dari 500 podcast palsu yang dibuat dengan Notebook LM hanya pada akhir pekan lalu
Mengecewakan melihat penipu dan praktisi SEO black-hat sudah memanfaatkan Notebook LM untuk memproduksi podcast palsu secara massal dan menyebarkannya ke berbagai platform
Secara pribadi, saya menentang mesin konten berkualitas rendah tanpa batas
Karena Google terus membuat semakin sulit untuk membuka atau mengunduh gambar asli dari pencarian gambar, saya membuat alat pencarian gambar yang bisa mencari repositori Google Images lewat pintasan sistem operasi dan menyalinnya cepat ke clipboard. Alat ini menggunakan Google Search Engine ID khusus
Sekitar setahun lalu, saya menyadari bahwa 90% hasilnya adalah buatan AI, jadi saya menambahkan flag “No AI”. Pada dasarnya ini adalah filter cepat dan kasar yang membatasi hasil ke sebelum 2022. Tidak sempurna, tetapi berfungsi sebagai solusi sementara https://github.com/scpedicini/truman-show
1 komentar
Pendapat di Hacker News
Hasil pencarian “produk X vs Y” sekarang hampir semuanya jadi omong kosong AI
Melihat dead internet makin membesar membuatku ingin berlangganan Kagi. Sepertinya suatu hari nanti kita akan butuh sertifikasi konten buatan manusia
Perbandingan produk adalah contoh yang jelas, tetapi yang lebih mengkhawatirkan adalah pencarian terkait medis. Minggu ini aku mencoba mencari penelitian tentang obat yang sedang kuminum; hasil yang lima tahun lalu pun sudah tercemar optimasi mesin pencari kini jauh lebih buruk, dipenuhi ratusan halaman spam buatan GPT yang dibuat untuk memancing klik
Pada akhirnya aku menyerah memakai mesin pencari, menemukan makalah yang lumayan relevan di nih.gov, lalu harus menelusuri daftar sitasinya secara manual untuk mencari informasi
Menurutku iklan jelas menyulutnya: internet jadi terkomersialisasi dan tersentralisasi ke platform yang memusuhi pengguna. Internet lama bahkan sekarang pun tampak jauh lebih baik, tetapi selama 15 tahun terakhir ia kehilangan sebagian besar penggunanya
Ini bikin gila. Internet sudah mati
Baru-baru ini aku membeli rumah, lalu mencari pekerjaan perbaikan rumah seperti bagaimana menyiapkan trim sebelum dicat. Hampir semua hasilnya adalah content farm buatan AI, ada iklan di setiap paragraf, video autoplay yang tidak relevan mengikuti halaman, muncul modal persetujuan cookie, lalu segera muncul lagi modal berlangganan newsletter yang meminta kita “jadi teman”
Suka tidak suka, sekarang sepertinya satu-satunya tempat untuk menemukan informasi sungguhan tinggal Reddit
Aku jauh lebih suka konten teks daripada video, tetapi konten teks asli yang benar-benar ditulis manusia nyaris mati. Reddit mungkin pengecualian langka untuk saat ini. Forum-forum lama yang masih hidup juga masih ada per bidang, tetapi biasanya semakin amat sulit ditemukan
Misalnya https://archive.org/details/stanleyhomerepai0000fine/page/14... mengarah ke bab “Painting Trim the Right Way” dari buku Stanley Home Repairs terbitan 2014
Toko buku bekas juga layak dilihat. Perbaikan rumah tidak banyak berubah
Bisa juga menyalakan Wine dan mencoba CD-ROM “Black & Decker Everyday Home Repairs” terbitan Broderbund: https://archive.org/details/BlackDeckerEverydayHomeRepairsBr.... Menurut https://www.goodreads.com/book/show/3424503-everyday-home-re..., isinya panduan langkah demi langkah untuk lebih dari 100 masalah rumah tangga umum, dari memperbaiki keran bocor sampai memperbaiki lantai kayu solid, juga menyediakan animasi dan narasi, serta mencakup perkiraan waktu, biaya, bahan yang diperlukan, dan daftar alat
Kelihatannya benar-benar cukup bagus
Renovations dari Taunton Press (https://www.bookfinder.com/search_s/?title=Renovation%205th%...) adalah referensi pertama yang kulihat saat memulai proyek perbaikan rumah. Bab 18 seluruhnya membahas pengecatan. Buku-buku Taunton lainnya juga bagus, tetapi cakupan Renovations tidak tertandingi
Trim MDF putih datar yang dibeli sekarang biasanya sudah diberi primer, jadi siap langsung dicat
Untuk mobil baru, informasi pengerjaannya hampir tidak ada, dan kebanyakan hanya video YouTube berisi orang yang tidak tahu apa-apa merekam perbaikan DIY yang buruk
Dalam ekonomi internet yang berpusat pada produksi dan monetisasi “konten”, mungkin sejak awal besar kemungkinannya akan berakhir seperti ini
Ini dimulai dengan menempelkan iklan pada konten yang sudah ada, lalu bergeser ke jejaring sosial dan media sosial, yang pada akhirnya adalah mesin untuk melakukan crowdsourcing produksi konten yang lebih banyak dan menampilkan iklan di sampingnya. Karena ada uang yang dipertaruhkan, produksi konten menjadi bisnis penting, dan teknologi memenuhi permintaan itu dengan cara membuat konten lebih murah daripada uang yang bisa dihasilkan darinya
Masalah mengelola konten tidak diinginkan yang dibuat manusia pun sebenarnya sudah mulai menggerogoti model bisnis ini, dan kini alat generatif menghasilkan konten yang tidak diinginkan lebih cepat daripada kecepatan pengelolaannya. Setelah mencapai tingkat kejenuhan tertentu, orang akan kehilangan minat, dan alat-alat yang dulu memisahkan konten bagus dan buruk dengan heuristik algoritmis juga akan menjadi tidak berguna. Satu-satunya jalan keluar yang terlihat adalah konten buatan manusia yang dikurasi oleh manusia, tetapi saya tidak tahu apakah ada model bisnis seperti itu pada skala yang dituntut industri
Internet awal lebih terasa seperti menjelajahi perpustakaan. Kebanyakan situs tidak diharapkan diperbarui setiap hari, bahkan setiap bulan pun tidak, dan tulisan hampir selalu ditata berdasarkan isi, bukan urutan terbaru
Ketika blog terlalu berfokus pada hal baru, banyak hal berubah, dan banyak situs menjadi jelas lebih buruk saat beralih dari membangun perpustakaan materi yang tahan lama ke mengejar page view baru. Diskusi online juga mengalami proses serupa saat berpindah dari forum ke struktur rekomendasi ala Reddit/HN. Di forum lama, diskusi yang berlangsung lebih dari 10 tahun masih ada, tetapi di Reddit atau HN, setelah beberapa jam saja sebuah postingan terdorong keluar dari halaman dan diskusinya mati
Chat grup privat jauh lebih populer dan umum daripada yang kita akui, dan dalam lingkungan seperti ini arus ke arah itu akan makin cepat
Saya berharap orang kehilangan minat dan berhenti mengonsumsi konten sampah, tetapi taruhan pihak seberang adalah orang akan makin terbiasa dengan konten pasokan algoritmis berkualitas makin rendah, sementara industri memeras keuntungan tanpa henti dengan cara apa pun. Melihat sejarah TV kabel, tampaknya memang ada titik batas
Kelompok monokultur kecil seperti segelintir mahasiswa yang bosan akan selalu memahami algoritme, mengambil alih platform dengan porno dan spam, lalu menggerogoti sumber daya. Alat yang lebih baik dan keterkaitan insentif finansial yang dibuat untuk membantu kelompok yang lemah justru memperbesar kesenjangan. Ini menjadi masalah karena para influencer finansial membayar bukan untuk dipermalukan oleh segelintir influencer pasar konten, melainkan untuk diakui massa
Tapi mengapa itu menjadi masalah? Para produsen “konten tidak diinginkan” hanya mengoptimalkan apa yang paling dihargai pasar. Jika itu masalahnya, maka keberadaan pasar itu sendiri adalah masalah. Lalu apa yang harus dilakukan? Menghancurkannya saja juga bisa masuk akal
Bukan cuma gambar. Jika Anda mencari di Google sesuatu yang bisa dianggap pertanyaan umum, di 3–5 hasil teratas sering muncul word salad dari AI generatif
Saat mulai membacanya, Anda tidak langsung menyadarinya. Lalu Anda mulai mencurigai bahkan hal-hal yang jelas bukan AI generatif. Manusia punya intuisi tentang bagaimana seseorang bisa salah, dengan cara apa mereka salah, nada bicara seperti apa saat mereka salah, seberapa besar kemungkinan mereka salah, di format dan platform mana kesalahan muncul, seberapa sering mereka salah, dan bagaimana orang lain bereaksi. AI adalah sesuatu yang sama sekali berbeda. Tidak ada intuisi atau pengalaman apa pun yang bisa memberi tahu kapan AI yang terdengar meyakinkan itu sedang salah
Seluruh heuristik yang selama ini secara bawah sadar kita pakai untuk menilai kualitas informasi yang disampaikan menjadi lumpuh dalam semalam; itu bisa menjadi resep untuk kegilaan dan kemalangan. Seumur hidup, hampir tidak pernah saya merasa sesedih ini dengan sebuah teknologi
Jika butuh bantuan atau punya pertanyaan, saya tidak memakai Google dan tidak memposting di forum publik. Saya bertanya di chat grup privat, tempat semua orang adalah manusia sungguhan, tidak ada yang mencari uang, dan tidak ada yang menyalin-tempel ChatGPT demi mengumpulkan poin internet untuk menjual akunnya nanti
Hanya ada satu jalan perubahan, dan orang tidak akan menyukainya: semua konten di internet harus terhubung dengan identitas hukum. Setiap postingan dan setiap komentar di Facebook harus bisa dikaitkan dengan orang nyata
Konten AI juga tidak jauh berbeda. Hanya saja sekarang membuat konten semacam itu 100 kali lebih mudah, sehingga jauh lebih sering terlihat. Pada dasarnya ini bukan masalah AI, melainkan masalah insentif dan model bisnis berbasis iklan. AI membuat masalah degradasi layanan jauh lebih mencolok, tetapi masalah itu memang sudah ada
Saya tidak tahu solusinya. Dugaan saya, ketika konten berkualitas rendah membanjiri semuanya, internet publik akan makin kurang penting seiring waktu, dan banyak komunikasi akan berpindah ke komunitas kecil yang sangat bergantung pada verifikasi identitas dan kredensial manusia
Sulit menjelaskan mengapa, tetapi entah karena saya tidak tahu seperti apa rupa anak merak, contoh ini membuat sisi gelap AI terasa sangat kuat
Saya terbiasa cukup memercayai hasil pencarian. Memang ada hasil yang aneh atau nyaris tidak masuk akal, tetapi hanya sesekali di antara lautan gambar yang relevan. Sekarang saya bisa benar-benar buta terhadap sesuatu yang tidak saya ketahui. Sebagai orang yang tumbuh dengan Google sebagai sesuatu yang “ada begitu saja”, ini benar-benar menakutkan
Jika tidak punya akun Twitter dan ingin melihat lebih banyak selain satu unggahan, bisa dilihat di sini: https://xcancel.com/notengoprisa/status/1842550658102079556
Kalau Google ingin tetap relevan, bukankah mereka harus menyelesaikan masalah ini dengan satu atau lain cara? Jika mencari gambar dan membuat gambar menghasilkan hasil yang sama, lalu apa lagi arti pencarian gambar?
Karena internet dibiayai lewat iklan, menemukan konten berkualitas baik jadi sangat sulit. Kalau Anda bukan kreator konten atau Google, insentifnya sudah benar-benar melenceng
Persoalannya adalah apa yang akan datang berikutnya, dan sepertinya tidak ada yang punya jawabannya
Dasarnya adalah semua berita dan media sosial lain di planet ini
Yang paling parah adalah hasil yang menyalin judul Snopes “Video Genuinely Shows White ‘Baby Peacock’?” dengan hanya menghapus tanda tanyanya. Halaman itu menjelaskan bahwa foto tersebut bukan anak merak sungguhan
Kalau mencari dengan istilah yang lebih tepat, peachick, tampaknya 100% gambar yang muncul adalah gambar asli. Namun setengah halamannya masih menyebutnya “baby peacocks”
Dalam waktu dekat, kemungkinan besar sebagian besar video YouTube dan podcast akan dibuat oleh AI. Misalnya lewat alat seperti Notebook LM
Namun, belum pasti apakah audiens benar-benar akan menikmati konten buatan AI seperti itu. Secara pribadi, saya lebih menyukai konten buatan manusia. Rasanya lebih autentik dan lebih imersif
Alat AI mutlak membutuhkan mekanisme deteksi yang kuat, seperti watermark tepercaya, agar platform lain dapat mengidentifikasi konten buatan AI. Sayangnya, alat deteksi audio buatan AI saat ini masih kurang memadai: https://www.npr.org/2024/04/05/1241446778/deepfake-audio-det...
Saya juga baru saja merapikan daftar “podcast” yang dibuat oleh Notebook LM: https://github.com/ListenNotes/notebooklm-generated-fake-pod...
Kita perlu mempertimbangkan apakah ingin mendengarkan podcast yang dibuat AI. Orang mungkin bisa menerima program yang mereka buat sendiri, tetapi saya rasa mereka akan kurang menyukai “podcast” yang dibuat AI oleh orang lain
Saya “ingin” lebih menyukai konten buatan manusia, tetapi AI tampaknya bisa mengoptimalkan keterlibatan manusia dengan lebih baik. Terutama untuk konten pemicu dopamin yang sederhana seperti video TikTok. Kita tidak serumit yang kita kira
Sayangnya, mekanisme deteksi pada alat AI tidak akan pernah benar-benar bekerja dengan baik. Tidak ada cara untuk menyingkirkan pelaku jahat, dan ada banyak uang yang dipertaruhkan dalam membuat AI berpura-pura menjadi manusia. Mungkin justru konten buatan manusia yang perlu diberi watermark atau tanda tangan
Misalnya, 10 tahun lalu pun saya menonton video YouTube yang narasinya sepenuhnya menggunakan TTS. Pembuatnya tidak ingin memakai suaranya sendiri, jadi ia menulis naskah lalu memasukkannya ke sistem TTS. Dengan tingkat teknologi saat itu, suaranya terdengar mengerikan, tetapi orang-orang menikmati videonya dan jumlah tayangannya juga tinggi. Apakah ini akan disebut buatan AI?
Sekarang, bahkan tanpa AI generatif pun ada TTS yang jauh lebih baik. Video seperti itu mungkin kini lebih enak ditonton. Karena variasi nadanya sedikit, kita mungkin bisa tahu bahwa itu bukan manusia, tetapi barangkali perlu mendengarkan lebih dari 1 menit untuk membedakannya. Apakah ini buatan AI?
Kini dengan AI generatif, dimungkinkan menghasilkan suara yang mungkin tidak bisa dikenali sebagai AI. Namun jika naskahnya ditulis oleh manusia, apakah itu baik-baik saja? Apakah ini buatan AI?
Terakhir, misalkan dalam video yang sama pembuatnya menulis naskah sendiri, tetapi merasa tulisannya kurang bagus atau karena bahasa Inggris bukan bahasa ibunya, ada banyak kesalahan tata bahasa. Jadi ia menyerahkan naskah ke GPT, bukan hanya untuk memperbaiki tata bahasa, tetapi juga memberinya tujuan seperti “menjadi naskah untuk video populer” agar diperbaiki. Setelah itu ia meninjau apakah inti yang ingin disampaikannya sudah tersampaikan, lalu melanjutkan ke pembuatan suara. Apakah ini buatan AI?
Bagi saya, semua kasus ini baik-baik saja dan tidak lebih rendah daripada sesuatu yang dibuat dengan alur kerja sepenuhnya manusia. Selama pembuatnya manusia dan merasa bahwa ia menyampaikan apa yang perlu ia sampaikan, itu sudah cukup
Saya ingin mengirim draf tulisan blog ke GPT dan memintanya menuliskannya untuk saya. Alasan saya belum melakukannya adalah karena hasilnya tidak memiliki “suara” saya. Isinya bisa memuat apa yang ingin saya katakan, tetapi gaya tulisannya benar-benar berbeda. Jika GPT/Claude bisa meniru gaya saya dengan lebih baik, saya akan langsung memakainya. Hampir tidak ada orang yang suka menyunting tanpa henti, terutama penulis
Mengecewakan melihat penipu dan praktisi SEO black-hat sudah memanfaatkan Notebook LM untuk memproduksi podcast palsu secara massal dan menyebarkannya ke berbagai platform
Karena Google terus membuat semakin sulit untuk membuka atau mengunduh gambar asli dari pencarian gambar, saya membuat alat pencarian gambar yang bisa mencari repositori Google Images lewat pintasan sistem operasi dan menyalinnya cepat ke clipboard. Alat ini menggunakan Google Search Engine ID khusus
Sekitar setahun lalu, saya menyadari bahwa 90% hasilnya adalah buatan AI, jadi saya menambahkan flag “No AI”. Pada dasarnya ini adalah filter cepat dan kasar yang membatasi hasil ke sebelum 2022. Tidak sempurna, tetapi berfungsi sebagai solusi sementara
https://github.com/scpedicini/truman-show