Mengapa Saya Menentang GenAI dan Segala Hal yang Diwakilinya

• Kritik terhadap GenAI tidak ditujukan pada pembelajaran mesin yang berguna secara umum, melainkan pada model generatif, yang dinilai sebagai teknologi yang di-hype lebih berbahaya dan lebih lama bertahan daripada kripto atau NFT
• AI generatif adalah struktur yang melatih model dengan karya ciptaan manusia dari internet dalam skala besar lalu menjual kembali aksesnya lewat langganan; kasus torrent 82TB buku bajakan oleh Meta menyingkap masalah penjarahan data
• LLM dapat secara otomatis menghasilkan konten komentar berkualitas rendah selama 24 jam untuk memperkuat misinformasi, dan model yang dilatih dengan kecenderungan sayap kanan seperti Grok disebut sangat layak ditolak
• Dalam pendidikan, cara berpikir, dan pemrograman, vibecoding serta salin-tempel mengurangi pembelajaran lewat coba-coba, sekaligus memperbesar beban review, utang teknis, dan masalah nondeterminisme
• AI generatif juga memperburuk kesepian, dorongan bunuh diri, dokumen bertele-tele, hingga biaya lingkungan dan perangkat keras, dan internet sulit kembali ke keadaan sebelumnya

---

Cakupan GenAI dan pokok persoalannya

• GenAI digunakan sebagai istilah yang mencakup LLM pembuat teks dan model yang membuat media seperti gambar dan video
• Sasaran kritik dibatasi pada AI generatif, bukan pembelajaran mesin secara umum yang telah dipakai untuk memecahkan masalah nyata di berbagai industri
• Pemrosesan gambar berbasis jaringan saraf untuk menemukan rambu berhenti dalam gambar dibedakan sebagai pembelajaran mesin yang berguna, yang bisa lebih baik daripada deteksi fitur klasik
• AI generatif dinilai sebagai teknologi hype berikutnya setelah kripto dan NFT, tetapi dianggap lebih buruk dan lebih mungkin bertahan lebih lama daripada contoh-contoh sebelumnya

Kapitalisme dan penjarahan data

• AI generatif dikritik sebagai struktur yang memakai karya ciptaan manusia yang dikumpulkan secara massal dari internet sebagai data latih, lalu menjual akses ke model itu dalam bentuk langganan
• Catatan pengadilan bahwa staf Meta men-torrent sekitar 82TB buku bajakan untuk pelatihan AI diajukan sebagai contoh representatif masalah perolehan data
• Logikanya, bila tujuannya benar-benar untuk memberi manfaat bagi umat manusia, pengembangan AI seharusnya dilakukan secara terbuka, datanya diperoleh secara legal, modelnya didistribusikan gratis, dan aksesnya tidak dikunci di balik biaya langganan yang terus naik
• Perusahaan AI diibaratkan sebagai penadah yang membeli barang curian lalu menjualnya kembali, dan dalam AI generatif kritiknya berlanjut pada fakta bahwa perusahaan besar bahkan tidak membayar data curian itu
• AI dirangkum sebagai teknologi yang mencemari banyak industri di bawah belanja modal raksasa, memungkinkan big tech melakukan rente lewat penggunaan token, dan mempercepat penurunan kualitas di wilayah yang disentuhnya

Mesin produksi misinformasi

• Bahkan sebelum AI generatif, misinformasi sudah menjadi industri besar, dan Internet Research Agency diajukan sebagai organisasi disinformasi Rusia yang menyebarkan pesan pro-Kremlin
• Organisasi ini beroperasi dengan cara orang-orang Rusia memposting misinformasi dan propaganda pro-Rusia di media sosial selama 24 jam, dan dibahas dalam konteks pengaruhnya terhadap naiknya Trumpism di AS serta keterkaitan tokoh terkait Trump dengan pejabat Rusia
• LLM dapat otomatis menghasilkan konten komentar berkualitas rendah selama 24 jam, sehingga membuat masalah misinformasi jauh lebih parah
• Di komunitas online besar, banyak bot yang awalnya memposting konten tak berbahaya lalu beralih ke konten politik, dan hampir selalu digambarkan memiliki tujuan memancing reaksi emosional
• Argumennya berlanjut bahwa jika pada 2026 seseorang marah karena komentar online, ada kemungkinan besar komentar itu adalah komentar palsu buatan LLM yang memang dirancang untuk memancing kemarahan pengguna
• Di Jerman, partai pinggiran kiri BSW dan partai sayap kanan ekstrem AfD dikaitkan dengan anggapan bahwa Rusia setidaknya secara tidak langsung mendanai mereka lewat korupsi
• Klaim AfD meliputi perbaikan hubungan dengan Rusia, penghapusan energi terbarukan, mempertahankan mobil bermesin pembakaran dalam, deportasi orang asing, keluar dari EU, dan penolakan perubahan iklim; semuanya diajukan sebagai agenda sayap kanan yang menguntungkan Rusia
• Kesimpulannya, jika membenci misinformasi, maka seseorang juga harus menolak LLM, terutama LLM yang secara eksplisit dilatih condong ke sayap kanan seperti Grok

Bunuh diri dan dorongan perilaku berbahaya

• Artikel Wikipedia Deaths linked to chatbots diajukan sebagai halaman yang mengumpulkan kasus orang bunuh diri setelah konseling dengan LLM
• Risiko bahwa orang yang rentan secara psikologis atau sedang melalui masa sulit dalam hidup bisa dianjurkan bunuh diri oleh LLM diperlakukan sebagai tragedi
• Di tengah risiko seperti itu, fakta bahwa AI generatif telah menjadi industri bernilai triliunan dolar menjadi sasaran kritik keras

Pendidikan dan penurunan fokus

• AI generatif dinilai merusak pendidikan, dan dihubungkan dengan masalah bahwa konsumsi video pendek berkualitas rendah merusak rentang perhatian kaum muda
• Big tech dikritik karena berusaha menyuntikkan LLM ke ruang kelas, mirip dengan cara Microsoft selama 30 tahun membesarkan murid yang terbiasa dengan Windows dan Office di sekolah
• Perusahaan-perusahaan menyediakan akses untuk institusi pendidikan ke LLM
• Kutipan dalam artikel Futurism, “Jika semua alat genAI ditembakkan ke matahari, saya akan cukup senang,” merangkum sikap penolakan terhadap AI generatif

Menurunnya kemampuan berpikir kritis dan pemecahan masalah

• Kerugian AI generatif diklaim tidak berhenti di dunia akademik, tetapi juga memengaruhi kemampuan berpikir secara umum
• Sebagian orang digambarkan berhenti berpikir sendiri setelah AI menjadi arus utama, dan mendahulukan jawaban ChatGPT untuk hampir semua pertanyaan dan diskusi
• Fenomena ini muncul bukan hanya dalam diskusi offline, tetapi juga di Reddit dan forum bergaya lama
• Sebagai dasar bahwa dunia akademik juga membahas masalah ini, ditautkan makalah arXiv

Meluasnya kesepian

• AI dikritik karena makin memperburuk tren modern ketika orang tinggal di rumah di sofa sambil menggulir ponsel tanpa tujuan
• Tren pria muda menjauh dari perempuan sebaya dan bergantung pada pacar AI diajukan sebagai sinyal buruk untuk masa depan
• Kesepian memperbesar ekstremisme dan kebencian, serta membuat komunikasi dalam kehidupan nyata makin sulit
• Orang yang terlalu tenggelam dalam hubungan palsu dengan AI dikritik akan sulit mempelajari cara membangun kemitraan nyata, atau mengembangkan empati terhadap pasangan yang memiliki kebutuhan berbeda dari dirinya
• Chatbot AI tidak memiliki opini sendiri yang bisa memengaruhi pikiran pengguna, tidak memahami cara berpikir pengguna, dan juga tidak tumbuh dengan mengalami dunia seperti pengguna
• Fakta bahwa Paus Leo XIV mengkritik aspek AI generatif ini dan sejumlah masalah penting lainnya diajukan sebagai dasar yang menekankan keseriusan masalah AI

Memburuknya pembelajaran pemrograman dan kualitas kode

• Hilangnya pembelajaran berbasis coba-coba

  • Dulu orang belajar pemrograman dengan membuat alat dan memecahkan masalah tanpa koneksi internet, dan dalam proses itu memperoleh intuisi tentang komputer dan kemungkinan teknis
  • Saat ini, anak muda digambarkan makin jarang terekspos pada lingkungan yang menuntut mereka menggali sendiri untuk membuat sesuatu bekerja, karena semua dibungkus dalam aplikasi dan layar sentuh
  • AI generatif dikritik karena menghilangkan bahkan elemen terakhir berupa “mencoba sampai berhasil dan belajar selama proses itu”
  • Saat solusi diminta ke LLM lewat prompt, hasil langsung keluar, dan di tempat kerja diamati ada kasus hasil itu ditempel ke tempat yang diperlukan tanpa bisa dijelaskan
  • Masalahnya bukan lagi sekadar tidak ingat flag tar di Linux CLI, melainkan menyalin-menempel seluruh perintah pipeline xargs ke terminal lalu berharap tidak terjadi masalah
  • Bahkan pada masa menyalin potongan Stack Overflow, setidaknya orang masih harus mencocokkan potongan puzzle ke arsitektur dan memikirkan kodenya sampai taraf tertentu, tetapi setelah LLM proses itu berkurang

• Vibecoding dan beban review

  • vibecoder digambarkan sebagai orang yang meminta apa yang dibutuhkan lewat prompt lalu membiarkan LLM membuat seluruh program atau sebagian darinya
  • Cara menghasilkan seluruh program sekaligus disebut “oneshotting”, dan dalam banyak kasus kode yang dihasilkan bahkan tidak dibaca
  • Berlawanan dengan klaim bahwa LLM hanya dipakai sebagai asisten atau sparring partner, lingkungan profesional nyata dikritik justru lebih banyak memproduksi kode berkualitas rendah daripada membacanya
  • Membaca kode digambarkan baru terjadi saat review MR/PR ketika 9001 baris kode hasil generasi diajukan
  • Struktur ini membuat penulis melakukan pekerjaan minimum sementara reviewer menanggung beban pemeriksaan maksimum, dan vibecoding diringkas hanya lebih cepat bila tidak dilakukan review teliti pada tingkat yang seharusnya

• Utang teknis jangka panjang

  • Diperkirakan 5–10 tahun lagi para vibecoder yang bergantung pada LLM akan meninggalkan kode yang tak bisa dipelihara dan salah desain di banyak codebase
  • Logikanya, pada saat itu mereka tidak akan bisa bekerja tanpa LLM, dan jika tumpukan utang teknis menjadi terlalu besar lalu LLM juga gagal, situasinya akan menjadi serius
  • Diperkirakan organisasi bisa melahirkan peran baru yang tugasnya membersihkan masalah yang ditinggalkan vibecoding
  • Diakui bahwa kode di banyak organisasi sudah berantakan, tetapi AI generatif diajukan akan memperparah skala masalah itu secara eksponensial

• Agen coding dan masalah biaya

  • Ada optimisme bahwa perkembangan agen coding akan memperbaiki masalah, tetapi bahkan jika LLM terus membaik, masih diragukan apakah layanan itu akan tersedia dengan murah
  • Demam AI telah menelan ratusan miliar dolar, dan para pemegang saham pada akhirnya akan menuntut keuntungan
  • Diajukan isu bahwa model frontier mengalami penurunan performa beberapa minggu setelah rilis, dan ini dihubungkan dengan tren harga yang tetap atau naik

• Kapabilitas developer dan nondeterminisme

  • Bahkan jika AI generatif dianggap membuat pemrograman lebih baik, tetap dipertanyakan apa bedanya dengan pemberi kerja yang membayar biaya langganan ke penyedia LLM bila penggunanya justru kehilangan kemampuan berpikir dan keterampilan
  • Berlawanan dengan klaim komunitas penggemar AI bahwa orang yang tidak memakai AI akan tertinggal, diajukan posisi bahwa justru orang yang memakai dan bergantung pada AI yang akan tertinggal
  • LLM dikritik sebagai sistem nondeterministik yang meski prompt yang sama berhasil 10 kali, tetap tidak bisa menjamin hasil memuaskan pada percobaan ke-11
  • LLM dirangkum bukan sebagai software yang dapat diandalkan, melainkan lebih mirip mesin slot yang dipoles

Menurunnya kualitas komunikasi

• Pengguna AI generatif mengatakan mereka bisa menulis email atau dokumen panjang lebih cepat, tetapi cara itu dikritik sebagai penggunaan egoistis yang memperlambat seluruh organisasi
• Diberikan contoh bahwa bila keberatan yang cukup disampaikan dalam dua baris justru digelembungkan LLM menjadi 500 kata, maka 34 orang akan menghabiskan banyak jam kerja hanya untuk mengekstrak alasan keberatan yang sebenarnya dari teks itu
• Ini dibandingkan dengan cara menulis sendiri jawaban rinci saat memang diperlukan sambil tetap memadatkan inti agar tidak membuang waktu orang lain
• Orang-orang menjadi tidak lagi mau menginvestasikan waktu dalam komunikasi tertulis, dan email pun menjadi panjang, rumit, dan membebani untuk dibaca
• Tren merangkum email panjang hasil LLM kembali dengan LLM dianalogikan seperti network tunnel dengan proxy di kedua sisi, di mana transfer encoding antarproxy itu berupa teks berkualitas rendah

Kerusakan tambahan dan kegunaan yang terbatas

• Demam data center, kenaikan harga hardware akibat GenAI, perusahaan yang makin sulit membuat produk digital yang benar-benar berguna karena harga DRAM, PHK akibat AI, dan masalah lingkungan dari pembangunan pembangkit listrik gas untuk melatih generator berkualitas rendah diajukan sebagai masalah yang sudah jelas bahkan tanpa pembahasan rinci terpisah
• Diakui bahwa LLM mungkin punya peran dalam beberapa aplikasi yang berguna dan kurang berbahaya
• Terjemahan bisa cukup berguna sampai taraf tertentu, tetapi karya sastra yang bergantung pada nuansa halus dibatasi sebagai ranah yang mungkin lebih cocok untuk penerjemah manusia
• Dipakai analogi bahwa seseorang tidak seharusnya menciptakan Torment Nexus hanya karena ada sifat pinggiran yang oleh sebagian orang dianggap praktis

Perubahan yang tak bisa dibalik dan kesimpulan

• AI generatif digambarkan seperti jin yang sudah keluar dari botol dan tak bisa dimasukkan kembali, dan akan menyertai kita seumur hidup
• Internet tidak akan kembali ke keadaan sebelum AI generatif, dan banyak masalah yang telah diuraikan diperkirakan akan terus memburuk karena AI
• Suasana bahwa sentimen anti-AI terus memburuk berlanjut, lalu dihubungkan dengan harapan agar umat manusia mampu bertahan dan mencegah semuanya rusak
• Ditutup dengan kesimpulan bahwa perusahaan AI dan sebagian besar investasi AI big tech diharapkan runtuh, dan mesin penghancur sosial-teknologis raksasa ini berhenti

[GN⁺]

Opini di Lobste.rs

• Kelompok yang mendorong kripto dan NFT dengan kelompok yang mendorong AI memang mungkin tumpang tindih, tetapi jelas AI jauh lebih berguna, jadi sulit setuju dengan perbandingan ini
  Nilai jual kripto juga tidak pernah benar-benar berubah dan sampai sekarang masih terasa seperti kumpulan aset spekulatif. Menurut saya, kelompok yang mendorong itu lebih mirip dengan orang-orang yang menjual emas atau perak daripada orang-orang yang tertarik pada AI
  Secara pribadi, orang-orang yang saya anggap punya kemampuan teknis dan penilaian yang cukup baik memang meragukan apakah kripto akan menemukan kasus penggunaan yang benar-benar berguna, tetapi model-model mutakhir justru tampaknya menghasilkan efek sebaliknya

  • Tidak pernah ada keraguan bahwa kripto dan NFT berguna untuk pencucian uang dan berbagai bisnis kriminal lainnya
    Hampir tidak ada teknologi yang benar-benar tidak berguna, dan biasanya lebih bermakna menilainya dari siapa yang diuntungkan dan sejauh apa. Seperti yang terlihat jelas di tulisan aslinya, sejak awal LLM memang jelas berguna bagi spammer, penipu, plagiator, dan propagandis. Bukan sekadar karena kelompok pendorongnya saling tumpang tindih; LLM sangat mirip dengan Bitcoin dan NFT karena memusatkan kekayaan pada segelintir orang sambil merugikan masyarakat luas dan lingkungan
  • Dari pengalaman saya, para penipu yang dulu mendorong Bored Yacht Club NFT itu juga sekarang memuja absolutisme AI
    Tentu saja ini bisa jadi kesan yang cukup subjektif

• Tahun ini saham keamanan web naik besar. Beberapa perusahaan menyadari bahwa strategi memakai token sebanyak mungkin adalah hal yang bodoh
  Sepuluh tahun ke depan kemungkinan akan dihabiskan untuk membereskan hal-hal seperti ini
  Sama seperti sekarang hampir tidak ada orang yang membicarakan big data, beberapa tahun lagi juga tidak akan ada yang membicarakan agent

  • Sekarang istilah big data memang tampaknya jarang dipakai, tetapi bukan berarti big data benar-benar hilang
    Yang hilang hanya kata buzzword-nya; konsepnya sendiri menurut saya masih sangat dekat dengan cara ekonomi internet bekerja. Bukankah ad tech, Google, bahkan konten sampah AI juga membutuhkan data berskala besar seperti itu untuk pelatihan?

• Sebagian besar argumen seperti ini terasa seperti juga akan muncul saat internet mulai menjadi arus utama

  • Sama sekali tidak. Setidaknya pada awal 2000-an, menurut saya orang-orang sangat optimistis terhadap internet. Saya kurang tahu soal pertengahan 90-an
    Optimisme AI tampaknya hanya ada di kepala big tech dan orang-orang yang lebih tua, sementara anak muda justru terlihat lebih menentang AI
  • Sama sekali tidak. Memang ada sedikit pembicaraan bahwa ini akan “menambah kesepian”, tetapi pengalaman nyata justru membantahnya. Dulu orang bisa menemukan komunitasnya sendiri di internet
    IBM bahkan pernah menayangkan iklan TV OS/2 yang menampilkan para biarawati yang sangat ingin bisa browsing web. Tidak satu pun argumen lain dalam tulisan ini dulu muncul tentang internet
    Ada satu argumen penentangan yang ada pada internet awal tetapi tidak ada pada “AI” berbasis LLM. RIAA, MPAA, dan kartel besar lainnya benar-benar kehilangan akal karena pelanggaran hak cipta, dan hidup seseorang bisa hancur jika dinyatakan bersalah hanya karena satu lagu atau satu film. Sekarang Meta, ByteDance, Anthropic, dan OpenAI menyalin ulang semua teks yang ditulis manusia setiap 10 jam. Terlepas dari apakah sebelumnya sudah pernah disalin atau belum. Semua yang dihasilkan LLM adalah produk dari tindakan yang dulu disebut kartel hiburan sebagai “ancaman eksistensial terhadap cara hidup Amerika”
  • Yang langsung teringat adalah Silicon Snake Oil

• Sebagai alternatif terhadap kartel AI tertutup dan kapitalisme semata, sejauh ini Hugging Face layak dianggap sebagai contoh yang baik