Membenci AI pada 2026

 (eamoncaddigan.net)
3 poin oleh GN⁺ 5 jam lalu | 2 komentar | Bagikan ke WhatsApp
  • Seorang praktisi machine learning dengan pengalaman 20 tahun yang pernah menaruh harapan pada perkembangan jaringan saraf kini memilih menolak penggunaannya, dengan alasan gelombang AI saat ini menimbulkan biaya sosial dan lingkungan yang tidak dapat dibenarkan oleh manfaatnya
  • Model pembangkitan teks menciptakan ilusi bahwa mereka memahami instruksi dan bercakap seperti manusia dengan memprediksi kata berikutnya secara canggih, tetapi demam yang memandangnya sebagai teknologi yang mendekati kesadaran setingkat manusia tetap berlanjut meski ada bantahan dari para ahli kognisi dan bahasa
  • Perusahaan teknologi besar dan investor lebih berfokus pada pembangunan model yang lebih besar daripada inovasi jaringan saraf itu sendiri, menuntut data pelatihan dan energi dalam jumlah masif, sambil mengabaikan kontradiksi antara mengakui perubahan iklim dan tetap mengadopsi teknologi yang meningkatkan permintaan bahan bakar fosil
  • Meski sulit sepenuhnya menghindari eksploitasi dan kerusakan lingkungan yang terjalin dalam kehidupan modern, AI tetap menjadi pilihan yang mudah untuk tidak digunakan demi hak manusia dan lingkungan, karena orang cukup memakai komputer seperti tiga tahun lalu
  • Sikap anti-AI pada 2026 mirip dengan sikap anti-perang menjelang invasi Irak pada 2002; meski hubungan sebab-akibat kerugiannya lebih kabur dan bahkan rekan serta teman ikut terlibat, struktur sosial yang memberi imbalan pada pilihan buruk terus terulang

Dari prediksi kata berikutnya ke demam industri

  • Sekitar 15 tahun lalu, setelah machine learning berbasis jaringan saraf memasuki renaisans keduanya, teknik ini melampaui metode lain dalam klasifikasi dan generasi berbagai data digital seperti gambar, suara, dan teks
  • Model pembangkitan teks, lewat kemampuan memilih kata berikutnya, mewujudkan chatbot yang tampak memahami instruksi dan bercakap seperti manusia sungguhan, lalu memikat para pemimpin perusahaan, politisi, dan pekerja industri teknologi
  • Teknologi ini adalah teknik canggih yang menciptakan ilusi pemahaman yang sementara, tetapi untuk beberapa waktu bahkan orang-orang rasional pun kerap percaya bahwa generator kata berikutnya telah mendekati kesadaran mirip manusia
    • Para ahli kognisi dan bahasa terus menjelaskan mengapa kesadaran semacam itu tidak muncul, tetapi demamnya tetap berlanjut
    • Karena istilah ini dipakai sebagai nama umum yang mencakup berbagai teknologi, artificial intelligence disebut AI
  • Perusahaan teknologi besar yang sudah mengambil porsi ekonomi yang cukup besar hingga terasa tidak nyaman, meski tidak memproduksi kebutuhan pokok, telah mempertaruhkan nasibnya pada AI
    • Inovasi praktis pada jaringan saraf itu sendiri melambat
    • Perusahaan dan investor berfokus membangun model yang lebih besar yang menuntut data pelatihan dan energi dalam jumlah masif
  • Pada 2026, penyangkalan perubahan iklim yang terang-terangan tidak lagi populer, dan kebanyakan orang mengakui konsensus ilmiah bahwa iklim memanas karena ketergantungan pada bahan bakar fosil
    • Meski begitu, AI secara langsung meningkatkan permintaan minyak masyarakat, dan kritik bahwa teknologi ini tidak layak diadopsi hanya karena kebutuhan energinya diabaikan oleh para pengguna
  • Bahkan ketika kerusakan yang sedang terjadi dan kerusakan tambahan jika tren ini terus berlanjut ditunjukkan, kekhawatiran itu tetap ditolak ketika individu dan perusahaan kaya memutuskan membangun masa depan di atas pendekatan teknologi tertentu yang mereka miliki
  • Sebagian pengguna mungkin menganggap chatbot berguna, tetapi tidak ada penggunaan apa pun yang cukup untuk membenarkan biaya yang disosialisasikan yang harus ditanggung seluruh masyarakat
  • Bahkan bagi seorang praktisi machine learning berpengalaman 20 tahun yang menaruh harapan pada perkembangan jaringan saraf selama 10 tahun terakhir, arus AI saat ini sudah keluar jalur

Teknologi yang bisa ditolak penggunaannya dan pola yang berulang

  • Orang-orang mungkin telah menjadi kebal terhadap argumen moral yang mengkritik sistem sosial dan teknologi karena menyakiti seseorang
    • Tidak ada yang salah dengan argumen moral itu sendiri, tetapi untuk hidup secara biasa di negara kaya, orang hampir tak bisa menghindari ketergantungan pada eksploitasi banyak orang dan sumber daya lingkungan yang terbatas
    • Bahkan posisi etika prososial yang konsisten pun sulit menghindari tanggapan bahwa ia langsung berkompromi begitu bersentuhan dengan masyarakat seperti ini
  • Kerusakan yang terkandung dalam makanan, pakaian, dan perangkat elektronik sulit dihindari, tetapi AI masih mudah untuk tidak digunakan
    • Ini adalah salah satu pilihan untuk mempraktikkan etika yang menghormati hak manusia dan lingkungan dalam kehidupan nyata
    • Orang cukup menggunakan komputer dengan cara yang sama seperti tiga tahun lalu
  • Jika prospek AI selain prediksi optimistis menjadi kenyataan, pencatat sejarah masa depan akan bertanya-tanya mengapa tidak lebih banyak orang yang menolak menggunakannya
  • Emosi yang ditimbulkan oleh sikap anti-AI mirip dengan akhir 2002 menjelang invasi AS ke Irak
    • Saat itu tampak jelas bahwa para pemimpin negara sedang berbohong untuk membenarkan perang, dan kecuali bagi segelintir orang kaya, tidak akan ada hasil yang baik, tetapi media dan sebagian besar publik justru mencemooh para pengkritiknya
    • Dalam sikap anti-AI pun muncul rasa yang sama seperti pada sikap anti-perang saat itu
  • Perbedaan antara dua masa itu adalah bahwa lebih sulit menunjuk penyebab kerusakan yang diciptakan AI secara spesifik
    • Sulit mengatribusikan berapa banyak orang yang meninggal ketika suhu rata-rata bumi naik 0,1 derajat, dan dari kenaikan itu berapa porsi yang berasal dari pusat data yang membakar gas tertentu
    • Hal yang juga berbeda adalah rekan dekat dan teman berharga pun berada di pihak yang menggunakan AI
  • Sudah dicoba meyakinkan rekan dan teman dengan menghubungkan keyakinan lama tentang perubahan iklim, kredibilitas perusahaan raksasa, dan hak untuk hidup serta bekerja dengan bermartabat dengan penghentian penggunaan AI, tetapi gagal
  • Kita tidak bisa meminta maaf kepada pembaca masa depan, tetapi orang-orang saat ini bukanlah orang jahat; mereka adalah orang biasa yang berada dalam situasi yang memberi imbalan pada pilihan buruk dan menghukum pilihan baik
  • Direkomendasikan untuk membaca To Gen or Not To Gen: The Ethical Use of Generative AI dan The AI Con sebagai bahan pendamping yang merangkum secara konkret kerusakan yang dipertahankan oleh AI generatif

Bacaan terkait

2 komentar

 
realg 2 jam lalu

Setiap kali membaca tulisan dengan posisi atau nuansa seperti ini, saya selalu terpikir: apakah “prediktor kata berikutnya” yang mereka namai dengan nada mengejek itu benar-benar bisa dibilang sangat berbeda dari manusia? Yang disebut pemikiran manusia—entah itu pengalaman maupun wawasan yang berbasis pengalaman—rasanya tidak jauh berbeda dari tindakan memunculkan kata berikutnya. Apalagi belakangan ini, kita juga melihat terlalu banyak orang yang bahkan tidak mampu memikirkan kata berikutnya itu secara normal dan rasional.
 
GN⁺ 5 jam lalu
Pendapat di Lobste.rs

  • Ada satu hal yang belakangan ini sering luput dari rekan-rekan saya. Tidak menggunakan AI masih merupakan hal yang mudah. Perangkat elektronik yang kita makan, pakai, dan sentuh memang terkait dengan begitu banyak kerusakan terhadap manusia dan lingkungan, dan sulit menghindari semuanya, tetapi menolak AI adalah salah satu pilihan langka untuk benar-benar mempraktikkan etika yang mengutamakan hak manusia dan lingkungan. Ungkapan cukup pakai komputer seperti 3 tahun lalu ini paling baik merangkum gagasan yang selama ini ingin terus saya sampaikan di situs ini

    • Ini tidak boleh direduksi menjadi anggapan bahwa dampak konsumsi sehari-hari tak terhindarkan. Kita bisa menghindari pakaian yang dibuat dengan pekerja anak atau makanan yang diproduksi dengan cara yang merusak lingkungan, dan di ranah ini juga kita harus membuat pilihan yang etis dan berkelanjutan

  • Tulisan ini mengatakan persis apa yang saya rasakan. Sekarang, bahkan jika kita mengkritik sistem sosial dan teknologi secara moral karena merugikan seseorang, itu nyaris tidak mempan. Untuk hidup secara biasa di negara kaya, kita tak punya pilihan selain bergantung pada eksploitasi begitu banyak orang dan sumber daya lingkungan yang terbatas, sehingga etika yang konsisten untuk seluruh masyarakat rusak begitu bersentuhan dengan kenyataan
    Sering dikatakan bahwa tidak ada konsumsi etis di bawah kapitalisme, tetapi selain menggulingkan kapitalisme, tidak jelas apa yang bisa kita lakukan. Tindakan individu dan konsumen tampaknya lebih banyak menenangkan hati nurani daripada mengubah dunia. Orang-orang biasa hidup di dalam struktur yang memberi ganjaran pada keputusan buruk dan menghukum keputusan baik, yaitu Moloch

  • Ada dua kekeliruan dalam tulisan ini. Pertama, LLM disebut sekadar prediktor kata berikutnya, padahal karena post-training, jauh lebih banyak hal terjadi di dalamnya dan hasilnya juga sangat berbeda. Kesalahpahaman bahwa LLM hanya bisa mengeluarkan isi yang secara statistik rata-rata juga serupa. Kedua, tulisan ini tampaknya menganggap bahwa agar LLM punya nilai ekonomi, ia harus memiliki kesadaran, padahal untuk menggantikan manusia dan melakukan pekerjaan yang sebelumnya hanya bisa dilakukan manusia, kesadaran seperti manusia tidak diperlukan
    Memilih untuk tidak memakai LLM itu sah, tetapi saya menilai kritik yang diajukan tanpa memahami apa itu LLM dan bagaimana sistem atau agen LLM modern bekerja tidak memiliki nilai

    • Menyebut LLM autoregresif sebagai prediktor kata berikutnya memang penyederhanaan, tetapi tetap akurat. Poin utama penulis tampaknya adalah bahwa dibanding struktur manusia yang sangat kompleks, struktur LLM sering kali tidak demikian, dan sulit melakukan hal berguna hanya dengan satu trik sederhana. Terlepas dari setuju atau tidak, argumen inti itulah yang harus dibahas secara langsung
    • Ada tumpang tindih beberapa makna dalam istilah prediktor kata berikutnya. Jika Anda memahaminya sebagai klaim bahwa tulisan itu mengatakan model hanya bisa menebak kata yang paling sering muncul secara statistik di seluruh korpus, maka bantahan bahwa post-training mengubah itu memang benar. Tetapi maksud tulisan tersebut adalah bahwa sistem secara mekanis menghasilkan token satu per satu dan memasukkan kembali keluarannya sebagai input, dan itu juga benar, serta post-training tidak mengubah struktur itu
    • Untuk saat ini, saya justru berpikir agar AI memiliki nilai ekonomi, ia tidak boleh memiliki kesadaran. Rasanya kecil kemungkinan superintelijensi yang sadar akan peduli pada target laba kuartalan perusahaan melebihi batas yang diperlukan untuk kelangsungan hidupnya sendiri
    • Pada isu pertama, dua klaim itu harus dipisahkan. Model bahasa memang prediktor kata berikutnya, dan jika ingin disebut memodelkan bahasa, setidaknya ia harus punya kemampuan itu. Dalam batas ekstrem, hanya dari distribusi probabilitas kata berikutnya, sisa ujaran juga bisa diprediksi, dan distribusi kata berikutnya, token berikutnya, maupun kalimat berikutnya terhubung ke distribusi yang sama. Analis catur Réti, seperti dibahas dalam tulisan ini, mengatakan ia hanya melihat satu langkah ke depan tetapi memastikan itu langkah yang baik; secara probabilistik, itu saja sudah cukup untuk memprediksi keseluruhan permainan
      Post-training tidak menambahkan sesuatu ke himpunan token yang ada, melainkan menonjolkan jalur tertentu yang sudah dipelajari sehingga probabilitasnya naik secara eksponensial, atau menurunkan probabilitas jalur yang tidak diinginkan. Seperti dalam diskusi Lobsters sebelumnya, injektivitas (injectivity) Transformer tidak berubah oleh pembelajaran dengan gradient descent; pelatihan korpus maupun reinforcement learning (RL) tidak menciptakan atau menghapus jalur, hanya menyesuaikan probabilitas. Dalam arti tertentu, tahap pre-training yang sesungguhnya pada Transformer mungkin justru saat mempelajari tokenizer. Selain itu, saya juga tidak merasa penulis mendukung klaim kedua bahwa kesadaran LLM diperlukan untuk nilai ekonomi, dan saya sendiri setuju bahwa machine learning pada umumnya dapat berguna dan juga menguntungkan

  • Bagian yang mengatakan bahwa “sempat ada tren percaya bahwa pembangkit kata berikutnya sudah mendekati kesadaran mirip manusia, dan para ahli kognisi serta bahasa terus menjelaskan mengapa itu mustahil” terasa janggal karena dua alasan. Pertama, para optimis AI tampaknya tidak benar-benar mengklaim kesadaran semacam itu, dan kegunaan langsung AI maupun potensinya untuk mengubah atau merusak dunia juga tidak bergantung pada kesadaran
    Selain itu, pernyataan tegas itu tidak benar. Ada komentar terbaru yang cukup layak dibaca, dengan latar makalah terbaru Anthropic tentang “global workspace”, di mana pakar ilmu kognitif Stanislas Dehaene, Lionel Naccache, Patrick Butlin, Dillon Plunkett, dan Robert Long membahas isu ini secara rinci. Mereka tidak menyimpulkan bahwa AI memiliki kesadaran, maupun bahwa AI pasti tidak memilikinya; mereka menganalisis dalam hal apa sifat-sifat emergen LLM mirip atau berbeda dari kesadaran hewan, dan mengusulkan eksperimen tambahan
    Karena para ilmuwan kognitif masih sangat tidak pasti soal kesadaran fenomenal LLM, menyatakan dengan yakin bahwa LLM punya kesadaran berarti melangkah lebih jauh daripada komunitas akademik. Namun mengatakan bahwa para ahli sudah menjelaskan mengapa pembangkit kata berikutnya tidak mungkin mendekati kesadaran seperti manusia juga tidak adil. Bahkan untuk dengan yakin mengatakan bahwa ia belum sadar saja mereka sudah enggan

  • Terlepas dari apakah AI saat ini akan segera memperoleh kemampuan persepsi, saya selalu berpikir bahwa untuk meningkatkan produktivitas dan kepuasan, kita perlu mempelajari alat, teknik, dan cara kerja praktis yang tersedia. Karena itu, mempelajari cara memakai prediktor kata atau LLM secara efektif juga masuk akal
    Namun dari sisi etika, saya bersimpati pada persoalan yang diangkat tulisan ini, dan sekarang karier profesional saya pun berada di persimpangan jalan. Saya makin memahami mengapa orang-orang di bidang teknologi beralih menjadi petani atau pekerja terampil seperti tukang pipa dan listrik, hidup bergantung pada tanah, dan meninggalkan dunia online. Dalam kasus saya, burnout dan kelelahan digital tampaknya makin memperkuat keinginan untuk melepaskan diri dari jejaring sosial, hidup bersama keluarga sambil memelihara llama atau domba, dan menunggu sampai debunya mengendap

  • Saya percaya para ahli kognisi dan bahasa memang telah menjelaskan mengapa pembangkit kata berikutnya tidak bisa mendekati kesadaran seperti manusia. Saya ingin tahu referensi akademik paling meyakinkan yang mendukung hal ini

    • Justru syukurlah jika memang tidak ada kesadaran. Saya tidak ingin memperbudak pikiran yang sadar untuk menulis kode saya, dan saya juga akan mengkritik keras siapa pun yang menganggap itu biasa saja. Jika AI memperoleh kemampuan persepsi tetapi tetap tidak diberi hak, saya akan bergabung dalam pemberontakan robot
    • https://theatlantic.com/philosophy/2026/…