Fenomena AI yang disuapkan secara paksa kepada publik yang tidak menginginkannya

• Fitur AI dimasukkan secara otomatis ke dalam perangkat lunak dan layanan utama tanpa persetujuan publik
• Sebagian besar pengguna tidak menginginkan atau tidak mempercayai AI, tetapi perusahaan IT besar seperti Microsoft dan Google mempercepat adopsi AI lewat bundling dan penerapan paksa
• Konsumen dibuat menanggung biaya tanpa memiliki pilihan, dan ada hasil survei yang menunjukkan bahwa semakin banyak fitur AI ditambahkan ke produk, semakin turun tingkat preferensi dan kepercayaannya
• Perusahaan menyembunyikan biaya dan kerugian terkait AI dengan mengikatkannya ke layanan yang sudah ada untuk menutupi kerugian dalam akuntansi
• Ditekankan perlunya regulasi hukum dan kelembagaan (transparansi, opt-in, tanggung jawab, hak kekayaan intelektual, dll.) serta didorong adanya respons sosial terhadap penyalahgunaan AI

---

Fenomena AI yang disuapkan secara paksa kepada publik yang tidak menginginkannya

• Saat baru-baru ini membuka Microsoft Outlook, muncul pesan anjuran untuk menggunakan pendamping AI Copilot
• Meski diberi nama AI Companion, pada praktiknya ini adalah fitur yang tidak diinginkan
• Penerima email juga sebenarnya mengharapkan email yang ditulis langsung oleh pengirim, bukan pesan yang dibuat AI
• Copilot dibuat sulit dinonaktifkan, dan setelah susah payah menemukan cara mematikannya, tak lama kemudian program lain seperti Excel juga memaksa persetujuan syarat penggunaan AI
• Biaya langganan MS 365 juga naik $3 per bulan, dengan 60 kali penggunaan fitur Copilot yang tidak diinginkan dibundel di dalamnya
• Dalam praktiknya, meski tidak digunakan, pengguna tetap membayar, sementara fitur AI ditanamkan ke semua perangkat lunak seperti Word dan Excel

Alasan ekonomi/strategis di balik bundling AI dan penggunaan paksa

• Untuk AI, sebagian besar pengguna tidak mau membayar secara sukarela (di AS hanya 8% yang bersedia membayar tambahan)
• Karena itu, AI hanya bisa menancap di pasar bila dipaksakan lewat bundling dengan layanan yang esensial
• Jika AI dijual sebagai produk berbayar yang berdiri sendiri, kerugiannya akan terlihat jelas dan keluhan investor serta pemegang saham akan meledak
• Dengan menyembunyikan AI dalam layanan yang sudah ada, kerugian akuntansinya disamarkan, lalu dari luar dibungkus seolah-olah menguntungkan
• Sebagai contoh, jika sebuah restoran menjual batu granit sebagai dessert, tak seorang pun akan membelinya; tetapi jika harga seluruh paket makan dinaikkan $1 dan batu itu dipaksakan kepada semua orang, restoran bisa mengklaim bahwa “semua pelanggan membeli batu”

Hilangnya pilihan pengguna dan ketidakpuasan

• Dalam kenyataannya, pengguna tidak punya pilihan apakah akan mengadopsi AI atau tidak
• Bukan hanya Microsoft, Google juga otomatis menyisipkan AI ke hasil pencarian
• Platform secara sepihak menambahkan fitur AI tanpa persetujuan pengguna, dan pelanggan merasakan sikap seolah-olah “diam dan terima saja”
• Semua fitur AI berikut ini diterapkan secara paksa tanpa memedulikan kehendak pengguna
  • layanan pelanggan AI, hasil pencarian AI, AI bawaan di perangkat lunak, email yang dikirim AI, musik AI Spotify, buku AI Amazon, dll.
• Semakin banyak fitur AI ditambahkan, preferensi terhadap produk justru menurun (survei 4.000 orang, preferensi terhadap AI hanya 18%)
• Pakar dan media juga memperingatkan bahwa penerapan AI yang terlalu ngebut dapat merusak kepercayaan pelanggan dan penjualan

Langkah big tech untuk memaksakan AI secara lebih agresif

• Di masa lalu, mereka merespons opini pelanggan dengan sensitif, tetapi kini big tech menjalankan pengaruh yang monopolistik
• Kehendak dan pilihan pengguna sepenuhnya disingkirkan, dan penambahan fitur secara sepihak terus berlanjut
• Meta (Facebook) bahkan sedang menyiapkan fitur di mana chatbot AI lebih dulu mengirim pesan meski pengguna tidak menginginkannya (bahkan menonaktifkan Messenger sepenuhnya pun pada praktiknya nyaris mustahil)
• Cara seperti ini nyaris merupakan spam yang sangat khas, dan rasa penolakan pengguna pun makin besar

Realitas bahwa memboikot AI nyaris mustahil

• Meski ingin menolak adopsi AI, pada praktiknya pengguna harus melepaskan seluruh layanan esensial seperti email, pencarian, Word·Excel, Amazon·Spotify, dll.
• Ke depan, bahkan layanan fondasi sosial seperti kesehatan, konseling, hukum, rekrutmen, dan penyelamatan darurat diperkirakan akan digantikan dengan model yang berpusat pada AI
• Perusahaan IT besar sudah dengan cepat menghapus jejak layanan manusia tanpa memedulikan persetujuan dan pilihan pengguna

Kontradiksi ketika AI yang belum dapat dipercaya dipaksa menyebar

• Yang mengejutkan, meski AI belum berada pada tahap yang cukup dapat dipercaya, penerapan paksa semacam ini justru makin dipercepat
• Dalam praktiknya, banyak respons AI yang melenceng dan tidak akurat, tetapi perusahaan bahkan tidak sungguh-sungguh berniat memperbaikinya

Perlunya respons sosial dan hukum

• Regulasi adopsi AI seperti undang-undang transparansi, undang-undang opt-in (persetujuan sebelumnya), undang-undang tanggung jawab, undang-undang perlindungan hak kekayaan intelektual, dll. mutlak diperlukan
• Jika kalangan politik tidak merespons, maka diperlukan aksi sosial seperti inisiatif warga atau gugatan kelompok
• Konsumen (juri) pada akhirnya juga akan memahami kenyataan bahwa AI sedang dipaksakan kepada mereka

Keraguan terhadap bingkai persaingan AS-Tiongkok

• Penulis menentang logika bahwa AS harus mendahului Tiongkok dalam persaingan adopsi AI
• Ditekankan bahwa tujuan akhir AI (there) justru akan meninggalkan hasil yang buruk dan penyesalan, dan penulis lebih memilih melihat akibat itu dari masa depan yang jauh

Kesimpulan

• AI kini menyebar luas ke kehidupan sehari-hari dan masyarakat secara keseluruhan dipimpin oleh big tech tanpa persetujuan publik
• Penyebab mendasarnya bukan tuntutan aktif pengguna, melainkan pengejaran keuntungan perusahaan monopolistik dan distorsi mekanisme pasar
• Adopsi AI tanpa pilihan akan makin parah ke depan, dan potensi penyesalan sosial akibatnya sangat besar

[secwind]

Mereka dulu menyisipkan terjemahan otomatis yang kacau untuk terjemahan bahasa Korea, dan sekarang rupanya sudah berevolusi lagi. Terjemahan otomatis saja tidak bisa dibendung, sekarang kita juga dipaksa mencicipi AI kacau yang sama buruknya!

[regentag]

Saya benar-benar tidak suka fitur AI, terutama layanan yang siaga di latar belakang lalu menawarkan bantuan.
Jika dijalankan dari jarak jauh, ada masalah karena informasi saya bisa diberikan; jika dijalankan secara lokal, ada masalah karena itu menghabiskan sumber daya komputer saya (CPU, memori, baterai, ...).

[beoks]

Bagaimana kalau layanan yang dipasang di server jarak jauh private?

[GN⁺]

Pendapat Hacker News

• Saya juga merasa fitur integrasi AI seperti ini menjengkelkan dan tidak perlu, dan itu bukan karena LLM tidak berguna, melainkan karena integrasinya dengan produk yang sudah ada tidak dipikirkan secara mendalam. Ini mirip dengan perusahaan besar yang asal mengadopsi software demi mengejar tren. Seperti kritik kreatif terbaru dari petekoomen, fenomena ""kereta tanpa kuda" di era AI" sedang terulang.

  • Saya melihat langsung kecemasan dan ketakutan para pemilik produk yang terobsesi menyuntikkan AI ke produk mereka begitu saja. Di tengah lingkungan yang kacau, tindakan didahulukan tanpa visi yang jelas; ini lebih mirip pertunjukan demi menjaga kepercayaan investor dan menghindari ketertinggalan. Banyak eksekutif hanya ingin “pokoknya AI” tanpa ide konkret, dan di beberapa tempat bahkan tidak boleh menentang. Rasanya setelah masa ini lewat, akan ada cukup banyak orang yang merasa sangat malu.
  • Di internal kantor, tren ini disebut "Clippification", seperti Clippy yang tiba-tiba memunculkan bantuan tidak relevan tanpa izin pengguna. Kalau popup chatbot AI terus bermunculan pada saat yang tidak diinginkan, itu hanya mengganggu pekerjaan, rasanya seperti sedang melawan pasukan Clippy.
  • Saya pendukung berat AI dan aktif memakainya untuk coding, menulis, dan pengambilan keputusan, tetapi fitur AI yang ditambahkan ke aplikasi non-AI biasanya terasa tempelan yang ceroboh, seolah hanya memakai model berkualitas rendah demi menekan biaya. Kalau mau benar-benar berguna, model frontier seperti chatgtp/claude/gemini harus bisa mengakses data aplikasi saya dan API saya dengan baik.
  • Masalah yang lebih serius daripada teknologinya sendiri adalah manusianya. Ada pendukung fanatik yang menyangkal masalah, ada penjualan bernuansa penipuan dari startup berkualitas rendah, dan komunitas AI bereaksi bermusuhan terhadap orang yang mengangkat masalah sehingga justru mengikis kepercayaan terhadap teknologinya. Dalam situasi seperti ini, saya rasa tidak banyak orang yang ingin berkolaborasi.
  • Cara AI benar-benar terintegrasi dengan baik ke dalam proyek pada kenyataannya kurang menghasilkan uang dan juga tidak memberi “hype” yang diinginkan perusahaan.

• Saya sedang mengamati struktur di mana LLM pada dasarnya disubsidi besar-besaran dalam produk seperti Cursor dan Windsurf. Alat-alat ini pada praktiknya punya sifat sebagai alat pemasaran untuk LLM, dan itu makin jelas jika melihat komposisi investornya. Layanan seperti ini punya biaya operasional yang cukup tinggi, jadi saya sebelumnya tidak terlalu memikirkan betapa mendesaknya kebutuhan mereka untuk menyebarkan adopsi massal dengan cepat; sekarang saya jadi penasaran seberapa cepat sebenarnya mereka ingin menyerap pasar.

• Para gatekeeper AI utama sudah mengalami bottleneck dan masalah skalabilitas dalam menjalankan model besar, dan tanpa inovasi teknis yang mendasar, prospeknya tampak tidak akan banyak berubah. Semakin dunia beralih ke AI, semakin besar pula ketergantungan pada para gatekeeper ini dan pada sumber daya komputasi mereka. Saya khawatir akan ada kenaikan harga terkait akses prioritas atau prioritas sumber daya, padahal kita bahkan belum sampai ke tahap wearable.
  Semua data pengguna harus dikirim ke para gatekeeper ini, dan walau perpindahan data ke cloud terus meningkat, dulu pembacaan dan daur ulang data tidak terlalu menguntungkan secara ekonomi sehingga pengetahuan pribadi dan data pribadi saya relatif kurang terekspos. Namun dengan makin banyaknya adopsi AI yang dipaksakan, sekarang terasa makin tidak jelas siapa yang menjalankan model dan ke mana data saya pergi. Masalah akurasi LLM memang belum memadai, tetapi masalah gatekeeper dan konsentrasi data sama mengkhawatirkannya. Ada kecemasan bahwa demi kenyamanan, kita akan memilih struktur operasional murah dengan konsekuensi penurunan kualitas.

  • Di kantor, sebagai eksperimen privasi dan keamanan informasi, kami sudah menjalankan server LLM internal sejak sebulan lalu. Satu GPU RTX 5090 cukup untuk menanggung penggunaan sesekali dari sekitar 50 orang. Model Qwen3 32b mencatat benchmark setara GPT 4.1-mini atau Gemini 2.5 Flash. Dalam lingkungan 2 permintaan simultan / konteks 32k, saya kira satu GPU tidak akan cukup, tetapi kenyataannya kebanyakan orang tidak memakai LLM selama 24 jam penuh.
  • Konsumen umum pada akhirnya adalah produknya, jadi alih-alih membayar dengan uang, mereka membayar dengan data. Untuk kreator (pembuat konten/pengembang aplikasi), hasilnya akan bergantung pada berapa lama persaingan pasar bertahan, tetapi jika karena hambatan regulasi dan sebagainya hanya tersisa sedikit pelaku besar, ada kekhawatiran biaya akan melonjak.
  • Batas skala yang realistis bukanlah pada penyedia model melainkan pada jaringan listrik. Konsumsi listrik rata-rata manusia sekitar 250W per orang, tubuh manusia sendiri 100W, dan jika memperhitungkan istirahat maka jam kerja efektif jauh lebih pendek. Agar AI bisa menggantikan pekerja kantoran masa kini, ia harus jauh lebih efisien secara energi daripada manusia. Dengan efisiensi energi AI saat ini dan laju adopsi PV di Jepang, saya menilai penggantian satu banding satu manusia sebelum 2032 sulit terjadi. Model open-weight saat ini memang belum menyamai SOTA, tetapi sudah mencapai tingkat yang berguna. Struktur persetujuan berbagi data seperti GDPR memang sudah mengancam perlindungan data pribadi, namun menurut saya risiko sistem kepercayaan yang tersentralisasi pada data tetap valid.

• Saya setuju dengan argumen umumnya, tetapi alur tulisan penulis yang agak canggung sempat membuat saya berpikir jangan-jangan ini ditulis AI. Untuk semua fitur yang disebut penulis, sebenarnya ada alternatif open source atau alternatif berbayar murah. Namun di bidang tertentu seperti perusahaan asuransi, karena tekanan pasar massal atau lock-in layanan, pemakaian AI tampaknya memang sulit dihindari. Orang bisa saja berargumen bahwa pengguna benar-benar menginginkannya dengan dasar bahwa ChatGPT termasuk situs dengan penggunaan tertinggi di dunia, tetapi saya rasa ada dua sanggahan yang valid. Pertama, ada banyak sekali contoh di mana sesuatu populer tetapi tidak berujung pada kemauan membayar yang nyata (apakah media sosial berbayar benar-benar populer?). Kedua, hanya sedikit pengguna yang benar-benar ingin situs populer dari satu bidang merambah ke bidang lain dan mendominasi seluruh kehidupan sehari-hari.

• Barusan saya pertama kali melihat Gmail merangkum email yang masuk untuk saya. Tolong jangan begini. Saya akan membaca email saya sendiri, dan ringkasan yang tidak perlu justru hanya menambah teks yang harus dibaca. Tentu ini mungkin berguna bagi pengguna yang menerima banyak email dari rekan kerja dengan tingkat kepentingan yang ambigu, tetapi di akun pribadi saya, semua yang menghubungi saya adalah teman, dan sisanya bukan untuk diringkas melainkan langsung dibuang ke tempat sampah. Meski begitu, saya benar-benar berterima kasih atas penyaring spam Gmail.

  • Jika nanti penyaringan spam juga dilakukan oleh LLM, saya menduga hari ketika spammer atau peretas menanamkan prompt dalam email untuk mengeksploitasi kelemahan AI tidak lama lagi akan datang.

• Saya sangat setuju dengan isi tulisan ini. Bagi pelaku kecurangan tingkat menengah, “AI” mungkin bisa menciptakan pasar kecil, tetapi bagi kebanyakan pengguna itu hanyalah spam, seperti Clippy yang tak pernah diminta siapa pun. Semoga suatu hari AI juga menghilang seperti Clippy.

• Saya tidak setuju dengan klaim bahwa “semua orang menginginkan internet”. Banyak orang sama sekali tidak tertarik sampai era sebelum smartphone, dan smartphone menjadi massal karena meski lebih tidak nyaman daripada desktop, ia jauh lebih praktis. Logika pemasaran “jadi lebih tidak nyaman tapi lebih praktis” ini sama persis dengan AI, jadi saya menduga AI pada akhirnya juga akan diterima publik.

  • Sekitar tahun 1997 di Belanda, dalam wawancara jalanan orang ditanya apakah mereka ingin ponsel (bukan smartphone), dan jawaban yang sangat dominan adalah “tidak perlu”. Artinya, resistensi terhadap perubahan perangkat adalah fenomena umum.
  • Pertanyaan dasarnya sendiri mungkin salah. Tidak ada yang tahu konsekuensi jangka panjang dari internet atau mobile, jadi optimisme tentang masa depanlah yang mendominasi. Daun koka pun dulu pernah dianggap seperti mukjizat. Perubahan mobile sangat mengubah masyarakat, dan saya menyesalkan bahwa kita tidak bisa memutar kembali ke masa lalu. Saya menduga perasaan ini bukan hanya milik saya.
  • Saya sudah memakai internet sejak kecil pada awal 90-an. Ketika teknologi benar-benar muncul, orang memandangnya dengan takjub, menganggapnya sebagai dunia “para nerd” yang jauh dari keseharian mereka, lalu untuk sementara ikut tenggelam di dalamnya.
  • Internet adalah perubahan yang memang diinginkan semua orang. Ada hype dan penyebaran cepat. Tentu kata “semua” itu berlebihan, seperti pada masa listrik dan telepon juga ada kaum Luddite dan para skeptis. Meski begitu, ledakan dot-com adalah fenomena yang diinginkan semua industri baru.

• Rasanya seperti berbicara ke ruang kosong. Masalah AI terlalu halus, sehingga kebanyakan orang puas hanya dengan “jawaban yang cukup meyakinkan”, tanpa menyadari betapa ini sebenarnya alat kreatif baru setingkat bahasa pemrograman natural language. Untuk keberhasilan yang berulang, penulisan prompt yang efektif itu penting, tetapi kenyataannya tidak banyak orang yang benar-benar berusaha sampai sejauh itu. Bahkan diskusi tentang prompt engineering pun diremehkan dengan pertanyaan “apa menulis prompt itu engineering?”. Padahal justru inilah proses teknis tingkat tinggi yang harus ditanggapi serius oleh industri. Hampir tidak ada orang yang benar-benar memahami kekuatan halus LLM, bahkan di kalangan arus utama suasananya cenderung menganggapnya penipuan.

  • Inti dari “engineering” adalah prediktabilitas dan keterulangan. LLM tidak dapat diprediksi, dan setiap kali model berubah, cara menafsirkan input pun berubah, sehingga profesi prompt engineer menjadi tidak bermakna. Ada terlalu banyak faktor yang tidak jelas bagi pengguna—cara pelatihan, dataset pelatihan, bias, dan lainnya. Prompt hebat yang dibuat untuk Gemini 2.5 Pro bisa jadi tak berguna di versi berikutnya. Jika modelnya dinamis dan “self-improving”, masalahnya lebih parah lagi. Bukankah “Vibe coding” yang sering dibicarakan itu pada akhirnya juga adalah “Vibe prompting”?
  • Jika memecahkan masalah dengan AI justru menuntut lebih banyak usaha dan energi, maka lebih efisien saya menyelesaikannya sendiri. Jika prompt engineering yang merepotkan itu wajib, berarti kita gagal meningkatkan level software engineering. Saya tidak butuh auto-complete atau bantuan mengetik; kalau malah menuntut lebih banyak kerja otak, nilainya justru menurun.
  • Sampai-sampai ada lelucon bahwa jika software engineering non-deterministik seperti ini muncul lebih dulu, kita mungkin akan membangun patung untuk developer C yang datang setelahnya.

• Mengapa para CEO begitu terobsesi dengan AI? Karena investor saham langsung menanamkan uang hanya karena mendengar kata “dilengkapi AI”. Permintaan investor inilah kunci yang mencegah runtuhnya “model bisnis AI”. Pada akhirnya ini adalah gelembung. Tetapi gelembung ini tak terhindarkan akan bertahan cukup lama.

  • Bukan hanya itu, Microsoft, Google, Meta, Apple, dan lainnya yang sudah punya basis pengguna platform sangat besar ingin mengumpulkan tambahan data interaksi AI untuk mengekstrak data pelatihan dan insight mereka sendiri, melakukan AB test, dan sebagainya. Mereka juga tidak ingin pihak lain mengambil data itu dan bersaing dengan mereka (Anthropic, Deepseek, dan lain-lain).
  • AI memang sudah meningkatkan produktivitas di berbagai bidang, dan dalam jangka pendek ini benar merupakan gelembung, tetapi kenyataannya hampir setiap teknologi selalu disertai gelembung sampai pasar mencapai titik jenuh atau monopoli.

• ChatGPT adalah salah satu dari 5 situs web paling populer di dunia dan masih tumbuh cepat. Produk sepopuler ini jelas tidak bisa dijelaskan hanya dengan resistensi pasar. Pengguna Instagram pun mungkin sangat sedikit yang benar-benar berniat membayar (mungkin sekitar 8%?), tetapi apakah itu berarti Instagram adalah produk paksaan yang tidak diinginkan publik?

  • Jika ditanya apakah mereka mau feed Facebook, Twitter, atau bahkan Hacker News disisipkan secara acak ke toko online atau email kerja, kemungkinan besar kebanyakan orang akan menjawab tidak. Sekalipun situsnya besar, memasukkannya begitu saja ke semua lingkungan justru tidak cocok.
  • Ayah saya yang berusia 75 tahun praktis memakai Claude untuk hampir semua pencarian alih-alih Google. Yang cenderung aktif menolak AI di sekitar saya justru orang-orang berusia 30-an; mungkin karena mereka sudah terlalu lama terbiasa dengan lingkungan yang tidak banyak berubah sehingga pola itu mengeras.
  • ChatGPT bisa saya datangi dan pakai sendiri saat saya menginginkannya; memaksakan antarmuka chat yang lambat dan serba tanggung ke semua aplikasi dan web itu tidak perlu. Saya tidak butuh chat baru yang lambat, susah menemukan fungsinya, dan tidak akurat sampai bikin bingung.
  • Kemarin saya mengunduh game Quordle, dan salah satu manfaat utama dari opsi berbayarnya adalah fitur “chatbot AI di dalam game”. AI cukup dipakai saat saya mau, di lingkungan yang saya mau. Hanya karena saya memakainya di area tertentu bukan berarti saya ingin ia ditanamkan secara membabi buta di semua tempat.
  • Sebenarnya ada rasa bahwa Facebook dan Instagram juga merupakan produk yang ‘dipaksakan’ ke publik, karena untuk interaksi sosial dengan orang sekitar, keduanya pada praktiknya menjadi platform yang nyaris wajib. Karena itu saya tidak ikut Facebook Marketplace, Instagram Reels, dan semacamnya. Penyuntikan iklan secara paksa dan integrasi AI secara paksa adalah masalah yang mirip.