- Di aplikasi utama seperti Hinge dan Uber, algoritme yang makin canggih serta teknik psikologis bekerja untuk memaksimalkan keuntungan yang diambil dari pengguna
- Dalam setiap interaksi sehari-hari di masyarakat, perantara berbasis AI ikut campur dan menciptakan struktur ekstraksi keuntungan tambahan
- Perusahaan dengan cepat menyesuaikan algoritme berdasarkan respons pengguna untuk memaksimalkan Lifetime Customer Value
- Karena untuk tidak tertinggal dalam persaingan orang harus ikut arus tren ini, hal ini dapat dipandang sebagai masalah kolektif
- Manipulasi skala besar yang memanfaatkan data, machine learning, dan teknik psikologis telah menjadi hal biasa, sehingga sulit membaik tanpa perubahan mendasar
Mengangkat Masalah: Normalisasi Algoritme dan Teknik Psikologis
- Layanan utama seperti Hinge dan Uber dibangun dengan struktur yang memeras keuntungan sebanyak mungkin dari pengguna melalui berbagai cara seperti boost, layar tip, dan algoritme penjualan
- Hampir di semua ranah kehidupan sehari-hari, AI perantara ikut campur, dan cara menarik "sedikit lebih banyak" lewat algoritme AI canggih menyebar ke seluruh masyarakat
- Dalam aktivitas sehari-hari seperti membeli kopi, berkencan, atau mengirim uang ke teman, perantara yang berniat buruk diotomatisasi untuk mengejar keuntungan
Kemungkinan Koreksi Pasar dan Adaptasi Algoritme
- Banyak orang mungkin merasa lelah dimanipulasi lalu berusaha menghindarinya, tetapi perusahaan sudah memprediksi hal itu dan segera merespons melalui dashboard data
- AI bekerja dengan cara mencegah pengguna pergi lewat pengaturan emosi dan pemberian imbalan tambahan bahkan sebelum pengguna sempat merasa tidak nyaman
Persaingan dan Masalah Tindakan Kolektif
- Bahkan jika ingin keluar dari sistem seperti ini, dalam situasi persaingan akan makin terasa bahwa setiap pelaku usaha akan dirugikan jika tidak ikut
- Semua indikator (metrik) menjadi objek persaingan, dan seperti 'Red Queen’s Race', modal sosial dan nilai-nilai pun dikorbankan agar tidak tertinggal
Struktur Sosial Nyata dan Sulitnya Perubahan
- Seluruh masyarakat telah tenggelam dalam struktur ini, sehingga ada masalah tindakan kolektif yang membuat keluarnya individu sulit menghasilkan perubahan mendasar
- Dalam demokrasi yang digerakkan algoritme, pilihan (pemungutan suara) juga terlepas dari perubahan nyata, dan tersirat bahwa bukan reformasi dalam struktur lama, melainkan perubahan mendasar (revolusi) yang menjadi satu-satunya solusi nyata
Kesimpulan dan Hakikat Masalah
- Iklan, diskriminasi harga, dan manipulasi skala besar berbasis data pada dasarnya semuanya tidak benar
- Kapitalisme modern, seperti fenomena 'wireheading', mendorong perilaku manusia secara ekstrem, dan menegaskan bahwa inti persoalan ini pada dasarnya telah mencapai tingkat baru berupa skala dan manipulasi tanpa pandang bulu
1 komentar
Komentar Hacker News
Penjelasan tentang situasi ketika tujuan utamanya memang membayar premium agar bisa memotong antrean, tetapi ketika semua orang mulai membayar premium, pada akhirnya antreannya tetap ada; fenomena ini disebut sangat menonjol pada penerbangan komersial Australia, di mana berkat pola kerja fly-in fly-out, kelas klub menjadi hal yang umum, dan prioritas boarding maupun tiket award berbasis poin juga hampir menghilang. Intinya, penetapan harga yang diskriminatif dan pencarian status ditekankan sebagai pola yang merugikan secara sosial ketika diterapkan pada konsumen. Juga dibagikan pengalaman pribadi membenci Uber dan kenyataan bahwa layanan taksi menjadi memburuk, dengan kritik terhadap model bisnis Uber yang membiarkan masuk secara ilegal. Namun kini Uber sudah terlalu biasa sehingga lonjakan tarif pun diakui tidak terlalu dipedulikan lagi. Juga diungkapkan rasa tidak suka terhadap masuknya budaya tip di Australia; karena ada upah minimum dan penalty rates yang dijamin oleh hukum, fitur tip seharusnya dimatikan. Disebut juga kasus kontroversi kewajiban bagasi termasuk dalam penerbangan Eropa, sampai suasana mengejek bahwa membawa pakaian dalam bersih dianggap lemah, sebagai penjelasan tentang budaya Eropa yang khas
Pendapat bahwa orang non-Amerika harus tegas menolak budaya tip, dengan peringatan bahwa begitu tip mulai diterima, upah akan turun lebih jauh dan keadaan akan makin buruk, sehingga tip sebaiknya sama sekali tidak diterima
Ditekankan bahwa harga Uber dan Lyft memang mahal, tetapi dibandingkan layanan taksi masa lalu, keadaan sekarang jauh lebih baik. Kecuali di kota besar seperti New York, dulu orang harus mencari nama di buku telepon lalu memesan ke perusahaan yang meragukan, dan bahkan mendapatkan mobil pun sulit. Sekarang dari mana saja orang bisa langsung memanggil mobil lewat aplikasi dan jauh lebih cepat; meski praktik unfair terhadap pengemudi maupun penumpang jelas bermasalah, tetap ditekankan bahwa sama sekali tidak ada keinginan untuk kembali ke cara lama
Khususnya pada maskapai diskon Eropa, ada pengalaman bahwa hampir semua orang membeli tiket prioritas boarding. Dulu membayar ekstra untuk masuk lebih dulu masih ada artinya, tetapi sekarang ironisnya antrean prioritas boarding kadang malah lebih panjang. Saat tarif Uber sedang surge, caranya adalah memantau sebentar perubahan harga di aplikasi lalu memesan ketika lebih murah. Tarif taksi 2–3 kali lebih mahal daripada Uber dan juga tidak lebih ramah, serta tidak ada fitur rating, sehingga orang cenderung enggan memakai taksi. Dibagikan juga pengalaman nyata naik taksi ke bandara lebih murah daripada Uber: sopir taksi mau mengantar dengan pembayaran langsung seharga tarif Uber, lalu secara mengejutkan menagih penumpang lain sampai 5 kali lipat. Kesimpulannya, sikap untuk tidak memakai Uber hanya akan membuat hidup lebih sulit. Ditambahkan juga bahwa di Eropa, jika ada 2 orang atau lebih, Uber sering kali jadi lebih murah daripada kereta
Jika semua orang membayar premium dan antrean muncul lagi, maka menurut sudut pandang pasar, harga riil pada akhirnya menjadi harga yang sudah termasuk premium; pandangan yang dibagikan adalah bahwa biaya mengantre harus dibuat lebih tinggi agar masalah ini terselesaikan
Perspektif bahwa justru menikmati kenyamanan masuk paling akhir tanpa peduli antrean; sikap pribadi untuk tidak membayar premium, menunggu santai di lobi, lalu masuk ketika antrean hampir habis
Pendapat bahwa respons manusia yang tak lekang waktu terhadap perkembangan teknologi dan manipulasi adalah disengagement, dan ini bukan teori melainkan sesuatu yang sudah terjadi: digital detox, kebangkitan kembali dumbphone di kalangan muda, DM privat alih-alih feed publik, generasi ‘jangan ganggu’, dan contoh nyata lainnya. Diagnosisnya, orang merasakan manipulasi lalu satu per satu memilih opt-out
Tingkat disengagement saya sekarang tidak akan saya berikan gratis; ada pendapat tentang sengaja melakukan disengagement secara acak agar tidak ada pihak yang bisa memprediksi efeknya. Bahkan tren dumbphone atau digital detox kini juga sudah menjadi semacam pasar gaya hidup semata, sehingga bahkan kesadaran atas manipulasi pun sudah menjadi bahan bisnis baru. Dilemparkan juga pertanyaan eksperimental: sejauh mana algoritme bisa diretas, dan apakah mungkin dibuat agar memprofilkan kita berbeda dari diri kita yang sebenarnya
Pengalaman memutus total layanan yang mengomodifikasi/memonetisasi hidup seperti aplikasi dan media sosial sejak 2012
Prediksi pahit bahwa perusahaan nantinya juga akan memburu ‘keuntungan dari disengagement’, sambil membagikan materi rujukan seperti YouTube watch?v=9h9wStdPkQY (tautan hanya disebutkan)
Pendapat bahwa mustahil melakukan disengagement sepenuhnya dari kapitalisme; berbagai tindakan disengagement yang disebutkan (digital detox, dumbphone, dsb.) hanyalah cara agar sedikit lebih tidak dieksploitasi, bukan benar-benar bebas dari eksploitasi
Kekhawatiran bahwa disengagement berbeda dari nonchalance, dan belum tentu merupakan respons manusia yang baik. Nonchalance adalah sikap pada level individu, sedangkan disengagement menargetkan efek kolektif, tetapi dalam banyak kasus dikhawatirkan tidak menghasilkan perubahan positif. Justru yang terjadi adalah memburuknya kondisi komunitas dan turunnya standar acuan, dilakukan atas nama kesetaraan dan inklusi tetapi pada kenyataannya memperparah polarisasi. Dijelaskan pula latar belakang setelah ‘Occupy Wall Street’ dan ‘Arab Spring’, ketika nonchalance/hyper-individualism menjadi tren sehingga bahkan politisi dan eksekutif pun kehilangan rasa tanggung jawab dan makin fokus pada karier masing-masing. Referensi: Broken Windows Theory Wikipedia, The Subtle Art of Not Giving a F*ck
Ditunjukkan masalah bahwa produk buatan penulis (openpilot) akan berhenti bekerja jika tidak terhubung ke internet setiap 14 hari, sambil membagikan tautan kode terkait
Biasanya menghindari tulisan George yang nonteknis, tetapi kali ini dinilai bermakna. Biasanya tulisan seperti itu kurang refleksi diri dan tidak memunculkan perenungan yang dibutuhkan, tetapi kali ini bisa dijadikan kesempatan untuk memicu introspeksi. Juga diungkapkan bahwa akhir-akhir ini suasana serupa makin terasa di komunitas HN, bersama rasa krisis bahwa perubahan memang diperlukan
Mengungkapkan kekecewaan karena melihat judul "Are we the baddies?" sempat mengira akan ada refleksi tentang peran pribadi, tetapi ternyata tidak demikian
Disebutkan keraguan apakah sebagian orang hanya mengikuti tren saja, dan nuansa tulisan yang tampak sekadar meniru di permukaan tanpa refleksi mendalam
Reaksi yang agak menyindir dengan menyebut kasus geohot yang memakai LLM untuk masuk papan atas Advent of Code
Sebagai referensi, ditinggalkan tautan ke tweet terkait
Mengutip klaim bahwa “jika pemerintah membuka akun S&P 500 untuk semua orang dengan saldo awal $1000, maka jaminan sosial akan terselesaikan”, lalu menunjukkan bahwa pada dasarnya itu hanya menjamin aliran dana publik yang terus-menerus ke perusahaan besar (atau afiliasinya). Dijelaskan juga bahwa UBI pada dasarnya adalah gejala ekonomi yang tidak punya dinamika, sebuah masalah struktural yang membiarkan pemerintah membayar orang hanya karena keberadaannya alih-alih menyediakan pekerjaan
Tidak setuju dengan penafsiran UBI sebagai sesuatu yang “membuat orang nyaman hanya karena mereka ada”. Ditekankan bahwa UBI menjamin kelangsungan hidup minimum, dan untuk pendapatan tambahan di atas itu orang tetap bisa mencarinya sendiri. Contoh negara-negara Skandinavia diajukan sebagai dasar bahwa struktur ekonomi pasar memang memerlukan UBI
Dijelaskan bahwa perusahaan dalam S&P 500 sebenarnya tidak menerima arus dana hanya karena sahamnya dibeli
ETF (dana indeks) bisa menyebabkan harga saham perusahaan tertentu turun tajam jika perusahaan itu dikeluarkan saat proses pembaruan dan rebalancing. Sebagai contoh, dibagikan fakta bahwa baru-baru ini Pltr turun besar setelah dihapus dari indeks Russel2000
Dibagikan pengalaman membangun browser internet, infrastruktur modern, dan hyperscale cloud. Awalnya ada kebanggaan karena merasa sedang membuat sesuatu yang lebih baik, tetapi setelah muncul peran Product Manager, semuanya mulai disesali
Dijelaskan bahwa judul tersebut berasal dari sketsa di acara TV Inggris "That Mitchell and Webb Look", sambil membagikan tautan YouTube
Disebutkan daya satire tajam dari acara itu, dan episode Dr Death juga dinilai sangat cocok untuk menyindir sains dan teknologi modern, dengan tautan video terkait
Direkomendasikan juga episode lain yang sedih tapi lucu dengan tautan
Disebutkan adegan klasik lain dengan tautan
Lelucon bahwa sekarang dirinya resmi sudah tua
Pendapat bahwa umat manusia belum pernah benar-benar memahami seberapa esensial sekaligus rapuhnya kerja sama antarmanusia. Diajukan eksperimen pikiran tentang bagaimana koloni semut akan runtuh jika sinyal feromonnya dihapus, atau bagaimana sistem akan berubah jika sebagian semut diberi ‘keuntungan’. Dibayangkan juga hasilnya akan berbeda lagi jika eksperimen itu diulang pada semut yang ditambahkan kesadaran diri. Disertai saran bahwa pemahaman tentang sistem adaptif kompleks bisa dipelajari dengan cara membangunnya sendiri, serta rekomendasi buku John Holland, "Hidden Order"
Reaksi bahwa muncul rasa suka melihat George mencoba AMD untuk melawan dominasi NVidia, dengan penilaian positif terhadap sikap yang ingin mengurai monopoli pasar
Namun ditunjukkan bahwa ia tampaknya sempat menyerah karena bug saat memakai chip AMD membuat operasi stabil jangka panjang sulit dicapai
Diungkapkan rasa iba bahwa bahkan George Hotz yang sukses dan penuh semangat pun tampak menapaki jalan pemula dalam urusan romantis, sehingga orang yang tidak seistimewa dirinya pasti akan lebih kesulitan lagi
Perspektif yang melihat posting seperti ini sebagai heatmap demografis: artinya kini bahkan orang yang sebelumnya sekadar mengejar ketertarikan dan berada agak di pinggiran (seperti geohot dan hacking) mulai menyadari keseriusan masalah ini dan berbicara terbuka, menyiratkan bahwa geohot berada tepat di tengah fenomena tersebut
Mengutip pertanyaan, “Suatu hari orang harus menyadari bahwa kita hidup dalam komunitas yang bernama masyarakat; apa yang akan menjadi pemicunya?” Disorot pula lingkungan podcast dan SNS yang memungkinkan penunjukan masalah sosial secara terdistribusi. Ditekankan bahwa yang benar-benar kita butuhkan adalah komunitas ala desa dalam makna modern: memulihkan relasi kepedulian yang menyesuaikan diri dengan kebutuhan dan keadaan orang lain, alih-alih tenggelam dalam individualisme berlebihan dan keputusan yang berpusat pada diri sendiri
Tidak menyangka akan mendengar pesan yang nyaris anti-kapitalis secara fundamental dari George Hotz, dan memberi tepuk tangan atas keberaniannya mengekspresikan perasaan semacam itu secara jujur