Apakah Kita Penjahatnya?

• Berangkat dari pengalaman boosts di Hinge, tulisan ini mengkritik struktur layanan sehari-hari yang mengekstrak lebih banyak nilai dari setiap interaksi lewat teknik psikologis dan algoritme
• Dari layar tip, algoritme Uber, pembelian kopi, kencan, pemesanan kendaraan, hingga pembayaran antar teman, perantara ikut campur dan sedikit demi sedikit menekan pengguna lebih jauh
• Berlawanan dengan harapan bahwa pasar akan melindungi pengguna yang lelah dimanipulasi, perusahaan justru mengoptimalkan nilai seumur hidup pelanggan dengan lebih canggih lewat dashboard dan AI
• Terjadi Red Queen’s race di mana jika tidak memaksimalkan keterlibatan, mereka akan kalah dalam persaingan, dan bahkan modal sosial serta nilai pun habis dikorbankan kepada Moloch
• Manipulasi berskala besar yang memanfaatkan iklan, diskriminasi harga, big data·machine learning·psikologi sulit dibenarkan, dan kapitalisme modern dinilai telah mendekati wireheading

---

Cara layanan sehari-hari mengekstrak nilai

• boosts yang ditemui setelah mendaftar Hinge menjadi titik awal masalah
• Layar tip, algoritme Uber, dan berbagai interaksi zero-sum menjadi contoh bagaimana teknik psikologis dipakai untuk mengekstrak sedikit lebih banyak nilai dari tiap momen dalam masyarakat
• Bahkan dalam aktivitas sosial yang normal seperti membeli kopi, berkencan, memesan kendaraan, atau mengirim uang ke teman, muncul perantara
  • Perantara ini berperan memeras pengguna lebih jauh dengan algoritme AI terbaru
• Harapan bahwa pasar akan memperbaiki keadaan jika pengguna merasa dimanipulasi dinilai lemah
  • Perusahaan lebih dulu menangkap reaksi semacam ini lewat dashboard
  • Mereka bisa menyesuaikan AI agar orang merasa lebih sedikit dimanipulasi
  • Tujuannya bukan hanya ekstraksi jangka pendek, melainkan memaksimalkan nilai seumur hidup pelanggan

Keraguan terhadap persaingan dan kemungkinan reformasi

• Sulit juga untuk keluar dari persaingan
  • Untuk menjalankan bisnis yang bersaing, metrik keterlibatan harus dimaksimalkan
  • Semua metrik menjadi target, dan jika tidak memaksimalkan keterlibatan, maka akan kehilangan keterlibatan dalam Red Queen’s race
  • Ini berujung pada situasi di mana bahkan modal sosial dan nilai dipersembahkan kepada Moloch
• Sulit menyelesaikannya hanya dengan penolakan pilihan individu; ini lebih mendekati masalah aksi kolektif
• Ada juga skeptisisme terhadap kemungkinan reformasi demokratis
  • Muncul pertanyaan apakah algoritme akan membiarkan adanya pemungutan suara yang menghapus mereka
  • Pemisahan antara suara dan tindakan diibaratkan seperti struktur Uber yang memisahkan jumlah bayaran untuk pengemudi dan tarif yang dibayar penumpang
  • Bahkan digunakan ungkapan keras bahwa tidak ada reformasi, yang ada hanya revolusi
• Tulisan ini mempertanyakan apakah kita masih bisa menganggap manipulasi skala besar dapat diterima bahkan setelah peristiwa ekstrem seperti keruntuhan finansial, World War 3, atau kelaparan massal
• Ditegaskan bahwa manipulasi skala besar yang memanfaatkan iklan, diskriminasi harga, big data·machine learning·psikologi bukanlah hal yang bisa diterima
• Kapitalisme modern dipandang sebagai wireheading, dan pelajaran ini baru akan dipahami setelah mayoritas pelanggan dikorbankan kepada Moloch

[GN⁺]

Opini Hacker News

• Bagi sebagian orang, membayar lebih untuk melewati antrean itu sendiri adalah tujuannya. Namun mereka tidak menduga bahwa kalau semua orang membayar premium, antreannya akan muncul lagi di depan mereka sendiri
  Pengguna miles maskapai di Australia umumnya berada dalam situasi seperti ini. Dulu ada manfaat karena hambatan masuknya tinggi, tetapi kerja FIFO membuat status klub menjadi umum, sehingga keunggulan saat boarding hampir hilang dan tiket reward dengan poin juga nyaris tidak ada
  Jadi menurut saya, ketika pencarian status dan penetapan harga bertingkat dipersenjatai terhadap konsumen, itu memang pola antisosial. Uber masuk ke pasar dengan bahkan memberi jaminan kepada orang-orang yang bersedia melanggar hukum, dan saya membencinya karena terus mengalirkan laba ke luar negeri. Namun karena layanan taksi sudah terlalu buruk, sekarang kita sudah terbiasa dengan Uber dan tarif lonjakan
  Masuknya fitur tip ke PayWave dan layanan makanan di Australia juga terasa tidak enak bagi banyak orang. Itu tidak khas Australia. Karena ada upah minimum legal dan tarif tambahan, fitur itu seharusnya dimatikan
  Ada juga cukup banyak ejekan terhadap upaya di Eropa untuk mewajibkan tiket pesawat mencakup bagasi, karena masih ada penganut sejati yang menganggap kebutuhan akan pakaian dalam bersih sebagai kelemahan

  • Menurut saya orang non-Amerika harus melawan penyebaran budaya tip. Semua tip harus ditolak
    Saya tahu para pekerja bergaji rendah, tetapi begitu kita mulai memberi tip, upah akan turun lebih jauh dan semua orang akan menjadi lebih buruk; ini lereng licin
  • Uber dan Lyft memang mahal, tetapi kalau Anda benar-benar ingat masa kejayaan taksi dulu, sulit mengatakan mereka lebih buruk daripada apa yang mereka gantikan. Di kota besar seperti NYC, taksi mudah didapat, tetapi di wilayah lain Anda harus bergantung pada perusahaan mencurigakan yang ditemukan di buku telepon, dan tidak ada jaminan mobilnya akan datang
    Sekarang Anda bisa memanggil mobil relatif cepat di mana saja. Praktik bisnis predatoris terhadap pengemudi maupun penumpang itu serius dan perlu regulasi yang lebih kuat, tetapi saya tidak ingin kembali ke cara lama
  • Di maskapai murah UE, terutama Ryanair atau EasyJet, sekarang hampir semua orang berdiri di antrean priority boarding, dan kadang hanya saya yang ada di antrean biasa. Dulu kalau membayar lebih Anda naik lebih dulu, tetapi sekarang meski berada di antrean biasa, saya sering masuk lebih dulu daripada 2/3 antrean priority boarding, jadi rasanya aneh
    Tarif lonjakan Uber di sini juga bergerak besar dalam hitungan menit, seperti 40→50→38 euro, jadi cukup pantau aplikasi sebentar lalu ambil saat harganya bagus. Taksi hampir selalu dua kali lebih mahal, di bandara bisa tiga kali lebih mahal, sering kali kasar, dan tidak bisa diberi rating, jadi saya jarang naik
    Terakhir kali saya naik taksi, jarak ke bandara 10 menit dan Uber harganya 15 euro. Sopir taksi sungguhan bilang bayar saja 15 euro, jadi saya naik, tetapi penumpang lain yang naik di belakang mobil yang sama dikenai 72 euro. Artinya dia menghasilkan hampir 90 euro untuk perjalanan 10 menit
    Tidak memakai Uber karena membencinya membuat hidup terlalu merepotkan dibandingkan manfaat yang didapat. Industri taksi memang perlu diguncang, dan mereka tampaknya masih belum belajar apa-apa. Harus pesan sebelumnya, aplikasinya buruk, dan jauh lebih mahal. Jika berdua atau lebih, sering kali lebih murah daripada kereta, yang cukup aneh di negara yang mengatakan “kalau bisa, naiklah kereta”
  • Kalau seorang puris pasar melihat ini, mungkin ia akan bilang bahwa ini hanya berarti harga produk itu salah. Harga tiket sebenarnya seharusnya adalah harga yang sudah ditambah premium, dan baik harga tiket maupun harga untuk melewati antrean harus dinaikkan
  • Kalau tidak peduli dan menerima saja bahwa saya berada di ujung belakang antrean, ada rasa bebas. Saya tidak membayar premium, bersantai di lobi, lalu setelah orang-orang yang membayar menunggu di antrean dan hampir semuanya keluar, barulah giliran saya tiba

• Jangan meremehkan respons lama manusia ketika dimanipulasi, yaitu keluar
  Ini bukan teori, melainkan sedang terjadi sekarang. Tren digital detox, kembalinya feature phone di kalangan muda, pergeseran dari feed publik ke DM privat, dan generasi “jangan ganggu” semuanya fenomena yang sama. Orang-orang merasakan manipulasi dan keluar dengan mematikan notifikasi satu per satu

  • Metrik keluar itu juga bernilai, jadi saya tidak akan lagi memberikannya gratis. Saya bisa sengaja terlibat dan keluar secara acak agar tidak ada yang tahu apa yang berhasil
    Digital detox dan kebangkitan feature phone sekarang juga sudah menjadi pasar; itu hanya “lifestyle”. Orang-orang tidak merasakan manipulasi. Bahkan kesadaran akan manipulasi pun sudah menjadi pasar, dan pasti ada YouTuber yang sukses karena itu
    Pertanyaan menariknya adalah sejauh mana algoritme profiling bisa ditipu. Yang lebih penting adalah apakah kita bisa membuatnya percaya bahwa kita adalah sesuatu yang bukan diri kita, dan seberapa jauh kita bisa merusaknya
  • Anda tidak bisa keluar dari kapitalisme. Trik seperti itu mungkin membantu agar Anda tidak menjadi antelop paling lambat dalam kawanan, tetapi bukan berarti sepenuhnya bebas dari eksploitasi
  • Pada akhirnya, mereka akan membidik dolar dari orang yang sulit dijangkau karena keluar
    watch?v=9h9wStdPkQY saya hilangkan kepala tautannya karena bahasa dan kontennya, tetapi Anda mungkin tahu apa yang harus dilakukan, dan mungkin juga video siapa itu
  • Sejak 2012 saya sudah lama keluar dari media sosial dan aplikasi yang mengomodifikasi dan memonetisasi sampai ke bagian-bagian kecil kehidupan
  • “Keluar” tidak sama dengan “tidak peduli”, dan saya juga khawatir apakah itu respons manusiawi yang baik
    “Tidak peduli” bekerja di tingkat individu, tetapi keluar tampaknya harus bekerja di tingkat kolektif. Saya bukan pakar ilmu sosial, tetapi menurut saya agar keluar mengarah pada perubahan positif, ia harus digabungkan dengan teori jendela pecah. Masalahnya, sudah banyak orang berada di tahap keluar itu
    Dalam suasana yang tidak menyenangkan bagi semua orang, lingkungan merosot bersama, tetapi perubahan kolektif yang terarah tidak terjadi. Feature phone dan digital detox lebih seperti pengecualian; dalam praktiknya, standar yang dianggap dapat diterima sedang diturunkan secara sistematis. Yang lebih buruk, sementara itu dilakukan atas nama kesetaraan dan inklusi, ketimpangan antarkelompok justru makin besar
    Setelah Occupy Wall Street dan Musim Semi Arab, “tidak peduli” menjadi tren. Ini berlawanan dengan optimisasi diri, growth hacking, dan lifestyle berbasis data yang lebih mirip pemasaran korporat; morfem seperti hyper/super/über juga hidup kembali dari nostalgia terhadap masa boom ekonomi 80–90-an, dan akselerasionisme pasar bebas neoliberal serta Bitcoin juga cocok dengan arus itu
    “Tidak peduli” awalnya adalah kritik terhadap sistem yang sudah ada yang merampas perhatian demi menonjolkan individualitas warga, tetapi politisi dan operator perusahaan keliru memahaminya sebagai lebih fokus pada karier sendiri daripada tanggung jawab peran mereka saat ini. Di dunia yang makin terhubung, mereka pun tidak lagi “peduli”
    https://en.wikipedia.org/wiki/Broken_windows_theory
    https://en.wikipedia.org/wiki/The_Subtle_Art_of_Not_Giving_a...

• Gagasan bahwa jika pemerintah membuka akun S&P 500 senilai 1.000 dolar untuk setiap orang saat lahir, itu bisa menjadi sumber dana jaminan sosial, adalah poin yang bagus. Pada akhirnya uang itu menjadi aliran masuk yang terjamin ke perusahaan-perusahaan terbesar dan perusahaan-perusahaan yang dianggap suatu hari akan membesar, dan menjadi cara lain untuk mendistribusikan ulang uang publik ke perusahaan swasta
  Sebagai contoh serupa, pendapatan dasar tampak seperti bukti ekonomi yang tidak dinamis. Ini pada dasarnya adalah persetujuan dan pengakuan bahwa “Anda mungkin tidak akan menemukan pekerjaan layak untuk menafkahi diri dan keluarga, jadi selama pemerintah masih ada, kami akan memberi uang agar Anda bisa hidup nyaman”

  • Saya rasa tidak banyak orang yang mendukung pendapatan dasar seperti itu. Pendapatan dasar yang saya lihat adalah jaminan penghidupan minimum, dan konsepnya adalah jaminan penghidupan itu tidak boleh berkurang meski seseorang menghasilkan lebih dari itu
    Saya pikir ekonomi pasar yang terdemoskratisasi membutuhkan sesuatu yang mendekati pendapatan dasar, dan negara-negara Skandinavia menurut saya mendukung argumen itu
  • Investasi S&P 500 dialokasikan ke perusahaan-perusahaan terbesar pada titik waktu mana pun
    ETF harus melakukan rebalancing, sehingga menambah dan mengurangi saham tertentu, dan kadang juga mengeluarkannya. Jika membeli SPY, Anda terekspos bukan hanya ke perusahaan yang saat ini masuk indeks, tetapi juga ke perusahaan yang akan masuk di masa depan
    Jika suatu perusahaan dikeluarkan dari indeks, harga sahamnya bisa turun tajam karena ETF bergerak secara mekanis. “Tajam” itu relatif, tetapi contohya PLTR turun cukup besar setelah keluar dari Russell 2000 pekan lalu
  • Ini bukti bahwa AS adalah pengekspor inflasi. Pendapatan dasar tidak bisa bersaing dengan inflasi strategis berskala global
  • Perusahaan-perusahaan S&P 500 tidak menerima arus kas masuk hanya karena saham mereka dibeli

• Tulisan nonteknis George umumnya terasa kurang inspiratif jadi saya cenderung menghindarinya, tetapi tulisan kali ini benar-benar masuk akal
  Tentu saja itu mungkin tidak akan berlanjut sampai introspeksi tentang hubungannya dengan orang-orang yang biasanya ia puji dan ajak bergaul, tetapi setidaknya orang lain mungkin bisa melihat ke dalam diri dan bertindak berbeda
  Sesuatu harus berubah. Di HN juga rasanya sentimen seperti ini meningkat dalam beberapa tahun terakhir. Bisa saja saya yang semakin peka melihatnya, tetapi masalahnya mungkin bukan keberadaan Grape itu sendiri, melainkan dari mana ia berasal

  • Karena judulnya “Are we the baddies?”, saya kira ia akan sedikit saja meninjau perannya sendiri dalam semua ini, tetapi ternyata tidak
  • Sebagiannya mungkin hanya ingin mengikuti tren. Cara refleksinya terbaca seperti pendekatan “tempelkan kamera ponsel di dasbor dan buat mobil otonom”
  • geohot adalah orang yang memakai LLM untuk masuk papan peringkat Advent of Code
  • Saya tinggalkan tautan ini saja: https://x.com/ns123abc/status/1940980667455836578

• Penulis harus mulai dari produknya sendiri. Produk itu berhenti berfungsi jika tidak terhubung ke internet setidaknya setiap 14 hari
  https://github.com/commaai/openpilot/blob/a8ec08e5bbc2be0a32...

  • Ada juga fakta bahwa setelah akuisisi oleh Musk, Twitter menjadi algoritma rekomendasi propaganda paling ultimat, dan ia pernah sukarela bekerja di sana
    https://www.theverge.com/2022/12/20/23519922/george-hotz-geo...
  • Benar, karena produk niche ini adalah sumber struktural dari masalah-masalah yang ia sebutkan, kan

• Saya pernah bekerja pada browser awal dan infrastruktur internet modern, dan juga ikut membangun infrastruktur cloud hiperskala yang memungkinkan internet saat ini. Saya punya andil dalam cukup banyak hal yang terjadi, dan sungguh merasa sedang membuat sesuatu yang lebih baik
  Lalu peran manajer produk muncul, dan saya jadi menyesali semua yang telah saya lakukan

  • Saya penasaran apakah Anda bisa menjelaskannya lebih jauh
    Saya lama menjalankan bisnis kecil dan membangun perusahaan yang layak jalan, lalu belakangan tergoda untuk bekerja sebagai manajer produk di perusahaan teknologi yang cukup besar. Itu sangat jauh dari apa yang saya ketahui tentang membuat produk hebat, tetapi sangat cocok untuk mendorong pekerjaan dengan cara yang saya pelajari dari “melakukan semuanya” di perusahaan kecil. Hasilnya banyak, tetapi saya hampir terus-menerus mengalami burnout dan kecemasan
    Saya juga terlibat dalam cloud yang sangat populer dan software open source, tetapi sebagian besar saya benci. Terutama saya membenci cara manajemen produk dan kompleks industri manajemen produk memisahkan peran itu dari realitas, sambil tetap menuntutnya memperbaiki kekacauan dari founder, jajaran C-level, dan generasi lama. Saya juga lelah dengan papan Miro dan utas komentar GDocs yang tak ada habisnya
    Jadi saya meninggalkan organisasi produk, bahkan mengorbankan kompensasi tinggi, dan kembali ke pekerjaan membangun
    Bukan berarti saya tidak setuju; saya hanya ingin mendengar lebih banyak pengalaman pribadi tentang naiknya peran manajer produk. Namun saya juga merasa tidak bisa hanya menyalahkan PM dan budaya yang berpusat pada PM. Saya belum pernah bertemu tim leadership yang membuat keputusan dan tindakan yang masih bisa saya hormati atau terima, dan tentu saja sangat mungkin sayalah masalahnya

• Judulnya berasal dari sketsa acara Inggris That Mitchell and Webb Look: https://www.youtube.com/watch?v=h242eDB84zY

  • Kalau belum menonton acara ini, acaranya benar-benar bagus. Satire yang sangat cerdas
    Dr Death juga merupakan interpretasi yang sangat pas untuk teknologi modern
    https://m.youtube.com/watch?v=Skl71urqKu0
  • Klasik: https://www.youtube.com/watch?v=s_4J4uor3JE
  • Yang ini cukup sedih, tetapi sekaligus lucu:
    https://www.youtube.com/watch?v=uRbj1Q4tXNo

• Tinggal keluar dan bicara dengan orang. Tidak ada moat di sekitar aplikasi kencan, dan manusia masih ada di ruang nyata
  Saya belum pernah melihat kontrak aplikasi kencan yang melarang orang asing melakukan pendekatan ringan. Mak comblang juga masih ada

  • Itu tidak bisa dilakukan. Kalau seperti tahun 90-an Anda dengan santai mengatakan “hai” kepada orang asing di kota, kemungkinan besar paling bagus pun Anda akan dicap sebagai orang menyeramkan di TikTok
  • Sayangnya hal seperti itu hanya mungkin di kota kecil dengan tingkat kepercayaan yang tinggi

• Menurut saya, tulisan seperti ini menarik sebagai semacam peta panas demografis. Sebab dulu ada orang seperti geohot yang hanya mengejar minatnya sendiri, seperti dalam peretasan, tetapi kini ia menyadari masalahnya dan cukup termotivasi untuk menulis tentangnya
  Menurut saya, geohot sudah masuk cukup jauh ke tengah-tengah peta itu

  • Kemampuan untuk menunjuk masalah sosial secara terdistribusi adalah sisi yang baik. Jika melihat Trevor Noah atau media sosial secara umum pun, terlihat bahwa masyarakat kita sekarang sangat membutuhkan komunitas
    Kita membutuhkan desa versi modern. Jangan membuat semua keputusan semata-mata secara individualistis dan berpusat pada diri sendiri; kita harus menyesuaikannya dengan tuntutan dan kebutuhan satu sama lain. Meski tahu orang tua salah, kadang tidak perlu memaksakan pendapat sendiri. Alih-alih menjadi keberadaan yang sepenuhnya terpecah dan transaksional, sekarang saatnya menumbuhkan masyarakat yang saling bergantung
  • Saya tidak menyangka akan mendengar sesuatu yang terdengar seperti antikapitalisme radikal dari George Hotz
    Namun saya juga telah merasakan emosi yang sama seperti yang Hotz ungkapkan dalam tulisan ini, dan saya menghargai bahwa ia mengatakannya

• Jawabannya adalah “ya”, dan jawaban untuk seberapa buruknya adalah sangat buruk. Manusia sebelumnya belum pernah memahami betapa esensialnya kerja sama bawaan, dan betapa rapuhnya hal itu
  Apa yang akan terjadi jika kemampuan menggunakan jalur feromon di koloni semut dihilangkan?
  Apa yang akan terjadi jika jalur feromon koloni semut dimanfaatkan agar sebagian semut bisa memperoleh “keuntungan” dengan mengorbankan semut lain?
  Semut mungkin hampir tidak memiliki kesadaran diri, tetapi bagaimana jika kesadaran ditambahkan pada mereka, lalu mereka diberi tahu bahwa mereka sedang dimanipulasi, kemudian dua eksperimen di atas diulangi?
  Cara yang baik untuk memahami sistem adaptif kompleks seperti yang digunakan manusia adalah dengan membuat sendiri sistem semacam itu. “Hidden Order” karya John Holland memberi petunjuk tentang caranya