Ketidakefisienan Skala: Penipuan, Spam, Dukungan, dan Moderasi
- Platform berskala besar cenderung memiliki rasio penipuan, spam, dan penipuan yang lebih tinggi daripada platform yang lebih kecil.
- Misalnya, pada Signal saya tidak pernah menerima pesan spam, tetapi di WhatsApp saya menerimanya secara berkala.
- Jika membandingkan tempat membaca konten teknis, forum kecil yang kurang dikenal atau situs seperti lobste.rs biasanya memiliki persentase konten yang buruk lebih rendah daripada platform besar.
- Platform media sosial menengah hingga besar seperti Reddit, YouTube, Facebook, dan hasil pencarian Google memiliki rasio konten negatif yang lebih tinggi.
- Semakin besar ukuran platform, semakin kecil peluang mendapatkan dukungan yang layak, dan kemungkinan pemulihan akun dari penangguhan atau larangan yang salah juga menurun.
Masalah Pada Platform Besar
- Mempertanyakan klaim bahwa platform besar selalu dapat melakukan moderasi dan penyaringan spam/penipuan dengan lebih baik.
- Meskipun banyak insinyur dan pemikir Google berpendapat hanya platform besar yang mampu menjalankan moderasi, penyaringan spam, dan deteksi penipuan secara efektif, kenyataannya mesin pencari kecil sering lebih kebal terhadap penyalahgunaan SEO.
- Walaupun umum dipersepsikan bahwa pengelolaan email pribadi akan tidak mungkin dilakukan karena beban spam, banyak orang mampu mengelola email mereka dan mendapatkan hasil yang setara atau lebih baik dibanding Gmail.
Masalah Moderasi pada Platform Besar
- Mark Zuckerberg berargumen bahwa memecah perusahaan teknologi besar akan memperburuk masalah moderasi.
- Klaim Zuckerberg menyatakan platform besar dapat melakukan moderasi lebih baik karena sumber daya yang lebih banyak, tetapi pada kenyataannya sumber daya itu dialihkan untuk hal lain.
- Misalnya, Meta menginvestasikan US$50 miliar untuk pengembangan metaverse, tetapi tidak berinvestasi pada platform dan teknologi moderasi.
Masalah Dukungan
- Dukungan pengguna pada platform besar pada umumnya tidak memuaskan.
- Saluran dukungan umum tidak efisien, sehingga pengguna sering menghadapi penolakan standar atau mimpi buruk ala Kafka.
- Bahkan saat menggunakan dukungan berbayar, pengalaman yang didapat tidak jauh berbeda dari dukungan gratis.
- Saat perusahaan besar tumbuh lebih besar, mereka cenderung menawarkan dukungan yang lebih murah dan memaksimalkan laba, alih-alih meningkatkan efisiensi dukungan.
Pendapat GN⁺
- Meskipun platform besar memiliki lebih banyak sumber daya, kualitas pengalaman penggunanya sering lebih buruk daripada platform kecil. Ini karena platform besar tidak menggunakan sumber dayanya untuk meningkatkan pengalaman pengguna, melainkan untuk kepentingan yang tidak sama.
- Kualitas layanan dukungan pengguna cenderung berbanding terbalik dengan ukuran platform, karena kompleksitas dan sistem dukungan yang tidak efisien.
- Artikel ini menyoroti masalah platform berskala besar dan menyajikan pertimbangan penting saat memilih platform yang lebih kecil.
1 komentar
Komentar Hacker News
Menurut saya tulisan ini meremehkan cakupan masalah seperti ini. Memang sempat disinggung sekilas, tetapi secara umum saya jadi berpikir bahwa perusahaan yang menjadi luar biasa besar itu sendiri adalah hal buruk, dan ini bukan hanya masalah moderasi konten
Perusahaan besar tidak perlu lagi peduli pada konsumen individual, dan pada kenyataannya memang tidak peduli. Lalu mereka menghabiskan lebih banyak waktu untuk mempertahankan posisi pasar daripada “melakukan hal yang sudah mereka lakukan dengan baik”, dan kadang mencoba berekspansi ke pasar yang sama sekali tidak terkait seperti konglomerat besar
“Skala ekonomi” hanya baik dalam arti menghasilkan uang bagi perusahaan individual; kalau dilihat sebagai manfaat bagi ekonomi, masyarakat, dan umat manusia secara keseluruhan, menurut saya hampir semua skala ekonomi itu merugikan
Skala ekonomi itu alami seperti rumput atau gulma yang tumbuh lebat, tetapi bukan berarti itu baik, dan untuk sebagian besar tujuan praktis perlu ditekan secara aktif. Perusahaan menjadi besar itu alami, tetapi menurut saya perusahaan besar harus dipecah secara berkala hanya karena mereka sudah menjadi besar
Moral hazard mencakup bukan hanya kerugian langsung pada orang lain seperti dukungan yang buruk atau berniat jahat, tetapi juga kerugian tidak langsung melalui eksternalitas seperti polusi atau kemerosotan ekonomi lokal. Menurut saya intuisi ini jelas benar
Moral hazard memutus sirkuit koreksi sosial yang ada dalam kelompok kecil seperti keluarga atau desa, tetapi pada saat yang sama juga memungkinkan penciptaan dan akumulasi kekayaan yang sangat besar. Dalam filsafat ini disebut masalah tangan kotor
https://en.wikipedia.org/wiki/Moral_hazard
https://plato.stanford.edu/entries/dirty-hands/
Berkat skala ekonomi pada barang kebutuhan pokok, tidak semua orang harus bertani subsisten, dan kita bisa memakai pakaian yang dijahit
Ada benarnya di kedua sisi. Saya tidak ingin produksi paku dilakukan dengan tangan, tetapi saya juga ingin saat menelepon dukungan pelanggan, yang menjawab adalah orang yang benar-benar punya wewenang
Masalah penipuan di internet adalah hampir tidak ada orang yang benar-benar meminta pertanggungjawaban penipu. Saat ini pada dasarnya yang dilakukan hanya “mengusir” mereka, lalu setelah diusir penipu mencoba lagi sampai akhirnya hampir selalu berhasil
Karena itu, industri penipuan secara umum sangat menguntungkan dan terus tumbuh
Saat bekerja di Blizzard, ada banyak mekanisme untuk menemukan transaksi kartu kredit curang dan membatalkannya sebelum benar-benar ditagihkan, tetapi tidak ada prosedur untuk melaporkan penipu agar mereka tidak bisa melakukan hal yang sama keesokan harinya
Mungkin semua perusahaan memakai strategi serupa. Sebab tidak ada perusahaan yang punya sarana realistis untuk meminta pertanggungjawaban penipu dan membuat mereka tidak bisa mencoba lagi
Karena itu masalah penipuan makin membesar, sulit dikelola, dan lepas kendali. Ini adalah masalah politik yang pelik: pemerintah harus membentuk organisasi khusus untuk mengurangi skala industri penipuan, menangkap penipu, dan meminta pertanggungjawaban mereka
Yang lebih sulit lagi, ini melintasi yurisdiksi sehingga pemerintah berbagai negara harus bekerja sama. Saat ini mungkin terlihat mustahil, tetapi sampai itu terjadi, menurut saya penipuan akan terus memburuk
Tidak mungkin juga memanggil FBI untuk pembelian 20 dolar
Perang melawan narkoba bisa dijadikan analogi. Target utamanya selalu pengedar tingkat bawah dan pengguna, karena mereka mudah ditangkap sehingga mudah juga mengatakan “kami sedang melakukan sesuatu”. Namun dampaknya relatif kecil terhadap bisnis penjualan narkoba dan pasokan di jalanan, sementara menargetkan akar masalah jauh lebih sulit
Blizzard tidak mendapat imbalan jangka pendek dari melaporkan penipuan, dan sulit tahu apakah itu membantu dalam jangka panjang. Meski begitu, pada akhirnya yang penting adalah melakukan hal yang benar
“Bergerak cepat dan hancurkan sesuatu” bisa menjadi strategi yang bagus, tetapi tidak boleh dipakai sendirian. Kalau begitu, yang tersisa hanya jejak kerusakan yang tidak pernah dibereskan. Karena tujuan sulit dikuantifikasi, setiap fungsi objektif mudah melenceng, dan manusia harus melihatnya lalu mengoreksi arah sebisa mungkin
Kita membutuhkan baik orang yang mendorong maju dengan cepat maupun orang yang memperlambat dan memperbaiki; ada harmoni di dalam ketegangan itu. Apa pun kubu yang dipilih, kita harus mengakui bahwa pihak seberang juga memiliki nilai
Misalnya, perusahaan membayar $X untuk sebuah laporan; jika laporan itu berujung pada denda, mereka menerima $X5; dan jika terbukti sebagai laporan yang tidak masuk akal, mereka membayar tambahan $X10. Jika laporan tampak valid tetapi tidak berujung pada denda, tidak ada imbalan
Saya khawatir insentif yang keliru akan menyebabkan pelaporan berlebihan atau efek samping lain
Jika tiba-tiba mulai menuntut kasus penipuan, itu akan membuat para pihak berkantong tebal tidak nyaman
“Skala ekonomi” yang sebenarnya dari platform semacam ini bukanlah menyediakan dukungan, moderasi, dan pencegahan penipuan dengan lebih baik, melainkan pada dasarnya tidak melakukan apa-apa lalu lolos berkat kekuatan pasar
Jika Anda menjalankan layanan taksi Andy di kota kecil dan muncul masalah dukungan pelanggan, Anda harus menanganinya sendiri dengan benar; kalau tidak, bisnis Anda bangkrut. Kalau Uber, mereka cukup mengabaikannya
Ini tidak ada hubungannya dengan efisiensi; ini soal memperoleh kekuatan monopoli yang memungkinkan mereka lolos meski memperlakukan pelanggan dengan buruk. Ditambah permukaan serangan yang lebih besar, makin besar platformnya, makin buruk pula spam, penipuan, dan dukungannya
Ada banyak keluhan tentang Uber, tetapi pengalaman naik taksi sebelum Uber jauh lebih buruk. Layanan taksi kota kecil milik Andy yang memberi layanan teladan itu entah tidak ada, atau merupakan pengecualian yang tidak bisa diandalkan untuk ditemukan saat bepergian
Bahkan di kota besar, sebagian besar taksi dipanggil di jalan atau lewat pusat dispatch, sehingga masing-masing pengemudi taksi punya sedikit alasan untuk peduli pada reputasinya sendiri. Anda tidak memilih taksi tertentu dan jarang ada transaksi berulang, jadi layanan pelanggan tidak penting
Tidak perlu dipedulikan, dan gugatan kelompok pun kemungkinan tidak akan diambil pengacara karena kelompoknya terlalu kecil
Pada 2014, ketika Jeff Atwood, alias codinghorror, pindah dari Stack Overflow ke pembuatan Discourse, ia memberi ceramah terkait, dan saya ingat satu kalimat singkat yang menjelaskan mengapa sistem tingkat kepercayaan Discourse dibuat seperti itu
“Satu-satunya hal yang berkembang seiring komunitas adalah komunitas itu sendiri”
Intinya, pengguna harus dibesarkan menjadi moderator. Mendapatkan moderator dengan cara lain tidak berkelanjutan
http://discourse.bridgefoundry.org/t/link-to-jeff-atwood-tal...
Pengguna: “AI, sekarang status membacaku apa?” AI: “EveningSurfMood2, sedang menonjolkan StuffFromFriends, dan EclecticTopicsLarge berisi HighQ Discussion v3 dari Dang, Clueful Author Making Coherent Argument Filter dari Alice12, serta UnusuallyInsightful51 dari hugging”
Saat membaca, AI: “Ada permintaan penilaian dari Mastatron. Apakah postingan ini meremehkan peluang hibrida komputasi manusia-AI berskala besar?” Pengguna: “Ah, benar juga”
Penulis tampaknya keliru menganggap manfaat efek seleksi sebagai kapabilitas
Orang-orang yang pernah menangani pencegahan penipuan di platform tahu bahwa penipuan pun memiliki semacam pasar. Untuk platform mana pun, akan muncul tingkat penipuan yang membersihkan pasar, tergantung pada keuntungan dari mempelajari dan mengeksekusi suatu celah, upaya yang dibutuhkan, dan berapa kali itu bisa diulang
Penipuan di platform kecil jauh lebih sedikit umumnya karena nilai serangannya jauh lebih rendah, dan penyebabnya justru fakta bahwa platform itu kecil
Platform besar sebenarnya punya kapabilitas pencegahan penipuan dan spam yang jauh lebih tinggi, tetapi cakupan operasinya merupakan target yang sangat menarik sehingga tetap banyak diserang
Para penipu di seluruh dunia berhadapan dengan Amazon, Google, dan Facebook. Ini pertarungan yang sangat tidak seimbang, dan jika dilihat secara keseluruhan, menurut saya platform-platform itu bertahan cukup baik
Namun bantahannya adalah: jika argumen itu benar dan sistemnya memang bagus, maka secara absolut seharusnya menyebar spam atau melakukan penipuan di Reddit atau Facebook lebih sulit daripada di HN, tetapi kenyataannya sama sekali tidak begitu
Jawaban ini terasa masuk akal secara intuitif. Jika perusahaan besar memang lebih kompeten dalam pencegahan penyalahgunaan dan penipuan, penipuan yang bocor selama waktu lama seharusnya lebih halus dan tidak terlalu jelas
Jika model bisnis mereka adalah “skala dengan segala cara” dan akibatnya pengalaman pelanggan memburuk, seberapa kompeten mereka tidak terlalu penting
Itu menyatu dengan model bisnis yang menjual akses ke kumpulan pengguna sebesar mungkin
Saya tidak setuju dengan pernyataan bahwa platform besar jauh lebih kompeten dalam pencegahan penipuan dan spam. Mereka sengaja tidak kompeten. Sebab mereka tidak bisa menerapkan kapabilitas nyata untuk menyediakan dukungan manusia yang cukup guna menangani volume kesalahan yang dibuat algoritme otomatis
Bukan karena biaya, melainkan karena jika mereka melakukannya, nilai yang mereka berikan kepada pelanggan sesungguhnya—pengiklan atau pembeli akses—akan berkurang
Secara umum saya setuju, tetapi menurut saya beberapa contohnya meleset
Reddit bukan contoh buruk karena efek ini; justru ini contoh yang baik. Reddit bukan satu platform raksasa, melainkan gabungan ribuan subreddit yang dimoderasi secara independen. Subreddit kecil bisa tetap berjalan justru karena skalanya kecil
Menjalankan server email sendiri juga bukan contoh tandingan, melainkan memang contoh yang sangat buruk. Sebab pada dasarnya itu bukan memoderasi komunitas kecil, melainkan memoderasi seluruh dunia, hanya saja dari sudut pandang kita sendiri. Siapa pun bisa mengirim email kepada siapa pun
Jadi kita mendapatkan sisi terburuk dari keduanya. Tidak ada anggaran yang datang dari skala besar, tetapi tetap menghadapi masalah berskala besar
Bukan saya yang kewalahan memoderasi seluruh dunia, melainkan seluruh dunialah yang memoderasi saya
Organisasi kecil tidak terlalu paham cara agar tidak terlihat seperti spam, dan juga memakai antipola seperti signature email menyebalkan yang umum di perusahaan
Karena itu, jauh lebih sulit bagi Gmail untuk seakurat filter spam saya. Filter saya hanya perlu mempelajari preferensi beberapa ratus orang, sedangkan Gmail tak terhindarkan menghadapi risiko overfitting
Jika tulisan ini dirangkum, kesimpulannya adalah kita membutuhkan persaingan yang lebih besar tanpa satu pemimpin raksasa yang dominan. Jika ada banyak perusahaan berukuran menengah ke bawah secara potensial, dan kekuatan tidak terkonsentrasi pada satu pihak, maka muncul insentif untuk memberikan pengalaman yang lebih baik, dan bagi pelaku jahat pun menjadi lebih sulit karena targetnya banyak
Dari sudut pandang regulasi dan semangat persaingan pasar, menurut saya kita sebaiknya memberi insentif untuk menciptakan perusahaan software kelas menengah dengan nilai gabungan lebih dari 100 miliar dolar, alih-alih beberapa raksasa bernilai triliunan
Hardware sedikit berbeda dalam hal economies of scale, jadi saya tidak ingin memasukkannya ke argumen yang sama, tetapi mungkin ada sesuatu juga di sana
Rockefeller memiliki pangsa pasar sekitar 90% sebelum gugatan antitrust dimulai, tetapi saat putusan dijatuhkan, pangsanya sudah menurun. Ini menunjukkan bahwa meski satu entitas menguasai 90%, pasar pada akhirnya bisa mengurangi ukurannya
Pada saat yang sama, Rockefeller juga membawa inovasi terobosan bagi masyarakat. Awalnya, baik bahwa modal terkonsentrasi padanya karena digunakan untuk mendorong masyarakat maju, dan kemudian baik juga bahwa modal itu keluar dengan sendirinya karena dibutuhkan di tempat lain
Sentralisasi ke perusahaan-perusahaan superbesar saat ini dipengaruhi banyak faktor; economies of scale salah satunya, tetapi hukum kekayaan intelektual juga besar pengaruhnya. Sebenarnya saya rasa kekayaan intelektual tidak diperlukan
Saya menduga sebagian besar regulasi ditulis oleh perusahaan yang diregulasi dan berfungsi menghambat persaingan. Selain itu, menurut saya sentralisasi mulai menguat pada masa WWI/WW2 karena pemerintah lebih mudah memerintahkan hanya beberapa orang untuk membuat tank alih-alih mobil, dan itu juga merupakan tujuan strategis pemerintah AS
Software dan layanan online sangat buruk dalam hal ini karena ada terlalu banyak cara untuk mengakali regulasi. Kepatuhan formal Apple terhadap EU yang dilakukan dengan itikad buruk adalah contoh yang terang-terangan, sementara contoh Facebook yang meyakinkan regulator bahwa chat dan media sosial adalah pasar berbeda agar akuisisi WhatsApp diizinkan adalah contoh yang lebih halus
Idealnya, arahnya bukan hanya mencegah penyalahgunaan monopoli, tetapi mencegah monopoli itu sendiri: https://pietersz.co.uk/2009/11/fix-capitalism
Mudah diperbaiki. Cukup buat Amazon memikul tanggung jawab garansi atas semua penjualan di platformnya sendiri
Amazon mengklaim bahwa mereka bukan penjualnya, dan bahwa penjualnya adalah pihak anonim yang memasang iklan di platform. Masalah ini pernah digugat di Pennsylvania, dan ketika kemungkinan Amazon kalah besar makin tinggi, mereka berdamai untuk menghindari preseden hukum
Di sisi iklan, siapa pun yang menayangkan iklan untuk pihak ketiga harus bisa menunjukkan nama dan alamat asli pengiklan saat diminta; jika tidak bisa, mereka harus bertanggung jawab atas isi iklan. Perusahaan tidak punya hak untuk anonim. Uni Eropa dan California sudah punya hukum semacam itu
Alasan penipuan menjadi masalah bukan karena ini sulit, melainkan karena platform-platform besar mendapat kekebalan meski memfasilitasinya
Agak mengejutkan bahwa hal itu belum berlaku, karena pengiklan harus menerima uang. Namun, ini bisa membuat beriklan menjadi lebih sulit sehingga merugikan usaha kecil, meski menipu pelanggan juga merupakan masalah
Platform besar tidak akan berkedip menghadapi biaya verifikasi, dan penipu tinggal mengulang lagi jika rencananya berantakan
Bagi pelaku bisnis yang sah, ini hanya menambah satu lagi kerepotan. Dalam kasus-kasus khusus, pengguna bisa terjebak dalam limbo birokrasi tanpa akhir. Sekalipun ada dukungan manusia, mereka hanya akan mengulang kalimat tak bermakna seperti “Kami tidak dapat memverifikasi identitas Anda dengan dokumen yang Anda berikan. Ini adalah persyaratan kepatuhan berdasarkan Undang-Undang Keamanan Platform Daring 2026”
Sementara itu, para penipu akan terus membuat akun yang sudah lolos KYC. Platform hanya akan peduli pada kepatuhan regulasi baru, dan proses ini menjadi tidak ada kaitannya dengan keamanan. Amazon tetap memperoleh komisi dari setiap penjualan, dan platform besar akan menikmati persyaratan kepatuhan itu sebagai hambatan masuk bagi pesaing
Pada akhirnya, akan tiba juga hari ketika semua data pribadi bocor. Insiden pembobolan akan terlihat oleh semua orang, dan ini pun merupakan kerepotan yang tidak dimiliki para penipu
Kalau saya mendapat 1 dolar setiap kali membaca tulisan “ini bisa diperbaiki dengan mudah memakai lebih banyak pemerintah”, saya sudah bisa membuat dana VC. Saat berurusan dengan manusia dan insentif, hal itu tidak pernah sesederhana itu. Masyarakat manusia bukan codebase yang bisa di-patch untuk menghilangkan bug
Ada banyak hal yang bisa dibahas dari tulisan ini, tetapi intinya adalah mitos tentang kebesaran dan bahwa yang kecil itu indah
Tidak mengherankan Big Tech berhasil dengan menciptakan mitos kuatnya sendiri. Organisasi raksasa maupun negara-bangsa sama-sama menciptakan mitos tentang kapabilitas yang tiada duanya, ketidakmungkinan salah, dan keeksepsionalan
Pada saat yang sama, tak perlu dikatakan lagi bahwa skala membawa inefisiensi, korupsi, kelambanan, dan ketidakpekaan. Tanpa langkah-langkah proteksionis yang mempertahankan monopoli raksasa, mereka pasti hancur berkeping-keping dalam kondisi persaingan yang sungguh-sungguh
Kita mudah membayangkan bagaimana economies of scale menguntungkan pengguna, tetapi itu bukan berarti kita boleh berasumsi bahwa economies of scale mengalahkan diseconomies of scale di semua bidang
Kita harus melihat apa saja yang membaik dan memburuk ketika perusahaan membesar, bukan berasumsi bahwa karena sebagian hal membaik maka semuanya akan membaik, atau sebaliknya
Sulit dipahami mengapa Amazon menjual kartu SD atau perangkat penyimpanan flash yang jelas-jelas palsu. Identifikasinya juga sangat mudah, dan perangkat penyimpanan palsu bisa menghilangkan data pengguna, jadi rasanya ini perlu ditangani dengan serius
https://a.co/d/auXcxrZ menjual 1TB seharga 29 dolar dan menandainya sebagai “overall pick”
Karena ada rantai pengawasan yang jelas dari produsen sampai rak toko, sehingga asal-usulnya jelas
Tempat seperti Amazon mencampur barang “yang sama” dari banyak penjual ke dalam satu gudang stok penjualan besar
Saya tidak melihat bagaimana mereka bisa menghentikan arus itu
Pengguna nonteknis di sekitar saya bersikeras bahwa apa pun harus 1TB. Seseorang bahkan membeli iPad Pro hanya agar punya ruang 1TB. Ia memakai iPad sebelumnya selama 8 tahun dan mengisi sekitar 64GB, lalu tidak ingin pernah kehabisan ruang lagi