- Instruktur penuh waktu Python/Pandas Reuven Lerner pernah memasang iklan kursus di Facebook, lalu akun iklan Metanya ditangguhkan dan setelah banding justru berakhir dengan larangan beriklan seumur hidup di platform Meta
- Alasan penangguhan yang diberikan hanya pelanggaran aturan iklan Meta, tanpa penjelasan rinci tentang aturan mana yang dilanggar
- Seorang kenalan di LinkedIn menyampaikan bahwa pernah ada kasus Meta salah mengira iklan pendidikan Python sebagai perdagangan hewan hidup, dan inti masalahnya adalah Python serta Pandas masing-masing merupakan bahasa pemrograman dan pustaka analisis data
- Tiga kenalan yang pernah atau sedang bekerja di Meta mencoba melakukan pengecekan, tetapi karena sudah lebih dari setahun sejak penangguhan, bukti telah hilang akibat kebijakan penyimpanan data 180 hari dan tidak ada cara untuk memulihkannya
- Karena keputusan awal dan proses banding tampaknya sama-sama ditangani AI, jika nanti ia kembali beriklan untuk kursusnya, ia akan mengeluarkan biaya di saluran iklan lain seperti Google, bukan Meta
Proses iklan kursus Python/Pandas berujung larangan permanen di Meta
- Reuven Lerner adalah instruktur penuh waktu yang mengajar Python dan Pandas, memberikan pelatihan tatap muka di perusahaan-perusahaan di seluruh dunia serta menjalankan produk online
- Produk onlinenya mencakup video courses dan newsletter berbayar weekly Pandas exercises
- Ia pernah mengajar di perusahaan seperti Apple dan Cisco
- Beberapa tahun lalu ia menjalankan iklan untuk sebagian produknya di Facebook, tetapi hasilnya tidak terlalu besar, dan setelah itu akun iklannya praktis dibiarkan terbengkalai
- Sekitar setahun lalu, ketika ia kembali membuka halaman iklan, ia mendapati pemberitahuan bahwa akunnya ditangguhkan karena melanggar aturan iklan Meta
- Beberapa bulan lalu ia kembali memeriksa halaman pengelolaan iklan, tetapi statusnya masih belum diizinkan beriklan
- Tidak ditampilkan aturan mana yang dilanggar
- Ia menyatakan bahwa selain kursus Python dan Pandas, ia tidak pernah mengiklankan hal lain
- Ia mengajukan banding lewat tombol “Click here to appeal”, tetapi sekitar 30 menit kemudian Meta mengirim email bahwa pelanggaran kebijakan telah dipastikan dan ia dilarang beriklan seumur hidup di platform Meta
Kemungkinan Python disalahartikan sebagai perdagangan hewan dan kegagalan pemulihan
- Seorang kenalan di LinkedIn memberi tahu bahwa ia juga pernah bermasalah saat mengiklankan kursus pendidikan Python di platform Meta, dan Meta menganggapnya sebagai perdagangan hewan hidup
- Lerner menilai sistem AI Meta menafsirkan Python dan Pandas bukan sebagai istilah teknis, melainkan sebagai hewan, sehingga memutuskan pelarangan
- Python adalah bahasa pemrograman
- Pandas adalah pustaka analisis data untuk Python
- Ia juga menilai proses banding ditangani AI, bukan manusia, sehingga menghasilkan keputusan serupa
- Tiga kenalan yang pernah atau sedang bekerja di Meta mencoba melakukan pengecekan, tetapi tidak berhasil memulihkan akun
- Kenalan pertama memastikan bahwa karena kebijakan penyimpanan data 180 hari Meta, bukti terkait sudah hilang, dan karena sudah lebih dari setahun sejak akun ditangguhkan, pemulihan tidak mungkin dilakukan
- Kenalan kedua dan ketiga juga tidak berhasil memperoleh hasil yang lebih lanjut
- Lerner menilai AI Meta telah melakukan kesalahan besar, dan fakta bahwa keputusan awal maupun banding sama-sama diproses AI terasa “cukup absurd”
- Karena ia tidak merespons dalam jangka waktu tertentu, larangan tersebut kini tidak bisa dibatalkan, dan saat nanti ia kembali beriklan, Meta tidak akan menerima anggaran iklannya, melainkan perusahaan seperti Google yang akan menerimanya
1 komentar
Pendapat Hacker News
Ketika prosedur yang tidak transparan seperti AI mengambil keputusan, rasanya benar-benar membuat frustrasi
Saya mendirikan Godo Kaisha, padanan LLC di Jepang, lalu bisnis langganan teh hijau https://tomotcha.com yang sebelumnya saya jalankan tanpa masalah sebagai usaha perorangan ditolak oleh Stripe
Saat ditolak pun akun Stripe usaha perorangan saya masih terus digunakan, jadi kalau itu benar-benar pelanggaran syarat layanan, mestinya manusia akan melihatnya dan memblokir akun itu lebih dulu; tampaknya besar kemungkinan AI yang menolaknya
Saya paham regulasi keuangan ketat dan ada kasus ketika penyedia pembayaran tidak bisa menjelaskan alasannya secara rinci, tetapi pada akhirnya untuk sementara saya jadi terikat pada PayPal
Komposisi produk sedang berubah, jadi mungkin sekarang sudah sesuai dengan ketentuan Stripe; saya penasaran apakah boleh mencoba membuka akun Stripe lagi
Misalnya cukup diberi tahu seperti, “Sistem AI otomatis kami menilai bahwa berbisnis dengan Anda tidak menguntungkan bagi kami. Kami tidak bisa menjelaskan alasannya karena bisa menjadi petunjuk untuk menghindari filter spam. Namun, dengan membayar $15, Anda bisa meminta peninjauan manusia dan menyerahkan bukti penjualan legal, informasi perusahaan terdaftar, dan sebagainya. Biaya tidak dikembalikan meskipun ditolak, dan peninjauan manusia bukan kesempatan untuk mendorong batas-batas ketentuan layanan”
Meski kami menjelaskan bahwa kami tidak menjual esketamine atau obat apa pun, hasil dari yang supposedly merupakan percakapan dengan manusia di Stripe tidak berubah
Tidak ada satu pun tempat, termasuk situs web kami, yang menyatakan kami menjualnya, dan pembayaran pasien pun ditangani lewat asuransi sehingga tidak diproses melalui Stripe
Jawaban yang kembali hanya “kami menangguhkan akun karena Anda menjual obat-obatan” atau “kami sedang menyelidiki informasi yang Anda berikan”, sementara tawaran untuk rapat atau menyerahkan dokumen diabaikan
Stripe adalah layanan yang hebat, tetapi di sisi pemeriksaan pelanggan, ada sesuatu yang sangat tidak beres di dalam perusahaan mereka
Saya tidak bisa bilang pengalaman dukungan Stripe saya bagus, tetapi pada akhirnya masalahnya memang terselesaikan
Stripe tampaknya sangat kesulitan menangani situasi warga asing yang tinggal di Jepang dan memiliki perusahaan di luar negeri
Saya menelepon operator telekomunikasi lewat nomor telepon umum, tetapi panggilan terputus karena masalah ponsel atau menara BTS; setelah mencoba sekitar 5 kali, respons robot menyebutnya “penyalahgunaan” dan memblokir penggunaan panggilan dukungan secara permanen
Untuk mengajukan banding saya harus memakai panggilan dukungan, dan robochat di situs web juga sudah memblokir saya
Akhirnya saya menelusuri halaman Facebook mereka dengan harapan ada manusia yang mengelolanya, dan untungnya saya berhasil terhubung dengan agen manusia sehingga blokir dibuka
Selama beberapa tahun terakhir saya tidak mengunggah apa pun di Facebook, dan hanya mempertahankan akun sebagai sarana cadangan untuk menghubungi perusahaan besar yang bodoh
Hal yang paling membuat frustrasi adalah mereka terang-terangan berbohong
Mereka sebenarnya tidak meninjau akun, dan blokirnya juga bukan permanen
Dalam situasi seperti ini, begitu berhasil menjangkau orang yang punya wewenang, blokir dibuka; jadi pada akhirnya ini sepenuhnya soal biaya, efisiensi, dan kenyamanan Facebook/Meta
Saya rasa untuk masalah ini dibutuhkan hukum
Jelas pasar tidak punya kekuatan untuk memperbaiki perilaku seperti ini, dan suka atau tidak, diblokir seumur hidup dari layanan online yang secara de facto esensial bisa sangat fatal bagi seseorang
Hanya saja semua orang menutup telinga dan berteriak “big tech bukan monopoli”, sehingga hukum yang ada tidak diterapkan
Dalam lingkungan yang benar-benar kompetitif, Anda tinggal pergi ke toko sebelah yang tidak memblokir secara sewenang-wenang dan punya staf dukungan pelanggan sungguhan
Bukankah bisa saja pengguna diminta membayar biaya peninjauan manusia? Memangnya berapa biaya waktu manusia, mungkin sekitar $20?
Ada banyak kasus serupa
Masalah Scunthorpe adalah contoh klasik: AOL mencegah pengguna menetapkan kampung halamannya sebagai Scunthorpe karena substring “cunt”
Amazon memblokir penjualan merchandise Guns N' Roses karena “guns”, dan orang bernama Miranda pernah mengalami masalah transfer bank karena substring “Iran”
Beberapa game menampilkan nama panggilan Nasser sebagai “N*er” seolah-olah itu N-word, dan Alexa sampai sekarang masih tidak bisa mengucapkan “pussycat” dengan benar
Perangkat lunak parental control memfilter “anal” di URL hingga memblokir “analysis”, dan perangkat lunak lain menghapus file jika nama filenya mengandung “sex”, sampai “sysext” ikut terhapus
Di sebuah sekolah, seluruh lab komputer lumpuh karena bug itu, dan itu juga karena staf IT memperbarui semua PC sekaligus ke Windows 10 tanpa memeriksa kompatibilitas perangkat lunak
Politisi Inggris Dominic Cummings juga tidak bisa membuat akun Twitter
Meski begitu, itu tetap penyaringan yang cukup gegabah
Setelah dilihat lagi, nama hasil ubahannya malah lebih buruk; situasinya lucu sekaligus menyedihkan
Topik yang tidak berbahaya justru tidak bisa ditemukan, tetapi kalau bermain-main sedikit dengan mengubah kata kunci, mudah saja menemukan porno yang lolos dari filter
Tentu saja anggur Burgundy yang mengandung “gun” juga ikut diblokir
Mereka menerapkannya terlalu terburu-buru sampai bahkan filternya pun tidak dibuat dengan benar
Saya beberapa kali mencoba membuat akun penjual di Ebay, tetapi 2 menit setelah akun dibuat dan diverifikasi, akun diblokir karena melanggar ketentuan layanan
Pada saat itu saya bahkan belum mengunggah foto profil dan belum melakukan apa pun dengan akun tersebut
Proses setelahnya juga sama: banding ditangani bot yang hanya menjawab “kami benar, Anda melanggar ketentuan, akun diblokir, dan keputusan ini final”
Saya merindukan masa ketika organisasi mempekerjakan dukungan pelanggan manusia untuk pelanggan yang berpotensi menghasilkan banyak uang
Sekarang iklan atau penjualan sering bergantung pada segelintir platform, jadi menakutkan bahwa satu bot bisa membunuh bisnis dan perusahaan saya kapan saja
Apakah IP rumahan, seluler, kantor, atau pusat data?
Karena nama keluarga saya, saya diblokir seumur hidup dari layanan milik Facebook kecuali WhatsApp
Facebook percaya bahwa nama keluarga saya palsu atau terlalu kontroversial, dan bahkan setelah saya mengirim salinan paspor, mereka tidak mengubah pikiran
Sekitar 13 tahun lalu, sebelum kebijakan nama asli diberlakukan, saya pernah punya akun Facebook, tetapi saya menutupnya karena terasa canggung menolak atau menerima permintaan pertemanan dari orang-orang masa lalu yang jauh
Sekarang satu-satunya kanal untuk mendapatkan informasi penting tentang gedung tempat saya tinggal adalah grup Facebook, tetapi saya tidak bisa mengaksesnya, jadi ini merepotkan
Istri saya bisa mengaksesnya, jadi bukan masalah besar, tetapi untuk mengakali kebijakan nama asli Facebook, tampaknya saya justru harus memakai nama palsu
Namun kalau begitu, sepertinya sulit memakai iklan Facebook atau fitur terkait developer
Satu-satunya cara yang berhasil bagi saya adalah direkrut oleh Meta, saat itu Facebook, dan saya membutuhkan akun untuk onboarding
Di beberapa grup berbasis foto tempat saya bergabung, lebih dari separuh posting berasal dari orang-orang yang memakai nama palsu atau kadang nama yang menghina, dan meski saya tahu sudah dilaporkan berkali-kali, tidak ada tindakan apa pun
Kebijakan yang buruk biasanya menjadi lebih buruk jika diterapkan secara tidak konsisten
Pernyataan “Meta tidak akan mendapatkan uang saya, dan perusahaan seperti Google yang setidaknya tampaknya menempatkan sebagian orang di divisi iklanlah yang akan mendapatkannya” pada akhirnya hanyalah cara rumit untuk mengatakan bahwa ia akan berbisnis dengan perusahaan yang mau menerima bisnis saya
Google juga terkenal melakukan pemblokiran yang sepenuhnya otomatis, bukan hanya untuk divisi iklan, tetapi untuk seluruh akun
Saya belum pernah memikirkannya sebelumnya, tetapi ini mungkin menjelaskan mengapa seiring waktu saya merasa kualitas iklan makin merosot
Google juga punya banyak sistem otomatis, dan saya tahu orang-orang dulu banyak frustrasi karenanya
Meski begitu, teman-teman yang terhalang sistem otomatis Google pada akhirnya berhasil menemukan orang yang bisa memperbaiki masalahnya
Di Meta, tampaknya tidak ada jalur seperti itu bagi pelanggan, dan bahkan 3 karyawan yang setuju situasinya tidak masuk akal serta bisa menjamin saya pun tidak dapat membalikkan keputusan
Software itu hanya berjalan di Mac, tetapi Google mengatakan kata-kata seperti Apple dan Mac adalah merek dagang sehingga tidak boleh digunakan
Saya menggunakannya sebagai penjelasan kontekstual seperti “software penghitung widget untuk Mac”, bukan ungkapan seperti “software Apple asli”
Saya mengajukan banding, tetapi ditolak, dan seingat saya tidak ada cara lain lagi
Pada akhirnya praktis tidak ada sarana untuk mengiklankan software khusus Mac
Saya mengalami masalah serupa di Facebook/Meta, dan akhirnya menyerah membeli layanan iklan
Menurut saya solusinya adalah lewat hukum yang 1) mewajibkan pemberitahuan ketika pengguna hanya sedang berhadapan dengan algoritma, dan 2) memaksa agar pengguna bisa menghubungi manusia dalam waktu yang ditentukan
Setidaknya saya berharap UE segera membuat hukum seperti ini
Membuang begitu banyak waktu dalam interaksi AI tanpa kompensasi juga masalah, tetapi yang lebih mengkhawatirkan adalah situasi ketika “dukungan pelanggan” AI tidak bisa melakukan apa pun yang substantif, atau sebaliknya memiliki kewenangan melakukan perubahan besar pada pengaturan pengguna, penagihan, dan sebagainya
Yang pertama berarti perusahaan menipu pelanggan, dan yang kedua bisa menghasilkan konsekuensi yang sangat buruk
Namun tampaknya tidak terlalu berdampak pada Meta
Perusahaan seperti Meta, Google, dan Amazon yang mengandalkan dukungan pelanggan hanya pada AI seharusnya didenda sampai nyaris bangkrut
Jika “kejadian sial” seperti ini diperluas ke bidang medis, keuangan, asuransi, kepolisian, pendidikan, perekrutan perusahaan, dan sebagainya, ini membuat kita memikirkan masyarakat macam apa yang sedang kita tuju atas nama otomasi dan “AI” yang menurunkan biaya serta meningkatkan efisiensi
Tidak masalah bila teknologi membantu manusia, dalam hal ini karyawan Meta, memproses informasi dengan lebih efisien
Namun dalam urusan yang memengaruhi orang lain, besar maupun kecil, mengeluarkan manusia dari prosedur adalah arah yang membawa bencana
Kebetulan hari ini di halaman utama Financial Times juga ada artikel “Yann LeCun dari Meta menentang regulasi AI yang tergesa-gesa”
Namun jika sensor AI tetap tidak diatur, masalahnya akan makin besar
https://erinkissane.com/meta-in-myanmar-part-i-the-setup
Selamat datang di masa depan
Tidak lama lagi, omong kosong seperti ini akan terjadi hampir setiap hari kepada kebanyakan orang yang harus berinteraksi dengan perusahaan atau lembaga di internet
Prosedur yang sangat terotomatisasi dan buram, logika yang langsung memblokir hanya karena sinyal kecil, serta jalur peninjauan yang tidak pernah menjangkau manusia akan menjadi hal sehari-hari
Sebab manusia yang selamat dari otomasi terlalu sibuk memberi makan algoritma sampai tidak sempat berbicara dengan pelanggan
Kebanyakan orang tidak punya sumber daya untuk melawan pemerintah, jadi mereka selalu lebih mementingkan kuantitas daripada kualitas
Saya melihat “AI” yang digerakkan oleh keserakahan dan ketidaktahuan sebagai tahap yang mengarah pada perusakan dan keruntuhan layanan pemerintah di berbagai negara Barat
Hanya orang yang punya pengetahuan untuk menavigasi sistem, atau memenuhi syarat untuk berinteraksi lewat protokol yang diwajibkan, yang punya harapan mendapatkan hasil
Perusahaan-perusahaan raksasa kini turun ke tingkat di bawahnya, meniru kebiasaan para pemegang kuasa di atas, tetapi tanpa memikul tanggung jawab
Pada mobil berusia lebih dari 15 tahun pun, selama bukan mobil bekas kecelakaan, saya belum pernah melihat tombol fisik tidak berfungsi
Sebaliknya, perusahaan premium yang mematok harga premium menyediakan manusia sungguhan untuk melayani
Mungkin lebih lambat, tetapi setidaknya ada ruang untuk mengharapkan empati dan solusi nonstandar
Satu-satunya solusi untuk kasus seperti ini mungkin adalah menyediakan pengadilan klaim kecil atau prosedur arbitrase independen bukan hanya untuk Meta, tetapi untuk seluruh perusahaan sejenis FAANG
Bayangkan situasi ketika karyawan Big Tech harus mengatakan di hadapan hakim atau arbiter, “sistem memblokir pengguna secara otomatis, bandingnya juga ditolak otomatis, dan karena semua bukti serta data dukungan telah dihapus, kami tidak punya cara untuk mengetahui alasannya”
Bentuk arbitrase atau peninjauan hukum apa pun akan membuat jawaban seperti ini langsung berujung pada kekalahan raksasa teknologi tersebut
Secara umum, saya mendukung hak perusahaan untuk memilih dengan siapa mereka bertransaksi, tetapi begitu perusahaan berada pada posisi semimonopoli dan menjadi penjaga gerbang akses pasar, keputusan semacam ini memerlukan jalur banding yang masuk akal
Kewajiban dalam Digital Markets Act UE seperti “mengizinkan pengguna bisnis menjangkau pengguna akhir” bisa saja relevan, tetapi masih perlu dilihat apakah perilaku perusahaan akan berubah sebagai respons terhadap hukum semacam ini