Meta di Myanmar

 (erinkissane.com)
1 poin oleh GN⁺ 2023-10-01 | 1 komentar | Bagikan ke WhatsApp
  • Di tengah keterbukaan internet Myanmar pada awal 2010-an dan ledakan adopsi seluler, Facebook menjadi internet de facto bagi banyak pengguna, dan kepala penyelidik Misi Pencari Fakta PBB untuk Myanmar kemudian menilai bahwa Facebook memainkan “peran yang menentukan” dalam krisis Rohingya
  • Harga kartu SIM turun dari sekitar US$2.000 pada 2009 menjadi US$1,50 pada 2014, dan tingkat penetrasi seluler melonjak dari kurang dari 0,25% populasi pada 2011 menjadi lebih dari 90% pada 2017, menjadi fondasi penyebaran Facebook
  • Pada 2011–2014, konten yang menyangkal keberadaan Rohingya, mendehumanisasi mereka, dan menghasut kekerasan menyebar di Facebook, dan pada kekerasan di Negara Bagian Rakhine tahun 2012 serta kerusuhan Mandalay tahun 2014, rumor, klaim palsu, dan ujaran kebencian berpadu dengan kekerasan offline
  • Masyarakat sipil Myanmar, pakar HAM, dan jurnalis berulang kali memperingatkan Meta dari 2012 hingga 2015, tetapi peringatan itu tidak tersambung ke tim yang memiliki kewenangan respons nyata, dan bahkan pada akhir 2015 hanya ada 4 moderator berbahasa Burma
  • Meta menerima berulang kali contoh konkret bahwa Facebook memperburuk konflik etnis di Myanmar, tetapi tanpa langkah mendasar seperti perluasan moderasi skala besar, pelarangan permanen aktor terburuk, atau penekanan penyebaran hasutan kekerasan, pada 2016 perusahaan justru beralih ke tahap menarik lebih banyak pengguna Myanmar ke Facebook

Keterbukaan internet dan kebangkitan pesat Facebook

  • Pada 2011, pemerintahan yang lebih demokratis mulai berkuasa di Myanmar, dan pembatasan terhadap internet serta kebebasan berekspresi dilonggarkan secara bertahap
  • Bagi orang-orang yang lama hidup di bawah kendali militer, keterbukaan internet menimbulkan harapan besar, dan NGO inklusi digital lokal serta aktivis teknologi juga menyambut positif lingkungan online yang baru ini
  • Akses seluler berubah drastis hanya dalam beberapa tahun
    • Harga kartu SIM turun dari sekitar US$2.000 pada 2009, menjadi US$250 pada 2012, lalu US$1,50 pada 2014
    • Penetrasi seluler naik dari kurang dari 0,25% populasi pada 2011 menjadi lebih dari 90% pada 2017
    • Penggunaan smartphone dan internet juga melonjak bersama revolusi seluler
  • Etnografi internet pedesaan Craig Mod pada 2015 menggambarkan lingkungan di mana orang mengisi daya smartphone dengan aki mobil karena tidak ada listrik, dan memakai voucher isi ulang prabayar yang digesek untuk membeli data
  • Dalam kondisi seperti ini, Facebook menjadi platform yang memuat berita, pembaruan politik, pencarian minat, serta percakapan dengan teman maupun orang asing, dan seorang pemilik toko ponsel berkata, “Facebook is the Internet”

Bagaimana Facebook menjadi ‘internet’

  • Facebook menyediakan aplikasi ringan yang memakai data lebih sedikit daripada layanan pesaing, dan Telenor dari Norwegia, operator kuat di antara perusahaan telekomunikasi asing yang masuk ke Myanmar, menerapkan zero-rating untuk Facebook
  • Zero-rating adalah skema yang membebaskan biaya data untuk layanan internet tertentu, sehingga pelanggan Telenor bisa memakai Facebook secara gratis
  • Pelapor internal Meta Frances Haugen mengatakan dalam wawancara tahun 2021 bahwa Facebook mensubsidi penggunaan platformnya di banyak wilayah bahasa sehingga “membeli hak istimewa untuk menjadi internet”, dan akibatnya 80–90% konten dalam banyak bahasa berada di Facebook
  • Organisasi masyarakat sipil Myanmar memandang konektivitas yang meluas cepat tidak hanya membawa kebebasan tetapi juga risiko
    • Banyak pengguna masuk ke internet tanpa proses pembelajaran bertahap, dengan anggapan bahwa “kalau ada di internet berarti benar”
    • Situasi politik Myanmar sudah tidak stabil, dan militer Tatmadaw sedang menjalani perang saudara panjang melawan berbagai kelompok bersenjata etnis minoritas
    • Pengambilan keputusan Meta terkait Myanmar tidak disesuaikan dengan dua kondisi ini

Fondasi kebencian yang sudah ada sebelum 2012

  • Pada Januari 2012, dua tokoh dibebaskan lewat amnesti besar-besaran, dan setelah itu mengambil peran yang saling berlawanan
    • Nay Phone Latt adalah blogger awal dan aktivis hak digital yang pernah dipenjara karena blogging terkait Saffron Revolution tahun 2007; kemudian ia ikut mendirikan MIDO untuk membantu warga mendapat manfaat dari internet baru dan menanggapi kampanye kebencian online
    • Ashin Wirathu adalah biksu Buddha yang dipenjara pada 2003 karena khotbah yang menghasut kekerasan terhadap komunitas Muslim Myanmar; setelah bebas, ia mendigitalisasi gerakan nasionalisme Buddha garis keras dan memainkan peran penting dalam penyebaran kekerasan anti-Muslim
  • Pada Internet Freedom Forum pertama Myanmar tahun 2013, kebebasan internet dan privasi dibahas, tetapi pada saat yang sama juga terdeteksi peningkatan ujaran kebencian terhadap Rohingya di Facebook
  • Salah satu pendiri MIDO, Htaike Htaike Aung, menilai bahwa tidak seperti negara-negara yang warganya belajar internet secara bertahap, masyarakat Myanmar masuk online secara mendadak, dan karena sikap “kalau ada di internet berarti benar”, mereka rentan terhadap propaganda dan agenda yang menyesatkan
  • Bahkan pada 2011, halaman Facebook BBC Burmese dibanjiri komentar penuh kekerasan karena menyebut Rohingya sebagai kelompok etnis Myanmar, termasuk seruan pengusiran, pembunuhan, dan pembakaran
  • Pada 2014, Nay Phone Latt khawatir ujaran kebencian sedang menuangkan racun ke dalam pikiran orang, dan bisa meledak saat waktunya tiba

Rohingya dan keberadaan yang disangkal

  • Médecins Sans Frontières memandang Rohingya sebagai kelompok etnis tanpa kewarganegaraan yang mayoritas Muslim, dan menjelaskan bahwa mereka telah hidup selama berabad-abad terutama di wilayah utara Negara Bagian Rakhine, Myanmar yang mayoritas Buddha
  • Otoritas Myanmar menyangkal hal itu dan mengklaim Rohingya sebagai imigran Bengali yang datang pada abad ke-20
  • Pada 2013, PBB menggambarkan Rohingya sebagai salah satu minoritas yang paling teraniaya di dunia, dan hukum Myanmar tidak mengakui kewarganegaraan mereka
  • Berbagai pemerintahan Myanmar tidak mengakui keberadaan Rohingya itu sendiri, dan menyebut mereka imigran ilegal “Bengali”
  • Dalam konteks ini, Rohingya benar-benar ada dan telah lama hidup di bawah pembatasan berat, sementara arus utama politik Buddha Myanmar menunjukkan perhatian terbuka terhadap kemurnian ras dan keamanan

Kekerasan di Negara Bagian Rakhine tahun 2012 dan hasutan online

  • Pada 28 Mei 2012 di Negara Bagian Rakhine, seorang perempuan Buddha Rakhine bernama Ma Thida Htwe dibunuh, dan keesokan harinya surat kabar melaporkan bahwa ia diperkosa dan dibunuh oleh “kalars”
  • Misi Pencari Fakta PBB untuk Myanmar menilai bahwa pembunuhannya jelas terjadi, tetapi klaim pemerkosaan dan latar etnis tersangka tetap meragukan, sementara pada hari-hari dan minggu-minggu berikutnya klaim pemerkosaan lebih banyak dipakai untuk menghasut kekerasan dan kebencian terhadap Rohingya daripada fakta pembunuhan itu sendiri
  • Pada 1 Juni, juru bicara presiden Myanmar Zaw Htay memposting di Facebook peringatan bahwa “Rohingya terrorists” membawa senjata dan menyeberangi perbatasan
  • Pada 3 Juni, sebuah kelompok Buddha nasionalis membagikan selebaran yang menuduh Muslim menyerang perempuan Buddha, dan pada hari yang sama 10 laki-laki Rohingya di sebuah bus diseret keluar lalu dipukuli sampai mati
  • Dalam kekerasan militer dan komunal yang menyusul, baik pihak Rakhine maupun Rohingya melakukan pembunuhan dan pembakaran, tetapi beban korban paling besar menimpa Rohingya
    • Temuan PBB mencatat pembakaran rumah, penjarahan, pembunuhan ekstra-yudisial dan tanpa pandang bulu terhadap perempuan, anak-anak, dan lansia, serta penangkapan sewenang-wenang dan penyiksaan besar-besaran oleh militer dan polisi
    • Lebih dari 100.000 orang terpaksa meninggalkan rumah mereka, dan sebagian besar adalah Rohingya
  • Gelombang kekerasan berikutnya pada Oktober 2012 menunjukkan bukti perencanaan yang terorganisir, dan Human Rights Watch mencatat bahwa aktivis partai Arakanese lokal, kelompok biksu Buddha, dan warga Arakanese biasa mengorganisasi, menghasut, dan ikut serta, kadang dengan dukungan langsung dari pasukan keamanan negara
  • Dalam serangan terburuk pada Oktober, polisi dan tentara Tatmadaw lebih dulu menyita senjata seadanya seperti tongkat dari warga desa Rohingya, lalu membiarkan massa Rakhine membunuh sedikitnya 70 Rohingya sepanjang hari
    • Human Rights Watch mencatat bahwa 28 anak terbunuh dalam serangan ini, 13 di antaranya berusia di bawah 5 tahun

Penyebaran kebencian melalui Facebook

  • Dalam wawancara Amnesty International, Mohamed Ayas, seorang guru Rohingya dan pengungsi, mengatakan bahwa kekerasan komunal tahun 2012 adalah titik balik yang membawa retorika anti-Rohingya menuju penganiayaan dan akhirnya genosida
  • Analis politik berbasis Myanmar Richard Horsey menjelaskan bahwa sebelumnya juga pernah ada kekerasan oleh kelompok Buddha terhadap kelompok Muslim, tetapi hal yang baru adalah betapa mudahnya informasi disalurkan dan diperkuat lewat Facebook dan ponsel
  • Pada Juni 2012, Sai Latt mencatat bahwa kampanye kebencian anti-Rohingya adalah gerakan publik dan transnasional yang diorganisasi secara terbuka di media sosial, dengan komentar dan posting memenuhi ribuan wall dan halaman Facebook
  • Grup Facebook seperti “Kalar Beheading Gang” terus bermunculan, dan halaman-halaman itu juga diberitakan media internasional
    • Pada saat laporan Hindustan Times tanggal 14 Juni 2012, halaman ini sudah mendapat lebih dari 500 likes
  • Pesan inti yang berulang online maupun offline adalah bahwa Rohingya bukan kelompok etnis sungguhan melainkan imigran ilegal “Bengali”, makhluk tidak manusiawi yang berkembang biak lebih cepat daripada umat Buddha, tidak bisa dibedakan dari teroris, dan merupakan ancaman langsung bagi perempuan Buddha serta Myanmar secara keseluruhan

Ashin Wirathu dan hasutan berbasis Facebook

  • Ashin Wirathu adalah biksu Buddha garis keras yang sangat aktif memakai Facebook, dan ia mengatakan akun pertamanya dihapus moderator Facebook karena melanggar standar komunitas
  • Akun keduanya cepat tumbuh hingga 5.000 teman, lalu ia membuat halaman baru dan mempekerjakan dua staf khusus untuk memperbarui situs per jam
  • Pada saat wawancara BuzzFeed News, ia mengelola akun Facebook dengan 190.000 pengikut, sebuah halaman berita di Facebook, dan puluhan halaman lain, sambil menyerukan boikot toko Muslim dan pengusiran Muslim
  • Dalam wawancara Global Post tahun 2013, Wirathu mengklaim Muslim ingin menjadikan Myanmar negara Islam, padahal saat itu Muslim hanya sekitar 5% dari populasi Myanmar
  • Pada 2013, Time menempatkan Wirathu di sampul edisi internasional sebagai “The Face of Buddhist Terror”, dan dalam artikel itu ia mengatakan 90% Muslim Myanmar adalah “radical bad people”
  • Sebuah NGO mencatat bahwa setelah Oktober 2012, hampir setiap pecahnya kekerasan komunal besar di Negara Bagian Rakhine didahului tur ceramah yang disponsori 969, dan biasanya Wirathu terlibat langsung
  • Wirathu mengatakan kepada BuzzFeed News bahwa tanpa internet, pendapat dan pesannya tidak akan dikenal sebanyak sekarang, dan internet adalah cara yang lebih cepat untuk menyebarkan pesan

Peringatan awal yang disampaikan ke Meta

  • Pada November 2012, direktur program MIDO Htaike Htaike Aung memberi tahu Global Public Policy Director dan Europe Policy Director Meta dalam sebuah roundtable di Azerbaijan tentang penyebaran ujaran kebencian di Facebook
  • Pada Oktober 2013, dalam roundtable di Indonesia, ia kembali menyampaikan kekhawatiran yang sama dalam konteks “rising inter-communal tensions”, dan tiga eksekutif kebijakan Meta hadir di sana
  • Pada periode yang sama, aktivis dan peneliti dari MIDO serta akselerator teknologi Phandeeyar yang berbasis di Yangon mengirim email untuk menanyakan cara peninjauan konten bermasalah dan eskalasi darurat, tetapi Facebook tidak merespons
  • Pada November 2013, jurnalis Aela Callan bertemu dengan VP Communications and Public Policy Facebook, Eliot Schrage, dan memperingatkannya tentang ujaran kebencian anti-Rohingya di Facebook serta akun palsu yang mendorong penyebarannya
  • Meta menghubungkan Callan ke Internet.org dan “Compassion Team” yang berfokus pada pelecehan, tetapi gagal menghubungkannya dengan pihak internal Facebook yang benar-benar bisa membantu
  • Pada Maret 2014, setelah RightsCon Silicon Valley, Htaike Htaike Aung dan Aela Callan mengunjungi Menlo Park dan kembali memberi tahu anggota Compassion Team Meta tentang ancaman yang ditimbulkan layanan Facebook di Myanmar
  • Pada bulan yang sama, Susan Benesch dari Dangerous Speech Project mengorganisasi briefing call untuk Meta, dan pakar HAM berbasis Myanmar Matt Schissler menjelaskan bahwa pesan yang mendehumanisasi, foto manipulatif, dan disinformasi sedang menyebar di Facebook
    • Menurut Reuters, salah satu contoh yang diajukannya adalah Burmese Facebook Page bernama “We will genocide all of the Muslims and feed them to the dogs”
    • Buku An Ugly Truth karya Frenkel dan Kang menyebut bahwa karyawan Meta memandang masalah ini bisa ditangani dengan pendekatan serupa alat respons terhadap cyberbullying di SMA

Kerusuhan Mandalay 2014 dan tidak adanya respons Facebook

  • Kekerasan Mandalay tahun 2014 memuat semua unsur yang dikhawatirkan para pemantau masyarakat sipil
    • Dua laki-laki Muslim yang tidak bersalah dituduh secara palsu telah memperkosa seorang perempuan Buddha
    • Liputan berita sensasional melonjak
    • Ashin Wirathu memanfaatkan cerita ini untuk kepentingan agendanya
    • Laporan palsu dan seruan kekerasan menyebar di Facebook
  • Saat kekerasan memburuk, juru bicara presiden Myanmar Zaw Htay meminta pimpinan Deloitte Myanmar membantunya menghubungi Meta, tetapi meski mencoba sepanjang malam, tidak ada respons
  • Pada hari ketiga kerusuhan, pemerintah memblokir akses Facebook di Mandalay, dan setelah pemblokiran itu kerusuhan mereda
  • Setelah Facebook diblokir, karyawan Meta mulai mengirim email menanyakan mengapa Facebook diblokir
  • Beberapa bulan sebelumnya, sebagian karyawan Facebook telah membuat grup Facebook privat agar pakar masyarakat sipil Myanmar bisa melaporkan masalah secara langsung, tetapi saat laporan palsu dan hasutan kekerasan menyebar di Mandalay, Facebook tidak merespons meski para aktivis dan warga Barat memberi peringatan
  • Seorang anggota grup mengatakan bahwa Facebook tidak berkata apa-apa soal kerusuhan, tetapi begitu internet diblokir dan orang kehilangan akses ke Facebook, mereka langsung membalas

Alat terjemahan dan pelaporan, tetapi moderasi tetap tidak memadai

  • Beberapa minggu setelah kekerasan Mandalay 2014, direktur kebijakan Asia-Pasifik Facebook, Mia Garlick, untuk pertama kalinya mengunjungi Myanmar
  • Dalam diskusi panel, Garlick membahas kebijakan Meta dan berjanji akan segera menerjemahkan Facebook Community Standards ke dalam bahasa Burma
  • Pekerjaan terjemahan ini memakan waktu 14 bulan, dan pada akhirnya bergantung pada bantuan pihak Phandeeyar di grup Facebook privat
  • Pada 2014, Meta memutuskan melokalkan alat pelaporan ujaran kebencian dan konten bermasalah, lalu setelah melalui penerjemahan dan penyesuaian bersama MIDO serta tokoh masyarakat sipil Myanmar lainnya, alat itu diluncurkan pada akhir tahun
  • Tetapi hanya ada 1 moderator yang bisa berbahasa Burma di Dublin, seorang kontraktor, untuk meninjau semua laporan yang masuk lewat alat pelaporan berbahasa Burma itu
  • Htaike Htaike Aung dan Victoire Rio menyebut alat pelaporan bahasa Burma ini sebagai “a road to nowhere”

Peringatan yang terus berlanjut pada 2015

  • Pada Februari 2015, Susan Benesch memberi presentasi “The Dangerous Side of Language” pada Compassion Day Facebook, dan menurut dokumen hukum, presentasi ini menjelaskan cara penyebaran ujaran anti-Rohingya melalui Facebook
  • Pada Maret 2015, Matt Schissler mengunjungi Menlo Park dan mempresentasikan media baru Myanmar, khususnya Facebook, dan kekerasan anti-Muslim kepada lebih dari 12 karyawan Facebook
    • Frenkel dan Kang merangkum bahwa presentasinya mendokumentasikan tingkat keseriusan bahwa “ujaran kebencian Facebook mengarah pada kekerasan nyata di Myanmar dan menyebabkan orang terbunuh”
    • Ketika Schissler ditanya apakah Facebook bisa berkontribusi pada genosida di Myanmar, ia menjawab “Absolutely”, dan seorang karyawan Facebook merespons dengan nada bahwa itu tidak mungkin
  • Pada Mei 2015, pendiri Phandeeyar David Madden memperingatkan Meta di Menlo Park tentang dinamika berbahaya di Myanmar
    • Dalam wawancara dengan Amnesty International, Madden mengatakan ia merasa orang-orang di dalam Facebook tidak benar-benar memahami situasi politik Myanmar
    • Dalam pertemuan dengan Meta, mereka membahas contoh konkret konten berisiko, dan mengibaratkan bahwa Facebook bisa memainkan peran seperti radio di Rwanda dalam konteks Myanmar
  • Pada September 2015, Mia Garlick datang ke Myanmar untuk meluncurkan Community Standards Facebook versi bahasa Burma, dan Phandeeyar mengumpulkan lebih dari 15 pemimpin masyarakat sipil dari seluruh Myanmar untuk memberi pengarahan tentang kasus dan pelaku spesifik
  • Menurut Victoire Rio, sejumlah pemimpin masyarakat sipil secara langsung memberi tahu Garlick bahwa Facebook Community Standards tidak ditegakkan di Myanmar
  • Menurut Reuters, pada 2015 Facebook hanya memiliki total 2 moderator yang bisa berbahasa Burma, dan jumlah itu naik menjadi 4 pada akhir tahun

Kondisi pada akhir 2015

  • Hingga akhir 2015, Meta mengetahui bahwa pakar masyarakat sipil internasional maupun pemerintah Myanmar sama-sama menilai Facebook memainkan peran penting dalam kerusuhan Mandalay 2014
  • Berbagai organisasi masyarakat sipil dan HAM berulang kali memperingatkan bahwa Facebook memperburuk konflik etnis
  • Meta berulang kali menerima contoh konten yang mendehumanisasi, termasuk posting dan komentar yang secara langsung menyerukan pembunuhan massal dan genosida
  • David Madden secara langsung mengatakan kepada karyawan Meta bahwa Facebook bisa memainkan peran yang sama di Myanmar seperti radio di Rwanda
  • Namun, Meta tidak secara besar-besaran meningkatkan kapasitas moderasi, tidak memblokir permanen para aktor terburuk yang sudah diketahui, dan tidak melakukan perubahan desain produk mendasar yang secara konsisten bisa menurunkan penyebaran posting kebencian dan hasutan kekerasan
  • Tahap berikutnya pada 2016 adalah membawa lebih banyak warga Myanmar ke Facebook, dan tulisan selanjutnya berlanjut ke Part II: The Crisis

Bacaan terkait

1 komentar

 
GN⁺ 2023-10-01
Opini Hacker News

  • Saya punya teman yang tinggal di Myanmar, dan bisa memastikan bahwa situasi di lapangan jauh lebih buruk daripada yang digambarkan artikel
    Kalau yang terus terlihat hanya postingan ujaran kebencian yang menyerukan pemenggalan kepala atau setidaknya “ayo usir kaum rendahan itu”, kebencian menjadi normal dan para korban didehumanisasi
    Sejarah penuh dengan kekejaman seperti ini, dan kebebasan berekspresi memang penting, tetapi propaganda kekerasan adalah masalah nyata. Sebagian juga terlihat di AS
    Sebagai tambahan bagi yang tidak membaca artikelnya: banyak desa dibakar, dan sebelumnya perempuan diperkosa serta dibunuh; seluruh desa dijarah, lalu orang-orang tewas dan desa-desa dibakar. Tujuannya adalah menciptakan teror agar para korban tidak punya pilihan selain meninggalkan negara mereka sendiri, dan itulah yang benar-benar terjadi

    • Kita perlu bertanya mengapa kita begitu terpaku pada kebebasan berekspresi, sementara hampir tidak pernah mendengar orang mengkhotbahkan “kebebasan bertindak”
      Mengapa kita secara sewenang-wenang hanya membatasi ucapan dan ekspresi? Tindakannya bisa merugikan orang lain, jadi tidak bisa dibiarkan semaunya; tetapi karena prinsip “tongkat dan batu” bahwa kata-kata tidak bisa melukai orang, katanya orang harus boleh mengatakan apa saja
      Pada akhirnya, seluruh gagasan kebebasan berekspresi berdiri di atas prinsip yang rapuh seperti itu
    • Setelah kudeta pun hal-hal yang kamu sebutkan terjadi lagi, dan dunia sekali lagi tidak akan menyadarinya
    • Ini adalah pembersihan etnis, dan mereka sudah tahu bahwa cara itu efektif serta bisa lolos dari hukuman
      Kekuatan awal pendiri Israel juga melakukannya, dan ratusan ribu warga Palestina melarikan diri lalu tetap menjadi pengungsi hingga sekarang. Sebagian dari mereka yang menjalankan strategi itu kemudian menjadi pemimpin dalam masyarakat Israel
      https://en.m.wikipedia.org/wiki/Deir_Yassin_massacre
      https://en.m.wikipedia.org/wiki/List_of_Irgun_members
    • Ini bukan masalah kebebasan berekspresi, melainkan masalah amplifikasi kebencian oleh algoritma
    • Saya penasaran bagian mana dari sistem peradilan Myanmar yang gagal
      Bagaimana mungkin orang-orang yang identitasnya diketahui publik bisa memperkosa dan membunuh di depan kamera tetapi tidak masuk penjara?

  • Tulisan ini risetnya sangat baik dan layak dibaca. Karena platform berbasis algoritma tidak akan hilang, artikel ini merangkum dengan baik peristiwa yang perlu dipelajari masyarakat
    Aneh melihat argumen “kebebasan berekspresi” muncul di thread ini. Sepertinya mereka tidak membaca artikelnya, dan tulisan itu mencantumkan beberapa contoh ujaran yang setara dengan berteriak ada kebakaran di teater yang penuh sesak

    • Saya membaca artikelnya, artikelnya bagus, dan saat itu saya berada di ruang yang sama dengan organisasi masyarakat sipil yang terus mengangkat masalah ini kepada Facebook
      Seperti yang dikatakan Kissane, Myanmar menjadi online dengan sangat cepat setelah reformasi, dan penutur bahasa Burma kurang tersedia bukan hanya di dalam Facebook, tetapi juga di organisasi HAM yang punya akses baik ke Facebook
      Berbeda dengan kasus Timur Tengah atau China, Myanmar tampak lebih seperti “pembebasan” dari represi daripada kelanjutan represi otoriter, sehingga tidak cocok dengan kerangka respons yang sedang dipelajari perusahaan teknologi. Beberapa tahun sebelumnya, Arab Spring dan protes Iran membuat Facebook dan Twitter mulai menyadari sebagian tanggung jawab mereka, tetapi hasilnya adalah cara pandang yang sangat berpusat pada AS terhadap represi di dunia
      Narasi bahwa umat Buddha melakukan pembantaian brutal terhadap Muslim di negara yang dipimpin Aung Sang Suu Shi, peraih Nobel Perdamaian sekaligus pembela demokrasi, hanya bisa terdengar jika banyak asumsi politik dan budaya Amerika serta Eropa dilawan terlebih dahulu
      Bisa juga ditunjukkan bahwa ungkapan “berteriak ada kebakaran di teater yang penuh sesak” secara historis digunakan untuk membungkam orang-orang yang berusaha mencegah kekerasan massal dengan melabeli mereka sebagai “pembuat masalah”
      Namun kegagalan Facebook dan pihak lain saat itu muncul karena mereka mengklaim bisa mengatur dan menyediakan ruang tempat orang berdiskusi secara santun dan hanya membahas “kebenaran”. Baik organisasi kebebasan berekspresi maupun organisasi kemanusiaan di lapangan berpendapat bahwa Facebook tidak bisa dan tidak seharusnya memainkan peran itu; semakin Facebook mengklaim mampu memikul tanggung jawab tersebut, semakin mengerikan hasilnya
    • Saya membaca sebagian besar artikel itu, tetapi sulit bagi saya untuk setuju dengan premis penulisnya
      Media sosial hanya mengamplifikasi apa yang dianggap menarik atau bernilai oleh jejaring sosial tersebut. Jika masyarakat menganggap seorang penulis penuh kebencian yang keji itu menarik, kontennya akan diperkuat
      Jika ada puluhan tahun kediktatoran militer dan puluhan tahun konflik, tidak mengherankan bila tiap kelompok tidak memuji pesaing mereka di media sosial
      Penulis tidak pernah benar-benar membahas masalah yang jelas. Ini bukan soal pembatasan ujaran atau menyalahkan Facebook, melainkan selalu merupakan masalah algoritma rekomendasi
      Jika algoritmanya dihapus atau dimatikan, dasar argumen tulisan ini praktis hilang

  • Saya rasa alasan yang diajukan Kissane di sini saja tidak membenarkan serangan terhadap Meta
    Ada paragraf yang menyebut bahwa pada 2018 militer Myanmar membunuh ribuan Rohingya, termasuk bayi dan anak-anak, serta membuat lebih banyak orang mengalami pemukulan, pemerkosaan, penyiksaan, kelaparan, dan penahanan; sekitar 750 ribu Rohingya melarikan diri ke kamp pengungsi raksasa di Bangladesh yang penuh penyakit
    Itulah situasi di lapangan; negara itu seperti tong mesiu, dan kejahatan sedang bekerja. Mungkin di bagian 2 akan ada lebih banyak konteks, tetapi dari sudut pandang luar, rasanya berlebihan untuk menimpakan ini sebagai tanggung jawab Facebook. Facebook tidak menyerukan pemukulan, pemerkosaan, atau pembunuhan
    Manajemen Facebook mungkin saja memperhatikan risiko PR dan mengambil tindakan, tetapi itu memunculkan masalah lain. Standar persis apa yang harus ditegakkan Facebook? Haruskah semua orang yang bertanggung jawab atas pembunuhan tak bermakna dilarang? Kalau begitu, apakah termasuk para pemimpin AS yang memilih mendukung perang seperti Perang Irak, Afghanistan, dan Vietnam? Pada akhirnya, perusahaan besar dan kuat akan menerapkan standar yang tidak merata dan subjektif
    Intinya sama, apa pun pengaruh yang dijalankan Facebook. Masalahnya adalah kehendak rakyat dan kehendak pimpinan Facebook pada dasarnya berbeda. Dalam kasus ini, kehendak rakyat memang luar biasa jahat, tetapi persoalannya bukan pihak mana yang benar pada hari itu, melainkan benturan tersebut dan posisi pengaruh Facebook. Suatu hari Facebook akan berada di pihak yang jahat

    • Facebook tidak menghapus postingan yang menghasut kekerasan etnis tepat waktu; sebaliknya, algoritmanya justru mendorong postingan bernada panas seperti itu demi meningkatkan keterlibatan pengguna
      Tidak sulit memahami mengapa Meta punya tanggung jawab, tetapi bagian itu tidak disinggung. Facebook bukan perantara pesan yang netral dan tidak berbahaya. Terlebih lagi, mereka tidak punya cukup staf penutur asli untuk memoderasi konten, jadi dalam skenario terburuk ini adalah kelalaian
      Membiarkan orang berbicara kepada internet melalui platform membawa tanggung jawab. Kebebasan berekspresi tidak absolut
    • Saya pernah melihat tulisan bernuansa anti-teknologi mengubah masalah ini menjadi “Facebook menyebabkan kekejaman”, dan saya setuju bahwa itu melebih-lebihkan peran Facebook
      Meski begitu, tindakan Facebook tidak bebas dari kritik. Bagian 1 terutama terlihat seperti kelambanan pasif, tetapi saya penasaran karena sepertinya bagian 2 akan membahas tindakan Facebook yang lebih aktif saat itu
      Tidak menegakkan kebijakan sendiri juga merupakan tindakan, dan dalam hal ini Facebook tampak sangat bersalah
    • Saya sepenuhnya setuju bahwa Facebook bukan pihak yang berada pada posisi baik untuk membuat keputusan semacam ini, tetapi para perancang Perang Irak nyaris tidak membayar harga apa pun
      Saya rasa saya tidak akan marah kalau Facebook melarang Bush. Saya setuju dengan prinsipnya, tetapi contoh yang diberikan justru termasuk sesuatu yang bisa saya terima dengan mudah
      Sebagai catatan, Facebook pernah melarang mantan presiden lain, jadi poin tentang posisi pengaruh Facebook memang benar
    • Facebook pada dasarnya memainkan peran yang sama seperti stasiun radio di Rwanda
      Bedanya, jika Facebook mengalokasikan sumber daya yang cukup, mereka bisa menghapus konten yang terang-terangan
      Apakah itu akan menghentikan pembunuhan? Mungkin bisa memperlambat penyebaran kemarahan
    • Saat itu beberapa NGO mencoba memberi tahu Facebook tentang kemungkinan koordinasi genosida di Facebook, tetapi Facebook tidak turun tangan
      Selain itu, Facebook bukan papan pengumuman pasif, melainkan platform yang secara aktif menampilkan postingan dengan “keterlibatan” tinggi kepada sebanyak mungkin pengguna
      Sambil menghargai kebebasan berekspresi dan pertukaran gagasan secara bebas, kita juga harus menerima bahwa situs web mencurigakan yang menghasut perang dan kekerasan pasti akan ada. Pada saat yang sama, media massa harus bertanggung jawab atas tindakannya sendiri
      Operator Facebook harus bertanggung jawab sama seperti operator situs web mencurigakan semacam itu. Di sini kita harus membicarakan tanggung jawab pribadi secara hukum yang harfiah, bukan perdebatan filosofis
      Perlu juga diingat bahwa pada masa itu Facebook sedang berusaha menggantikan forum web, dan tidak pernah melewatkan kesempatan untuk mengatakan bahwa, dengan menunggangi gelombang Arab Spring, mereka bisa mengubah dunia dan punya pengaruh politik untuk melakukannya

  • Saya ingin mengatakan ini kepada orang-orang yang tidak menyukai kebebasan berekspresi. Saya tinggal di sana, dan kalian tidak akan pernah tahu betapa bernilai dan pentingnya kebebasan berekspresi ketika kalian dan keluarga bisa dibunuh, ditahan, atau disiksa hanya karena hal-hal seperti ini
    Hanya karena melakukan 3 finger salute dari Hunger Games
    Hanya karena mengunggah foto kota yang kosong untuk memberi tahu dunia kebenarannya
    Hanya karena menjawab wartawan BBC

  • Saya tidak tahu soal Myanmar, tetapi kita tidak boleh mencampuradukkan atau memandang secara bias peran media, pesan, dan partisipan
    Di India, saya melihat pesan berbahaya paling banyak mengalir di grup WhatsApp. Itu adalah ruang pribadi, tidak ada algoritma pemeringkatan atau rekomendasi, dan orang-orang hanya meneruskan pesan. Pada dasarnya, ini karena radikalisasi masyarakat itu sendiri semakin besar

    • Masalahnya adalah skala. Grup WhatsApp rekan kerja atau teman memiliki jangkauan dan paparan yang sangat terbatas
      Orang tidak tiba-tiba terbangun dalam keadaan teradikalisasi; mereka diperkenalkan kepada orang lain dan dicuci otaknya melalui suatu media komunikasi
      Facebook bukan hanya yang terbesar, tetapi juga diperparah oleh algoritma rekomendasi yang memperkuat dan mempromosikan konten provokatif
    • Saya berasal dari Myanmar dan setuju

  • Menurut saya inti tulisan ini adalah penggambaran situasi tahun 2014 yang muncul sekitar 100 paragraf kemudian
    Isinya: Facebook hanya punya satu moderator yang bisa berbahasa Burma untuk meninjau semua yang masuk, dan orang itu adalah kontraktor yang berbasis di Dublin
    Bahasa Burma adalah bahasa ke-43 yang paling banyak digunakan di dunia, jadi tidak terlalu mengejutkan kalau Facebook kesulitan merekrut moderator
    http://www2.harpercollege.edu/mhealy/g101ilec/intro/clt/cltclt/top100.html
    Ini cerita yang menyedihkan. Saya berharap “kebebasan berekspresi” bisa menjadi jawabannya, tetapi ini adalah konsekuensi hilir yang sangat mengerikan ketika sebuah platform gagal melakukan moderasi manusia secara intensif

    • Saya tidak begitu memahami ini. Bahkan di AS, bagaimana moderasi berskala besar seperti ini bisa dilakukan? Apakah seluruh internet juga harus dimoderasi?
      Internet selalu dimoderasi di dalam masing-masing komunitas. Baik forum, halaman, maupun grup chat, moderasi komunitas sendiri adalah tanggung jawab pengelolanya. Gereja, klub voli, dan sekolah juga sama
    • Laba bersih pada 2022 adalah 23 miliar dolar. Meta secara sengaja tidak melakukan moderasi manusia secara intensif, dan menempatkan keuntungan di atas genosida
      Tidak ada alasan yang bisa membenarkan itu
    • Anda menyebut “konsekuensi hilir”; apakah maksudnya ketiadaan moderasi intensif berujung pada genosida? Saya bisa menyebutkan sejuta contoh ketika hal itu tidak terjadi
      Kalau gudang yang penuh moderator suatu hari tidak masuk kerja, genosida tidak akan langsung terjadi begitu saja. Jawabannya bukan moderasi penghapusan massal secara serampangan
      Gagasan yang jauh lebih baik adalah cara lama: transparansi dan data mentah. Bukan sensor, melainkan memperbaiki informasi kontekstual dengan menambahkan fakta yang akurat dan membantu serta informasi terkait di bagian atas dan bawah layar. Ini sudah terbukti berguna, dan benar-benar menyeimbangkan misinformasi pada saat kemunculannya
      Itulah cara menghormati orang. Termasuk orang-orang yang membutuhkan edukasi dan koreksi dari cara-cara kekerasan. Mereka punya telepon internet, dan kalau bukan Meta/Facebook, mereka akan memakai sesuatu yang lain

  • Tulisan ini wajib dibaca. Begitu mulai, saya tidak bisa berhenti, dan bacanya jauh lebih cepat daripada kelihatannya. Ini baru bagian 1, tetapi benar-benar esensial
    Kissane merangkum latar belakang genosida Rohingya dan bagaimana Meta secara aktif mengipasi apinya dengan ringkas, mudah dibaca, dan mengerikan
    Argumen tentang tanggung jawab Meta sederhana dan efektif. Meta menghadapi dua masalah di Myanmar. Pertama, jumlah pengguna Facebook belum cukup banyak; kedua, agitasi dan ujaran kebencian yang secara jelas dan berulang kali mendorong kekerasan anti-Rohingya semakin meningkat
    Perusahaan itu berulang kali menunjukkan bahwa mereka hanya peduli pada pertumbuhan basis pengguna, meskipun jelas-jelas tahu bahwa pertumbuhan tersebut memberi makan genosida

    • Apakah ada sisi cerita lain? Pendapatan dari beberapa juta pengguna Myanmar saat itu tampaknya tidak sepadan dengan risiko PR yang harus ditanggung
      Apa motivasi Facebook? Konten apa yang seharusnya dilarang, dan mengapa konten itu begitu populer di kalangan orang Burma?

  • Kejahatan pertama Facebook di sini adalah mendorong pelanggaran net neutrality

    • Ini poin penting yang sering terlewat. Sebagian orang mengatakan “media sosial hanya mencerminkan perilaku manusia,” dan kita juga bisa berdebat secara filosofis tentang kebebasan berekspresi, algoritma rekomendasi, serta pola pengalaman pengguna
      Namun inti masalahnya adalah tidak ada pasar bebas untuk media sosial atau aplikasi berita. Facebook berada dalam posisi istimewa berkat subsidi dari operator telekomunikasi besar
      Jika sebuah platform memiliki posisi monopoli yang istimewa, ia juga harus memikul tanggung jawab yang lebih besar. Tidak bisa menikmati keuntungan dari kedua sisi sekaligus

  • Situasi keseluruhannya mengerikan. Saya penasaran seperti apa diskusi internal Facebook saat itu
    Bagaimana bisa semua organisasi HAM akhirnya berbicara dengan divisi yang tugasnya mengoper orang kembali, bukan divisi yang benar-benar bisa melakukan sesuatu. Divisi itu mungkin juga mencoba melakukan sesuatu, tetapi bisa jadi kurang punya kekuatan politik di dalam Facebook
    Namun diskusi atau email semacam itu tampaknya sulit keluar ke publik kecuali lewat gugatan, dan saya tidak tahu gugatan seperti apa itu nantinya
    Melihat apa yang dilakukan Facebook, mereka tampaknya cukup peduli bahwa mereka tidak menginginkan berbagai perilaku buruk di platformnya. Entah dulu cakupannya jauh lebih sempit, atau ini masalah yang muncul karena terlalu terputus dari pengguna Myanmar. Misalnya hambatan bahasa atau penerapan kebijakan yang dirancang untuk AS
    Sulit memikirkan kontrafaktualnya. Misalnya, apakah hal seperti ini juga mungkin terjadi di Twitter? Keunggulan terbesar Facebook tampaknya berasal dari subsidi, dan kalau keunggulan itu tidak ada atau harga turun sedikit demi sedikit selama beberapa tahun, hal yang sama mungkin saja terjadi di Twitter
    Juga tidak jelas seberapa besar pemerintah menginginkan genosida. Keuntungan besar dari apa yang terjadi di Facebook mungkin adalah adanya plausible deniability, dan jika mereka tidak peduli soal itu serta cukup kompeten, mereka mungkin bisa saja menaruh para pengkhotbah kebencian di radio alih-alih membiarkan mereka mencari audiens di internet

  • Artikel itu menyebut “Arturo Bejar” sebagai “kepala engineering Facebook”, tetapi ini sama sekali bukan fakta
    Tampaknya ia adalah seorang Director, jabatan manajer yang biasanya mengelola kurang dari 100 orang. Itu sama sekali tidak mendekati “kepala engineering”
    Alasan saya mengangkat hal ini adalah karena ini juga membuat saya meragukan akurasi soal seberapa jelas masalah tersebut disampaikan kepada pihak-pihak terkait di Facebook
    Menyampaikan masalah sosial yang kompleks kepada engineer acak atau VP komunikasi saja tidak cukup. Orang-orang seperti itu tidak dilatih untuk mengidentifikasi atau merespons genosida, dan mereka juga tidak punya kewenangan organisasi atau pengalaman profesional untuk memulai respons serius
    Sedih bahwa ada kegagalan komunikasi, tetapi itu tidak mengejutkan