Forum/komunitas di Korea kini harus memeriksa semua gambar dengan alat sensor AI
(discuss.privacyguides.net)- Perubahan pada Undang-Undang Bisnis Telekomunikasi mewajibkan operator komunitas dan forum internet di Korea untuk memeriksa semua gambar dan video yang diunggah pengguna dengan AI
- Perangkat keras untuk menjalankan model AI tidak disediakan pemerintah, sehingga operator situs harus membeli sendiri GPU Nvidia kelas pusat data, yang akan memberi tekanan finansial pada pelaku usaha kecil dan forum
- Situs web harus segera menerapkan perangkat keras dan fungsi perangkat lunak yang diperlukan mulai 1 Juli
- Kebijakan sensor pendahuluan AI untuk gambar di komunitas internet domestik terkait dengan amandemen Undang-Undang Bisnis Telekomunikasi yang dijuluki “UU Pencegahan Nth Room” dan mulai berlaku pada 2021; opini publik terbelah antara kebutuhan jaring pengaman sosial dan pelanggaran kebebasan berekspresi
- Penegakan kebijakan ini sekaligus memunculkan beban biaya bagi operator, waktu persiapan yang singkat, masalah pasokan perangkat, dan kontroversi soal kebebasan berekspresi
Perubahan regulasi dan jadwal penerapan
- Melalui perubahan regulasi Undang-Undang Bisnis Telekomunikasi, pemerintah Korea mewajibkan operator komunitas dan forum internet untuk memeriksa gambar dan video unggahan pengguna di situs web dengan AI
- Situs web harus segera menerapkan perangkat keras dan fungsi perangkat lunak yang diperlukan mulai 1 Juli
- Pengunggah posting menyoroti bahwa waktu penerapan ini jatuh pada bulan berikutnya dari tanggal publikasi
Perangkat keras dan beban biaya
- Perangkat keras yang diperlukan untuk menjalankan model AI tidak disediakan pemerintah
- Struktur kebijakannya membuat operator situs web harus membeli sendiri GPU Nvidia kelas pusat data
- Masalahnya, tuntutan ini memberi tekanan finansial pada pelaku usaha kecil dan forum
Liputan terkait dan reaksi operator komunitas
- Artikel terkait Bahkan unggah gambar pun disensor terlebih dahulu? Latar belakang 'pro dan kontra' melaporkan bahwa kebijakan untuk menyensor terlebih dahulu dengan AI bahkan gambar yang diunggah ke komunitas internet domestik mulai tampak nyata, dan opini publik terbelah antara kebutuhan jaring pengaman sosial dan pelanggaran kebebasan berekspresi
- Laporan tersebut menyebut bahwa amandemen Undang-Undang Bisnis Telekomunikasi yang dijuluki “UU Pencegahan Nth Room” mulai berlaku pada 2021
- Posting operator Ruliweb memuat keterangan bahwa ada peserta yang memperkirakan masa tenggang 6 bulan, tetapi ketika dikatakan bahwa pengadaan perangkat tidak mungkin dilakukan, pihak pemerintah menjawab bahwa mereka tidak tahu soal perangkat dan karena standar hukum berlaku mulai Juli, maka itu harus dilakukan
Pokok persoalan
- Pemeriksaan AI terhadap gambar dan video unggahan pengguna adalah kebijakan yang mempertemukan kebutuhan jaring pengaman sosial dengan perdebatan soal pelanggaran kebebasan berekspresi
- Karena pemerintah tidak menyediakan perangkat dan jadwal penerapan langsung telah ditetapkan, biaya operasional serta pengadaan perangkat pada akhirnya menjadi beban langsung operator komunitas dan forum
4 komentar
Katanya, karena aturan ini pada praktiknya tidak bisa dipaksakan ke komunitas yang berbasis di luar negeri meskipun banyak dipakai, yang bakal kena hantam cuma komunitas lokal.
Kalau lihat postingan di Hacker News, cukup banyak korban deepfake adalah selebritas Korea, dan pelaku sebenarnya kemungkinan kelompok kriminal dari Tiongkok atau Asia Tenggara, jadi memeriksa situs domestik saja memang agak sia-sia.
Akhirnya topik ini muncul juga.
Komentar Hacker News
Masalahnya, untuk memakai alat sensor AI harus membeli solusi dari vendor tertentu, dan tenggatnya pun pada praktiknya bahkan tidak sampai sebulan lagi
Di Korea, ada banyak perusahaan zombie IT yang bertahan hidup lewat kontrak pemerintah, jadi ini bukan hal yang terlalu asing, dan pada praktiknya ada struktur CMS lokal yang sudah mengakar
Programmer Korea yang lemah dalam bahasa Inggris jadi bergantung pada CMS lokal itu, dan akibatnya terbentuk struktur yang juga melemahkan kemampuan pemrograman mereka
Saya kira inilah salah satu alasan mengapa, meski Korea adalah negara dengan proporsi lulusan berpendidikan tinggi yang besar, jumlah programmer yang menonjol relatif sedikit
Korea adalah negara pertama di dunia yang memberlakukan undang-undang sensor internet, dan baik pemerintahan kiri maupun kanan sama-sama punya catatan sejarah soal sensor
Namun, sistem sensor seperti ini juga menciptakan kontrak dan lapangan kerja TI nasional, jadi persoalannya memang rumit
Lebih spesifik lagi, sebagian besar platform papan diskusi dan forum domestik sangat terikat pada CMS komersial tertentu, dan proyek-proyek terkait pemerintah sering kali pada praktiknya mewajibkan CMS tersebut
Para pengembang terperangkap dalam ekosistem itu karena kurangnya kemampuan bahasa Inggris dan pengalaman dengan alternatif open source global, sehingga bahkan fungsi sensor AI dasar pun harus bergantung pada modul eksklusif milik vendor tersebut
Jika tenggat yang sangat sempit, kurang dari sebulan, memaksa pembelian, maka tidak ada ruang untuk meninjau opsi yang lebih baik, lebih murah, dan lebih transparan
Pada akhirnya, strukturnya sendiri terus menciptakan siklus ketergantungan pada vendor, kemampuan teknis yang lemah, dan kepatuhan dangkal alih-alih inovasi yang nyata
Ada masalah nyata, lalu muncul solusi gaya NIH yang tergesa-gesa dan mungkin lebih buruk, satu implementasi dipaksakan ke semua orang, lalu stagnasi teknologi berlanjut selama bertahun-tahun; kombinasinya sama persis
Semoga kewajiban kali ini tidak meluas sampai setingkat SEED yang dulu mengikat web Korea pada Internet Explorer usang dan kontrol ActiveX yang tidak aman untuk waktu yang lama
https://archive.is/ermII
Saya penasaran apakah ini akan menciptakan pasar untuk forum yang lebih bebas bagi orang Korea, yang di-hosting di negara lain
Ada konteks budaya yang terlewat: di Korea, deepfake, pornografi nonkonsensual, dan penyalahgunaan citra pribadi adalah masalah yang meluas dan nyaris terjadi terus-menerus
Korea punya banyak hal baik, tetapi lingkungan seksual yang melibatkan pria, perempuan, dan anak-anak cukup mengerikan
Sulit menilai ini hanya dengan cara berpikir Barat tanpa memahami betapa seriusnya masalah tersebut, dan apa pun pandanganmu tentang mekanismenya, persoalan di baliknya sangat nyata
Usulan memasang filter AI pada forum kecil memang terdengar aneh dan mungkin tampak kikuk, tetapi Korea cenderung bergerak lebih dulu dan berpikir “coba saja dulu” ketika berhadapan dengan masalah nyata
Itu memang kadang menghasilkan hal-hal aneh, tetapi juga memungkinkan penyelesaian masalah yang dinamis
Yang ingin saya cegah dari awal di sini adalah sikap mengukur isu ini dengan nilai yang disebut “universal”
Konsep hak universal ala Revolusi Prancis dan Pencerahan pada praktiknya bukanlah sesuatu yang benar-benar universal, melainkan logika dari satu lingkup budaya; ia konsisten di dalam gelembungnya sendiri, tetapi telah diekspor seolah-olah menjadi nilai baku bagi semua orang
Secara pribadi saya menyukai nilai-nilai itu, tetapi logika lain yang sama-sama konsisten juga ada, dan menurut saya logika Korea adalah salah satunya
Mungkin terdengar klise, tetapi Korea bertumpu pada harmoni dan kolektif, sementara Barat bertumpu pada individu; keduanya sama-sama menghasilkan penyimpangan, hanya jenisnya yang berbeda
Saat pertama datang ke Korea, saya mengira banyaknya kamera tilang dan CCTV itu gila, tetapi beberapa tahun kemudian saya bukan sekadar terbiasa; saya melihatnya sebagai kompromi yang umumnya bekerja, dan malah jadi lebih menghargainya
Korea lebih memilih penegakan ringan yang terlihat ramah dan penindakan otomatis dalam skala besar, ketimbang penegakan keras dengan kendaraan lapis baja yang sesekali muncul
Ini adalah pilihan desain, bukan tanda sedang meluncur menuju distopia
Maksud saya, kita perlu berpikiran terbuka dan tidak menerapkan nilai dari satu budaya sebagai tolok ukur semua orang tanpa kritik
Mekanismenya boleh dikritik sekeras apa pun, tetapi jangan jadikan nilai satu budaya sebagai standar untuk mengukur semua budaya lain
Secara pribadi saya menganggap kebijakan ini upaya yang meleset, tetapi bukan lereng licin menuju distopia
Ini lebih seperti hari Selasa biasa di Korea
Namun, saya sulit setuju jika kebijakan internet Korea dikategorikan sebagai “ringan”
Kebijakan internet Korea biasanya mewajibkan teknologi yang sangat spesifik seperti SEED atau model baru ini, lalu merangkai aturan rinci yang disesuaikan khusus untuk Korea sehingga menciptakan monopoli atau oligopoli perangkat lunak yang secara objektif lebih buruk dan sangat tidak aman
Ini bukan kebijakan yang ringan
Bahkan Online Safety Act Inggris, yang dikritik di Barat sebagai contoh utama campur tangan pemerintah karena memaksa verifikasi usia, jauh lebih ringan daripada kebijakan gaya Korea
Ia tidak mewajibkan perangkat lunak atau perangkat keras tertentu, kriptografi tertentu, atau protokol tertentu, dan daftar metode verifikasi usia yang diizinkan juga secara eksplisit tidak terbatas
https://www.ofcom.org.uk/siteassets/resources/documents/onli...
Dalam banyak kebijakan digital, menurut saya contoh yang benar-benar ringan adalah Jepang
Persyaratannya samar, contohnya tidak terbatas, ada banyak pengecualian, dan pendekatannya seperti “kalau secara teknis merepotkan, X tidak perlu diimplementasikan”; bisa ditangani secara manual maupun sepenuhnya otomatis
Bukan berarti Jepang selalu baik; dalam hal seperti persyaratan keamanan, kadang justru terlalu longgar, tetapi secara objektif itu memang kebijakan yang ringan
Kebijakan digital Korea tidak ringan menurut definisi apa pun
Kalau tidak mengirim tank untuk menangkap penyebar pornografi balas dendam dianggap ringan, ya silakan saja, tapi memang ada negara mana yang melakukan itu?
Jika berat-ringannya kebijakan diukur dari tingkat pembatasannya, hanya sedikit negara yang bisa menyaingi Korea
Pada 2024, seseorang bahkan membuat peta laporan deepfake di sekolah, dan itu menjadi viral secara nasional: https://www.koreatimes.co.kr/southkorea/society/20240830/dee...
Masalahnya benar-benar mengerikan, dan sangat mirip dengan verifikasi usia dalam arti bahwa orang-orang yang tampaknya tidak memahami internet justru mengusulkan solusi yang mengerikan
Rasanya seperti monkey's paw sedang melipat satu jari lagi
Akan jadi latihan yang baik jika ini dibayangkan dalam situasi nonteknis
Menjalankan bar, restoran, toko buku, studio seni, atau bahkan sekadar mengumpulkan orang dalam skala menengah hingga besar akan menjadi ilegal kecuali ada penyensor yang ditunjuk pemerintah, yang berwenang mendengarkan dan membungkam orang
Apakah itu masih tampak “harmonis”?
Tidak bisa dibilang Korea tidak punya masalah pornografi balas dendam, dan itu pada dasarnya juga logika pemerintah Korea
Namun, masalahnya adalah sumber utama pornografi balas dendam sebenarnya adalah komunitas luar negeri yang dipakai warga Korea
Tentu saja, komunitas domestik terbesar Korea juga mengalami masalah penyaringan, dan ada juga insiden seperti ancaman teror atau kasus pemerkosaan
Tetapi itu karena DCinside memang sangat besar
Dalam kenyataannya, kasus-kasus yang benar-benar memicu kemarahan publik besar justru bermula dari Twitter(X) dan Telegram
Jadi, apakah aktor utama dalam masalah ini benar-benar menjadi sasaran sensor? Tidak
Apakah sensor benar-benar menghilangkan masalah-masalah yang disebut tadi? Atau justru hanya membuatnya lebih gelap dan lebih buruk?
Secara pribadi saya punya pola pikir Asia Timur yang cukup khas, jadi saya percaya perlu ada batasan tertentu terhadap kebebasan
Meski begitu, sejujurnya ini tampak seperti darurat militer internet
Mewajibkan CUDA dan merekomendasikan Ubuntu 18.04 itu aneh
Sebagai catatan, dukungan Ubuntu 18.04 berakhir pada 2023
Apakah mereka benar-benar berpikir satu server GPU Quadro bisa menangani lalu lintas tinggi secara real time?
Terlihat seperti ada kesepakatan di balik pintu tertutup, atau kalau tidak, ketidakmampuan yang serius
Media tradisional tidak cukup membahas masalah ini
Rasanya tidak ada yang peduli selain orang-orang yang selalu marah dan hidup di internet
Saya memang tidak pernah berharap besar pada internet bebas di negara ini, tetapi kondisinya memburuk bahkan lebih dari yang saya bayangkan
Masa depan akan menjadi komunitas privat self-hosted yang hanya mengundang orang-orang yang sudah terverifikasi sebagai manusia sungguhan, dan kemungkinan verifikasinya dilakukan secara offline
Sejujurnya, saya rasa tidak masalah kalau internet publik mati dan orang-orang kembali ke kelompok lokal yang lebih kecil
Tidak ada kontrol big tech, tidak ada omong kosong kripto seperti nostr, dan tidak seperti Mastodon, admin yang buruk juga tidak bisa menghapus postingan
Mereka hanya bisa memblokir di server mereka sendiri
Di atasnya bisa dibangun web of trust atau sistem verifikasi, seperti yang dilakukan tangled pada kode
Sistem seperti “orang ini saya jamin” begitu?
Forum internet Korea terlihat lebih seperti situs lama seperti Hacker News daripada aplikasi modern seperti Reddit
Begitulah UI/UX dan cara mereka memakai teknologi web, dan tetap mengejutkan bahwa pengunjungnya mencapai sekitar 20% dari populasi
Saya penasaran apakah karena bahasa Korea mereka bertahan pada gaya forum yang lebih tua dibanding aplikasi berbahasa Inggris
Secara pribadi saya jauh lebih menyukai cara seperti itu
Korea tampaknya sedang mengikuti cara tetangga di utara
Apakah ini akan memengaruhi perangkat lunak yang diekspor dari Korea?
Jika alat sensor AI dipasang secara bawaan di ponsel Samsung, sepertinya itu tidak akan membuatnya lebih populer
Waktu Apple sempat ingin melakukannya di iPhone pun mendapat penolakan besar
Saya sempat mencobanya karena penasaran, dan untuk pengeditan gambar banyak hal ditolak sebagai “tidak pantas”, terutama kekerasan
Fondasinya sebenarnya sudah terpasang
Kasus Nth Room mungkin telah membuka jalan bagi suasana persetujuan yang kuat seperti ini
https://en.wikipedia.org/wiki/Nth_Room_case
Korea tertinggal secara teknis dalam hampir semua hal yang memungkinkan
Sudah lama orang perlu komputer Windows untuk memakai layanan pemerintah atau perbankan, dan untuk banyak layanan itu masih berlaku
Karena bergantung pada laptop Windows murahan, pemandangan orang membawa mouse eksternal saat memakai laptop di tempat seperti kafe adalah hal yang umum
Format dokumen standar de facto pada praktiknya adalah format Hancom yang berantakan
Kalau menonton berita Korea, itu terlihat konyol karena setiap kali mereka menayangkan video di ruang publik, 80% layar diburamkan
Rasanya hampir tidak ada alasan untuk menontonnya
API dan dokumentasi API benar-benar dirancang dan ditulis dengan sangat buruk, sampai seperti lelucon
Penyedia peta eksternal pada praktiknya dikeluarkan dari pasar sampai tahun lalu
Kalau ingin mendaftar sesuatu, secara harfiah hampir selalu butuh nomor telepon
Masih banyak contoh lain, tapi ini hanya yang langsung terpikir
Tidak ada ruang bernapas sama sekali untuk dinamisme
Masalah Korea bukan persoalan politik, melainkan murni sesuatu yang terjadi dalam oligopoli
Di Twitter orang suka membayangkan Korea sebagai negara teknofuturis, tapi kenyataannya budaya startup-nya buruk, tidak ada ekosistem modal ventura, dan perusahaan besar menulis semua aturannya
Ini berasal dari sifat negara kecil
Di Korea sendiri, Twitter(X) benar-benar dipandang rendah sebagai tempat yang dipakai orang-orang gila, dan citranya juga buruk
Secara umum, strukturnya adalah oligopoli perusahaan besar yang ditumpuk di atas sistem pengelolaan negara ala keluarga yang berpusat pada chaebol
Di dalamnya, persoalan utamanya menjadi bertahan hidup lewat kontrak perusahaan, bukan investasi agresif
Secara pribadi saya benci budaya seperti ini, jadi saya sedang mencoba mencari pekerjaan di AS
Capek juga kerja 84 jam seminggu selama 3 bulan dan bahkan tidak menghasilkan 8 juta won
Dikeluarkannya penyedia peta eksternal secara harfiah justru positif bagi semua penduduk Korea, dan hanya negatif bagi pemegang saham Google serta segelintir turis yang harus mengunduh aplikasi peta lokal
Seorang politisi melakukan sesuatu yang menguntungkan rakyat, jadi apa masalahnya?
Keharusan nomor telepon saat mendaftar sesuatu juga sebenarnya punya banyak keuntungan
Di HN, mengakui hal ini biasanya tidak terlalu diterima, tapi sebenarnya itu kompromi yang bisa dipertahankan
Anda boleh tidak setuju, tetapi berpura-pura itu jelas buruk adalah bentuk ketidaktahuan
Format Hancom pada 2026 tidak dipakai siapa pun kecuali saat berurusan dengan lembaga pemerintah
Mengatakan itu adalah standar de facto untuk seluruh Korea adalah generalisasi yang berlebihan