- JanitorAI, platform chatbot untuk membuat karakter AI yang dipersonalisasi dan mengobrol dengannya, secara resmi mengumumkan pemblokiran layanan di Inggris (England, Skotlandia, Wales, Irlandia Utara) mulai 24 Juli
- Hal ini disebabkan oleh regulasi Online Safety Act Inggris yang berlebihan serta beban hukum dan finansial yang tinggi (denda hingga £18 juta, kemungkinan sanksi pidana bagi tim pengelola)
- Kewajiban setingkat perusahaan besar seperti penilaian risiko hukum, pembangunan sistem autentikasi biometrik, dan peninjauan hukum berkelanjutan juga diterapkan pada layanan kecil dan menengah, sehingga secara efektif menciptakan hambatan masuk bagi platform kecil
- JanitorAI menjelaskan perpisahan dengan komunitas Inggris sebagai "pilihan yang tak terhindarkan demi melindungi tim", dan saat ini sedang mencari berbagai cara untuk memenuhi regulasi di masa depan, termasuk verifikasi usia pengguna di bawah umur
- Pengguna tidak akan menerima kerugian tambahan selain pemblokiran akses; akun tidak dihapus dan pembatasan hanya berlaku untuk akses dari IP Inggris
Pengumuman pemblokiran layanan dan latar belakangnya
- JanitorAI mengumumkan bahwa akses dari dalam Inggris akan diblokir mulai 24 Juli 2025 pukul 23:59 (UTC)
- Pemberitahuan ini disampaikan secara mendadak hanya 4 hari sebelumnya, dan mereka menyampaikan permintaan maaf kepada para pengguna di Inggris
Dampak Online Safety Act Inggris
- Tim layanan awalnya salah memahami isi Online Safety Act, lalu belakangan menyadari bahwa ini bukan sekadar pengelolaan konten sederhana, melainkan regulasi setingkat perusahaan besar yang diterapkan pada semua platform
- Kewajiban seperti penilaian risiko hukum, autentikasi biometrik (misalnya Persona yang diterapkan Reddit - $1.5 per orang), dan peninjauan hukum tanpa henti dipaksakan pada tingkat yang tidak mungkin ditanggung oleh pelaku usaha kecil
- Jika melanggar aturan, dapat dikenakan denda hingga £18 juta serta tanggung jawab pidana bagi pengelola (termasuk kemungkinan penjara)
Ketidakmungkinan kepatuhan dan kritik terhadap kebijakan
- Aturan yang rumit, termasuk sekitar 250 halaman undang-undang dan lebih dari 3.000 halaman pedoman Ofcom, serta tidaknya ada pengecualian bagi platform kecil, membuat kepatuhan secara realistis menjadi mustahil
- Muncul kritik bahwa pemerintah Inggris, sambil mengklaim diri sebagai pusat inovasi, pada praktiknya justru membangun struktur yang hanya bisa ditahan oleh perusahaan besar seperti Google
Dampak bagi pengguna dan panduan
- Mulai 24 Juli, saat mengakses JanitorAI dari IP Inggris, pengguna akan melihat halaman pemblokiran
- Akun milik penduduk Inggris tidak akan dihapus; hanya pembatasan akses yang diterapkan
- Jika pengguna mengakses lewat cara memutar, tanggung jawab hukum hanya berlaku bagi penyedia layanan (platform), dan pengguna tidak menghadapi sanksi hukum
Rencana ke depan dan ringkasan posisi
- JanitorAI menegaskan bahwa mereka belum sepenuhnya meninggalkan pasar Inggris, dan sedang aktif mencari langkah kepatuhan tambahan seperti verifikasi usia pengguna di bawah umur
- Bersamaan dengan kekhawatiran bahwa "banyak platform inovatif akan mengambil keputusan yang sama" dan "Inggris sedang memilih untuk mengisolasi dirinya dari inovasi global", mereka meminta pengguna dan pemerintah untuk berpartisipasi dalam petisi peninjauan ulang regulasi
- Tim JanitorAI menekankan bahwa ini adalah langkah pemblokiran sementara, dan tetap membuka kemungkinan melanjutkan layanan jika persyaratan di masa depan dapat dipenuhi
Meluruskan kesalahpahaman (FAQ)
- Pengguna Inggris tidak akan dihukum karena menggunakan JanitorAI; sanksi pidana dan denda hanya berlaku bagi operator platform
- Ini bukan penghapusan akun, hanya pemblokiran akses dari IP Inggris
- Jika pengguna mengakses dengan metode lain, itu adalah keputusan pribadi dan ditegaskan kembali bahwa tidak ada kerugian hukum bagi pengguna
1 komentar
Opini Hacker News
Saya cukup paham lingkungan korporat di Eropa dan Inggris. Bukan cuma pemerintah, bank besar pun sama saja. Mereka mempekerjakan dua jenis orang: yang benar-benar menjalankan pekerjaan, dan yang tugasnya menaruh sebanyak mungkin hambatan atas nama manajemen risiko, kepatuhan, keamanan, regulasi, dan sejenisnya (RCSR). Jumlah orang RCSR direkrut sampai tiga kali lebih banyak daripada staf teknis. Mereka membanjiri organisasi dengan ribuan halaman pedoman sehingga pekerjaan praktis jadi mustahil dilakukan. Tim teknis kami pun sudah 4 bulan hanya menunggu persetujuan untuk menguji upgrade database. Eksekutif senior tidak bisa menentang RCSR yang memegang kuasa seperti pendeta gereja abad pertengahan. Mereka menganggap apa pun yang bergerak sebagai risiko, tanpa target yang terkait hasil nyata. Para manajer percaya RCSR membantu kontrol, padahal kenyataannya hanya menambah pekerjaan tak berarti sampai perusahaan terjebak di balik tembok yang dibangunnya sendiri
Semakin ketat pengawasan RCSR, keamanan yang sebenarnya justru memburuk. Tim kebijakan tidak benar-benar paham teknologi, jadi energi pengembangan habis untuk hal-hal yang tidak penting. Misalnya, demi mengikuti pedoman CIS di k8s yang bilang “jangan simpan secret di environment variable”, tim kami harus mengubah chart Helm selama 2 minggu. Itu cuma jadi beban pemeliharaan terus-menerus dengan dampak keamanan nyata yang nyaris tidak ada. Dalam waktu yang sama kami justru bisa menerapkan langkah keamanan yang benar-benar berguna seperti network policy atau CSP. Di tingkat proses hanya ada matriks yang menilai risiko dan dampak, tanpa penilaian atas usaha yang dibutuhkan maupun hasil akhirnya. Ujung-ujungnya yang tersisa bukan engineering, melainkan pekerjaan sia-sia
Rasanya memang begitu. Faktanya, para engineer cenderung kurang peka terhadap data. Kerangka hukum biasanya dibuat oleh orang-orang yang tidak memahami praktik lapangan, jadi banyak hukum yang buruk. Tetapi di dunia nyata, kalau melanggar hukum kapan saja bisa ada yang menggugat, jadi orang selalu tegang. Amerika Serikat khususnya memungkinkan individu langsung menggugat berdasarkan hukum seperti ini. Tentu saja, sebagian besar persyaratan kepatuhan sebenarnya secara prinsip tidak terlalu rumit, tetapi jadi lebih menjengkelkan karena bertabrakan dengan kebiasaan pengembangan software yang mengandalkan pemanfaatan data secara bebas. Dulu mungkin kalau hanya blog publik dampaknya lebih kecil, tetapi sekarang ada data medis, data keuangan, dan sebagainya milik orang lain yang ikut terlibat, dan kalau salah bisa meledak jadi kasus seperti Cambridge Analytica, sehingga bobot tanggung jawabnya jauh lebih besar. Memang berat, tetapi sebagai engineer kita harus sadar akan konsekuensi dan tanggung jawab dari apa yang kita buat. Kurangnya kesadaran inilah yang menyebabkan insiden besar di industri
Di AS juga ada masalah serupa, hanya sedikit kurang parah. Tidak ada seorang pun yang bisa bentrok dengan divisi kepatuhan. Kalau sampai digugat, pertanyaannya jadi “kenapa Anda mengabaikan saran tim compliance?”, dan bahkan perlindungan hukum perusahaan pun bisa runtuh. Tim compliance tidak peduli apakah bisnis berjalan, sementara tim operasional juga tidak benar-benar mendapat insentif untuk patuh. Akhirnya risiko gugatan selalu membuat pendekatan hati-hati yang memprioritaskan compliance menjadi satu-satunya pilihan
Ini bukan masalah yang terbatas pada Eropa. Saya pernah bekerja di perusahaan Amerika yang sangat mirip. Masalahnya ada pada struktur insentif: ada ketakutan bahwa pelanggaran regulasi ringan saja bisa membuat perusahaan tutup (setidaknya begitu asumsi manajemen), sementara kalau misi utama tidak tercapai tidak ada konsekuensinya. Jadi tidak melakukan apa-apa pun menjadi pilihan yang rasional
Anda bilang menunggu 4 bulan hanya untuk persetujuan uji upgrade database, saya sendiri dulu mengeluh kalau butuh satu hari sampai perubahan diterapkan ke production. Di perusahaan sebelumnya cuma 4 jam. Kalau sistem dan proses otomatisasinya dibangun dengan baik, rasanya sebagian besar perubahan bisa mendapat persetujuan cepat. Menyebalkan melihat respons organisasi yang setiap kali ada masalah atau perubahan regulasi malah cuma menambah orang yang bisa berkata “TIDAK”
Saya tidak suka pendekatan Inggris terhadap keselamatan online karena terasa tidak realistis. Undang-undangnya selalu terasa seperti ditulis oleh orang yang mencetak email untuk dibaca. Tapi bukan berarti “platform kecil = dikecualikan” otomatis masuk akal. Kalau tujuannya melindungi anak-anak, maka konten berbahaya seperti dorongan bunuh diri tetap bermasalah terlepas dari skala platform. Justru tempat kecil yang kurang dikenal, seperti situs chan tertentu, bisa lebih berbahaya
Usaha kecil bukan ingin bebas sepenuhnya, mereka hanya ingin setidaknya bisa mematuhi regulasi meski bukan perusahaan besar. Misalnya pada pajak kemasan plastik, perusahaan seperti Amazon bisa membentuk tim khusus untuk menanganinya, tetapi wiraswasta kecil bisa rugi hanya karena beban administrasi. Kalau bisnis di bawah ambang pendapatan tertentu diberi skema biaya tetap dengan beban administrasi rendah, tujuan awal tetap terjaga dan kerugian nyata juga bisa dicegah
Masalahnya ada pada efisiensi hukum. Kalau demi mencegah tabrakan asteroid kita mewajibkan semua bangunan punya atap beton setebal 1 meter, yang terjadi hanya bangunan kecil menanggung beban besar sementara gedung besar hampir tak terpengaruh. Meski tampak tidak masuk akal, regulasi seperti ini pada akhirnya menyingkirkan pelaku usaha kecil dari pasar dan menyisakan perusahaan besar yang punya modal. Semakin rendah toleransi masyarakat terhadap risiko secara umum, semakin alami pula munculnya regulatory capture yang berpusat pada perusahaan besar
Inggris adalah contoh utama bagaimana regulasi teknologi bekerja di dunia nyata. Belakangan saya juga merasa komentar di Hacker News yang menuntut regulasi makin banyak. Khususnya ketika muncul keluhan tentang error di LLM atau keluaran yang mirip konten berhak cipta, banyak respons seperti “regulasi saja” atau “beri sanksi”. Banyak orang mengira kalau regulasi diterapkan, yang dihukum hanya perusahaan besar dan konsumen akan menikmati produk sempurna. Tetapi kenyataannya regulasi keras membuat perusahaan menarik diri dari negara tersebut, dan pengguna tetap memakai layanannya lewat VPN. Perusahaan akan menghindari negara yang terlalu diatur atau menutup bisnisnya di sana. Ketika efek samping regulasi disorot, orang gampang bilang “ya sudah, perusahaan kecil dikecualikan saja”. Semakin dekat melihat regulasi teknologi yang keras diterapkan di dunia nyata, semakin banyak orang justru membencinya
Tujuan akhir regulasi online di Inggris sering kali berujung pada ‘pengawasan’. Tidak ada pemikiran serius soal bagaimana data akan digunakan, tetapi undang-undang demi pengawasan didorong secara obsesif
Kasus seperti ini juga terus berulang, misalnya https://www.thehamsterforum.com/threads/big-sad-forum-news-online-safety-act.2091/ (sekadar catatan, di Inggris bahkan forum pecinta hamster sungguhan pun bisa menjadi ilegal)
Melihat thehamsterforum sampai mengusulkan pindah total ke Instagram, jadi kelihatan kenapa perusahaan besar justru menyukai hukum seperti ini. Makin banyak regulasi, makin tinggi hambatan masuk, dan hanya perusahaan besar yang punya tim pengacara internal yang bisa tetap ikut bermain
Saya penasaran karena alasan apa forum itu melakukan “sesuatu yang baru” lalu bisa beroperasi lagi. Mereka bilang sudah memenuhi compliance lewat perubahan syarat layanan dan penerapan alat moderasi baru, tetapi saya benar-benar penasaran kesimpulan apa yang membuat mereka merasa risikonya sudah aman, dan apakah alat-alat itu memang cukup
Forum itu masih berjalan sekarang, jadi saya jadi bertanya-tanya apakah postingan awalnya yang keliru
Mungkin itu sebabnya kafe di serial Fleabag terasa lebih biasa saja (meski guinea pig dan hamster berbeda)
Saya tidak terlalu paham layanannya, tetapi saat membuka situsnya saya lihat ini layanan 18+ dan tertulis bahwa “pornografi anak, penggambaran seksual anak di bawah umur, gore berlebihan, bestiality, dan kekerasan seksual” dilarang. Saya tidak 100% setuju dengan keseluruhan Online Safety Act, tetapi layanan seperti ini memang tampak perlu penilaian risiko terpisah
Saat hanya membaca artikelnya, saya merasa ini tampak bermasalah, tetapi setelah melihat situsnya langsung, penjelasannya terasa kurang memadai dan ada unsur risiko, jadi rasanya memang perlu ada semacam regulasi. Namun saya jadi penasaran apakah layanan lain yang risikonya lebih rendah tetap terkena dampak yang sama
Setahu saya, fungsi utama layanan ini adalah menyediakan model AI dengan sensor minimal kepada pengguna. Konten ilegal dilarang, tetapi selain itu apa pun bisa dilakukan; dan “ilegal” di sini bukan cuma hukum negara, melainkan juga aturan perusahaan pembayaran seperti Visa/Mastercard. Mungkin ada banyak konten seksual karena permintaan pasar dewasa, bukan karena sifat layanannya sendiri
Keluhan yang mereka ajukan tampaknya bukan soal penilaian risiko itu sendiri, melainkan cakupannya dan biayanya yang berlebihan
Ada kalimat seperti “mencari cara untuk mengakses situs pada akhirnya adalah tanggung jawab pengguna, dan pengguna tidak akan dihukum”. Kalau operator benar-benar khawatir soal tanggung jawab hukum, mereka seharusnya tidak menulis hal seperti itu; bagian itu justru melemahkan postingan tersebut dan kredibilitas upaya kepatuhan mereka
Memblokir orang yang memakai VPN secara praktis hampir mustahil. Kecuali pemerintah mengendalikan semua ISP, dan bahkan Inggris pun sulit sampai sejauh itu. Di negara yang normal, operator situs tidak seharusnya dimintai tanggung jawab untuk hal semacam ini
Operatornya jelas mengatakan ingin masuk lagi ke pasar Inggris dengan tujuan patuh sepenuhnya. Mereka hanya salah menilai cakupan regulasi lalu memblokir layanan di Inggris sebagai langkah sementara
Sangat menjengkelkan bahwa hukum dan regulasi tidak mempertimbangkan skala penyedia. Selalu saja pelaku besar digambarkan sebagai penjahat dan slogan “melindungi anak-anak” dipakai untuk meraih dukungan, tetapi hasil nyatanya malah menguntungkan perusahaan besar. Hanya perusahaan besar yang mampu menanggung semua biaya seperti nasihat hukum, lalu mereka menguasai seluruh pasar. AI Act pun sama; UKM maupun konsumen kemungkinan sama-sama dirugikan
Sebenarnya hukum ini memang memikirkan skala penyedia, masalahnya tolok ukurnya sendiri disetel untuk perusahaan besar. Ini struktur yang dibentuk lewat lobi perusahaan besar selama bertahun-tahun. Inggris secara resmi terlihat punya tingkat korupsi rendah, tetapi kalau melihat bagaimana keputusan nyata dibuat, justru korupsi terasa umum. Hukum ini hampir tidak punya dukungan publik. Selalu ada kampanye media lewat surat kabar dan sejenisnya yang membawa-bawa anak-anak, tetapi isi undang-undangnya sendiri jauh dari tujuan awal. Pemilu tetap diadakan, tetapi kebijakannya tidak berubah
Itu regulatory capture. Dampaknya terhadap usaha kecil juga merupakan hasil yang disengaja
Penjelasan aturan terkait ada di sini: https://www.gov.uk/government/publications/online-safety-act-explainer/online-safety-act-explainer#who-the-act-applies-to. Dari pembacaan saya, Amazon akan memerlukan verifikasi usia untuk lebih dari 80% seluruh stok bukunya, dan 20% sisanya pun tetap bisa terkena tanggung jawab karena definisi yang sangat luas tentang “pengalaman online yang sesuai usia untuk anak-anak”. Seperti ditunjukkan janitorai, hukum ini berlaku pada mereka dan juga pada semua konten yang mereka hasilkan. Melarang akses dari pasar Inggris mungkin memang respons terbaik. Sebagai catatan, sepertinya hukum ini tidak berlaku untuk situs web primer jika tidak ada interaksi antar-pengunjung. Misalnya, blog tanpa komentar tampaknya aman
Klarifikasi dari Ofcom berbeda: https://www.theregister.com/2025/02/06/uk_online_safety_act_bloggers/
Bahkan kalau ada komentar di blog pun mungkin masih aman: https://onlinesafetyact.co.uk/ra_blog_with_comments/
Dari pemahaman saya yang sangat garis besar, saya kira aturan ini baru berlaku kalau ada beberapa juta pengguna Inggris https://www.onlinesafetyact.net/analysis/categorisation-of-services-in-the-online-safety-act. Saya tidak yakin apakah situs ini benar-benar masuk cakupan itu, atau saya yang benar-benar salah paham (saya bukan pengacara)
Itu hanya ambang untuk memberi persyaratan tambahan. Semua pihak (kecuali yang masuk ketentuan pengecualian khusus) punya “kewajiban perlindungan pengguna”. Kedengarannya saja sudah seperti hujan tuntutan administratif yang rumit dan mahal. Dan untuk menentukan apakah Anda termasuk pengecualian, Anda tetap harus membayar pengacara. Undang-undangnya sendiri ambigu dan punya terlalu banyak area abu-abu yang tak terduga. Ini bukan sekadar “ruling”, melainkan hukum dan aturan pelaksanaannya. PDF terkait: https://www.ofcom.org.uk/siteassets/resources/documents/consultations/category-1-10-weeks/263963-categorisation-research-and-advice/categorisation-research-and-advice.pdf
Checklist Ofcom untuk menentukan apakah suatu layanan termasuk cakupan tidak memakai ambang seperti itu; kalau ada bahkan satu pelanggan berbayar dari Inggris, layanan itu bisa dianggap tercakup https://ofcomlive.my.salesforce-sites.com/formentry/RegulationChecker
Gagasan bahwa “warga negara kami mengakses situs Anda” lalu negara kami merasa berwenang atas server itu (di-host di luar negeri), bahkan atas operatornya (tinggal di luar negeri), sampai bisa menjatuhkan sanksi pidana, benar-benar sulit diterima
Sumber itu membahas usulan per 2024, bukan bagaimana hukum benar-benar diterapkan
Undang-undang raksasa yang panjangnya ratusan halaman selalu penuh celah dan area abu-abu. Belakangan pemerintah Inggris bahkan menjadi jenis negara yang benar-benar menangkap orang atas “kejahatan” online, jadi lahirlah hukum sebodoh ini
Karena alasan seperti ini, internet secara keseluruhan terasa sedang bergerak menuju semacam krisis ala Kessler Syndrome (efek domino sampah antariksa). AS juga punya 50 negara bagian yang ingin mengatur AI secara mandiri; sebelumnya OBBB ingin mengendalikannya selama 10 tahun tetapi gagal. Sekarang tiap negara bagian bisa membuat aturannya sendiri. Menyesuaikan diri dengan semua regulasi yang berbeda di seluruh dunia kini nyaris mustahil
Kalau biaya operasional terus naik, pada akhirnya secara global hanya akan tersisa segelintir situs superbesar, sementara ratusan situs kecil per wilayah akan bertahan dengan region lock. Selama cyberspace masih menghasilkan uang dan memanfaatkan dunia nyata seperti verifikasi identitas, ia pada akhirnya tidak bisa benar-benar independen https://www.eff.org/cyberspace-independence
Balkanisasi internet pada akhirnya adalah hasil yang tak terelakkan. Alternatifnya adalah negara menyerahkan kedaulatan atas infrastruktur yang kini esensial kepada pihak asing, dan pemerintah negara mana pun tidak akan memilih itu. Saat internet masih sekadar hobi mungkin itu bisa diterima, tetapi sekarang ia adalah fondasi kehidupan, jadi menyerahkan kedaulatan infrastruktur kepada pemerintah asing dan big tech sudah tidak bisa ditoleransi lagi
Setiap kali pembicaraan soal “balkanisasi internet” muncul dalam wacana publik, saya justru cenderung positif terhadap arah itu. Menurut saya, komunikasi global instan seperti ini baru bisa diizinkan setelah umat manusia siap memikul tanggung jawabnya
Saya sendiri sepertinya juga harus memblokir pengunjung dari Inggris saat menjalankan Marginalia Search. Sebagai solo developer saya tidak sanggup menanggung semua tuntutan hukum :-/