Selamat Tinggal, dan Terima Kasih atas Semua Bikeshed Selama Ini

• Menyebut tinjauan kode berbasis LLM dan verifikasi usia sebagai dua faktor yang akan mengubah masa depan FOSS, dan memperkirakan bahwa verifikasi usia khususnya akan menjadi pemicu berakhirnya FOSS dalam bentuknya saat ini
• Tinjauan kode oleh LLM menelusuri ruang pencarian yang sulit diperiksa manusia secara lebih luas dan mendalam, tetapi setelah capaian besar di awal, manfaatnya bisa menurun sehingga keberlanjutan ekonominya belum pasti
• Jika negara-negara yang ingin menangani kejahatan daring dan melindungi anak-anak mewajibkan verifikasi usia, maka akan dibutuhkan perangkat lunak yang terbukti secara kriptografis dan platform komputasi yang tidak dapat dimodifikasi pengguna
• Kedaulatan digital UE dan tuntutan akan akuntabilitas berbenturan dengan struktur FOSS yang bergantung pada pemelihara individu dan klausul pembebasan tanggung jawab; begitu ada pendapatan, pengecualian FOSS dalam Cyber Resilience Act juga berakhir
• Proyek FOSS yang berpengaruh dapat dijalankan oleh komite yang ditunjuk perusahaan atau organisasi pengelola, bukan oleh Benevolent Dictator for Life (BDFL) perorangan, sementara pengguna mungkin hanya diizinkan membaca source atau melakukan build tanpa modifikasi

---

Bikeshed Terakhir dan Dua Variabel Masa Depan

• Sekitar 20 tahun lalu, permintaan untuk menulis tentang memori flash menjadi awal dari kolom Bikeshed, yang kira-kira terbit setahun sekali
• Karena tidak ingin menjadi sosok senior yang terlalu yakin pada dirinya sendiri, penulis mengakhiri kolom ini dan berharap prediksinya tentang masa depan yang jauh ternyata sepenuhnya keliru
• Menunjuk tinjauan kode berbantuan LLM dan verifikasi usia sebagai hal-hal yang akan berdampak besar pada FOSS saat ini

Capaian dan Batasan Tinjauan Kode LLM

• Dari pengalaman menggunakan berbagai alat kualitas kode, pola yang sama berulang kali muncul
  • Dalam 1–2 hari pertama, ditemukan banyak sekali masalah yang perlu diselesaikan
  • Pada hari ke-3 hingga ke-5, muncul beberapa bug yang jelas dan masalah yang secara teknis bug tetapi tidak terlalu serius
  • Mulai minggu kedua, hampir tidak ada capaian baru
• Pola ini berlanjut sejak mengenal lint(1) di manual Zilog Zeus pada 1984 hingga penggunaan analisis statis Clang baru-baru ini
• Berdasarkan hal ini, penulis memperkirakan bahwa lebih dari setengah bug perangkat lunak terburuk yang dapat ditemukan alat LLM mungkin sudah dipublikasikan
• Perkiraan ini juga didukung oleh fakta bahwa industri AI ingin mempublikasikan capaian besar secepat mungkin untuk memperkuat euforia investasi
• Penulis mengusulkan bahwa memberikan seluruh dokumen desain dan penyelesaian pembangunan sebuah pembangkit listrik tenaga nuklir kepada model akan sekaligus menguji batas kemampuannya menangani kompleksitas sistem rekayasa manusia dan menarik perhatian besar

Pencarian Bug yang Mirip Catur

• Pencarian bug oleh alat LLM mirip dengan catur komputer
  • Manusia menelusuri jalur yang paling mungkin secara probabilistik dan heuristik untuk menghemat waktu dan energi
  • LLM dapat menelusuri pohon pencarian lebih luas dan lebih dalam daripada manusia
• Serangan dan pertahanan siber pada dasarnya adalah permainan seperti catur, dan untuk menulis program yang kelak dipercayakan dengan nyawa manusia, dibutuhkan alat yang lebih baik
• Kuncinya adalah apakah tinjauan kode LLM dapat layak secara ekonomi di luar gelembung investasi

Biaya Pelatihan Model dan Ekonomi Replikasi

• Sebagian besar kerja dan biaya model dikeluarkan lebih dulu pada tahap pelatihan, tetapi hasilnya, yaitu bobot model, cukup kecil untuk dimuat di perangkat penyimpanan portabel modern
• Untuk menghasilkan keuntungan, bobot yang sama harus dijual jutaan kali
• Ini mirip dengan industri film dan video yang menghabiskan jutaan dolar untuk set, aktor, kostum, efek khusus, dan pemasaran demi membuat video 4K yang dapat dimuat di perangkat penyimpanan kecil, lalu meraih pendapatan dalam unit yang setara dengan sebagian uang saku remaja
• Hollywood sampai batas tertentu mempertahankan struktur ini melalui perlindungan hak cipta, tetapi industri LLM mungkin sulit mendapatkan perlindungan yang sama karena berulang kali mengandalkan penggunaan wajar (fair use) dalam gugatan pelanggaran hak cipta
• Jika gelembung investasi pecah dan capaian makin berkurang, belum jelas siapa yang akan menanggung biaya pelatihan model generasi berikutnya

Benturan Negara dan Anonimitas Setelah Enkripsi

• Komunikasi store-and-forward awal dan open source yang lahir darinya tidak terlalu menarik perhatian aktor berpengaruh
• Ketika monetisasi menjadi mungkin, dana pengembangan muncul, lalu berkembang menjadi pasar komunikasi digital daring yang lebih besar
• Dalam proses ini, FOSS ikut mempercepat kemajuan teknologi dan penciptaan pendapatan
• Setelah pengungkapan Edward Snowden, industri teknologi mendorong enkripsi end-to-end secara luas untuk mencegah pengawasan
• Akibatnya, penjahat menjadi lebih mudah menyembunyikan jejak daring, dan penuntutan sulit dilakukan kecuali untuk penjahat yang ceroboh atau kasus dengan kerugian ekonomi besar
• Penulis menilai banyak kejahatan digital bahkan tidak dilaporkan karena adanya anggapan bahwa polisi tidak dapat menyelesaikannya
• Enkripsi telah mendorong negara ke sudut tanpa jalan keluar, dan kini negara berusaha keluar dari situasi itu

Verifikasi Usia dan Penyusutan Privasi

• Para pendukung privasi menentang verifikasi usia wajib karena dapat mengarah pada verifikasi identitas menyeluruh di seluruh internet, dan memperlakukan kekhawatiran sipil pemerintah sekadar sebagai argumen “pikirkan anak-anak”
• Penulis menilai sangat sedikit teknolog perempuan yang menuntut hak privasi absolut
• Ia memperkirakan anonimitas internet akan berkurang hingga orang tua tidak perlu lagi melakukan percakapan khusus tentang bahaya daring saat anak perempuan mereka mendapat ponsel pertama, dan sebagai orang tua dari anak perempuan ia mendukung hal itu
• Protokol sebenarnya dapat dirancang agar seminimal mungkin kompatibel dengan negara hukum, tetapi karena kompromi dianggap pengkhianatan, penulis menilai privasi yang hilang akan lebih banyak dari yang diperlukan

Benturan FOSS yang Dapat Dimodifikasi dengan Verifikasi Usia

• Jika source code dapat diubah dan dikompilasi ulang, pengguna dapat menghapus fitur verifikasi usia
• Sebagai satu-satunya cara mencegahnya, penulis mengajukan integritas perangkat lunak yang terbukti secara kriptografis
  • Seseorang harus secara resmi menjamin bahwa sistem operasi dapat dipercaya
  • Jika pengguna dapat memodifikasi dan mengompilasi ulang sistem operasi, tidak ada yang mau memberikan jaminan itu
• Internet sedang terpecah ke arah di mana wilayah yang dapat diakses dengan browser, perangkat, atau perangkat lunak apa pun semakin kecil
• Semakin banyak layanan hanya dapat diakses dari platform komputasi yang teratestasi (attested computing platform), dan meskipun pengguna dapat melihat source code, mereka mungkin tidak dapat mengubahnya

Kedaulatan Digital UE dan Akuntabilitas

• Dalam beberapa dekade neoliberalisme dan globalisasi terakhir, industri teknologi AS menguasai sebagian besar pasar TI Eropa, termasuk media sosial
• UE beserta negara anggota dan perusahaannya melihat hal ini sebagai kesalahan serius dan berusaha merebut kembali kedaulatan digital
• Jika Eropa memiliki perusahaan monopoli daring sendiri, mereka dapat merespons dengan perubahan hukum, tetapi tidak ada perusahaan Eropa yang sepadan dengan Google, Apple, Oracle, Microsoft, Facebook, atau Twitter
• Bahkan jika para CIO Eropa menemukan source code FOSS, tidak ada pemasok untuk diajak menegosiasikan kontrak atau pihak yang bisa menandatangani
• Budaya organisasi yang ada lebih menyukai cara melempar tanggung jawab kepada pihak lain ketimbang menyelesaikan masalah, tetapi itu tidak cocok untuk persoalan seperti kedaulatan digital yang membutuhkan penanggung jawab akhir
• Karena klausul tanpa jaminan dan pembebasan tanggung jawab yang umum dalam lisensi FOSS, pola pembagian tanggung jawab yang ada juga sulit diterapkan pada FOSS
• Bagi para pengambil keputusan yang tumbuh dalam lingkungan “tidak ada orang yang dipecat karena membeli Microsoft”, transisi seperti ini terasa asing

Pengecualian FOSS dalam Cyber Resilience Act

• UE memandang FOSS sebagai satu-satunya harapan realistis bagi kedaulatan digital, dan memberikan pengecualian besar dalam undang-undang terbaru, Cyber Resilience Act
• Namun begitu FOSS menghasilkan pendapatan, pengecualian ini berakhir
• Dalam 10 tahun ke depan, diperkirakan akan ada keuntungan signifikan dari FOSS di UE, sehingga komersialisasi diperkirakan akan mempercepat akhir FOSS dalam bentuknya saat ini

Keberlanjutan Struktur Pemelihara Individu

• Banyak FOSS bertahan berdasarkan kehendak satu orang saja, dan orang itu mungkin tidak tahu atau tidak peduli berapa banyak infrastruktur yang dibangun di atas proyeknya
• Burnout pemelihara sudah terjadi, dan karena FOSS tampak lebih seperti fenomena generasional semacam celana cutbray atau flower power, kematian pemelihara juga bisa menjadi masalah yang lebih sering muncul
• Menarik penerus untuk menggantikan para pemelihara yang bergantung pada niat baik generasi saat ini sudah sulit
• Dalam struktur di mana pemelihara tidak dibayar sementara “FOSS steward” dan “FOSS manufacturer” yang baru memperoleh pendapatan dari perangkat lunak yang sama, mendapatkan penerus akan menjadi makin mustahil
• Era proyek yang dijalankan Benevolent Dictator for Life akan berakhir, dan proyek berpengaruh diperkirakan akan dipelihara oleh komite yang ditunjuk organisasi pengelola FOSS atau perusahaan

FOSS Masuk ke Dalam Pagar

• Untuk merespons privasi absolut yang memungkinkan kejahatan, dibutuhkan platform komputasi yang teratestasi
• Fondasi kedaulatan digital UE juga membutuhkan entitas pengelola yang memiliki keberadaan hukum, bukan “seseorang” secara pribadi
• Ruang FOSS tempat generasi sebelumnya bebas bereksperimen dapat berubah menjadi lingkungan terkendali yang diatur dan mendapat persetujuan keselamatan sejauh dibayar pembayar pajak, serta dipisahkan dari trafik komersial
• Dari karakteristik FOSS saat ini, yang mungkin tersisa hanyalah kemampuan pengguna membaca source code
• Jika reproducible build meluas, pengguna mungkin juga dapat mengompilasi source sendiri, tetapi kemungkinan dengan syarat tidak dimodifikasi

Model App Store Bertembok

• Jalur dengan resistensi paling kecil untuk memberi akuntabilitas pada FOSS mungkin adalah model app store bertembok
  • Hanya kernel yang terbukti asli secara kriptografis yang menyediakan bukti hukum yang diperlukan untuk verifikasi usia dan akses web
  • Hanya program yang tidak dimodifikasi dan diunduh dari app store yang disetujui organisasi pengelola FOSS yang dijalankan di luar sandbox browser
• Penulis melihat gambaran masa depan seperti ini dari pengalamannya memasang Ubuntu di laptop baru milik seorang teman yang sudah dikenalnya lebih dari 40 tahun
• Ia mengakui kontribusi Ubuntu terhadap adopsi FOSS, tetapi merasa proses instalasinya terlalu mirip dengan masa depan yang ia khawatirkan, dan berharap prediksi ini keliru

[GN⁺]

Komentar Hacker News

• Untuk keputusan yang bisa dibalik, lebih baik biarkan orang yang sukarela menanganinya mengikuti intuisi mereka. Daripada orang-orang bergaji tinggi membakar total biaya tenaga kerja 5 ribu–10 ribu dolar dalam rapat soal hal sepele, lebih murah membiarkan engineer menengah mengimplementasikannya ulang dua atau tiga kali, dan itu juga membantu pertumbuhan mereka
  Antarmuka kode penting bagi semua orang, tetapi implementasi internal terutama penting bagi orang-orang dalam bus factor yang akan bertanggung jawab atas kode itu. Ada kasus ketika penanggung jawab sebenarnya menginginkan pendekatan dengan dampak lanjutan yang kecil, tetapi kelompok malah memilih desain yang lebih mewah dan rapuh

  • Tim yang menikmati perbandingan tanpa akhir akan membuat purwarupa dengan semua pustaka open source dan framework untuk fitur baru, lalu baru memulai implementasi nyata setelah laporan dan diskusi selesai. Lebih baik pilih satu yang terasa benar secara intuitif, dan jika purwarupanya berjalan, langsung jadikan itu implementasi, lalu cari alternatif hanya bila ada alasan yang cukup kuat untuk meninjaunya kembali
    Jika sulit memutuskan karena perbedaan antar kandidat kecil, maka tingkat kepentingannya juga rendah, sampai boleh ditentukan dengan lempar dadu
  • Keadaan menjadi lebih buruk ketika orang-orang hebat mencoba memaksa menyelamatkan solusi yang lama mereka rancang di atas kertas, walau di dunia nyata tidak berjalan, dengan menolak mengakui kesalahan dan terus menambah sunk cost
  • Karena pengalaman praktiknya berhenti 10 tahun lalu dan pernah sekali melihat Kafka menyelesaikan masalah antrean seseorang, sebagian penanggung jawab enterprise architecture tampaknya menjadikan pemasangan semua API, termasuk panggilan sinkron, di atas Kafka sebagai pekerjaan utama mereka
  • Jika desain diserahkan kepada orang yang kurang mampu, versi pertama sekaligus terburuk bisa tertinggal selamanya. Di perusahaan yang akan saya tinggalkan, setiap kali menemukan masalah, semua desain sampai penulisan kode diserahkan penuh kepada orang yang akan menulisnya, dan QA baru menerima hasil jadi 1–2 minggu sebelum rilis sehingga hanya bisa melaporkan bug permukaan
    Akibatnya, codebase dan moral tim runtuh bersama, dan di atas desain yang salah terus menumpuk lebih banyak kesalahan karena kekurangan anggaran dan ketiadaan proses, sehingga kini bahkan sulit diperbaiki. Produk itu masih bertahan tipis-tipis berkat keunikan pasar nisnya dan dukungan konglomerat yang mengakuisisinya, tetapi konglomerat itu juga tidak terlalu bergantung padanya sehingga tidak meluangkan waktu untuk audit menyeluruh
  • Konsep two-way door milik Amazon memang persis ini. Jika kita bisa mengidentifikasi pilihan yang dapat diambil, dibatalkan, lalu diambil lagi dengan biaya relatif murah sebagai sesuatu yang tidak berisiko, kita bisa fokus pada keputusan yang benar-benar berbahaya

• PHK, di antara banyak pekerjaannya, membuat algoritme hash kata sandi MD5crypt($1$…). Ini di-commit pada 1994, lebih awal daripada bcrypt (1999), scrypt (2009), dan SHA2crypt (2016)
  https://svnweb.freebsd.org/base/head/lib/libcrypt/crypt.c?re...
  https://github.com/freebsd/freebsd-src/commit/3b2b7f71deba2a...
  https://phk.freebsd.dk/sagas/md5crypt/
  https://en.wikipedia.org/wiki/Poul-Henning_Kamp

  • Bukan berarti dia membuat MD5 itu sendiri. MD5 dibuat oleh Ron Rivest pada 1991, dan saya pertama kali menemuinya pada 1995–1996 lalu menggunakannya di mana-mana karena terasa seperti alat ajaib untuk pekerjaan web backend
  • Saya ragu kualifikasi apa yang dimiliki PHK terkait topik kali ini

• Saat pertama kali membacanya saya marah, tetapi setelah membacanya beberapa kali lagi kesannya berubah drastis. Ini layak dibaca beberapa kali untuk memahami apa yang sebenarnya ingin disampaikan penulis

  • Dalam enkripsi, pada dasarnya tidak ada jalan tengah untuk berkompromi. Hanya ada dua pilihan: memaksa agar hanya perangkat lunak yang disetujui bisa berjalan di semua perangkat elektronik, atau mengizinkan pesan terenkripsi yang mudah dipakai; setiap pelemahan kecil merusak privasi semua orang, tetapi untuk mencegah penggunaannya oleh penjahat, enkripsi harus dilarang sepenuhnya
    Penulis tampaknya mengira sedikit kompromi bisa menenangkan pengadilan, tetapi salah membaca motivasinya. RUU semacam itu sebenarnya lahir dari lobi perusahaan teknologi besar yang ingin menghindari tanggung jawab dan meraup untung dari penjualan data pengguna: https://github.com/upper-up/meta-lobbying-and-other-findings
  • Penulis menyalahkan FOSS dan apa yang disebut elite teknologi bersama-sama atas tindakan beberapa perusahaan besar, lalu menerima regulasi yang dilobi perusahaan-perusahaan itu seolah sebagai hukuman yang pantas bagi kita. Meski mengakui itu bukan alasan sebenarnya di balik legislasi, ia tetap menyebutnya kejahatan yang perlu demi melindungi anak-anak, dan tampaknya menganggap orang yang mementingkan privasi sangat sedikit atau bahkan fiktif, sehingga sulit diterima
  • Saya tidak suka gaya penulisan yang melempar argumen yang bahkan tidak diyakini sendiri dan diketahui berniat buruk, dengan nada merendah “coba buktikan saya salah”, demi memancing reaksi. Saya tidak akan menyimpannya di kepala lebih lama lagi tanpa membacanya berkali-kali
  • Poul-Henning sudah lama berkecimpung dan dihormati di bidang ini, dan dia juga bukan berasal dari lingkungan budaya Amerika. Mungkin layak mempertimbangkan kemungkinan bahwa ia punya wawasan berguna yang menunjukkan hal-hal yang luput dari budayanya sendiri

• Pembatasan usia tampaknya tidak akan berdampak besar pada FOSS dalam jangka panjang. Teknologi modern, terutama media sosial, memang merugikan anak-anak, jadi regulasinya sendiri masih bisa dipahami
  Jika regulasinya masuk akal, sebagian tanggung jawab tetap ada pada orang tua, tetapi perangkat konsumen seperti smartphone dan laptop bisa diberi pembatasan usia bawaan, dan sebelum verifikasi usia, penggantian sistem operasi atau firmware dapat diblokir. Sasarannya bukan semua perangkat lunak, melainkan hanya produk yang dipra-instal pada perangkat konsumen atau didistribusikan secara komersial, dan setelah verifikasi harus kembali dibuka seperti sekarang

  • Jika tidak ada anak di rumah dan tidak ada orang lain yang memakai perangkat saya, gagasan bahwa saya harus membuktikan bahwa saya orang dewasa untuk membayar tagihan atau melapor pajak dari perangkat dalam kondisi default itu tidak masuk akal
  • Sebagai orang tua dari tiga anak, saya tidak mengerti mengapa seluruh tanggung jawab harus diserahkan pada orang tua. Anak-anak saya sudah beberapa kali mengalami patah tulang saat bermain olahraga kontak di dunia nyata hingga harus ke IGD, tetapi saya tetap mendukung mereka berolahraga
    Saya memasang pembatasan ketat di Family Link, tetapi tidak jelas mengapa dampak screen time terhadap mental harus diperlakukan secara khusus, tidak seperti olahraga yang tetap diizinkan meski patah tulang terus berulang
  • Jika tujuannya hanya melindungi anak-anak dari media sosial, cukup sediakan ponsel untuk anak yang tidak bisa mengaksesnya atau yang sudah dibatasi. Jarang ada orang yang kecanduan media sosial desktop, jadi privasi dan perlindungan bisa dijaga sekaligus
  • Mewajibkan fitur kontrol orang tua terintegrasi di sistem operasi dan browser yang mudah diaktifkan adalah hal yang masuk akal, dan jika mau, browser juga bisa secara sukarela mengirim penanda “pengguna anak” ke situs web
    Namun rancangan undang-undang saat ini memperlakukan balita seperti peretas dan memaksa semua situs web melakukan deanonimisasi pengguna. Arahnya sangat terbalik sampai layak dicurigai sebagai langkah awal untuk melarang anonimitas dan mengendalikan seluruh akses online, dan di Inggris bahkan sudah ada pembahasan soal pelarangan VPN dengan alasan anak-anak menyembunyikan IP
  • Regulasi yang masuk akal harus menargetkan fitur teknologi yang memang berbahaya, bukan membuat orang membuktikan identitas kepada pihak ketiga lalu tetap membiarkan mereka merusak diri dengan fitur yang sama
    Ini sama absurdnya dengan menutup restoran yang higienenya buruk lalu, alih-alih menutupnya, menyuruh perusahaan keamanan swasta memeriksa KTP pelanggan untuk memastikan mereka cukup umur untuk menyetujui keracunan makanan

• Prediksi bahwa “code review berbantuan LLM tidak akan menimbulkan perubahan besar yang destruktif” sudah tidak sesuai dengan kenyataan. Dalam beberapa bulan hingga satu tahun terakhir, perkembangannya begitu cepat sehingga pandangan terhadap LLM tampak sangat usang

  • Penulis bukan mengatakan LLM tidak berguna. Pertanyaan intinya adalah apakah kelayakan ekonomi alat code review LLM akan tetap bertahan setelah gelembung hype menghilang
  • Penulis menjelaskan bahwa berdasarkan pengalaman berulang, kemungkinan ia sudah pernah melihat lebih dari separuh daftar “bug perangkat lunak terburuk yang ditemukan alat LLM”. Sebaliknya, bukti bahwa code review LLM sudah menimbulkan perubahan besar juga belum jelas
  • Argumennya adalah, seperti model checker sebelumnya, LLM akan menemukan bug untuk sementara waktu, tetapi setelah bug-bug semacam itu diperbaiki, semuanya akan kembali ke cara biasa. Itu bukan berarti sama sekali tidak bisa menemukan bug

• Saat bekerja di industri teknologi, saya bertemu perempuan yang waspada terhadap privasi dan kontrol negara, dan di luar industri teknologi pun tidak sedikit perempuan yang khawatir sistem seperti ini akan dipakai untuk menyerang dan mendiskriminasi perempuan. Menggeneralisasi bahwa hampir tidak ada perempuan yang peduli privasi terasa sombong atau seksis
  Ironisnya, penulis justru membingkai masalah ini dari sudut pandang patriarkal sebagai seorang ayah yang mengkhawatirkan putrinya

  • Di kalangan perempuan industri teknologi, memang ada yang menekankan privasi dan rule of law sambil tetap mendukung keselamatan anak dan verifikasi usia yang lebih baik. Karena alasan yang jelas, perempuan juga cenderung lebih banyak terlibat dalam isu seperti penyebaran gambar pribadi tanpa persetujuan (NCII)

• Dalam praktiknya, tugas-tugas individual memang bisa menjadi lebih cepat, tetapi seluruh proses pengembangan tidak otomatis membaik, dan pada akhirnya sangat bergantung pada kemampuan orang yang benar-benar mengerjakannya

• Jika regulator ikut campur, seperti yang diisyaratkan Discord, ekosistem tertutup bisa jadi akan mendominasi. Era jejaring sosial publik berskala besar bisa berakhir dan terpecah menjadi jaringan privat milik individu yang tidak saling berinteraksi
  Kalau melihat sejarah, kita memang bisa sedikit menebak pola perilaku seperti apa yang akan muncul, tetapi tidak ada yang tahu bagaimana dinamika keseluruhannya akan berkembang

  • Ini spekulasi tanpa dasar kuat, tetapi rasanya mengakhiri jejaring sosial publik berskala besar adalah tujuan akhir RUU verifikasi usia. Kalau memang begitu, sulit dimengerti mengapa mereka tidak langsung menargetkan model bisnisnya secara hukum alih-alih memutarnya lewat verifikasi usia

• Bergantung pada usianya, kemungkinan besar anak-anak perempuan sudah menemukan atau mendengar segala macam hal bahkan sebelum menerima ponsel

  • Di sini, “pembicaraan itu” tampaknya bukan pendidikan seks, melainkan peringatan bahwa laki-laki asing dapat mengirim foto alat kelamin yang tidak diminta hanya karena mereka perempuan
  • Sulit membayangkan seperti apa dunia konkret di mana seorang ibu tidak lagi perlu melakukan “pembicaraan itu” dengan putrinya
  • Dunia di mana kita tidak perlu menjelaskan kepada anak tentang orang asing, sifat dasar manusia, dan risiko teknologi yang mereka gunakan tidak akan pernah datang. Mengatakan smartphone memaksa kita melakukan percakapan seperti ini mirip dengan mengatakan kapitalisme memaksa kita mencari makanan, dan sisi buruk manusia sudah ada jauh lebih lama daripada smartphone
    Sikap penulis yang ingin semua pengguna internet menunjukkan identitas ke pemerintah agar ia bisa memberikan komputer yang selalu terhubung beserta mikrofon dan kamera kepada putri remajanya tanpa mempertimbangkan risiko apa pun menunjukkan kemalasan dan rasa berhak, serta penghinaan terhadap kebebasan orang lain

• Dari kalimat “bobot model yang baru menguntungkan jika terjual jutaan kali bisa dengan mudah dimuat dalam perangkat penyimpanan seukuran saku”, saya tidak paham model dan perangkat apa yang dimaksud. Tidak ada orang yang memakai Gemma 4 untuk mendeteksi masalah keamanan siber, dan beberapa kalimat dalam tulisan itu terlalu sulit dibedakan apakah sindiran atau serius, jadi mungkin saya membacanya terlalu serius

  • Maksudnya bukan menjalankan model, melainkan kapasitas penyimpanan bobot. Bahkan model besar seperti Kimi 3 hanya sekitar 1~2TB, jadi bisa dimuat di hard disk seukuran saku

[GN⁺]

Komentar di Lobste.rs

• Berkurangnya anonimitas internet dapat merenggut nyawa orang sungguhan, termasuk anak-anak dari keluarga yang ingin menekan identitas LGBTQ mereka

  • Anak-anak LGBTQ hanyalah puncak gunung es, dan transparansi penuh bisa mendorong berbagai macam orang menuju kematian
    Umat manusia berevolusi dalam lingkungan tempat anonimitas adalah hal yang alami, dan selama ini bergantung pada mekanisme bertahan hidup yang hanya bekerja saat tidak diawasi serta ruang untuk menjalani hidup dengan cara sendiri di balik muka sosial
    Sampai kita belajar cara bertahan atau menghindar dalam lingkungan yang transparan dan memasang rem terhadap transparansi yang berlebihan, kemungkinan besar akan terus ada korban yang sulit diprediksi
  • Terasa mengganggu bahwa penulis berbicara tentang keselamatan perempuan, tetapi justru tidak memberi putrinya kesempatan bersuara dan hanya menjadikan pikirannya sendiri sebagai dasar
    Ia juga mengabaikan fakta bahwa sebagian besar kekerasan seksual terhadap anak dilakukan oleh anggota keluarga

• Berbeda dengan klaim bahwa teknolog perempuan yang mendukung perlindungan privasi mutlak itu langka, kami ada di sini
  Jika Anda tidak memahami bagaimana hak untuk tidak mengungkap identitas di internet membantu perempuan bertahan hidup, mungkin Anda justru lebih dekat dengan tech bro yang Anda kritik

  • Tulisan ini menambah satu alasan lagi untuk tidak menyukai ungkapan tech bro

• Masa depan tidak ditentukan sebelumnya; kita harus menciptakan masa depan yang lebih aman bagi semua orang, termasuk anak-anak, sekaligus menjamin kebebasan sebagai hak asasi manusia dan membuat masyarakat menjaga hak asasi manusia secara kolektif
  Ketegangan antara keselamatan dan kebebasan bukanlah cacat yang harus dihapus, melainkan sifat yang harus tetap dipertahankan

• Sulit memahami dasar diagnosis bahwa FOSS adalah fenomena yang terbatas pada satu generasi, seperti celana cutbray atau budaya hippie, sehingga proyek-proyeknya akan menghilang melampaui sekadar burnout maintainer

  • Ini terbaca sebagai putusnya rantai maintainer, ketika maintainer yang ada berhenti karena tidak menemukan penerus yang tepat, sehingga tidak ada orang yang melanjutkan proyek
  • Tampaknya kecenderungan untuk lebih memilih kesuksesan pribadi daripada kebaikan sosial semakin kuat dibanding sebelumnya
    Membuat aplikasi pasar prediksi berbasis blockchain secara spontan demi mengejar uang besar bisa terlihat lebih menarik daripada memelihara FOSS yang relatif kurang mendapat imbalan dan apresiasi
    Namun, sebagai reaksi terhadap kapitalisme tahap akhir, ada juga kemungkinan pandangan dunia yang lebih peduli kembali memperoleh kekuatan, dan saya sendiri berniat berupaya membantu menciptakan perubahan itu

• Jika perbedaan nilai dan praktik antargenerasi begitu besar, generasi berikutnya mungkin lebih mudah mengganti proyek sepenuhnya daripada mengambil alih peran maintainer lama begitu saja

• Setelah mengamatinya selama sekitar 20 tahun, saya sangat merasa FOSS sedang menghadapi perubahan terbesarnya
  LLM, kepergian maintainer, investasi ventura pada proyek open-source seperti Bun, Deno, dan uv, kurangnya pendanaan bagi proyek nonperusahaan, serta kode yang dihasilkan AI yang dilatih pada kode berlisensi yang mensyaratkan atribusi tetapi tidak mengungkapkannya, semuanya berdampak sekaligus
  Saya berharap EU CADA dan strategi open-source terkait dapat meredakan ketimpangan lama dalam komunitas open-source
  Membiarkan atau memaksa perusahaan asing meminta dan memproses informasi identitas pengguna secara langsung merusak kedaulatan digital
  Jika media sosial mengumpulkan hal-hal yang kita bagikan secara publik, antarmuka percakapan berbasis LLM mengumpulkan bahkan kekhawatiran dan foto yang tidak akan pernah kita ucapkan, sehingga jauh lebih menakutkan
  Dalam beberapa tahun terakhir saya memimpin pekerjaan terkait kedaulatan digital di pekerjaan utama saya, dan saya menaruh harapan cukup besar pada arah yang akan dituju CADA