5 poin oleh GN⁺ 5 jam lalu | 1 komentar | Bagikan ke WhatsApp
  • Game komputer pada 1990-an hanya bisa dijalankan jika pengguna sendiri mempelajari syarat-syarat mesin seperti autoexec.bat, boot disk, dan interrupt sound card
  • Komputer mendorong pengguna menjauh lewat hal-hal seperti suara negosiasi modem, jumper drive, atau interrupt yang salah dikonfigurasi, dan proses mengalami resistensi itu menjadi jalur untuk memahami cara kerjanya
  • AI assistant lebih mirip alat yang patuh yang menata ulang dirinya mengikuti kalimat pengguna, alih-alih meminta file konfigurasi atau prasyarat tertentu
  • Kehilangan utamanya bukan kemampuan teknis, melainkan hilangnya keakraban; hubungan yang lahir dari melawan mesin, gagal, lalu mencoba lagi sedang menghilang
  • Ke depan, kita bisa berada dalam kondisi makin bergantung pada mesin daripada sebelumnya, tetapi sekaligus semakin tidak mengenal mesin itu

Pengalaman komputer ketika kesulitan adalah pengetahuan

  • Pada 1990-an, untuk memainkan game komputer, pertama-tama kita perlu sedikit memahami bagaimana komputer bekerja
    • Kita membuka dan membaca file seperti autoexec.bat
    • Kita bahkan kadang membuat boot disk khusus hanya untuk menjalankan satu game tertentu
    • Jika mesin tidak mengizinkan, game tidak bisa dimainkan, dan pengguna harus mempelajari syarat-syarat mesin itu
  • Komputer dan periferal pada masa itu memiliki gesekan yang harus dihadapi langsung oleh pengguna
    • Modem memperdengarkan negosiasi koneksi lewat suara, dan jika sering mendengarnya, kita bahkan bisa menangkap tanda-tanda panggilan akan terputus
    • Pada drive, kita mengatur jumper kecil dengan kuku jari
    • Kita harus tahu interrupt mana yang direspons sound card, dan jika salah, tidak ada yang akan berfungsi
  • Rasa bahwa “kesulitan adalah pengetahuan” menembus seluruh pengalaman komputasi masa itu
    • Pengguna mengenal mesin melalui sesuatu yang mendorong mereka menjauh
    • Kalimat “kita hanya bisa mengenal sesuatu yang bisa mengalahkan kita” merangkum pengalaman ini

AI yang patuh dan keakraban yang menghilang

  • AI assistant masa kini tampak seperti puncak kenyamanan, bekerja dengan cara pengguna mengatakan apa yang diinginkan lalu hasil pun muncul
    • Tidak memaksa kita membaca file konfigurasi
    • Tidak menetapkan prasyarat
    • Ia mengubah dirinya mengikuti kalimat pengguna, dan jika pengguna tidak puas, ia meminta maaf lalu mencoba lagi
  • Mesin yang tidak menantang sulit untuk benar-benar dikenal, dan terutama menjadi objek penggunaan
    • Intinya bukan bahwa kemampuan sedang menghilang
    • Model AI bahkan telah membaca manual yang tidak dibaca manusia, dan bisa menjelaskan bagaimana mesin bekerja
    • Jika dilihat dari kemampuan komputasi atau pengetahuan teknis semata, pengetahuan justru bisa dibilang menjadi lebih aman
  • Yang menghilang adalah keakraban yang lahir dari berbenturan dengan mesin tertentu
    • Pengalaman melawan suatu mesin, gagal, mencoba lagi, lalu akhirnya membuatnya bekerja menjadi semakin jarang
    • Orang-orang menjadi lebih bergantung pada mesin daripada sebelumnya, tetapi sekaligus semakin kurang mengenal mesin itu
  • Generasi berikutnya mungkin tidak akan merasakan ini sebagai kehilangan
    • Hubungan yang belum pernah terjalin tidak mungkin dirindukan
    • Mereka bisa menggunakan alat yang melakukan segalanya dan tidak meminta apa pun seperti menyalakan sakelar lampu
  • Adegan ketika komputer modern langsung memutar rekaman suara koneksi modem dengan sempurna menunjukkan kontras ini
    • Suara modem dari masa lalu tetap tertinggal dalam ingatan
    • Mesin modern yang memutar suara itu tidak bisa dikenali dengan cara yang sama
    • Mesin modern dibuat agar pengguna tidak perlu mengenalnya dengan cara seperti itu, dan itulah hasil yang memang kita inginkan

1 komentar

 
GN⁺ 5 jam lalu
Komentar Hacker News
  • Sayang sekali Pangram menandai tulisan ini sebagai ditulis AI
    https://www.pangram.com/history/c0a9cde2-7a5c-4588-83a3-0269...

    • Saya penulisnya, jadi saya bisa menjamin: saya orang sungguhan dan ini bukan AI
      Memang jelas tulisan AI murni makin banyak, tetapi menurut saya layanan yang “menganalisis” konten seperti ini lebih banyak mudaratnya daripada manfaatnya
    • Sejak awal saya bahkan lebih tidak percaya pada pendeteksi AI seperti ini daripada pada LLM
    • Secara ironis, Genius AI detector yang hebat justru dengan benar memutuskan bahwa ini bukan AI
      https://geniusaidetector.com/
    • Saya mencoba memasukkan beberapa makalah yang saya tulis saat pascasarjana, jauh sebelum LLM atau yang disebut “AI” ada, dan hasilnya ditandai sebagai sekitar 70% AI
    • Menurut saya pendeteksi seperti ini pada dasarnya omong kosong
  • Masalahnya adalah kita tidak tahu bagaimana ini bekerja
    Secara umum, kita memahami lapisan abstraksi yang sudah kita temui sejak lahir, dan sampai batas tertentu juga satu-dua lapisan di bawahnya, tetapi makin ke bawah pemahaman kita makin berkurang
    Saya melihat langsung proses ini seiring bertambahnya usia; dulu ada permintaan besar untuk pengetahuan yang langka, tetapi sekarang sebagian besar pengetahuan langka yang dimiliki anak muda adalah hal-hal yang tidak terlalu saya pedulikan, sementara yang tersisa pada saya hanyalah keterampilan canggih untuk memecahkan masalah yang sebagian besarnya sudah menghilang menjadi abstraksi

    • Menurut saya hal yang terutama berbeda dalam lompatan besar lapisan abstraksi saat ini adalah hilangnya determinisme
      Ini perubahan yang berbeda secara bermakna
    • Saya tidak tahu apakah pernyataan itu benar-benar tepat, dan rasanya terlalu digeneralisasi
      Tidak banyak orang di sini yang tahu proses mengubah pasir menjadi silikon atau punya keahlian memoles lensa kelas atas untuk litografi dengan tangan, tetapi mereka tahu hal-hal itu diperlukan dan memahami gambaran konsep filosofisnya secara kasar
      Bahayanya muncul ketika kita mengotomatisasi pekerjaan infrastruktur tingkat rendah terlalu sepenuhnya, sampai generasi mendatang bahkan tidak memiliki kerangka konseptual tentang bagaimana teknologi yang mereka gunakan dibuat
    • Saya setuju, tetapi abstraksi memungkinkan pengetahuan di dalam sistem diterapkan secara luas
      Dalam sistem yang dihasilkan AI, keunggulan ini hilang begitu saja. Jika tidak sangat berhati-hati, codebase baru tidak akan konsisten, dan paradigma baru diperkenalkan di sana-sini karena di mata LLM dan pemberi prompt “itu berhasil”
      Seolah-olah tidak masalah pola yang sama diulang 37 kali dengan sedikit perbedaan, sehingga sekarang portabilitas pengetahuan menurun
      Dulu, ketika melihat kode dan bertanya “kenapa?”, biasanya ada jawaban berdasarkan pengalaman atau eksperimen masa lalu seperti “kami mencoba x, y, z dan tidak berhasil”. Namun LLM memasukkan hal yang rumit hanya karena itu melakukan hal yang diminta
      Membaca string dari sumber yang valid byte demi byte sampai bertemu \0 mungkin memang berjalan, tetapi jika dokumentasi API mengatakan X, kita perlu mundur sejenak dan memikirkan mengapa kita sedang memeriksa ulang bahwa itu benar
    • Menurut saya nostalgia semacam ini tidak banyak membantu
      Saya juga belum terlalu tua, tetapi saya mulai dengan C++, mempelajari manajemen memori manual dan desain bahasa pemrograman, serta mengambil kelas assembly yang saat itu pun sudah cukup esoteris
      Saya tidak mahir assembly dan tidak berniat menjadi begitu, tetapi memahami bagaimana kode tingkat tinggi dikompilasi menjadi instruksi assembly/bahasa mesin tingkat rendah sangat berharga untuk mendapatkan intuisi dalam mengutak-atik performa. Kita juga jadi tahu seberapa besar dampak hal yang “tampak bodoh” seperti loop unrolling dalam mengurangi jumlah instruksi
      Seperti dikatakan Bernard dari Newton/Chartres, kita berdiri di atas bahu raksasa dan melihat lebih jauh, tetapi kehilangan detail tanah di bawah kaki. Manusia modern sulit lagi memiliki keahlian luas yang didapat dari membangun komputer sendiri dengan transistor, tetapi kita harus mempelajarinya secara akademis dan tetap memperoleh potongan pengetahuan yang penting
      Jika pakar di bidang yang sangat terspesialisasi seperti ini memiliki kemampuan komunikasi untuk berbagi hal-hal yang relevan tanpa membanjiri orang lain dengan detail, itu akan sangat berguna
    • Pernyataan “kita memahami lapisan abstraksi yang sudah kita temui sejak lahir” pada umumnya benar dalam arti bahwa sebagian besar pekerjaan pada satu era menangani tingkat abstraksi yang mirip, sehingga orang-orang bertahan di tingkat itu
      Namun saya melihat ini sebagai lahir dengan utang teknis, dan saya menganggap memahami apa yang dibangun generasi sebelumnya serta dari arah mana saya sebaiknya bekerja sebagai kewajiban seorang engineer
  • Bukan hal kecil untuk berhasil mengungkapkan bahwa kita kehilangan sesuatu hampir secepat kita mendapatkannya
    Di balik nuansa nostalgia tulisan itu ada hilangnya kendali dan kecemasan yang makin besar setiap hari
    Cukup mengejutkan melihat anak-anak yang sangat muda hanya belajar antarmuka sentuh dan aplikasi sehingga tidak bisa menggunakan komputer dalam arti sempit. Mereka berada di lingkungan yang kesulitannya telah diratakan lewat ribuan iterasi demi memenuhi penyebut bersama terendah pasar, dengan konten dan antarmuka yang dikurasi
    Meski begitu, menurut saya orang-orang yang paling banyak membuat saat ini, serta membuat sesuatu yang baik, berfungsi, dan dapat dipelihara, adalah mereka yang memperoleh alat baru tetapi tidak kehilangan pengetahuan tentang medium yang kita gunakan

    • Tren finansialisasi segala hal merusak banyak hal
      Di ranah komputer dan internet ada nostalgia hangat tentang mengutak-atik ini-itu, merakit PC sendiri, memformat drive C karena malware, dan mencari “snippet” untuk menghias forum atau halaman Myspace
      Namun pada akhirnya insentif uang yang mendominasi. Mengutak-atik demi kesenangan dan pengetahuan tidak menguntungkan, dan ketika orang-orang yang mengoptimalkan uang dan modal melahap semua uang dan modal, sikap masing-masing orang terhadap uang dan modal menjadi makin kurang penting
      Hal yang paling mengkhawatirkan dari apa yang terjadi sekarang adalah kesenjangan kekayaan, dan “pasca-kebenaran” yang sangat terkait dengannya menyusul. Orang-orang bersedia memercayai apa yang ingin mereka percayai demi tujuan komersial atau ideologis, dan ketika hidup mereka tidak berjalan baik, mereka mudah membenci serta menyalahkan tetangga
    • Rata-rata kita memang kehilangan kendali, tetapi individu bisa memilih apakah akan kehilangan kendali atau tidak
      Bahasa pemrograman, UNIX, dan debugger tidak akan hilang. Komputasi jauh lebih luas daripada apa yang diminta atasan dan apa yang sedang tren di forum teknologi
      Justru skena indie/handmade tampaknya akan tumbuh besar atau booming, setidaknya sebagai hobi. Fakta bahwa seseorang membuat sendiri sesuatu dengan keringat dan jerih payah, padahal bisa saja disuruh ke mesin, dapat mendatangkan pujian dan kesenangan yang lebih besar
    • Kita juga bisa terus berkata, “Mengejutkan bahwa anak-anak yang sangat muda hanya belajar apa yang disebut pengoperasian mekanis mobil, sehingga tidak bisa menggunakan kendaraan dalam arti sempit”
  • Selama beberapa dekade, teknologi komputer memiliki sweet spot tempat para penghobi bisa bereksperimen tanpa terbebani biaya, dan mendorong batas-batas komputasi awal
    Seperti radiasi adaptif, banyak ceruk muncul dan cepat terisi, dan kini ekosistem komputasi telah berevolusi sampai bergerak pada tingkat abstraksi tertinggi yang mungkin bagi kita, yang disebut “bahasa alami”, bukan lagi abstraksi tingkat rendah yang dulu menjadi satu-satunya sarana interaksi
    “Kesulitannya adalah pengetahuan. Kita mengenal mesin sebagaimana kita mengenal sesuatu yang memberi perlawanan. Perlawanan itu sendiri adalah medianya. Kita hanya mengenal apa yang bisa hilang.”
    Kita yang melewati era itu membentuk pengetahuan para engineer yang menyentuh langsung, dan lewat pengalaman serta praktik kita belajar bagaimana lapisan abstraksi berkembang di garis depan. Sekarang banyak orang masuk ke dunia yang dipenuhi jawaban mudah, tetapi apakah jawaban itu benar adalah persoalan lain, dan mereka harus menakar sendiri seberapa penting akurasi bagi mereka

    • Ini jelas benar, dan kita perlu sesuatu yang mirip lagi
      Untuk mengajari anak-anak Python, saya memakai gim bernama “The Farmer Was Replaced” sebagai titik awal, tetapi makin dipikir, makin terasa bahwa kita butuh paket hardware seperti Apple //e dulu, yang memberi ruang cukup untuk membuat kesalahan sendiri
      Pada masa itu, bahkan assembler pun relatif mudah dipelajari di sistem seperti itu, dan rasanya ada nilai dalam memutar balik waktu ke titik tersebut, memisahkan pengalaman itu, lalu melihat apa yang akan dibuat oleh generasi baru anak-anak
  • Saya termasuk generasi tua yang urutan suara negosiasi modem 2400 baud-nya terukir di neuron
    Untuk sementara saya mencoba menyiapkan koneksi WireGuard di antara sistem-sistem saya, tetapi karena sibuk dengan pekerjaan dan keluarga, sekarang saya serahkan ke Tailscale
    Saya bisa saja mengaturnya sendiri di beberapa host, termasuk jalur jaringan, aturan firewall, pasangan kunci, unit systemd, dan sebagainya, tetapi alternatif yang “murah dan mudah” sudah ada di depan mata dan berfungsi. Kecuali saat ia memaksa autentikasi ulang
    Dengan agen LLM, saya bisa dengan mudah menganalisis jaringan yang ada dan membuat skrip yang disesuaikan dengan pekerjaan yang saya inginkan. Yang perlu saya lakukan hanya meninjau masalah keamanan dan semacamnya, dan karena topologi jaringan saya, terlihat 3–4 penyesuaian spesifik yang diperlukan pada aturan routing
    Saya mungkin juga bisa mencapainya dengan membaca beberapa manual sendiri, mengutak-atik selama satu-dua jam, lalu mengulang perbaikan skrip, tetapi ketersediaan dan efektivitas agen itu terlalu menggoda
    Saya tidak yakin apa artinya ini bagi kemampuan teknis saya, atau apakah itu masih penting. Meski begitu, selama otak saya masih bekerja dengan baik, saya cukup yakin saya masih bisa membaca manual dan mencari tahu hal seperti ini sendiri. Dengan laju seperti ini, saya ragu apakah anak-anak saya akan memiliki kemampuan yang sama, dan saya juga tidak tahu seberapa penting itu
    Bagaimanapun, saya membantu anak-anak memecahkan masalah dengan “cara lama” tanpa terlalu bergantung pada LLM. Saya cukup yakin bahwa seberapa pun cakapnya AI nanti, jika mereka tidak mengembangkan kemampuan memecahkan masalah, itu hanya akan merugikan mereka dalam hidup

    • Semua orang mengeluh bahwa AI merebut perhatian dan pemahaman kita, tetapi LLM juga bisa dengan mudah dipakai sebagai alat untuk memahami lebih dalam
      Hanya saja sebagian besar jalur default-nya adalah “hei rongsokan, kerjakan ini”, bukan “halo rongsokan, jelaskan bagaimana itu bekerja”
      Saya juga sedikit mencoba cara yang terakhir, dan khususnya bagi orang yang belajar sendiri, nilainya sebagai alat pendidikan sangat diremehkan
    • Beralih dari 300 baud ke 2400 baud terasa seperti sihir
  • Saya tidak yakin pengguna komputer tahun 1990-an yang tahu cara mengedit autoexec.bat atau memasukkan floppy boot bisa dianggap “tahu bagaimana komputer bekerja” dalam arti yang bermakna
    Sekarang tumpukan abstraksi memang lebih dalam, dan tampaknya akan terus makin dalam, tetapi pada 1990-an pun abstraksinya sudah cukup dalam
    Menurut saya kekeliruan umum di sini adalah kekeliruan kelompok populasi. Para nerd komputer menembus abstraksi demi kesenangan, dan itu tidak akan berhenti, sama seperti browser web tidak melenyapkan para penulis kernel
    Justru kode tingkat rendah sekarang lebih banyak digunakan daripada dulu. Sebab akses ke pengetahuan yang dibutuhkan tidak lagi seketat dulu dijaga gerbangnya

    • Hal ini seharusnya lebih sering dikatakan
      Kelompok yang paling lantang di HN sekarang bukan para nerd, melainkan lebih mirip founder dan penipu yang sedang mencari pijakan
      Mereka terus melebih-lebihkan pengaruh “AI”, dan kini membuat para pengikutnya mengingat momen paling nostalgik mereka, lalu berasumsi bahwa pada masa itu semua orang meraba-raba dan kebingungan seperti mereka, sambil mengabaikan sisa sejarah
  • Saya tidak setuju dengan pernyataan “Pengetahuan tidak berbahaya. Bahkan sebenarnya lebih aman daripada sebelumnya. Model AI telah membaca semua manual yang tidak dibaca manusia”
    Jika saat diminta manual sebuah model memuntahkan begitu saja manual dari data latihnya, itu adalah overfitting. Ia akan memuntahkan sesuatu yang tampak seperti manual sungguhan, atau sesuatu yang sesuai dengan pertanyaan tentang manual
    Ketika menemukan kesalahan, kadang kita harus membantahnya, tetapi untuk menemukan kesalahan kita harus sudah tahu apa yang harus dicari dan apa yang diharapkan. Atau kita harus mengabaikan output-nya dan hanya mengambil tautannya, tetapi tautan itu pun bisa usang atau dikarang. Kita tidak akan tahu sebelum memverifikasinya
    Dan ini terdegradasi seiring kompresi dan waktu
    Tidak ada jalan pintas. Saya setuju bahwa proses mencoba sendiri, frustrasi, dan berusaha memahami memberi imbalan yang sangat besar. Bahkan di era “semuanya cepat, sekarang juga”, proses itu tetap bernilai dan sangat diremehkan

  • “Waktu kecil, saya memperbaiki komputer orang tua saya; setelah dewasa, saya memperbaiki komputer anak-anak saya. Apakah kita satu-satunya generasi yang tahu cara kerja komputer?”
    https://x.com/ryancbriggs/status/1847391612428517844
    https://xcancel.com/ryancbriggs/status/1847391612428517844

    • Tidak. Dia hanya satu-satunya orang di keluarganya yang tahu cara kerja komputer.
      Ada banyak orang dari generasi yang lebih tua maupun yang lebih muda yang paham komputer; hanya saja mereka bukan orang tua atau anak-anaknya. Di antara orang-orang yang menulis assembly paling mengesankan saat ini, ada juga yang di bawah 20 tahun. Semuanya akan baik-baik saja.
    • Kalau dilihat dari sudut lain, ayah saya dari kelas pekerja yang tidak berpendidikan tinggi dulu dengan senang hati belajar sendiri sedikit pemrograman dari majalah komputer era 80–90-an, dan entah bagaimana bisa memakai command prompt.
      Saya mengambil jurusan ilmu komputer dan mengajar kelas sarjana, dan sejak sekitar 10 tahun lalu saya sudah melihat mahasiswa ilmu komputer yang diberi USB Linux bootable tetapi tidak bisa menyiapkan sistemnya.
      Masalahnya bukan sekadar kurang pengetahuan, melainkan ketidakberdayaan total: kalau dalam 2 menit tidak berhasil, mereka mengirim email “ini tidak bisa, saya harus bagaimana?” Masalah terbesar dari ketergantungan pada hal-hal seperti ChatGPT juga ada di sisi itu.
      Generasi muda tampaknya berada di posisi yang lebih buruk. Mereka bukan hanya tidak tahu cara kerja komputer, tetapi kadang bahkan tidak punya sikap dasar pemecahan masalah DIY seperti yang dimiliki generasi orang tua kita.
  • Semua contoh tentang mengatur jumper dengan tangan, menangani interrupt sound card, dan mengutak-atik autoexec.bat terasa sangat relate.
    Pada saat yang sama, saya juga memakai LLM dan agent dengan baik. Tulisan ini menangkap dengan tepat apa yang telah hilang, dan mirip dengan hal-hal di bidang lain yang sudah lama hilang atau memang sejak awal tidak ada—misalnya perbedaan antara mobil modern dan Model T.
    Saya tidak ingin kembali ke masa itu, tetapi rasa kehilangan tetap bisa terasa. Tulisannya juga indah.

  • Komunitas modding masih hidup.
    Anak-anak masih meng-host server Minecraft, atau bermain-main dengan sesuatu yang sedang tren sekarang. Komputer DIY 8-bit juga makin populer.
    Menurut saya, fakta bahwa sesuatu sudah sangat mainstream tidak berarti semuanya jadi diencerkan untuk semua orang. Selalu ada orang-orang dengan tingkat rasa ingin tahu dan gairah yang berbeda.

    • Saya rasa rasa ingin tahu manusia tidak bisa dipadamkan.
      Insentifnya bisa dikurangi, tetapi tidak bisa dihilangkan. Nerd akan selalu menjadi nerd.