- Model bahasa besar dan machine learning sedang membentuk ulang struktur sosial, mengubah seluruh kehidupan manusia sebagaimana mobil pernah mengubah kota
- Disinformasi buatan AI dan konten otomatis sudah meresap jauh ke ranah sehari-hari seperti pencarian, email, dan layanan pelanggan
- Diperlukan penghentian penggunaan alat AI dan pemulihan cara berpikir yang berpusat pada manusia, dengan menulis sendiri dan berpikir dalam bahasa manusia
- Individu dapat memperlambat laju penyebaran teknologi lewat tindakan konkret seperti menolak ketergantungan pada AI, membentuk serikat pekerja, dan menuntut regulasi politik
- Pilihan semacam ini dapat membantu meredakan dampak samping hukum dan sosial serta menjaga kedamaian etis, dan jika penilaian itu keliru, kita bisa memulainya lagi
Pilihan setelah era kecerdasan buatan
- Kemajuan large language model (LLM) dan machine learning (ML) dibandingkan dengan perubahan historis yang dibawa mobil terhadap masyarakat secara luas
- Seperti mobil yang secara mendasar mengubah struktur kota, transportasi, lingkungan, dan relasi sosial, kecerdasan buatan juga dinilai berpotensi membentuk ulang kehidupan manusia dan struktur industri
- Fokusnya bukan pada kecepatan atau kenyamanan teknologi, melainkan pada bagaimana bentuk kota dan kehidupan manusia akan berubah
- Disinformasi berbasis AI dan konten otomatis sudah meresap dalam kehidupan sehari-hari
- Di hasil pencarian, layanan pelanggan, email, dan situs web, informasi tidak akurat atau palsu yang dihasilkan LLM terus menyebar
- Peningkatan konsumsi listrik pusat data menyebabkan kenaikan biaya dan beban lingkungan
- Fenomena mendelegasikan pekerjaan pribadi, seni, hingga hubungan antarmanusia kepada AI juga makin meluas
- Penekanan pada perlunya menghentikan penggunaan alat AI
- Bantuan ML melemahkan kemampuan belajar dan daya pikir teoretis manusia, serta membuat kita kehilangan
metismilik James C. Scott (pengetahuan praktis yang terampil) - Kita perlu menulis sendiri, menyelesaikan masalah secara langsung, dan menjaga kemampuan berpikir lewat percakapan dengan sesama manusia
- Disarankan untuk meminimalkan konsumsi hasil buatan AI dan mencari serta membaca konten yang dibuat manusia
- Bantuan ML melemahkan kemampuan belajar dan daya pikir teoretis manusia, serta membuat kita kehilangan
- Dipaparkan pula tindakan praktis yang dapat diambil individu dan masyarakat
- Mendorong orang untuk menulis dengan bahasanya sendiri dan tidak bergantung pada hasil buatan AI
- Mengusulkan perlawanan terhadap pemaksaan adopsi AI di tempat kerja, pembentukan serikat pekerja, dan tuntutan regulasi politik
- Juga diajukan tindakan konkret seperti memperkuat tanggung jawab emisi karbon dan emisi digital perusahaan AI, menolak keringanan pajak untuk pusat data, dan mempertimbangkan resign karena alasan etis
- Perlawanan semacam ini mungkin tidak sepenuhnya menghentikan perkembangan AI, tetapi dapat memperlambat lajunya
- Ini memberi waktu bagi teknologi, industri, dan pemerintah untuk beradaptasi, serta mengurangi dampak samping hukum dan sosial
- Juga memberi ruang untuk merespons masalah seperti materi eksploitasi anak (CSAM) yang dihasilkan AI, penipuan, dan kerentanan keamanan
- Dengan pilihan etis, seseorang dapat menjaga ketenangan hati nurani, dan teks ini ditutup dengan kesimpulan bahwa jika penilaian itu salah, “nanti bisa dibuat lagi”
Godaan yang tetap tersisa
- Kebencian terhadap AI dan godaan praktisnya hadir bersamaan
- Sebagai contoh, disebut kemungkinan memakai pembuatan kode dengan LLM untuk mengendalikan lampu yang berubah warna
- Dalam situasi terbatas dengan risiko keamanan rendah dan hasil yang bisa diverifikasi langsung, kegunaan AI diakui
- Namun tulisan ini ditutup dengan pertanyaan, “memangnya apa bahayanya?”, yang menyingkap batas penggunaan AI dan kontradiksi dalam diri sendiri
Proses penulisan
- Teks ini ditulis manual di Vim, ditata dengan Pandoc, dan melewati dua kali koreksi di atas kertas
- Drafnya dibagikan kepada teman-teman untuk mendapat masukan, dan ditegaskan bahwa semua kesalahan dan pandangan adalah tanggung jawab penulis sendiri
- Ditekankan pula bahwa seluruh proses penulisan dan penyuntingan dilakukan oleh tangan manusia tanpa bantuan AI
1 komentar
Opini Hacker News
Saya merasa kemampuan inti seperti membaca, berpikir, dan menulis kini mulai masuk ke dalam wilayah pengaruh model bahasa besar
Sepanjang sebagian besar sejarah hidup manusia, kemampuan-kemampuan ini adalah keterampilan langka yang memungkinkan mobilitas sosial
Namun jika dilihat secara historis, sebelum tahun 1800 kemampuan seperti ini tidak terlalu berguna bagi petani
Baru setelah Perang Dunia II pekerjaan untuk ‘orang pintar’ mulai melebihi pasokan, dan saat itulah masa keemasan mobilitas sosial terjadi
Sebelumnya, faktor seperti kekuatan fisik, kejujuran, garis keturunan, dan urutan kelahiran lebih penting
Jika kita memasuki zaman ketika AI menggantikan proses berpikir, bisa jadi nilai-nilai seperti itu kembali menjadi pusat
Tidak perlu mengembalikan hak sulung atau diskriminasi gender masa lalu sebagai ‘nilai inti’
Bukan berarti masa ketika ‘kecerdasan’ itu langka adalah sesuatu yang aneh; justru itu hasil perkembangan manusia
Kita bukan tawanan sejarah, dan tidak perlu kembali berada di bawah segelintir penguasa yang memiliki data center atau sistem operasi
Bahkan petani yang cerdas pun bisa menjalankan pertanian yang lebih efisien berkat kemampuan-kemampuan itu
Model dengan triliunan parameter pun bahkan belum bisa membedakan kiri dan kanan
Bukan berarti pemikiran manusia sudah berakhir; sama seperti mesin uap tidak sepenuhnya mengakhiri era kuda, perjalanan masih panjang
Bahkan setelah pertanian dimulai, kemampuan merencanakan dan mengelola sumber daya selalu penting
Tapi aneh jika menganggap tahun 1800-an sebagai keadaan normal umat manusia
Menjelaskan perubahan sosial hanya lewat ada atau tidaknya ‘nerd kaya’ juga terlalu dipaksakan
Tulisan Kyle adalah seri yang benar-benar layak dibaca
Perbandingan antara masuknya mobil dan penyebaran AI sangat berkesan
Hanya karena sebuah teknologi berguna, bukan berarti dampaknya pada masyarakat pasti positif
Saya rasa LLM sebaiknya digunakan hanya di lingkungan terbatas, ketika risikonya bisa dikendalikan
Pada 1920-an, yang dibutuhkan bukan mengatakan “jangan naik mobil”, melainkan sikap untuk memprediksi dampak negatif dan meredakannya lewat kebijakan
Para ahli yang memahami batas teknologi harus turun tangan dengan tanggung jawab
Mirip dengan upaya melarang smartphone di sekolah demi memulihkan interaksi antarmanusia yang spontan
Daripada memblokir teknologi, kita harus mendidik orang
Perkembangan AI juga bisa diterapkan pada simulasi fisika, pelipatan protein, dan lain-lain
Saya merasa teknologi ini disetel sempurna untuk 0,001% elite
Bagi mereka, penurunan populasi dan kontrol sosial justru menguntungkan
Jika tidak ada tanggung jawab terhadap generasi mendatang, kita mungkin hanya perlu memikirkan kelangsungan hidup pribadi, tetapi jika tanggung jawab itu ada maka dibutuhkan revolusi global
Klaim bahwa ia akan menggantikan manusia itu berlebihan, dan otomatisasi justru akan menciptakan pekerjaan baru
Para CEO yang bicara soal menggantikan tenaga kerja hanya sedang mencari alasan untuk membenarkan PHK
Masalahnya, terlalu banyak orang justru menyukai AI
Orang-orang dengan pekerjaan stabil justru harus bergerak lebih dulu
Ini mengingatkan saya pada penutup 『In the Beginning Was the Command Line』 karya Neal Stephenson
Kehidupan disediakan seperti sebuah sistem operasi dengan setelan bawaan, dan orang-orang hanya perlu menekan tombol ‘LIVE’
Jika mengeluh, mereka hanya akan mendengar jawaban, “itu akan membaik pada update berikutnya”
Pada akhirnya, insinyur sungguhan akan berkata begini — “hidup memang pada dasarnya rumit, dan kita harus memilih sendiri”
Ini rangkuman tulisan-tulisan utama dalam seri tersebut
Karena prinsip HN biasanya menurunkan bobot tulisan berseri agar tidak berulang, kali ini dibuat pengecualian
Misalnya, jika itu seri restorasi mesin kuno, tiap bagiannya bisa membahas topik yang sama sekali berbeda
Membuat ramalan pasti tentang masa depan hanyalah cara untuk menenangkan rasa takut
Tidak ada yang tahu ke mana AI akan menuju
Kita tidak tahu apakah hasilnya akan seperti mobil atau mengambil jalur yang sama sekali berbeda
Karena itu, klaim seperti “para engineer Anthropic harus segera mengundurkan diri” adalah penilaian yang tergesa-gesa
Kalau mengingat masa kuliah, memori otot dan kedalaman teoretis yang saya dapat lewat trial and error lah yang membentuk diri saya sekarang
Jika saya mahasiswa saat ini, rasanya akan sulit menolak godaan LLM
Di antara tenggat, ujian, dan waktu bersama teman, pada akhirnya saya pasti akan memakai AI
Krisis iklim, ketimpangan ekonomi, ketidakpercayaan pada institusi, dan kecemasan kerja akibat AI datang bersamaan
Saat putri saya memikirkan jurusan kuliah, saya bahkan tidak bisa memberi saran dengan yakin
Begitu AI mengambil alih, pembelajaran melalui pengalaman itu pun hilang
Harus ada konteks yang dibangun dengan bertahan melewati kesulitan agar jawaban AI pun bisa dipahami dengan benar
Ribuan jam pengalaman manual telah membentuk intuisi terhadap kode
Sulit bagi generasi baru untuk menggantikan itu hanya dengan AI
Muncul insentif di mana orang yang ingin belajar lebih dalam justru kalah dalam persaingan
Struktur sosial jelas akan berubah, tetapi saya merasa secara realistis sulit memilih untuk tidak ikut terlibat
Jika tidak memakai AI kita akan tertinggal, dan HR menuntut pengalaman
Siapa yang mau mengambil pilihan yang merugikan dirinya sendiri
Kita mungkin bisa mencapai AGI hanya dengan satu terobosan teknologi
Misalnya, jika superkonduktor suhu ruang ditemukan, maka chip berkecepatan THz dan baterai yang terisi seketika bisa menjadi mungkin
AI saat ini berada di tahap menjelang ledakan, seperti komputer pada 1980-an
Dalam 6 bulan terakhir saya sendiri berubah menjadi sepenuhnya optimistis
Jika teknologi terus berkembang, tidak akan ada satu pun pekerjaan yang aman tersisa
Kalau chip seperti itu bisa dibuat hanya dengan superkonduktor yang sudah didinginkan, seharusnya dari dulu sudah dilakukan
Penulis mengatakan ia tidak akan menggunakan LLM, tetapi itu karena ia punya kemampuan
Kebanyakan orang tidak bisa begitu
Sudah banyak developer yang bahkan tidak menulis test code, dan bagi mereka AI adalah alat bertahan hidup
Tidak ada waktu untuk mempelajari ulang dasar-dasarnya, sambil tetap harus mengikuti tren LLM
Pada akhirnya akan datang masa ketika ‘penyihir’ lebih banyak daripada engineer sungguhan
Generasi developer baru pun pada akhirnya akan bisa membuat software berkinerja baik demi menang dalam persaingan
Entah coding dengan AI atau tidak, kalau hasilnya bagus maka itulah kemampuan
Umat manusia selalu punya pesimisme apokaliptik, tetapi pada akhirnya kita selalu berhasil beradaptasi