LLM Inevitabilisme (keniscayaan/tidak terelakkan)
(tomrenner.com)- Inevitabilisme adalah framing yang kuat yang menentukan arah wacana dengan cara menganggap masa depan tertentu pasti akan datang
- Tokoh-tokoh arus utama mengenai masa depan AI dan LLM mengklaim bahwa “masa depan seperti ini tidak terelakkan”, lalu memberi tekanan agar orang beradaptasi dengan itu
- Framing semacam ini memperlakukan perbedaan pendapat atau perlawanan sebagai sesuatu yang ‘tidak realistis’, dan pada praktiknya disertai efek psikologis yang merampas pilihan
- Penulis mempertanyakan apakah LLM atau AI benar-benar masa depan yang kita inginkan, dan menekankan bahwa kita harus menentukan sendiri masa depan seperti apa yang kita kehendaki dan teknologi mana yang akan kita pilih
- Ia mendorong agar kita tidak terseret oleh bingkai keniscayaan, melainkan secara aktif memikirkan dan mewujudkan masa depan yang diinginkan masing-masing
Kekuatan framing keniscayaan
- Saat berdebat dengan orang yang sangat pandai berdiskusi, kita bisa terus terseret ke poin-poin tak terduga
- Kita hanya sibuk membela bagian lemah dari argumen sendiri, sementara inti persoalan tenggelam dalam arus pembicaraan
- Pada akhirnya kita kehilangan alur dan kepercayaan diri, lalu tersudut dalam perdebatan
- Seorang teman yang pernah menjuarai kompetisi debat internasional saat kuliah menekankan strategi menetapkan frame terlebih dahulu
- Artinya, menetapkan kerangka percakapan dengan istilah dan logika kita sendiri. Jika menguasai frame, hasil perdebatan praktis sudah ditentukan
Surveillance Capitalism dan ‘inevitabilisme’
- Saat membaca 『The Age of Surveillance Capitalism』 karya Shoshana Zuboff, penulis mengenal konsep Inevitabilism
- Memberi nama pada sebuah konsep saja sudah memberi kekuatan besar untuk menata perdebatan dan membagikan kesadaran atas masalahnya
- Inevitabilisme adalah cara berpikir yang menyatakan bahwa masa depan tertentu pasti akan terwujud, lalu membuat seolah-olah menyiapkan respons adalah satu-satunya pilihan rasional
- Cara ini mendorong opini yang berlawanan sebagai ‘orang yang mengabaikan realitas’, dan membuat hanya diskusi yang menerima frame itu yang dianggap sah
Contoh nyata framing keniscayaan AI
> “Kita akan memasuki dunia yang hidup berdampingan dengan AI” — Mark Zuckerberg
> “AI adalah listrik baru” — Andrew Ng
> “Bukan AI yang akan menggantikan manusia, melainkan orang yang menggunakan AI akan menggantikan orang yang tidak menggunakannya” — Ginni Rometty
- Pernyataan seperti ini membentuk suasana bahwa era AI adalah masa depan yang sudah diputuskan
- Fokus diskusi bergeser dari “Apakah ini masa depan yang kita inginkan?” menjadi “Bagaimana kita beradaptasi dengan masa depan yang tak terelakkan?”
- Ada juga nuansa ancaman, yang mendorong psikologi bahwa “menolak akan merugikan” atau bahwa menyatakan keberatan adalah sesuatu yang “bodoh”
Pilihan dan agensi
> "Saya tidak yakin bahwa LLM benar-benar bentuk masa depan, atau bahwa masa depan itu adalah sesuatu yang saya inginkan"
- Namun masing-masing dari kita punya hak untuk memilih rupa masa depan dan cara menggunakan teknologi
- Kita harus berhati-hati agar frame inevitabilisme tidak merampas pilihan kita
- Kita perlu memikirkan masa depan yang diinginkan masing-masing, dan bersedia memperjuangkannya
Kesimpulan
- Saat memandang teknologi dan masa depan, jangan pasif terseret oleh frame bahwa semuanya tak terelakkan
- Diperlukan sikap untuk secara aktif membayangkan dan mewujudkan masa depan yang lebih baik menurut pandangan masing-masing
1 komentar
Opini Hacker News
Saya rasa dua hal ini bisa sama-sama benar.
Seperti pesawat penumpang supersonik, banyak “teknologi yang tampak tak terelakkan” akhirnya lenyap jika tidak punya keuntungan bisnis yang memadai, atau bertahan hanya pada kasus tertentu seperti microwave. Jika tidak ada model yang cukup menguntungkan, LLM tampaknya akan menetap pada posisi yang kurang istimewa dan kurang mengganggu dibanding sekarang. Upaya memaksakan LLM ke segala hal sejauh ini juga tidak mendapat penilaian yang terlalu baik
Saya rasa analogi pesawat penumpang supersonik ini juga berlaku untuk AI, atau bahkan komputer dan internet secara keseluruhan.
Dulu teknologi pesawat penumpang supersonik terasa menakjubkan dan seolah pasti akan meluas, tetapi di baliknya tersembunyi masalah yang tak bisa diselesaikan dengan teknologi saat itu serta ketiadaan profitabilitas.
Saya merasa komputer dan internet juga bisa mengikuti alur yang mirip dengan industri kedirgantaraan. Mungkin kita sebenarnya sudah hampir mencapai puncak teknologi.
Jika Anda naik mesin waktu ke tahun 1970-an dan mengatakan bahwa 50 tahun kemudian, pada 2025, pesawat penumpang supersonik telah hilang dan industri penerbangan tetap sama saja hanya dalam bentuk yang lebih menjengkelkan, tidak akan ada yang percaya.
Jadi mungkin pada 2075 kita akan menonton dokumenter tentang LLM sambil mengenang mengapa teknologi yang tampak begitu menjanjikan itu nyaris menghilang
Saya sangat tidak setuju dengan klaim bahwa “kebanyakan orang sepakat hasil LLM itu klise dan tidak enak dikonsumsi.” Faktanya, orang sangat menyukai hasil LLM sehingga ChatGPT menjadi aplikasi dengan pertumbuhan tercepat sepanjang masa. Aplikasi AI seperti Perplexity juga mulai mengancam dominasi pencarian Google.
Tentu publik tidak akan sengaja membeli novel atau kumpulan puisi yang ditulis ChatGPT, tetapi itu tidak berarti hasilnya sulit dibaca atau hanya memicu penolakan. Fakta bahwa ia mampu menghasilkan ringkasan dan penjelasan yang jelas serta mudah dibaca juga sulit dibantah
Saya bingung dengan argumen kedua Anda. Saya tidak yakin benar bahwa perusahaan LLM tidak bisa menghasilkan uang dari model mereka saat ini. OpenAI mencatat ARR tahunan $10 miliar dan 100 juta MAU. Memang saat ini masih merugi, tetapi itu adalah pengorbanan untuk meningkatkan model. Jika hari ini juga mereka berhenti meningkatkan model dan fokus pada optimalisasi biaya operasional serta monetisasi basis pengguna yang sangat besar, saya ragu kita bisa bilang mereka tidak punya model bisnis yang sukses. Orang sudah memakai alat ini setiap hari. Ini tak terelakkan
Inti argumen tulisan ini pada dasarnya sama dengan pandangan “AI sebagai teknologi biasa”
AI as Normal Technology
Tautan diskusi terkait
Pada bagian “banyak teknologi yang dianggap tak terelakkan akhirnya mundur karena kurangnya profitabilitas bisnis”, saya teringat bahwa lebih dari 120 kanal TV kabel mungkin juga tampak seperti ide bagus saat diluncurkan, tetapi pada kenyataannya, seperti LLM, mayoritas kontennya tidak diminati siapa pun
Salah satu akibat negatif zaman sekuler modern adalah kecenderungan orang-orang yang sangat cerdas dan reflektif untuk dengan mudah mengabaikan ribuan tahun pemikiran filsafat dan agama sebagai sesuatu yang kuno atau tak lagi berguna. (Sebagai catatan, saya sangat merekomendasikan buku <A Secular Age>.)
Sikap seperti ini membuat orang gagal mengenali pola psikologis yang terus berulang tentang dunia dan masa depan, dan karena itu juga gagal menyesuaikan posisinya berdasarkan pengenalan tersebut
Misalnya, inevitabilisme AI tidak jauh berbeda dari predestinasi pada masa Reformasi. Gagasan bahwa sejarah berjalan di jalur yang telah ditentukan sebelumnya secara psikologis sama saja; hanya subjeknya berganti dari Tuhan menjadi teknologi. Ini adalah struktur psikologis yang menyerahkan kebebasan dan tanggung jawab kepada kekuatan yang kabur namun kuat, sekarang berupa teknologi
Saya skeptis terhadap klaim bahwa AGI akan segera menjadi arus utama, tetapi sebagai orang yang banyak membaca buku teologi saat tumbuh besar, saya tidak menganggap esai-esai populer seperti LessWrong itu religius atau tulisan orang yang kurang banyak membaca. Pandangan “mereka punya tuhan baru!” adalah pengaburan argumen yang umum. Tentu itu mungkin analogi yang tepat untuk sebagian inevitabilis AGI, tetapi menurut saya tidak ada gunanya hanya menyoroti argumen yang paling lemah
Saya langsung membayangkan Techno Calvinists melawan Luddite Reformists
Saya kira kecenderungan ini muncul dari ketiadaan narasi besar atau ideologi. Ada banyak orang teknologi yang cerdas, tidak tertarik pada pemikiran filsafat/agama, tetapi ingin menciptakan sesuatu yang baru
Mereka terus mengejar semakin banyak uang, lalu sebagian akhirnya menyadari bahwa mengejar uang itu sendiri hampa. Namun mereka mengira diri mereka berada di atas masalah universal umat manusia ini
Dalam distorsi seperti ini, mereka mendaur ulang seni yang sudah ada, membuat aplikasi yang makin lama makin buruk, dan mengabaikan kegembiraan orisinal dari penciptaan demi perbaikan manusia, sambil hanya berfokus pada perburuan kekayaan
LLM dan AI memang seperti mengeluarkan jin dari botol, tetapi pada kenyataannya tampaknya akan lebih dekat dengan perspektif linear atau mesin cetak ketimbang listrik. Dalam budaya hari ini, seolah Leonardo da Vinci menghabiskan seluruh hidupnya hanya untuk menjual tutorial perspektif linear
Ini bukan fenomena yang sepenuhnya baru; hanya saja para penganut predestinasi kini punya tambahan “objek ketakutan” baru untuk menopang argumen mereka
Tujuan saya hanya menunjukkan gejala ini. Orang menolak predestinasi yang berasal dari fisika atau agama, tetapi tetap cenderung terpukau oleh klaim bahwa “AI itu tak terelakkan”
Poin utama artikel ini adalah bahwa “inevitabilisme” hanyalah strategi retoris untuk mengarahkan percakapan agar menguntungkan diri sendiri, alat untuk menganggap kritik sebagai “penyangkalan realitas” dan menyingkirkannya dari pembahasan. Perbandingan dengan ideologi Reformasi menurut saya tidak terlalu berarti
Selain itu, ada ironi dalam analogi “predestinasi sekuler” yang diajukan di sini.
Predestinasi Protestan berbeda dari penghindaran kebebasan dan tanggung jawab. Inti predestinasi adalah bahwa rahmat Tuhan itu “diterima”, bukan “diperoleh”, dan ini bukan alasan untuk bersikap pasif. Justru orang terdorong berusaha meneguhkan bukti keselamatan melalui perbuatan baiknya sendiri.
Ini terkait dengan “kerajinan tanpa mengharapkan imbalan langsung”, yang dianalisis juga sebagai salah satu penggerak kapitalisme awal dalam karya Max Weber
Karena itu, predestinasi dan “inevitabilisme teknologi” sebenarnya adalah konsep yang sangat berbeda
Diskusi serupa juga bisa ditemukan dalam historisisme, misalnya “hukum keniscayaan sejarah” ala Hegel
Saya punya firasat bahwa pada generasi anak atau cucu kita, Amerika akan menjadi masyarakat di mana ekonomi jasa dan informasi menyerahkan seluruh manufaktur ke luar negeri, sementara kemampuan teknologi yang luar biasa terkonsentrasi pada segelintir orang
Tak ada siapa pun yang mewakili kepentingan publik yang benar-benar memahami persoalan teknologi, dan orang-orang juga kehilangan pengetahuan untuk menyusun agenda mereka sendiri atau mengkritik para pemegang kuasa
Orang-orang akan memegang kristal, bergantung pada astrologi, daya pikir kritis akan merosot, dan batas antara rasa nyaman dan kebenaran pun kabur, sehingga mereka nyaris tak sadar saat meluncur ke takhayul dan kegelapan
Saya rasa kutipan ini tidak terlalu cocok di sini, tetapi bagi yang penasaran dengan sumbernya, ini diambil dari The Demon-Haunted World
Saat membaca kutipan ini, saya bahkan seperti bisa mendengar suaranya
Ada gaya tutur yang begitu khas sehingga tak pernah terasa klise, tak peduli berapa banyak orang meniru dan mencontohnya
Jika pada 2009 Anda bilang dominasi smartphone itu tak terelakkan, itu karena Anda sudah mencoba smartphone dan merasakan sendiri kekuatannya, bukan karena Anda punya niat tertentu untuk memelintir kehendak bebas
Pada 2025, jika Anda benar-benar memakai AI untuk melakukan pekerjaan nyata, Anda tidak akan bisa menyangkal bahwa adopsi besar-besaran teknologi ini tak bisa dihindari. AI datang lebih cepat dan lebih kuat daripada apa pun sebelumnya dalam sejarah. Kita tidak bisa berpaling darinya hanya karena takut
Orang-orang yang pada 1980-an bilang AI itu tak terelakkan lalu berinvestasi, atau yang 10 tahun lalu yakin VR akan menjadi arus utama, hasilnya bisa kita lihat sekarang. Zuck masih membakar miliaran dolar, dan Apple juga benar-benar meleset dalam memprediksi permintaan.
AR mungkin bisa menjadi penyelamat VR, tetapi masuk ke pasar konsumen masih jauh, dan sebagian besar teknologi yang dibangun untuk VR juga tidak akan berkaitan langsung dengan AR
Mitos Robo-taxi swakemudi Tesla juga sudah berumur 10 tahun, tetapi sama sekali belum ada Tesla tanpa pemilik yang benar-benar menghasilkan uang
Kalau dipikir-pikir, bodoh jika hanya memakai contoh teknologi yang memang berhasil. Ada sangat banyak teknologi yang gagal, juga banyak gelembung investasi dan industri
Pola argumen ini persis strategi retoris yang disebut dalam tulisan itu
Coba ingat masa ketika orang ribut soal moda transportasi yang katanya sangat revolusioner dan tak terelakkan. Ada hype, rapat rahasia, ekspektasi luar biasa… pada akhirnya hasilnya adalah Segway
Ini terasa seperti nubuat yang terpenuhi sendiri. Perusahaan big tech memaksakan ‘AI’ ke semua produk lalu berkata, “Lihat, ini dipakai begitu luas, jadi tak terelakkan!”
Saya juga berpikir AI itu tak terelakkan, tetapi saat ini groupthink-nya terlalu parah, sampai semua hal diekspresikan sebagai UI agen berbasis gelembung percakapan
Saya justru menantikan saat semua orang melewati fase ini dan menemukan hal berikutnya
Jika pada 1950 ada orang yang berkata smartphone akan menjadi arus utama, kebanyakan orang akan mudah mempercayainya. Masa depan seperti itu sering muncul di novel atau film fiksi ilmiah
Tetapi soal media sosial, reaksinya akan berbeda. Ada yang menganggapnya keren, ada juga yang melihatnya sebagai distopia
Faktanya, ketiga hal ini—smartphone, media sosial, dan AI—sudah memicu imajinasi orang sejak sebelum 1950-an
Dan sebenarnya AI lebih mirip media sosial dalam imajinasi itu ketimbang perangkat komunikasi canggih
Pada 1950-an, teknologi nuklir juga dianggap tak terelakkan. Bahkan peralatan makan dari kaca uranium juga dijual, dan mungkin sampai sekarang masih bercahaya di suatu rak rumah seseorang, atau mungkin sudah pecah
Mungkin saja “musim dingin LLM” akan datang
Itu akan terjadi ketika orang menyadari bahwa LLM sebenarnya tidak bisa “melakukan” sesuatu secara nyata
Akan muncul gerakan perusahaan untuk melemparkan tanggung jawab atas kesalahan LLM kepada konsumen
Kita butuh sistem yang jujur mengeluarkan respons seperti “saya tidak tahu” atau “saya tidak bisa melakukan tugas ini”
Sudah ada juga laporan bahwa penggunaan LLM justru memberi nilai negatif bagi para programmer
Terlalu banyak waktu habis untuk membereskan jejak yang ditinggalkan LLM
Mengalihkan tanggung jawab kesalahan LLM ke konsumen bukan hanya dilakukan perusahaan
Pengguna fanatik forum ini (atau mungkin bahkan buzzer siber) juga menunjukkan sikap yang sama
Mereka mengklaim bahwa untuk mengekstrak nilai dari LLM, dibutuhkan tingkat pengetahuan tertentu dan kemampuan “prompt engineering” (yang sekarang bahkan diberi nama “context engineering”)
Pada akhirnya, seolah satu-satunya pembeda antara orang yang merasa alat ini membuang waktu dan orang yang merasa produktivitasnya melonjak besar hanyalah tingkat kemampuan penggunanya
Narasi seperti ini meresap ke blog, forum, bahkan ke salah tafsir hasil riset METR terbaru
Tentu, agar bisa memanfaatkan alat apa pun sepenuhnya, dibutuhkan tingkat keterampilan tertentu
Tetapi menggeneralisasi bahwa siapa pun yang tidak mendapat manfaat dari LLM pasti karena tidak kompeten itu menghina
LLM bukan teknologi alien yang membutuhkan keahlian rekayasa khusus
Siapa pun bisa mempelajarinya asal mengajukan pertanyaan yang tepat dan memahami sedikit alat serta konsepnya
Orang yang berargumen seperti ini pada akhirnya hanya ingin menjual LLM, atau membesar-besarkan dampak teknologinya
Manusia sendiri juga tidak bisa sepenuhnya dipercaya, itulah sebabnya kita punya guardrail, pemeriksaan, pengawasan, dan audit
Dalam perangkat lunak, inilah alasan adanya best practice seperti code review, testing, dan monitoring
Karena itu, LLM bisa berakar paling cepat di ranah pengembangan perangkat lunak
Kita sudah punya cara menangani “pekerja” manusia yang tidak sepenuhnya andal, dan pengalaman itu bisa diterapkan ke LLM
Pada akhirnya, kunci untuk aplikasi LLM yang berhasil adalah membangun sistem dengan guardrail yang spesifik pada bisnis dan memungkinkan manusia turun tangan saat diperlukan
Yang dibutuhkan adalah menempatkan LLM ke dalam sistem yang memaksa perilakunya tetap benar
Misalnya, suruh LLM merujuk ke dokumen atau halaman man, dan minta ia hanya mengeluarkan baris tertentu
Dengan begitu sistem benar-benar akan mencari dan mengutip baris terkait, dan LLM tidak bisa mengarang kutipan seenaknya
Belum ada contoh LLM yang benar-benar terintegrasi dengan type system
Type system yang kuat, misalnya dependent types, bisa menjamin pada tahap kompilasi bahwa “fungsi ini selalu mengembalikan list yang sudah terurut”
Memang harus menulis banyak kode pembuktian secara langsung, tetapi jika LLM bisa menuliskan pembuktian itu sebagai gantinya, selama program berhasil dikompilasi kita bisa percaya bahwa itu benar
Tentu masih ada pengecualian seperti kehabisan memori atau mati listrik
Saya berharap tren “mencetak hasil murahan” ini segera berakhir
Tetapi bagi penipu, spammer, blogger clickbait, pihak yang ingin ikut campur dalam pemilu, dan orang-orang yang mengejar pendapatan iklan dari aplikasi/musik/video/“seni” murahan, Gen AI saat ini adalah produk yang sempurna
Bahkan jika orang-orang yang peduli kualitas sadar bahwa AI itu tidak berguna, internet mungkin sudah keburu mati
Saat itu kita sudah masuk era ‘pascakebenaran’, ‘pascaseni’, ‘pascateknologi’, ‘pascademokrasi’, dan yang paling diuntungkan hanya segelintir miliarder California
Tidak banyak hal yang lebih menyedihkan daripada melihat orang-orang cerdas memakai bakat mereka untuk membuat sampah yang merusak nilai sosial
Saya pertama kali mendengar tentang internet dari seorang teman pada 1990-an, lalu mendengar bahwa seseorang di kampus bisa menunjukkan internet, dan satu jam kemudian saya sudah duduk di depan komputer kampus
Klik tautan, teks mengalir dengan kecepatan yang hampir mustahil dibaca, tata letak yang keren, gambar, tautan ke halaman web lain. Saya terkejut bisa melihat semuanya seketika tanpa perlu mencetak, mengirim, atau menunggu. Saya yakin inilah masa depan, dan rasanya jelas tak terelakkan
Kemarin saya harus menulis ulang sebuah program secara total berdasarkan library besar, yang biasanya berarti membaca dokumentasi panjang atau membongkar kode secara manual
Sebagai gantinya, saya menyalin-tempel seluruh program dan library ke GPT 4.1 lalu memintanya menulis ulang, dan berhasil dalam sekali jalan. Dalam 15 menit saya membaca seluruh perubahan dan hanya memperbaiki beberapa gaya penulisan, selesai. Hemat beberapa jam. Ini terasa seperti masa depan, dan lagi-lagi tampak tak terelakkan
P.S. Banyak balasan membandingkan pengalaman saya dengan mengubah kode secara bertahap sambil bercakap dengan LLM (“agentic coding”), tetapi cara saya adalah “satu file sekali jalan, tidak menyentuh kode”. Detailnya ada di sini
Saya sepenuhnya setuju, tetapi sebenarnya saya pikir ini tidak jauh berbeda dari mengatakan bahwa pemrograman dengan IDE adalah masa depan
Inti inevitabilisme bukan bahwa alat pengembang yang baru dan kuat meningkatkan produktivitas beberapa jam, melainkan siapa yang menjadi broker pengetahuan, bagaimana kerja pengetahuan didefinisikan, bagaimana hubungan antara pemberi kerja dan pekerja berubah, sarana pengawasan seperti apa yang muncul, dan bagaimana sistem sosial akan bekerja
Orang yang menyebarkan inevitabilisme tidak sedang mencoba meyakinkan pengembang yang keras kepala, melainkan ingin menciptakan “papan permainan” baru yang menguntungkan diri mereka sendiri. Jika ada yang tidak suka aturan itu atau menentangnya, mereka akan menepisnya dengan logika, “Tidak bisa, ini tak terelakkan, memang begitulah adanya”
Masalah LLM muncul saat dipakai untuk berpikir atau bernalar secara kreatif
Memang berguna dalam banyak konteks nyata, terutama coding, tetapi itu tidak berarti LLM adalah teknologi yang akan “mengubah segalanya”
Klaim “AI adalah listrik yang baru” juga berlebihan (mengutip pernyataan Andrew Ng yang menekankan bahwa AI tidak akan menjadi seperti listrik)
Menurut saya lebih tepat jika “AI adalah VBA yang baru”. Dulu orang juga bersemangat dengan gagasan “sekarang semua orang bisa memrogram!”, tetapi dampak nyatanya terutama terasa pada otomasi kecil-kecilan. Memang sekarang jauh lebih cepat dan hype-nya jauh lebih besar, tetapi esensinya mirip
LLM tidak selalu bekerja dengan baik
Misalnya, baru-baru ini ada gejala aneh ketika VM VirtualBox menjadi 4 kali lebih lambat di Windows 10
Saya mengikuti berbagai solusi dengan bantuan AI, tetapi tidak ada yang berhasil
Pada akhirnya saya menemukan bahwa kotak centang "Virtual Machine Platform" di Windows Features tiba-tiba tidak aktif
Ketika saya menyebut ini ke AI, ia malah bersikeras bahwa opsi itu tidak diperlukan dan status 'nonaktif' justru lebih baik
Padahal itulah sumber masalahnya, dan setelah opsi itu dicentang lalu reboot, semuanya kembali normal
AI bukan hanya salah saat butuh penalaran mendalam berbasis akal sehat, tetapi bahkan salah pada sekadar memori asosiasi yang tampaknya sederhana
Jika mau memakainya sebagai pengganti pencarian web, verifikasi fakta adalah keharusan
AI berbasis LLM tidak punya konsep ‘fakta’. Ia hanya memprediksi token dan kebetulan menghasilkan keluaran yang kemungkinan benar berdasarkan data masukan/pelatihan
Saya sepenuhnya setuju dengan inevitabilisme LLM. Saya pikir masa depan di mana semua orang menggunakannya setiap hari memang tak terelakkan, seperti smartphone
Tetapi saya tidak setuju dengan inevitabilisme AGI. Klaim “model terus membaik, jadi AGI tak terelakkan” adalah lompatan logika dari hasil ke kesimpulan
Apa Anda benar-benar yakin kodenya bekerja dengan benar?
Bagaimana jika karena hanya mengandalkan AI Anda tidak pernah belajar membaca kode?
Menurut saya, kemampuan membaca dan memverifikasi kode sendiri jauh lebih penting
Di tempat kerja lama saya, saya pernah mendengar kisah tentang seseorang yang menemukan bug firmware kontrol flap pesawat, dan saat ia terbang untuk menjelaskan masalah itu, ia justru naik pesawat yang memakai firmware bermasalah tersebut
Bagian tersulit dari logika inevitabilisme ini adalah bahwa orang-orang yang berkata “ini tak terelakkan” juga adalah pihak yang benar-benar menghabiskan ratusan juta dolar untuk mengembangkan, menerapkan, dan mengiklankannya
Ini seperti rubah-rubah yang sedang membuat pintu ke kandang ayam sambil berkata, “Rubah masuk itu tak bisa dicegah. Jadi lebih baik kita buat ini jadi sistem untuk semua orang”
Saya rasa strategi “tunjukkan dengan tindakan, bukan cuma kata-kata” itu sendiri tidak masalah
Saya bertanya-tanya, apakah mereka benar-benar sedang “membuat pintu”, atau justru pintunya sudah ada dan mereka hanya ingin menjadi yang pertama masuk?
Setuju. Kita tidak seharusnya membantu rubah, melainkan mengusirnya
Dua hal ini sangat jelas
Seperti yang dikatakan artikel tersebut, berdebat di dalam bingkai yang disusun CEO tidak ada gunanya. Mereka terutama sedang berbicara kepada pasar, sedangkan kita adalah orang yang memahami cara kerja teknologi, jadi kita perlu menilai LLM secara lebih objektif dan membangun kerangka kita sendiri
Bagi saya, LLM adalah satu tahap evolusi alat perangkat lunak. Fakta bahwa LLM bisa dengan mudah menulis kode yang layak memang terasa menakjubkan dan mengancam, tetapi selama puluhan tahun sudah ada kebutuhan tanpa akhir akan CRUD berulang dan logika bisnis, dan dari beragam contoh itu, tidak terlalu mengejutkan jika generator probabilistik raksasa mampu menyusun kombinasi baru asalkan diberi konteks dan prompt yang cukup
Sebagai teknolog, saya ingin memahami bagaimana LLM bisa membantu tujuan saya. Kalau tidak mau, ya jangan dipakai, tetapi saya tetap perlu terus mengecek kemampuan yang berubah agar keputusan yang saya ambil tetap bijak
Di tengah hype besar seperti ini, saya tidak akan melancarkan perang salib yang sia-sia hanya karena nostalgia masa lalu atau karena terobsesi pada apa yang dianggap ideal
Orang suka berkomunikasi dengan bahasa alami
LLM adalah langkah pertama untuk keluar dari antarmuka rumit berbasis bahasa logika atau cara berkomunikasi dengan komputer yang sudah berlangsung sejak era awal internet
Dari sinilah inevitabilisme muncul, karena kebanyakan orang sebenarnya tidak ingin belajar cara memakai komputer; mereka hanya ingin berbicara dengannya seperti dengan makhluk hidup
(Saya berasumsi yang benar-benar menyukai komputer mungkin kurang dari 5%)
Orang juga mengharapkan respons yang andal dan deterministik. Mereka ingin ketika menekan tombol, hasil yang muncul hampir selalu sama, bukan tiba-tiba terjadi hal aneh dengan probabilitas 10%
Masih belum jelas apakah LLM benar-benar bisa mencapai tingkat kestabilan seperti ini
“Langkah pertama keluar dari bahasa logika”… justru bahasa logika pada dasarnya adalah lompatan besar yang memungkinkan implementasi deterministik sehingga kita bisa membangun abstraksi
Bahasa alami begitu jauh dari tujuan itu sampai sulit dijelaskan
Jika Anda berpikir “bukankah manusia juga mencapai abstraksi lewat bahasa?”, cobalah sekali membaca dokumen hukum sungguhan, misalnya teks lengkap RUU DPR
Saya justru heran realisasi UI bahasa alami tidak disambut lebih meriah
UI bahasa alami adalah mimpi lama ilmu komputer yang belum tuntas, dan sekarang rasanya malah terlalu dianggap biasa
Mungkin LLM bukan yang terbaik untuk coding/menulis/riset, tetapi saya benar-benar berharap pengalaman pengguna (UX) seperti ini tetap dipertahankan
Bisa mengekspresikan masalah dengan bebas lewat bahasa, termasuk singkatan/slang/nada bicara, lalu dipahami dengan tepat, itu sungguh luar biasa dan sangat berguna
“Bahasa sehari-hari sama sekali tidak cocok untuk mengekspresikan sesuatu se-abstrak yang ingin diungkapkan fisikawan. Hanya matematika dan logika matematika yang mampu mengekspresikannya sepadat yang dimaksud fisikawan.”
Ada alasan mengapa kita tidak lagi memakai bahasa alami dalam matematika. Bahasa alami terlalu bertele-tele dan sangat tidak presisi
Kalau ada cara menjelaskan kontrak dengan bahasa alami yang benar-benar memadai, para pengacara pasti sudah menemukannya sejak lama.
Kita membuang bagian besar dari GDP hanya untuk perbedaan penafsiran kontrak
Konsep ini berkaitan erat dengan “politics of inevitability” yang disebut Timothy Snyder
“Politics of inevitability” adalah semacam pandangan dunia bahwa masa depan hanyalah perpanjangan dari masa kini, hukum kemajuan sudah diketahui, tidak ada alternatif, dan karena itu tidak ada yang perlu kita lakukan
Artikel utama menerapkan konsep ini ke ranah komersial, tetapi pada dasarnya ia sedang membahas bahasa yang mencabut ‘agency’ dari manusia
Tautan artikel terkait