LLM Inevitabilisme (keniscayaan/tidak terelakkan)
(tomrenner.com)- Inevitabilisme adalah framing yang kuat yang menentukan arah wacana dengan cara menganggap masa depan tertentu pasti akan datang
- Tokoh-tokoh arus utama mengenai masa depan AI dan LLM mengklaim bahwa “masa depan seperti ini tidak terelakkan”, lalu memberi tekanan agar orang beradaptasi dengan itu
- Framing semacam ini memperlakukan perbedaan pendapat atau perlawanan sebagai sesuatu yang ‘tidak realistis’, dan pada praktiknya disertai efek psikologis yang merampas pilihan
- Penulis mempertanyakan apakah LLM atau AI benar-benar masa depan yang kita inginkan, dan menekankan bahwa kita harus menentukan sendiri masa depan seperti apa yang kita kehendaki dan teknologi mana yang akan kita pilih
- Ia mendorong agar kita tidak terseret oleh bingkai keniscayaan, melainkan secara aktif memikirkan dan mewujudkan masa depan yang diinginkan masing-masing
Kekuatan framing keniscayaan
- Saat berdebat dengan orang yang sangat pandai berdiskusi, kita bisa terus terseret ke poin-poin tak terduga
- Kita hanya sibuk membela bagian lemah dari argumen sendiri, sementara inti persoalan tenggelam dalam arus pembicaraan
- Pada akhirnya kita kehilangan alur dan kepercayaan diri, lalu tersudut dalam perdebatan
- Seorang teman yang pernah menjuarai kompetisi debat internasional saat kuliah menekankan strategi menetapkan frame terlebih dahulu
- Artinya, menetapkan kerangka percakapan dengan istilah dan logika kita sendiri. Jika menguasai frame, hasil perdebatan praktis sudah ditentukan
Surveillance Capitalism dan ‘inevitabilisme’
- Saat membaca 『The Age of Surveillance Capitalism』 karya Shoshana Zuboff, penulis mengenal konsep Inevitabilism
- Memberi nama pada sebuah konsep saja sudah memberi kekuatan besar untuk menata perdebatan dan membagikan kesadaran atas masalahnya
- Inevitabilisme adalah cara berpikir yang menyatakan bahwa masa depan tertentu pasti akan terwujud, lalu membuat seolah-olah menyiapkan respons adalah satu-satunya pilihan rasional
- Cara ini mendorong opini yang berlawanan sebagai ‘orang yang mengabaikan realitas’, dan membuat hanya diskusi yang menerima frame itu yang dianggap sah
Contoh nyata framing keniscayaan AI
“Kita akan memasuki dunia yang hidup berdampingan dengan AI” — Mark Zuckerberg
“AI adalah listrik baru” — Andrew Ng
“Bukan AI yang akan menggantikan manusia, melainkan orang yang menggunakan AI akan menggantikan orang yang tidak menggunakannya” — Ginni Rometty
- Pernyataan seperti ini membentuk suasana bahwa era AI adalah masa depan yang sudah diputuskan
- Fokus diskusi bergeser dari “Apakah ini masa depan yang kita inginkan?” menjadi “Bagaimana kita beradaptasi dengan masa depan yang tak terelakkan?”
- Ada juga nuansa ancaman, yang mendorong psikologi bahwa “menolak akan merugikan” atau bahwa menyatakan keberatan adalah sesuatu yang “bodoh”
Pilihan dan agensi
"Saya tidak yakin bahwa LLM benar-benar bentuk masa depan, atau bahwa masa depan itu adalah sesuatu yang saya inginkan"
- Namun masing-masing dari kita punya hak untuk memilih rupa masa depan dan cara menggunakan teknologi
- Kita harus berhati-hati agar frame inevitabilisme tidak merampas pilihan kita
- Kita perlu memikirkan masa depan yang diinginkan masing-masing, dan bersedia memperjuangkannya
Kesimpulan
- Saat memandang teknologi dan masa depan, jangan pasif terseret oleh frame bahwa semuanya tak terelakkan
- Diperlukan sikap untuk secara aktif membayangkan dan mewujudkan masa depan yang lebih baik menurut pandangan masing-masing
1 komentar
Opini Hacker News
Saya rasa dua hal ini bisa sama-sama benar.
Saya rasa analogi pesawat penumpang supersonik ini juga berlaku untuk AI, atau bahkan komputer dan internet secara keseluruhan. Dulu teknologi pesawat penumpang supersonik terasa menakjubkan dan seolah pasti akan meluas, tetapi di baliknya tersembunyi masalah yang tak bisa diselesaikan dengan teknologi saat itu serta ketiadaan profitabilitas. Saya merasa komputer dan internet juga bisa mengikuti alur yang mirip dengan industri kedirgantaraan. Mungkin kita sebenarnya sudah hampir mencapai puncak teknologi. Jika Anda naik mesin waktu ke tahun 1970-an dan mengatakan bahwa 50 tahun kemudian, pada 2025, pesawat penumpang supersonik telah hilang dan industri penerbangan tetap sama saja hanya dalam bentuk yang lebih menjengkelkan, tidak akan ada yang percaya. Jadi mungkin pada 2075 kita akan menonton dokumenter tentang LLM sambil mengenang mengapa teknologi yang tampak begitu menjanjikan itu nyaris menghilang
Saya sangat tidak setuju dengan klaim bahwa “kebanyakan orang sepakat hasil LLM itu klise dan tidak enak dikonsumsi.” Faktanya, orang sangat menyukai hasil LLM sehingga ChatGPT menjadi aplikasi dengan pertumbuhan tercepat sepanjang masa. Aplikasi AI seperti Perplexity juga mulai mengancam dominasi pencarian Google. Tentu publik tidak akan sengaja membeli novel atau kumpulan puisi yang ditulis ChatGPT, tetapi itu tidak berarti hasilnya sulit dibaca atau hanya memicu penolakan. Fakta bahwa ia mampu menghasilkan ringkasan dan penjelasan yang jelas serta mudah dibaca juga sulit dibantah
Saya bingung dengan argumen kedua Anda. Saya tidak yakin benar bahwa perusahaan LLM tidak bisa menghasilkan uang dari model mereka saat ini. OpenAI mencatat ARR tahunan $10 miliar dan 100 juta MAU. Memang saat ini masih merugi, tetapi itu adalah pengorbanan untuk meningkatkan model. Jika hari ini juga mereka berhenti meningkatkan model dan fokus pada optimalisasi biaya operasional serta monetisasi basis pengguna yang sangat besar, saya ragu kita bisa bilang mereka tidak punya model bisnis yang sukses. Orang sudah memakai alat ini setiap hari. Ini tak terelakkan
Inti argumen tulisan ini pada dasarnya sama dengan pandangan “AI sebagai teknologi biasa” AI as Normal Technology Tautan diskusi terkait
Pada bagian “banyak teknologi yang dianggap tak terelakkan akhirnya mundur karena kurangnya profitabilitas bisnis”, saya teringat bahwa lebih dari 120 kanal TV kabel mungkin juga tampak seperti ide bagus saat diluncurkan, tetapi pada kenyataannya, seperti LLM, mayoritas kontennya tidak diminati siapa pun
Salah satu akibat negatif zaman sekuler modern adalah kecenderungan orang-orang yang sangat cerdas dan reflektif untuk dengan mudah mengabaikan ribuan tahun pemikiran filsafat dan agama sebagai sesuatu yang kuno atau tak lagi berguna. (Sebagai catatan, saya sangat merekomendasikan buku .) Sikap seperti ini membuat orang gagal mengenali pola psikologis yang terus berulang tentang dunia dan masa depan, dan karena itu juga gagal menyesuaikan posisinya berdasarkan pengenalan tersebut Misalnya, inevitabilisme AI tidak jauh berbeda dari predestinasi pada masa Reformasi. Gagasan bahwa sejarah berjalan di jalur yang telah ditentukan sebelumnya secara psikologis sama saja; hanya subjeknya berganti dari Tuhan menjadi teknologi. Ini adalah struktur psikologis yang menyerahkan kebebasan dan tanggung jawab kepada kekuatan yang kabur namun kuat, sekarang berupa teknologi
Saya skeptis terhadap klaim bahwa AGI akan segera menjadi arus utama, tetapi sebagai orang yang banyak membaca buku teologi saat tumbuh besar, saya tidak menganggap esai-esai populer seperti LessWrong itu religius atau tulisan orang yang kurang banyak membaca. Pandangan “mereka punya tuhan baru!” adalah pengaburan argumen yang umum. Tentu itu mungkin analogi yang tepat untuk sebagian inevitabilis AGI, tetapi menurut saya tidak ada gunanya hanya menyoroti argumen yang paling lemah
Saya langsung membayangkan Techno Calvinists melawan Luddite Reformists Saya kira kecenderungan ini muncul dari ketiadaan narasi besar atau ideologi. Ada banyak orang teknologi yang cerdas, tidak tertarik pada pemikiran filsafat/agama, tetapi ingin menciptakan sesuatu yang baru Mereka terus mengejar semakin banyak uang, lalu sebagian akhirnya menyadari bahwa mengejar uang itu sendiri hampa. Namun mereka mengira diri mereka berada di atas masalah universal umat manusia ini Dalam distorsi seperti ini, mereka mendaur ulang seni yang sudah ada, membuat aplikasi yang makin lama makin buruk, dan mengabaikan kegembiraan orisinal dari penciptaan demi perbaikan manusia, sambil hanya berfokus pada perburuan kekayaan LLM dan AI memang seperti mengeluarkan jin dari botol, tetapi pada kenyataannya tampaknya akan lebih dekat dengan perspektif linear atau mesin cetak ketimbang listrik. Dalam budaya hari ini, seolah Leonardo da Vinci menghabiskan seluruh hidupnya hanya untuk menjual tutorial perspektif linear
Ini bukan fenomena yang sepenuhnya baru; hanya saja para penganut predestinasi kini punya tambahan “objek ketakutan” baru untuk menopang argumen mereka Tujuan saya hanya menunjukkan gejala ini. Orang menolak predestinasi yang berasal dari fisika atau agama, tetapi tetap cenderung terpukau oleh klaim bahwa “AI itu tak terelakkan”
Poin utama artikel ini adalah bahwa “inevitabilisme” hanyalah strategi retoris untuk mengarahkan percakapan agar menguntungkan diri sendiri, alat untuk menganggap kritik sebagai “penyangkalan realitas” dan menyingkirkannya dari pembahasan. Perbandingan dengan ideologi Reformasi menurut saya tidak terlalu berarti Selain itu, ada ironi dalam analogi “predestinasi sekuler” yang diajukan di sini. Predestinasi Protestan berbeda dari penghindaran kebebasan dan tanggung jawab. Inti predestinasi adalah bahwa rahmat Tuhan itu “diterima”, bukan “diperoleh”, dan ini bukan alasan untuk bersikap pasif. Justru orang terdorong berusaha meneguhkan bukti keselamatan melalui perbuatan baiknya sendiri. Ini terkait dengan “kerajinan tanpa mengharapkan imbalan langsung”, yang dianalisis juga sebagai salah satu penggerak kapitalisme awal dalam karya Max Weber Karena itu, predestinasi dan “inevitabilisme teknologi” sebenarnya adalah konsep yang sangat berbeda
Diskusi serupa juga bisa ditemukan dalam historisisme, misalnya “hukum keniscayaan sejarah” ala Hegel
Saya punya firasat bahwa pada generasi anak atau cucu kita, Amerika akan menjadi masyarakat di mana ekonomi jasa dan informasi menyerahkan seluruh manufaktur ke luar negeri, sementara kemampuan teknologi yang luar biasa terkonsentrasi pada segelintir orang Tak ada siapa pun yang mewakili kepentingan publik yang benar-benar memahami persoalan teknologi, dan orang-orang juga kehilangan pengetahuan untuk menyusun agenda mereka sendiri atau mengkritik para pemegang kuasa Orang-orang akan memegang kristal, bergantung pada astrologi, daya pikir kritis akan merosot, dan batas antara rasa nyaman dan kebenaran pun kabur, sehingga mereka nyaris tak sadar saat meluncur ke takhayul dan kegelapan
Saya rasa kutipan ini tidak terlalu cocok di sini, tetapi bagi yang penasaran dengan sumbernya, ini diambil dari The Demon-Haunted World
Saat membaca kutipan ini, saya bahkan seperti bisa mendengar suaranya Ada gaya tutur yang begitu khas sehingga tak pernah terasa klise, tak peduli berapa banyak orang meniru dan mencontohnya
Jika pada 2009 Anda bilang dominasi smartphone itu tak terelakkan, itu karena Anda sudah mencoba smartphone dan merasakan sendiri kekuatannya, bukan karena Anda punya niat tertentu untuk memelintir kehendak bebas Pada 2025, jika Anda benar-benar memakai AI untuk melakukan pekerjaan nyata, Anda tidak akan bisa menyangkal bahwa adopsi besar-besaran teknologi ini tak bisa dihindari. AI datang lebih cepat dan lebih kuat daripada apa pun sebelumnya dalam sejarah. Kita tidak bisa berpaling darinya hanya karena takut
Orang-orang yang pada 1980-an bilang AI itu tak terelakkan lalu berinvestasi, atau yang 10 tahun lalu yakin VR akan menjadi arus utama, hasilnya bisa kita lihat sekarang. Zuck masih membakar miliaran dolar, dan Apple juga benar-benar meleset dalam memprediksi permintaan. AR mungkin bisa menjadi penyelamat VR, tetapi masuk ke pasar konsumen masih jauh, dan sebagian besar teknologi yang dibangun untuk VR juga tidak akan berkaitan langsung dengan AR Mitos Robo-taxi swakemudi Tesla juga sudah berumur 10 tahun, tetapi sama sekali belum ada Tesla tanpa pemilik yang benar-benar menghasilkan uang Kalau dipikir-pikir, bodoh jika hanya memakai contoh teknologi yang memang berhasil. Ada sangat banyak teknologi yang gagal, juga banyak gelembung investasi dan industri
Pola argumen ini persis strategi retoris yang disebut dalam tulisan itu Coba ingat masa ketika orang ribut soal moda transportasi yang katanya sangat revolusioner dan tak terelakkan. Ada hype, rapat rahasia, ekspektasi luar biasa… pada akhirnya hasilnya adalah Segway
Ini terasa seperti nubuat yang terpenuhi sendiri. Perusahaan big tech memaksakan ‘AI’ ke semua produk lalu berkata, “Lihat, ini dipakai begitu luas, jadi tak terelakkan!” Saya juga berpikir AI itu tak terelakkan, tetapi saat ini groupthink-nya terlalu parah, sampai semua hal diekspresikan sebagai UI agen berbasis gelembung percakapan Saya justru menantikan saat semua orang melewati fase ini dan menemukan hal berikutnya
Jika pada 1950 ada orang yang berkata smartphone akan menjadi arus utama, kebanyakan orang akan mudah mempercayainya. Masa depan seperti itu sering muncul di novel atau film fiksi ilmiah Tetapi soal media sosial, reaksinya akan berbeda. Ada yang menganggapnya keren, ada juga yang melihatnya sebagai distopia Faktanya, ketiga hal ini—smartphone, media sosial, dan AI—sudah memicu imajinasi orang sejak sebelum 1950-an Dan sebenarnya AI lebih mirip media sosial dalam imajinasi itu ketimbang perangkat komunikasi canggih
Pada 1950-an, teknologi nuklir juga dianggap tak terelakkan. Bahkan peralatan makan dari kaca uranium juga dijual, dan mungkin sampai sekarang masih bercahaya di suatu rak rumah seseorang, atau mungkin sudah pecah
Mungkin saja “musim dingin LLM” akan datang Itu akan terjadi ketika orang menyadari bahwa LLM sebenarnya tidak bisa “melakukan” sesuatu secara nyata Akan muncul gerakan perusahaan untuk melemparkan tanggung jawab atas kesalahan LLM kepada konsumen Kita butuh sistem yang jujur mengeluarkan respons seperti “saya tidak tahu” atau “saya tidak bisa melakukan tugas ini” Sudah ada juga laporan bahwa penggunaan LLM justru memberi nilai negatif bagi para programmer Terlalu banyak waktu habis untuk membereskan jejak yang ditinggalkan LLM
Mengalihkan tanggung jawab kesalahan LLM ke konsumen bukan hanya dilakukan perusahaan Pengguna fanatik forum ini (atau mungkin bahkan buzzer siber) juga menunjukkan sikap yang sama Mereka mengklaim bahwa untuk mengekstrak nilai dari LLM, dibutuhkan tingkat pengetahuan tertentu dan kemampuan “prompt engineering” (yang sekarang bahkan diberi nama “context engineering”) Pada akhirnya, seolah satu-satunya pembeda antara orang yang merasa alat ini membuang waktu dan orang yang merasa produktivitasnya melonjak besar hanyalah tingkat kemampuan penggunanya Narasi seperti ini meresap ke blog, forum, bahkan ke salah tafsir hasil riset METR terbaru Tentu, agar bisa memanfaatkan alat apa pun sepenuhnya, dibutuhkan tingkat keterampilan tertentu Tetapi menggeneralisasi bahwa siapa pun yang tidak mendapat manfaat dari LLM pasti karena tidak kompeten itu menghina LLM bukan teknologi alien yang membutuhkan keahlian rekayasa khusus Siapa pun bisa mempelajarinya asal mengajukan pertanyaan yang tepat dan memahami sedikit alat serta konsepnya Orang yang berargumen seperti ini pada akhirnya hanya ingin menjual LLM, atau membesar-besarkan dampak teknologinya
Manusia sendiri juga tidak bisa sepenuhnya dipercaya, itulah sebabnya kita punya guardrail, pemeriksaan, pengawasan, dan audit Dalam perangkat lunak, inilah alasan adanya best practice seperti code review, testing, dan monitoring Karena itu, LLM bisa berakar paling cepat di ranah pengembangan perangkat lunak Kita sudah punya cara menangani “pekerja” manusia yang tidak sepenuhnya andal, dan pengalaman itu bisa diterapkan ke LLM Pada akhirnya, kunci untuk aplikasi LLM yang berhasil adalah membangun sistem dengan guardrail yang spesifik pada bisnis dan memungkinkan manusia turun tangan saat diperlukan
Yang dibutuhkan adalah menempatkan LLM ke dalam sistem yang memaksa perilakunya tetap benar Misalnya, suruh LLM merujuk ke dokumen atau halaman man, dan minta ia hanya mengeluarkan baris tertentu Dengan begitu sistem benar-benar akan mencari dan mengutip baris terkait, dan LLM tidak bisa mengarang kutipan seenaknya Belum ada contoh LLM yang benar-benar terintegrasi dengan type system Type system yang kuat, misalnya dependent types, bisa menjamin pada tahap kompilasi bahwa “fungsi ini selalu mengembalikan list yang sudah terurut” Memang harus menulis banyak kode pembuktian secara langsung, tetapi jika LLM bisa menuliskan pembuktian itu sebagai gantinya, selama program berhasil dikompilasi kita bisa percaya bahwa itu benar Tentu masih ada pengecualian seperti kehabisan memori atau mati listrik
Saya berharap tren “mencetak hasil murahan” ini segera berakhir Tetapi bagi penipu, spammer, blogger clickbait, pihak yang ingin ikut campur dalam pemilu, dan orang-orang yang mengejar pendapatan iklan dari aplikasi/musik/video/“seni” murahan, Gen AI saat ini adalah produk yang sempurna Bahkan jika orang-orang yang peduli kualitas sadar bahwa AI itu tidak berguna, internet mungkin sudah keburu mati Saat itu kita sudah masuk era ‘pascakebenaran’, ‘pascaseni’, ‘pascateknologi’, ‘pascademokrasi’, dan yang paling diuntungkan hanya segelintir miliarder California Tidak banyak hal yang lebih menyedihkan daripada melihat orang-orang cerdas memakai bakat mereka untuk membuat sampah yang merusak nilai sosial
Saya pertama kali mendengar tentang internet dari seorang teman pada 1990-an, lalu mendengar bahwa seseorang di kampus bisa menunjukkan internet, dan satu jam kemudian saya sudah duduk di depan komputer kampus Klik tautan, teks mengalir dengan kecepatan yang hampir mustahil dibaca, tata letak yang keren, gambar, tautan ke halaman web lain. Saya terkejut bisa melihat semuanya seketika tanpa perlu mencetak, mengirim, atau menunggu. Saya yakin inilah masa depan, dan rasanya jelas tak terelakkan Kemarin saya harus menulis ulang sebuah program secara total berdasarkan library besar, yang biasanya berarti membaca dokumentasi panjang atau membongkar kode secara manual Sebagai gantinya, saya menyalin-tempel seluruh program dan library ke GPT 4.1 lalu memintanya menulis ulang, dan berhasil dalam sekali jalan. Dalam 15 menit saya membaca seluruh perubahan dan hanya memperbaiki beberapa gaya penulisan, selesai. Hemat beberapa jam. Ini terasa seperti masa depan, dan lagi-lagi tampak tak terelakkan P.S. Banyak balasan membandingkan pengalaman saya dengan mengubah kode secara bertahap sambil bercakap dengan LLM (“agentic coding”), tetapi cara saya adalah “satu file sekali jalan, tidak menyentuh kode”. Detailnya ada di sini
Saya sepenuhnya setuju, tetapi sebenarnya saya pikir ini tidak jauh berbeda dari mengatakan bahwa pemrograman dengan IDE adalah masa depan Inti inevitabilisme bukan bahwa alat pengembang yang baru dan kuat meningkatkan produktivitas beberapa jam, melainkan siapa yang menjadi broker pengetahuan, bagaimana kerja pengetahuan didefinisikan, bagaimana hubungan antara pemberi kerja dan pekerja berubah, sarana pengawasan seperti apa yang muncul, dan bagaimana sistem sosial akan bekerja Orang yang menyebarkan inevitabilisme tidak sedang mencoba meyakinkan pengembang yang keras kepala, melainkan ingin menciptakan “papan permainan” baru yang menguntungkan diri mereka sendiri. Jika ada yang tidak suka aturan itu atau menentangnya, mereka akan menepisnya dengan logika, “Tidak bisa, ini tak terelakkan, memang begitulah adanya”
Masalah LLM muncul saat dipakai untuk berpikir atau bernalar secara kreatif Memang berguna dalam banyak konteks nyata, terutama coding, tetapi itu tidak berarti LLM adalah teknologi yang akan “mengubah segalanya” Klaim “AI adalah listrik yang baru” juga berlebihan (mengutip pernyataan Andrew Ng yang menekankan bahwa AI tidak akan menjadi seperti listrik) Menurut saya lebih tepat jika “AI adalah VBA yang baru”. Dulu orang juga bersemangat dengan gagasan “sekarang semua orang bisa memrogram!”, tetapi dampak nyatanya terutama terasa pada otomasi kecil-kecilan. Memang sekarang jauh lebih cepat dan hype-nya jauh lebih besar, tetapi esensinya mirip
LLM tidak selalu bekerja dengan baik Misalnya, baru-baru ini ada gejala aneh ketika VM VirtualBox menjadi 4 kali lebih lambat di Windows 10 Saya mengikuti berbagai solusi dengan bantuan AI, tetapi tidak ada yang berhasil Pada akhirnya saya menemukan bahwa kotak centang "Virtual Machine Platform" di Windows Features tiba-tiba tidak aktif Ketika saya menyebut ini ke AI, ia malah bersikeras bahwa opsi itu tidak diperlukan dan status 'nonaktif' justru lebih baik Padahal itulah sumber masalahnya, dan setelah opsi itu dicentang lalu reboot, semuanya kembali normal AI bukan hanya salah saat butuh penalaran mendalam berbasis akal sehat, tetapi bahkan salah pada sekadar memori asosiasi yang tampaknya sederhana Jika mau memakainya sebagai pengganti pencarian web, verifikasi fakta adalah keharusan AI berbasis LLM tidak punya konsep ‘fakta’. Ia hanya memprediksi token dan kebetulan menghasilkan keluaran yang kemungkinan benar berdasarkan data masukan/pelatihan
Saya sepenuhnya setuju dengan inevitabilisme LLM. Saya pikir masa depan di mana semua orang menggunakannya setiap hari memang tak terelakkan, seperti smartphone Tetapi saya tidak setuju dengan inevitabilisme AGI. Klaim “model terus membaik, jadi AGI tak terelakkan” adalah lompatan logika dari hasil ke kesimpulan
Apa Anda benar-benar yakin kodenya bekerja dengan benar? Bagaimana jika karena hanya mengandalkan AI Anda tidak pernah belajar membaca kode? Menurut saya, kemampuan membaca dan memverifikasi kode sendiri jauh lebih penting Di tempat kerja lama saya, saya pernah mendengar kisah tentang seseorang yang menemukan bug firmware kontrol flap pesawat, dan saat ia terbang untuk menjelaskan masalah itu, ia justru naik pesawat yang memakai firmware bermasalah tersebut
Bagian tersulit dari logika inevitabilisme ini adalah bahwa orang-orang yang berkata “ini tak terelakkan” juga adalah pihak yang benar-benar menghabiskan ratusan juta dolar untuk mengembangkan, menerapkan, dan mengiklankannya Ini seperti rubah-rubah yang sedang membuat pintu ke kandang ayam sambil berkata, “Rubah masuk itu tak bisa dicegah. Jadi lebih baik kita buat ini jadi sistem untuk semua orang”
Saya rasa strategi “tunjukkan dengan tindakan, bukan cuma kata-kata” itu sendiri tidak masalah
Saya bertanya-tanya, apakah mereka benar-benar sedang “membuat pintu”, atau justru pintunya sudah ada dan mereka hanya ingin menjadi yang pertama masuk?
Setuju. Kita tidak seharusnya membantu rubah, melainkan mengusirnya
Dua hal ini sangat jelas
Orang suka berkomunikasi dengan bahasa alami LLM adalah langkah pertama untuk keluar dari antarmuka rumit berbasis bahasa logika atau cara berkomunikasi dengan komputer yang sudah berlangsung sejak era awal internet Dari sinilah inevitabilisme muncul, karena kebanyakan orang sebenarnya tidak ingin belajar cara memakai komputer; mereka hanya ingin berbicara dengannya seperti dengan makhluk hidup (Saya berasumsi yang benar-benar menyukai komputer mungkin kurang dari 5%)
Orang juga mengharapkan respons yang andal dan deterministik. Mereka ingin ketika menekan tombol, hasil yang muncul hampir selalu sama, bukan tiba-tiba terjadi hal aneh dengan probabilitas 10% Masih belum jelas apakah LLM benar-benar bisa mencapai tingkat kestabilan seperti ini
“Langkah pertama keluar dari bahasa logika”… justru bahasa logika pada dasarnya adalah lompatan besar yang memungkinkan implementasi deterministik sehingga kita bisa membangun abstraksi Bahasa alami begitu jauh dari tujuan itu sampai sulit dijelaskan Jika Anda berpikir “bukankah manusia juga mencapai abstraksi lewat bahasa?”, cobalah sekali membaca dokumen hukum sungguhan, misalnya teks lengkap RUU DPR
Saya justru heran realisasi UI bahasa alami tidak disambut lebih meriah UI bahasa alami adalah mimpi lama ilmu komputer yang belum tuntas, dan sekarang rasanya malah terlalu dianggap biasa Mungkin LLM bukan yang terbaik untuk coding/menulis/riset, tetapi saya benar-benar berharap pengalaman pengguna (UX) seperti ini tetap dipertahankan Bisa mengekspresikan masalah dengan bebas lewat bahasa, termasuk singkatan/slang/nada bicara, lalu dipahami dengan tepat, itu sungguh luar biasa dan sangat berguna
“Bahasa sehari-hari sama sekali tidak cocok untuk mengekspresikan sesuatu se-abstrak yang ingin diungkapkan fisikawan. Hanya matematika dan logika matematika yang mampu mengekspresikannya sepadat yang dimaksud fisikawan.”
Kalau ada cara menjelaskan kontrak dengan bahasa alami yang benar-benar memadai, para pengacara pasti sudah menemukannya sejak lama. Kita membuang bagian besar dari GDP hanya untuk perbedaan penafsiran kontrak
Konsep ini berkaitan erat dengan “politics of inevitability” yang disebut Timothy Snyder “Politics of inevitability” adalah semacam pandangan dunia bahwa masa depan hanyalah perpanjangan dari masa kini, hukum kemajuan sudah diketahui, tidak ada alternatif, dan karena itu tidak ada yang perlu kita lakukan Artikel utama menerapkan konsep ini ke ranah komersial, tetapi pada dasarnya ia sedang membahas bahasa yang mencabut ‘agency’ dari manusia Tautan artikel terkait