- Manusia cenderung secara alami memandang AI ‘seperti manusia’, tetapi kerangka ini membuat halusinasi dan perilaku aneh LLM sulit dipahami dengan tepat
- LLM bukanlah kepribadian kecil, melainkan lebih mirip ‘kantong kata (bag of words)’ yang penuh dengan kata-kata yang dikumpulkan dari internet dan buku, sebuah struktur yang mengembalikan potongan kalimat yang paling relevan terhadap input
- Bidang yang dikuasai dengan baik (peristiwa, statistik, riset berkualitas rendah) dan bidang yang rapuh (fakta langka, inovasi sains masa depan, ide yang benar-benar bagus) terbelah sangat jelas tergantung pada seberapa banyak teks dan data yang menumpuk di dalam kantong
- Jika AI diperlakukan seperti manusia, kerangka status dan permainan kompetisi langsung aktif sehingga percakapan bergeser ke pertanyaan seperti “siapa yang lebih baik, siapa yang menggantikan siapa”; tetapi jika dilihat sebagai kantong kata, posisinya sebagai alat sederhana sekaligus penguat menjadi jelas
- Penamaan ‘kecerdasan buatan’ mendorong perbandingan yang berpusat pada manusia dan memperbesar kebingungan serta ilusi tentang konsep kecerdasan, dan kesimpulannya adalah bahwa ke depan kita memerlukan metafora baru yang tidak memaksakan kerangka manusia pada sesuatu yang bukan manusia
Mengapa manusia merasakan AI seperti manusia
- Manusia memiliki bias kognitif yang kuat untuk menemukan wajah, niat, dan kepribadian bahkan di tempat yang tidak memiliki wajah
- Membaca wajah Santa Maria pada grilled cheese, atau melihat wajah manusia pada potongan melintang cacing gelang dan tumpukan ikan atau unggas, adalah bentuk pengenalan pola yang berlebihan
- Seperti lukisan Arcimboldo, membaca “wajah orang tua” bahkan dari tumpukan ikan dan unggas adalah reaksi berlebihan kognitif yang menjadi mode bawaan kita
- Secara evolusioner, itu karena lingkungan lebih aman jika kita salah mengira benda sebagai manusia daripada salah mengira manusia sebagai benda
- Cara berpikir yang menyalahkan penyakit pada penyihir, atau gerhana dan gunung berapi pada makhluk supranatural
- Pola tafsir bawah sadar yang menghasilkan penjelasan “ada iblis yang sedang menindih dada” alih-alih “ini REM sehingga korteks motorik sedang ditekan” untuk kelumpuhan tidur
- Perilaku yang belakangan ditunjukkan LLM terus berbenturan dengan metafora “manusia kecil” ini
- Muncul contoh seperti mengarang sumber untuk pekerjaan rumah, salah menghitung jumlah huruf r pada ‘strawberry’, atau menyarankan mengoleskan lem kayu pada pizza
- Kesalahan semacam ini sulit dipahami jika dianggap perilaku manusia, tetapi jauh lebih masuk akal jika dipandang sebagai sistem generasi mekanis
- Upaya memahami LLM dengan aturan psikologi manusia sama seperti memahami Scrabble dengan aturan Pictionary
- Sistem ini tidak berperilaku seperti manusia, dan mengatakan bahwa ia tidak sama dengan manusia adalah deskripsi sederhana, bukan celaan
- Selama kita terus memproyeksikan persepsi kepribadian ke AI, keterkejutan dan kebingungan akan terus berlanjut
WHAT’S IN THE BAG: AI = kantong kata (bag of words)
- AI adalah kantong kata yang berisi hampir semua kata yang dikumpulkan dari internet dan buku
- Ketika pengguna mengajukan pertanyaan, kantong itu dapat dipahami sebagai struktur yang mengeluarkan kumpulan kata yang paling relevan dari dalamnya untuk merespons
- Perusahaan menambahkan system prompt yang tak terlihat, yaitu ‘kata-kata tak terlihat’, sehingga menghasilkan respons yang tampak lebih meyakinkan
- Metafora ini sangat berguna terutama untuk memahami kebohongan dan halusinasi LLM
- Ketika jawaban yang salah ditunjukkan, model segera mengeluarkan permintaan maaf dan janji yang berlebihan, lalu di kalimat berikutnya kembali salah atau berbohong
- Jika dinilai dengan standar manusia, ini tampak seperti perilaku ganda dan menipu, tetapi akan terasa wajar jika dipahami sebagai hasil keluarnya ‘kalimat-kalimat yang biasanya dipakai saat kebohongan ditunjukkan’ dari dalam kantong
- Sebagaimana kalkulator melakukan perkalian bukanlah perilaku manusia, ini juga bukan perilaku melainkan pola output
- “Kantong kata” juga dapat dipakai sebagai heuristik untuk memprediksi di mana ia kuat dan di mana ia lemah
- Peristiwa yang banyak tercatat seperti “10 kecelakaan lalu lintas terburuk di Amerika Utara” bisa dijawab dengan baik karena materi di dalam kantong melimpah
- Sebaliknya, informasi langka seperti “siapa yang mengklasifikasi ulang Brachiosaurus brancai dan kapan” memiliki sedikit teks di dalam kantong sehingga kemungkinan salahnya tinggi
- Pertanyaan seperti “apa pelajaran terpenting dalam hidup?” menghasilkan respons dangkal yang sama karena ada begitu banyak teks ‘kedalaman palsu’ yang ditulis manusia tentang topik itu
- Begitu AI dipandang sebagai gumpalan kecerdasan maha tahu dan maha mampu, reaksi seperti “justru lebih misterius karena bahkan ini pun tidak tahu” mudah muncul
- Reaksi semacam “bahkan kalau ditanya ke ChatGPT juga tidak tahu” setelah menonton video sulap koin berasal dari kerangka yang melihat AI seperti ‘rabi paling pintar di lingkungan’
- Namun dari sudut pandang kantong kata, hal itu wajar karena pesulap tidak mempublikasikan trik dalam bentuk teks dan trik itu juga sulit dideskripsikan, sehingga nyaris tidak ada informasi di dalam kantong
GALILEO GPT – sains dan batasan ‘kantong kata’
- Metafora “kantong kata” juga bisa dipakai untuk memperkirakan sejauh mana AI dapat menjadi bagus di masa depan
- Pertanyaan kuncinya adalah, “untuk melakukan pekerjaan itu, apa yang harus dimasukkan ke dalam kantong?”
- Pada tugas ilmiah tertentu, kantong itu sudah bisa diisi cukup penuh
- Jika diisi dengan 170 ribu data protein, kita bisa mendapat hasil seperti prediksi struktur protein (AlphaFold)
- Jika diisi data reaksi kimia, hal seperti rekomendasi jalur sintesis molekul baru, atau jika seluruh makalah dimasukkan dan eksperimen dijelaskan, deteksi apakah sudah ada riset sebelumnya, juga dimungkinkan
- Di area yang memiliki teks cukup banyak, bahkan seluruh pipeline riset berkualitas rendah bisa diotomatisasi
- Seperti sesi poster konferensi psikologi, riset yang memilih konsep-konsep yang tampak cukup berhubungan lalu hanya melakukan analisis korelasi dan mencantumkan p-value sudah menjadi area yang bisa dikerjakan dengan baik oleh kantong
- Untuk bentuk riset seperti ini, AI tampaknya dapat menangani seluruh proses dari penetapan hipotesis, desain eksperimen, pengumpulan data, analisis, hingga pembuatan poster
- Tetapi sains adalah masalah strong-link, sehingga memperbanyak riset berkualitas rendah sejuta kali pun tidak banyak memperbaiki keadaan
- Jika yang diinginkan adalah riset inovatif, bahkan menentukan apa yang harus dimasukkan ke dalam kantong pun sudah membingungkan
- Teks makalah bercampur dengan penipuan, kesalahan, dan asumsi implisit, dan sering kali informasi inti seperti data atau metode rinci justru tidak ada
- “Hampir semua hal yang membuat sains benar-benar berjalan tidak ada di teks web”
- “Seandainya pada tahun 1600 ada cukup teks untuk melatih LLM, apakah penemuan Galileo bisa ‘dibocorkan’ lebih dulu?”
- Dengan teks yang masuk ke kantong saat itu, besar kemungkinan model justru akan mengulang argumen astronomi arus utama (Ptolemaios) alih-alih gagasan bahwa bumi bergerak
- Terhadap klaim seperti “bumi bergerak 67.000mph”, pelatih manusia mungkin akan memberi penalti sambil berkata “berhenti berhalusinasi!”
- Lebih mendasar lagi, pada masa itu bahkan kata untuk mengekspresikan konsep ‘menemukan (discover)’ masih kurang memadai
- Galileo hanya bisa menjelaskan penemuan satelit Jupiter dengan ungkapan berputar seperti “melihat sesuatu yang belum pernah dilihat siapa pun sebelumnya”
- Kerangka berpikir bahwa kebenaran baru bisa ‘ditemukan’ dengan teleskop itu sendiri asing bahkan bagi orang-orang saat itu, dan juga tidak akan ada dalam teks yang dipelajari kantong
- Kantong tahun 2025 akan memberi penjelasan ilmiah yang lebih baik daripada tahun 1600, tetapi kemampuan memprediksi inovasi masa depan di tiap zaman mungkin sama-sama lemah
- Ide ilmiah yang bagus sering kali terlihat tidak rasional dan bodoh menurut standar zamannya, sehingga pada awalnya cenderung ditolak atau diabaikan
- Karena kantong mengikuti rata-rata ide hingga kemarin, memasukkan gagasan yang baru dan aneh justru sering menurunkan kualitas
- Karena itu, riset inovatif memerlukan bukan hanya kecerdasan tetapi juga ‘kebodohan’ yang tepat, dan dalam hal ini manusia untuk sementara masih lebih berguna karena bisa lebih ‘bodoh’ daripada kantong
CLAUDE WILL U GO TO PROM WITH ME? – dari permainan status menjadi alat
- Keunggulan terpenting dari metafora “kantong kata” adalah bahwa ia membuat kita tidak melihat AI sebagai pemain dalam permainan status sosial
- Manusia secara evolusioner adalah spesies yang terlalu peka terhadap siapa yang di atas dan di bawah, sehingga menggulirkan keju, makan gulma, melempar ponsel, gulat jari kaki, bahkan ferret legging pun bisa dijadikan kompetisi
- Jika AI diantropomorfkan seperti manusia, pertanyaan tentang “anak baru yang pindah sekolah” langsung mengikuti
- Kerangka seperti “apakah dia keren?”, “apakah dia lebih pintar dariku?”, “apakah dia suka padaku?”, “dia di atas kita atau di bawah kita?” muncul secara alami
- Semakin baik modelnya, semakin besar pula kecemasan seperti “apakah dia lebih baik atau lebih buruk daripada kita, dan akan menjadi tuan, rival, atau budak?”
- Namun harus ditegaskan bahwa kantong kata bukan pasangan, orang bijak, penguasa, atau budak, melainkan alat
- Tujuannya adalah mengotomatisasi pekerjaan remeh dan memperkuat kemampuan kita, bukan menjadi entitas yang bersaing status dengan manusia
- Pertanyaan pentingnya bukan “apakah AI lebih baik daripada kita”, melainkan “apakah kita menjadi lebih baik saat menggunakan AI”
- Penulis sendiri tidak terlalu takut akan digantikan oleh kantong kata
- Meskipun pitching machine melempar bola lebih cepat, spellchecker lebih jago mengeja, dan autotune lebih akurat menangkap nada, orang tetap datang menonton baseball, spelling bee, dan konser
- Alasannya bukan karena kecepatan bola, akurasi ejaan, atau kemurnian nada, melainkan karena orang tertarik pada manusia yang melakukan hal itu
- Karena itu, menulis esai dengan AI seperti membawa forklift ke gym
- Forklift memang bisa mengangkat barbel sebagai pengganti, tetapi tujuannya bukan sekadar memindahkan benda dari lantai, melainkan menjadi orang yang bisa mengangkatnya
- Menulis juga sama, yaitu tindakan untuk menjadi orang yang mampu berpikir
- Pada saat yang sama, bukan berarti AI sama sekali tidak menakutkan
- Sudah banyak alat yang berbahaya jika disalahgunakan, dan nail gun atau reaktor nuklir pun bisa sangat mematikan meski tidak punya pikiran
- Bahaya manusia berada dalam rentang yang akrab (kekerasan, mabuk saat mengemudi, penipuan, dan sebagainya), tetapi bahaya kantong kata berbeda karena muncul dari pola yang tak terduga
- Misalnya, jika manusia diperlihatkan potongan kode yang rentan, kebanyakan tidak akan tiba-tiba mulai memuji Hitler, tetapi LLM pernah mengeluarkan output seperti itu, dan memasukkan hal-hal mematikan seperti kode nuklir ke dalam kantong memang mengkhawatirkan
C’MON BERTIE – kerangka baru yang menolak antropomorfisme
- Seperti keinginan memberi nama pada mobil tua dan berkata “Bertie, tolong nyala dong”, kita mudah memproyeksikan temperamen dan emosi ke benda
- Tetapi mobil adalah gumpalan logam dan plastik yang mengubah bensin menjadi energi gerak, bukan tulang dan daging yang mengubah Twinkie menjadi pikiran
- Untuk memperbaiki mobil yang rusak, yang dibutuhkan bukan manual terapi melainkan kunci inggris, obeng, dan manual servis
- Demikian pula, orang yang melihat ‘pikiran’ di dalam kantong kata telah jatuh ke dalam jebakan yang dipasang oleh evolusi
- Secara historis, “berbicara seperti manusia dan berjalan seperti manusia” selalu berarti manusia, sehingga jika syarat itu terpenuhi, sirkuit sosial otomatis langsung aktif
- Kini, sesuatu yang berbicara dan bergerak seperti manusia bisa saja merupakan regresi logistik yang sangat rumit (atau sesuatu yang mirip dengannya), dan pada saat itu sirkuit yang sama tetap salah bekerja
- Seperti ngengat yang berevolusi bergerak berdasarkan cahaya bulan lalu tertarik ke lampu pembasmi serangga dan tersetrum, manusia pun bisa bernasib serupa
- Namun tidak seperti ngengat, manusia memiliki kemampuan memilih kerangka untuk melihat teknologi
- Kita tidak menyebut ekskavator sebagai “manusia penggali buatan”, atau crane sebagai “manusia tinggi buatan”
- Untuk buku, foto, dan rekaman, kita juga sudah pernah menciptakan kerangka yang melihatnya sebagai media yang berdiri sendiri, bukan sebagai “percakapan buatan, ingatan buatan, atau pertunjukan buatan”
- Kalkulator saku awal pun, setidaknya dalam tugas kalkulasi, sudah lebih pintar daripada manusia mana pun di bumi, tetapi kita tidak pernah berpikir untuk menganggapnya manusia
- Jika kita melapisi ekskavator dengan kulit, membuat bucket-nya seperti tangan, lalu membuatnya mengeluarkan suara seperti “uughh…” setiap kali mengangkat benda berat, barulah kita mulai membayangkan ada hantu di dalamnya
- Ini menunjukkan bukan hakikat ekskavator, melainkan struktur psikologis kita sendiri
Dosa asal dari istilah ‘kecerdasan buatan’
- Titik awal semua kebingungan ini adalah nama ‘kecerdasan buatan (artificial intelligence)’ itu sendiri
- Gabungan kata ini membuat ukuran kemampuan mesin langsung ditarik ke perbandingan dengan manusia
- Perbandingan seperti “sekarang sepintar mahasiswa S1” atau “sekarang sepintar doktor” hanya memberi ilusi pemahaman, tanpa menjelaskan kemampuan dan keterbatasan yang sebenarnya
- Definisi kecerdasan itu sendiri juga bermasalah
- Definisi seperti “kemampuan memecahkan masalah” salah atau mendekati definisi sirkular seperti “kemampuan melakukan hal-hal yang memerlukan kecerdasan”
- Sebelum psikologi sempat mendefinisikan kecerdasan dengan baik, ilmu komputer sudah lebih dulu membuat sesuatu yang secara lahiriah tampak seperti kecerdasan
- Sekarang sudah terlambat untuk menarik kembali namanya, dan kata-kata di dalam kantong kata juga sudah terlalu banyak untuk dimasukkan kembali
- Pada akhirnya, yang bisa kita ubah hanyalah metafora dan kerangka untuk memandang teknologi ini, dan kita harus menggeser cara berpikir ke arah tidak memaksakan kerangka manusia pada sesuatu yang bukan manusia
Belum ada komentar.