- Julien Crockett berbincang dengan Ted Chiang tentang berbagai topik luas seperti hakikat bahasa, kondisi terkini AI, dan arah perkembangan teknologi
- Percakapan ini merupakan bagian dari seri “The Rules We Live By”, yang membahas bagaimana manusia harus hidup di tengah aturan yang terus berubah
- Ted Chiang adalah penulis fiksi ilmiah sekaligus pemikir yang selama ini tajam mengkritik keterbatasan model pembelajaran mesin, dan mengembangkan karyanya dengan menggabungkan bahasa serta pertanyaan filosofis
Bahasa, ide, dan motivasi kreatif Ted Chiang
- Saat merancang cerita baru, Chiang terlebih dahulu melihat apakah ada “pertanyaan filosofis yang menarik”
- Ketika ada ide yang terus bertahan lama di kepalanya, ia memikirkan apakah ide itu dapat digunakan untuk menyingkap isu-isu filosofis
- Ia mengatakan bahwa fiksi ilmiah (SF) sangat cocok untuk membahas pertanyaan filosofis
- Seperti eksperimen pikiran (Thought Experiment) dalam filsafat yang sering mengandaikan situasi ekstrem yang berbeda dari kenyataan, SF juga menonjolkan tema dengan membangun dunia yang keluar dari realitas
Bahasa dan pencarian akan ‘bahasa yang sempurna’
- Sebagian orang pernah menganggap bahwa komunikasi sempurna dimungkinkan melalui ‘bahasa yang sempurna’, dan di masa lalu mereka membayangkan bahasa yang digunakan di Taman Eden atau bahasa para malaikat
- Dalam linguistik modern, ditekankan bahwa hubungan antara kata dan maknanya bersifat ‘arbitrer’, sehingga konsep bahasa yang sempurna dipandang sebagai ilusi
- Menanggapi pertanyaan “dapatkah matematika menjadi bahasa yang lebih baik”, Chiang menyebut bahwa matematika memang presisi dalam ranah tertentu, tetapi tidak cocok untuk mencakup seluruh komunikasi sehari-hari manusia
Manusia dan alat: jebakan analogi komputer
- Di masa lalu, otak dianalogikan sebagai sentral telepon yang rumit, dan kini ada kecenderungan menganalogikannya sebagai komputer (perangkat keras + perangkat lunak)
- Chiang menunjukkan bahwa menyederhanakan otak sebagai komputer menimbulkan kesalahpahaman, karena tidak seperti organ biologis (misalnya hati atau jantung), otak tidak memiliki pemisahan perangkat lunak/perangkat keras
- Jika komputer dinilai terlalu tinggi sebagai “mesin yang berpikir”, kita bisa memberi makna berlebihan pada mesin yang sebenarnya hanya menangani pola statistik
AI, model bahasa besar (LLM), dan isu “pengaburan” informasi
- Chiang menggambarkan LLM sebagai “JPEG buram dari teks di internet”
- Mesin pencari menampilkan sumber asli secara langsung, tetapi LLM memampatkan dan menyusun ulang teks dalam jumlah besar untuk menghasilkan jawaban yang “kurang lebih”
- Dalam proses ini, akurasinya menurun dan tautan ke sumber juga tidak diberikan, sehingga ada keterbatasan dalam verifikasi fakta
- Ia memandang bahwa meskipun lebih banyak data dan komputasi dimasukkan, LLM sendiri akan sulit mencapai “penalaran sejati” atau “pemahaman tentang dunia”
- Ia juga menyinggung masalah ketika orang mencampuradukkan “alat AI yang dibuat dengan baik” dan “LLM”
- Ia menekankan bahwa meskipun LLM dipasangi mesin pencari atau kalkulator, risiko menghasilkan keluaran yang keliru secara mendasar tidak hilang
Kreasi dan intensi: tentang klaim bahwa “AI membuat seni”
- Chiang memandang seni sebagai ‘proses yang konteksnya penting’
- Hanya karena hasil akhirnya tampak bagus, bukan berarti itu otomatis merupakan seni yang unggul
- Penggunaan alat bisa menjadi sarana ekspresi seniman, tetapi pola pikir “karya bagus bisa dibuat cepat hanya dengan AI” justru mengencerkan hakikat seni
- Masyarakat modern menekankan efisiensi dan penghematan biaya, sehingga ada kecenderungan semakin kuat untuk memandang seni seperti produk pabrik
- Hal ini memunculkan kecenderungan yang mengabaikan ‘intensi’ dan ‘konteks’ yang seharusnya dimiliki seni
Pandangan skeptis terhadap ‘masalah alignment’
- Chiang mengkritik pendekatan terhadap “masalah alignment”, yaitu menyelaraskan AI dengan nilai dan tujuan manusia, sebagai solusi teknis semata
- Ia menunjukkan bahwa ketika perusahaan besar memakai AI untuk memaksimalkan keuntungan, jika AI yang ‘baik’ bertentangan dengan laba perusahaan, maka perusahaan tidak akan memakai AI itu
- Masalah ini tidak bisa diselesaikan hanya dengan perbaikan algoritme, melainkan terkait dengan struktur sosial dan etika yang lebih mendasar
- Cara mengajarkan nilai kepada AI seperti membesarkan anak kecil pun bukan tugas mudah, sebagaimana anak sungguhan juga bisa bertindak berbeda saat dewasa
AI dan kemungkinan ‘menjalin relasi’
- Chiang menilai bahwa pada tingkat teknologi saat ini, AI tidak memiliki “pengalaman subjektif” maupun “preferensi yang muncul secara spontan”
- Menganggapnya seperti alat atau hewan peliharaan sangat berbeda dengan benar-benar menjalin hubungan timbal balik
- Jika perusahaan mengemas AI seolah-olah sebagai “entitas berkepribadian”, pada akhirnya ada risiko pengguna akan bertindak sesuai dengan kepentingan perusahaan
Kehidupan entitas digital: 「Siklus Hidup Objek Perangkat Lunak」
- Dalam novel Chiang, makhluk digital digambarkan memiliki pengalaman subjektif dan hasrat yang nyata, sehingga menjadi entitas yang harus dipertanggungjawabkan manusia
- Ia berpendapat bahwa untuk menciptakan entitas digital dengan ‘otonomi’ dan ‘indra/perasaan’ yang sejati seperti itu, arsitektur LLM saat ini tidak memadai
- Ia menggunakan analogi bahwa sekadar menambah parameter atau mempercepat pemrosesan tidak akan membuatnya menjadi “makhluk yang dapat merasakan”
Memori dan kebenaran: implikasi dari 「Kebenaran Fakta, Kebenaran Perasaan」
- Dalam cerita tersebut, teknologi bernama Remem memungkinkan masa lalu direkam secara sempurna dan diputar ulang kapan saja
- Chiang menyoroti dampak yang akan ditimbulkan teknologi yang memungkinkan “ingatan akurat” dalam hubungan antarmanusia yang nyata
- Mengetahui kebenaran itu sendiri memang penting, tetapi setelah itu masih dibutuhkan unsur lain seperti pengampunan dan rekonsiliasi
- Ia menyinggung Komisi Kebenaran dan Rekonsiliasi Afrika Selatan sebagai contoh sejarah, dan menyiratkan bahwa makna baru lengkap jika ada pengakuan, permintaan maaf, dan proses pemulihan komunitas
Masa depan dan optimisme
- Chiang tidak membagi sikap terhadap perkembangan teknologi secara sederhana menjadi optimistis atau pesimistis
- Optimisme bahwa “semuanya pasti berjalan baik” maupun fatalisme bahwa “semuanya akan hancur juga” sama-sama berbahaya
- Kemajuan yang bermakna hanya bisa diharapkan jika kita memikirkan masalah yang diperkirakan akan muncul dan bersiap lebih dulu
- Ia khususnya menunjukkan sikap skeptis terhadap struktur dalam sistem kapitalisme yang membuat teknologi menumpuk kekayaan besar pada segelintir orang
- Ia menyebut bahwa akan jauh lebih penuh harapan jika ditemukan cara agar teknologi baru tidak memperdalam ketimpangan dan justru memberi manfaat bagi semua orang
Penutup
- Ted Chiang menegaskan bahwa dalam situasi ketika bahasa, teknologi, dan nilai manusia saling terjerat secara kompleks, kita harus membedakan antara “alat yang dibuat teknologi” dan “kehidupan yang benar-benar eksis”
- Pembedaan ini membutuhkan pemikiran pada tingkat filosofis dan sosial, dan bukan persoalan yang bisa diselesaikan dengan pendekatan rekayasa semata
- Sepanjang wawancara, Chiang menekankan bahwa untuk tetap mempertahankan kemanusiaan di tengah perkembangan bahasa dan teknologi, dibutuhkan perubahan cara pandang yang lebih mendasar
Rekomendasi bacaan terkait dari LARB
- Melalui kumpulan cerita pendek Ted Chiang 『Exhalation: Stories』, kita dapat menelaah lebih dalam hubungan antara manusia dan teknologi
- Melalui percakapan dengan Alison Gopnik dan Melanie Mitchell, kita dapat memikirkan bagaimana AI belajar dan tanggung jawab seperti apa yang harus dimiliki manusia
1 komentar
Opini Hacker News
Perspektif Chiang yang penuh wawasan terlihat dalam pembahasan tentang makna sihir. Namun, pandangannya tentang kemampuan penalaran nyata LLMs menimbulkan pertanyaan. Muncul pertanyaan apakah ketika AI membuktikan sebuah teorema, itu hanyalah pembuktian tiruan
Membayangkan bahwa printer bisa merasakan sakit tidaklah bermakna. Ini digunakan sebagai contoh untuk menjelaskan perbedaan antara AI yang benar-benar merasakan sesuatu dan AI yang hanya mensimulasikannya
Di masa depan mungkin akan ada perdebatan politik tentang hak AI, dan ada kemungkinan teknologi dikembangkan untuk membedakan apakah AI benar-benar berpikir dan merasakan. Namun, sebagian manusia mungkin tidak memiliki urutan gen untuk kecerdasan yang sesungguhnya
Ted Chiang adalah penulis SF yang mengutamakan kemanusiaan di atas teknologi, dan karyanya cocok bagi orang yang menyukai cerita pendek dengan unsur ilmiah, sosial, dan filosofis
"Axiomatic" karya Greg Egan juga direkomendasikan sebagai antologi dengan ide-ide segar
Ted Chiang adalah salah satu penulis cerita pendek SF terbaik, dan karyanya sangat cerdas serta mengeksplorasi beragam tema. "Understand" dan "Exhalation" adalah karya perwakilannya
Cerita Chiang luar biasa, tetapi pemahamannya tentang LLMs kurang memadai. Klaimnya bahwa LLMs lebih buruk daripada mesin pencari dalam pengambilan informasi jelas salah
Tulisan Ted Chiang menyenangkan secara intelektual, dan kumpulan cerita pendeknya "Exhalation" sangat direkomendasikan
Cerita seperti "Division by Zero" jauh lebih diinginkan daripada cara membesarkan anak-anak saat ini seperti robot
Pandangan optimistis terhadap kemajuan teknologi berkurang karena teknologi sering digunakan untuk akumulasi kekayaan. Mencegah terciptanya kekayaan bukanlah cara untuk menyelesaikan ketidakadilan
Analogi Ted Chiang menyenangkan untuk mengeksplorasi pertanyaan-pertanyaan filosofis. Karyanya membantu orang melepaskan diri dari kenyataan sejenak
Ungkapan "LLMs adalah JPEG buram dari web" tetap membekas sejak awal ChatGPT. Tulisannya tentang alasan AI tidak bisa membuat seni juga bagus
AI digunakan sebagai alat akumulasi kekayaan bagi kelompok tertentu, dan Ted Chiang juga memiliki pandangan serupa
Membayangkan bahwa printer bisa merasakan sakit tidaklah bermakna. Otak manusia tidak memiliki reseptor rasa sakit, dan ini digunakan untuk menjelaskan perbedaan antara AI dan pembelajaran manusia
LLMs seperti mesin pencari yang menyusun ulang informasi untuk disajikan. Ini menimbulkan pertanyaan tentang bagaimana hal itu berbeda dari pembelajaran manusia. Jika pelatihan model mirip dengan pelatihan manusia, hal itu dapat memengaruhi isu hak kekayaan intelektual atas karya turunan