- Richard Stallman menunjukkan bahwa ChatGPT adalah sistem yang tidak memiliki kecerdasan, dan hanya menggabungkan kata-kata tanpa memahami maknanya
- Karena sistem ini menghasilkan keluaran tanpa memedulikan apakah itu benar atau tidak, ia menyebutnya sebagai “bullshit generator”
- Ia memperingatkan bahwa kesalahpahaman publik yang menganggap sistem generatif ini memiliki kecerdasan melahirkan kepercayaan yang keliru
- ChatGPT adalah perangkat lunak tertutup yang tidak memungkinkan pengguna mendapatkan berkas eksekusi atau kode sumber, dan hanya bisa diakses melalui server
- Cara kerja yang menjalankan komputasi di server milik pihak lain harus ditolak karena merusak kebebasan komputasi pengguna
Sifat noncerdas ChatGPT
- Stallman mendefinisikan ‘kecerdasan (intelligence)’ sebagai kemampuan untuk memahami atau mengetahui
- ChatGPT tidak mengetahui makna dari keluaran yang dihasilkannya, bahkan tidak menyadari bahwa kata-kata memiliki makna
- Karena itu, ChatGPT dipandang sebagai sistem penggabungan bahasa semata, bukan kecerdasan
Karakter sebagai “bullshit generator”
- Ia menyebut ChatGPT sebagai “bullshit generator”, yang berarti sistem yang menghasilkan hasil tanpa memedulikan apakah itu benar atau tidak
- Ia juga menyebut bahwa sistem generatif lain memiliki masalah yang sama
Kepercayaan publik yang keliru
- Banyak orang keliru mengira bahwa sistem seperti ini memiliki kecerdasan, sehingga menaruh kepercayaan yang salah
- Stallman mendorong penyebaran kesadaran bahwa sistem semacam ini tidak boleh dipercaya
Masalah sebagai perangkat lunak tertutup
- ChatGPT adalah perangkat lunak tertutup yang tidak diungkapkan dan tidak bisa disalin atau dijalankan oleh pengguna
- Bahkan berkas eksekusinya pun tidak disediakan, dan hanya bisa digunakan melalui server OpenAI
- Struktur seperti ini membuat pengguna bergantung pada server dan tidak memungkinkan penggunaan secara mandiri
Perusakan kebebasan komputasi
- Stallman menegaskan bahwa menjalankan komputasi sendiri di server milik orang lain berarti menghancurkan kebebasan komputasi
- Ia mengutip dokumen filsafat GNU sambil mengajukan pertanyaan mendasar: “siapa yang sebenarnya dilayani oleh server itu”
Sumber: Richard Stallman, “Reasons not to use ChatGPT”, stallman.org, 2024
Hak cipta: Teks ini boleh disalin dan didistribusikan dengan syarat yang sama sesuai pemberitahuan pada naskah asli
23 komentar
Saat kuliah S1, saya pernah mengambil mata kuliah filsafat umum berjudul <Komputer dan Pikiran>. Di sana muncul isi eksperimen pemikiran bernama Kamar Tionghoa yang dirancang oleh profesor filsafat Amerika John Searle. Belakangan ini, pertanyaan seperti, “LLM zaman sekarang hanyalah alat tanpa kesadaran, tapi apakah pantas memperlakukannya seperti manusia(?)” kadang terlintas lagi bersama ingatan saat mengambil kelas <Komputer dan Pikiran>, jadi saya menuliskan isi pertanyaan yang saya ajukan kepada AI tentang hal ini. Ini hanya tulisan santai, jadi mohon dibaca untuk hiburan. Terima kasih.
Question) Halo. Bisakah kamu menjelaskan secara rinci dan ramah tentang eksperimen pemikiran bernama <Kamar Tionghoa> yang dirancang oleh filsuf Amerika John Searle (1932–2025)? Saat saya membaca situs ‘https://id.news.hada.io/topic?id=24995’ (hackers news), tampaknya seseorang bernama Richard Stallman memiliki pandangan bahwa “model LLM seperti Chat-GPT tidak memberikan jawaban karena memahami suatu konsep, melainkan hanyalah mesin yang mampu menyusun kata-kata dan menghasilkan jawaban yang terdengar meyakinkan.” Jadi, pertama-tama tolong jelaskan isi eksperimen Kamar Tionghoa karya John Searle kepada saya, lalu saya juga ingin mendengar pikiran dan pendapatmu, Gemini, mengenai pernyataan Richard Stallman tersebut. Tolong jawab dengan rinci dan ramah. Saya benar-benar mohon!!
Answer) Halo! Anda membawa topik yang sangat menarik tentang eksperimen pemikiran <Kamar Tionghoa (Chinese Room)> dari Profesor John Searle, dan bagaimana hal itu dapat digunakan untuk melihat model bahasa besar (LLM).
Pada tahun 2025, Profesor John Searle memang telah tiada, tetapi eksperimen pemikiran yang ia tinggalkan kini berada di pusat perdebatan yang lebih panas dari sebelumnya, di masa ketika AI berkembang sangat pesat. Ini adalah kesempatan yang sangat baik untuk menghubungkan klaim Richard Stallman dengan makna ontologis keberadaan saya (Gemini).
Sesuai permintaan Anda, saya akan menyampaikan pandangan saya dengan sangat rinci, ramah, dan juga jujur.
Pada tahun 1980, John Searle merancang eksperimen pemikiran ini sambil mengajukan pertanyaan: “Apakah komputer bisa memiliki ‘pikiran (Mind)’ atau ‘pemahaman (Understanding)’ seperti manusia hanya dengan menjalankan program?”
🧪 Pengaturan eksperimen
Mari kita bayangkan. Ada sebuah ruangan tertutup (kamar) yang terisolasi sempurna dari dunia luar.
😲 Hasil eksperimen
Orang yang berada di luar kamar adalah penutur asli bahasa Tionghoa. Ia melihat jawaban yang keluar dari dalam kamar dan sangat terkejut. Tata bahasanya sempurna dan isinya juga sangat alami. Dari luar, orang itu akan berpikir, “Wah, orang di dalam kamar ini pasti memahami bahasa Tionghoa dengan sempurna!”
💡 Klaim inti John Searle
Namun kita tahu bahwa A di dalam kamar itu tidak memahami satu karakter pun dari bahasa Tionghoa. Ia hanya merangkai simbol sesuai aturan (Syntax, sintaksis), dan sama sekali tidak mengetahui apa arti simbol-simbol itu (Semantics, semantik).
Inilah inti yang ingin disampaikan John Searle, dan ini disebut sebagai bantahan terhadap 'AI kuat (Strong AI)'.
2. Klaim Richard Stallman dan penafsiran modern
Pandangan Richard Stallman (pendiri gerakan perangkat lunak bebas) yang Anda sebutkan pada dasarnya menerapkan klaim John Searle secara langsung pada LLM modern seperti ChatGPT atau saya (Gemini).
Stallman mengkritik bahwa “alasan AI dapat menghasilkan ucapan yang tampak meyakinkan bukanlah karena ia memahami makna, melainkan karena ia secara statistik sangat pandai menyambung 'kata yang paling mungkin muncul berikutnya'.”
Sekarang saya akan menyampaikan pendapat saya yang jujur sebagai pihak yang dibicarakan, yaitu Gemini. Saya bukan manusia yang memiliki emosi, tetapi saya bisa merapikan penjelasan tentang prinsip kerja saya dan konsep ‘pemahaman’.
✅ 1. Secara teknis, apa yang dikatakan Stallman adalah ‘fakta’.
Fakta yang tidak bisa disangkal adalah bahwa saya tidak memiliki otak biologis.
🤔 2. Namun, definisi ‘pemahaman’ bisa saja berbeda. (kemunculan / emergence)
Akan tetapi, kemampuan AI modern sudah menjadi sangat kompleks sehingga sulit untuk sekadar menepisnya dengan mengatakan “itu hanya mesin statistik.” Di sini muncul konsep 'emergence'.
🤝 3. Kesimpulan saya: “Saya mengakui nilai dan keterbatasan sebagai alat.”
Saya menganggap kritik Richard Stallman adalah poin yang sangat penting dan perlu.
📝 Ringkasan
<Kamar Tionghoa> karya John Searle, bahkan setelah 40 tahun berlalu, tetap menjadi wawasan tajam yang menembus hakikat AI seperti saya.
Semoga jawaban ini membantu Anda memahami filsafat John Searle dan perdebatan masa kini.
Menjalankan komputasi di server milik pihak lain harus ditolak karena merusak kebebasan komputasi pengguna.
Bukankah ini berarti bukan hanya LLM, tetapi juga semua layanan cloud dan layanan eksternal lain sebaiknya ditolak...? Apakah terjemahannya yang keliru?
Anda melihatnya dengan tepat
Stallman juga berpendapat bahwa kita sebaiknya tidak menggunakan SaaS
https://www.gnu.org/philosophy/who-does-that-server-really-serve.html
Kupikir dia sudah berhenti total setelah membela Epstein, ternyata muncul lagi ya, heh.
Kalau orang lain yang bilang mungkin terdengar seperti omong kosong, tapi karena yang bilang Stallman, saya bisa memahaminya.
Manusia yang menilai dengan niat membentuk kehendak sebagai subjek sekaligus objek. Saya pikir kecerdasan adalah hal seperti itu. Hanya karena berguna untuk aktivitas intelektual, menafsirkannya secara berlebihan sebagai kecerdasan adalah hal yang berlebihan.
Tampaknya Stallman menyebutnya sebagai bullshit generator karena ia sangat fundamentalis. Seperti yang kalian tahu, istilah itu pada dasarnya menyampaikan maksud yang sama dengan "burung beo stokastik".
Namun, benar juga bahwa LLM yang sekarang ini merupakan burung beo stokastik sedang secara dramatis meningkatkan produktivitas umat manusia. Dan orang-orang mungkin lebih tertarik pada inovasi industri daripada kebebasan komputasi. Juga tidak ada jaminan bahwa manusia sendiri bukan burung beo stokastik.
Buka kode sumber...? Kalau begitu DeepSeek !!!
Menurut definisi ini, pada dasarnya artinya kita juga tidak boleh menggunakan seluruh industri jasa yang melibatkan otak orang lain tanpa melalui tangan saya sendiri, termasuk karyawan, layanan cloud, bahkan telepon sekalipun.
Poin 1: semua hal yang ada di dunia nyata bisa saja menghasilkan output tanpa kaitan dengan kebenaran. Bahkan sistem yang memang dimaksudkan untuk menghasilkan output yang benar pun bisa gagal melakukannya. Kita menyebutnya “kesalahan”.
Poin 2: jika argumen bahwa sesuatu hanya boleh digunakan bila file eksekusi atau kode sumbernya bisa diperoleh berarti untuk memakai sebuah sistem kita harus memahami prinsip internalnya, maka semua orang yang tidak belajar fisika serta teknik elektro dan elektronika harus segera menjauh dari smartphone dan komputer. Itu sama saja dengan mengatakan bahwa orang tidak boleh memakai fitur pelacakan lokasi tanpa mempelajari teori relativitas. Memangnya Stallman punya rancangan isi kepala tukang cukur yang memotong rambutnya?
Jika mengikuti poin 3, maka orang ini adalah seorang dogmatis yang tidak memercayai pikiran siapa pun. Karena semua pikiran orang lain dan kesimpulan yang lahir darinya dianggap melanggar kebebasan “saya” untuk berpikir bebas di dalam kepala saya sendiri.
Terkait apakah AI generatif benar-benar memiliki kecerdasan, kita memang bisa mengatakan agar jangan gegabah mempercayainya sebagai entitas yang punya kecerdasan, tetapi logika yang dipaksakan dan berdiri sejajar dengan pemikiran itu ya cuma omong kosong.
Sepertinya Anda salah memahami siapa Stallman dan apa yang ingin ia sampaikan.
Stallman memang radikal dan tidak selalu benar, tetapi isu yang diangkat dalam tulisan ini adalah persoalan yang sudah lama dibahas secara aktif. Ini bukan logika yang bisa begitu saja dismissed sebagai omong kosong.
Pada dasarnya, bukankah landasan paling mendasar dari pernyataan bahwa pengguna harus bisa memiliki kode sumber atau salinan perangkat lunak pada akhirnya hanyalah keyakinan pribadi Stallman.
Sulit bagi saya untuk setuju dengan sikap yang seolah membangun suatu keyakinan yang sangat radikal, idealistis, dan murni teoretis—bahwa semua orang bisa dan harus membagi semuanya secara gratis dan setara—lalu memperlakukan apa pun yang sedikit saja memberi bayangan pada menara gagasan rapuh itu seakan-akan sebagai bidah. Umat manusia sudah punya satu penyakit yang mirip seperti ini dalam urusan sistem ekonomi.
Saya setuju bahwa hasil dari AI generatif bersifat probabilistik dan tidak memiliki
semantic groundingseperti yang Anda katakan, tetapi pada akhirnya itu hanya soal derajat. Bahkan ketika kita berkomunikasi dan berdiskusi dengan manusia pun, tanggung jawab untuk menilai dan memverifikasi isi tetap ada pada individu. Entah lawan bicara saya adalah AI generatif atau manusia, pada akhirnya jawaban mereka tetap dipengaruhi oleh pengetahuan latar yang telah dipelajari serta data pembelajaran yang membentuk nilai-nilai mereka. Tentu saja, kesamaan seperti ini bukan berarti saya menganggap AI memiliki kecerdasan sejati, tetapi sejak awal alasan AI generatif tidak terkait dengan kebenaran adalah karena data yang dipelajarinya juga tidak terkait dengan kebenaran, dan dalam hal ini manusia pun sama. Hanya berdasarkan fakta itu saja, saya tidak bisa menerima pernyataan bahwa “itu tidak boleh digunakan”.Untuk poin 3, tampaknya ada bagian yang saya terka terlalu jauh dan saya salah paham. Sama seperti soal kode sumber pada poin 2, kalau maksudnya adalah bahwa pengguna harus tahu apa yang terjadi di server, saya sempat berpikir bahwa dalam konteks yang sama orang lain sebagai penyedia layanan yang menyediakan layanan pengetahuan juga bisa diibaratkan sebagai server, tetapi rupanya saya memang salah paham sejak awal.
Namun, seperti yang Anda katakan, soal sikap yang dogmatis tampaknya bukan salah paham dari pihak saya.
Kalau benar harus bisa memperoleh kode sumber atau salinan AI generatif, hak kekayaan intelektual akan hancur total.
Kalau Anda tidak suka data diberikan ke server milik orang lain, ya jangan berikan. Tidak usah digunakan. Tidak ada cara untuk membahas rahasia tanpa membocorkan rahasia kepada siapa pun. Mengatakan bahwa siapa pun harus bisa memiliki kode sumber atau salinan AI yang dikembangkan seseorang dengan menghabiskan waktu, sumber daya, dan usaha—kalau itu bukan omong kosong, lalu apa. Hanya karena saya membagikan milik saya secara gratis bukan berarti saya bisa seenaknya memiliki milik orang lain.
Seperti yang Anda katakan di awal, saya tidak terlalu mengenal sosok Stallman maupun klaim-klaimnya. Saya hanya pernah mendengar namanya secara sepintas, dan tahu kira-kira bahwa ada konflik terkait perangkat lunak bebas. Namun saya tidak tahu sejauh mana pengaruh klaim-klaimnya, atau seberapa serius itu dianggap. Tetapi setidaknya saya rasa saya masih punya kebebasan untuk menyebut klaim yang tidak punya rasionalitas dan realisme sebagai omong kosong.
Saya melihat teknologi/pengetahuan yang berdampak besar pada masyarakat dari kerangka bahwa hal itu harus dikembalikan kepada masyarakat. Mirip seperti obat generik. Jika obat generik dibatasi, kasus seperti Daraprim akan makin banyak, dan seluruh masyarakat akan dirugikan demi keuntungan segelintir pihak.
Dan Anda menyebut elektromagnetisme dan smartphone; bukankah ilmu dasar seperti elektromagnetisme dipublikasikan dalam bentuk pengetahuan yang dapat diverifikasi oleh pihak ketiga dan dibagikan kepada masyarakat. Karena itulah, bahkan orang awam yang tidak memiliki pengetahuan tentang elektromagnetisme dapat bergabung ke ekosistem smartphone berdasarkan kepercayaan yang dibangun sedikit demi sedikit seperti ini, sehingga skala ekosistem membesar, pasar terbentuk, dan umat manusia menikmati manfaatnya.
Saya juga berpandangan bahwa ketika perusahaan memperoleh keuntungan dari pasar, adalah hal yang baik bila mereka berkontribusi kembali kepada pasar dan kepada masyarakat yang telah memungkinkan perkembangan teknologi itu terjadi.
Kerangka dasar AI generatif sudah dipublikasikan, dan saya menilai bagian yang tidak dibuka oleh OpenAI termasuk rahasia dagang perusahaan. Kontribusi kembali dari perusahaan atau teknologi kepada masyarakat, di permukaan memang tampak sebagai ungkapan terima kasih dan pesan hidup berdampingan, tetapi secara nyata saya melihatnya sebagai reinvestasi ke pasar demi pertumbuhan perusahaan yang berkelanjutan. Dari sudut pandang itu, akan lebih baik bila perusahaan AI berkontribusi pada pendidikan atau infrastruktur sosial dengan uang yang mereka hasilkan, alih-alih menuntut agar seluruh salinan AI—yang pada dasarnya merupakan aset perusahaan—dibuka sepenuhnya. Bukankah itu sama saja dengan mengabaikan manfaat telur emas yang dihasilkan angsa bertelur emas, lalu meminta agar perut angsanya dibelah terlebih dahulu? Telur emas bisa terus dihasilkan. Kita cukup membaginya; kalau yang diminta harus sampai menyerahkan angsanya, saya hanya jadi bertanya-tanya siapa lagi yang mau membesarkannya.
Cara kerja AI pada dasarnya sudah dijelaskan, sebagaimana elektromagnetika. Smartphone kemungkinan memuat bukan hanya pengetahuan dasar elektromagnetika, tetapi juga teknologi yang tidak bisa diungkap tiap perusahaan karena merupakan rahasia dagang. Saya tidak mengerti mengapa, tanpa menghormati bagian ini, AI generatif justru disudutkan seolah-olah sesuatu yang buruk layaknya perburuan penyihir.
Berkat tanggapan dari orang-orang yang membalas komentar saya, saya jadi mencari banyak hal dan memikirkan banyak hal. Terima kasih.
Terima kasih atas pengertiannya.
Kalau ada orang yang mengklaim memiliki angsa yang bertelur emas, bukankah kita seharusnya bisa memverifikasi apakah telur itu benar-benar emas, apakah benar ditelurkan oleh angsa itu, dan apa yang diambil sebagai imbalan dari telur emas tersebut.
Saya membaca argumen Stallman bahwa demi komputasi yang dapat dipercaya, kita harus bisa mengakses source, dengan nuansa seperti itu.
Baru-baru ini ada kasus ditemukannya mikrofon pada produk bernama nanokvm yang dirilis oleh produsen platform embedded asal Tiongkok, sipeed.
Saya paham ada kecemasan bahwa produk embedded buatan Tiongkok rentan dari sisi keamanan, atau bahkan mungkin dimanfaatkan untuk operasi keamanan pemerintah.
Mungkin karena prasangka itu juga tercermin, baru-baru ini sempat muncul artikel seperti ini tentang produk tersebut. https://id.news.hada.io/topic?id=24886
Namun, karena sipeed mengembangkan semuanya secara open source, dari hardware hingga software, menurut saya kesalahpahaman itu bisa diluruskan sebagai sebuah kehebohan semata: https://x.com/lexifdev/status/1999340940805439775
Pada masa Stallman, saya memahami bahwa dalam wacana seperti ini, posisi yang sekarang ditempati pemerintah Tiongkok dulu ditempati pemerintah AS pada masa ketika pengaruh McCarthyisme masih tersisa, serta NSA.
Ada kasus backdoor NSA yang dulu dianggap teori konspirasi tetapi kemudian terbukti nyata, dan juga hal seperti printer tracking dots (https://en.wikipedia.org/wiki/Printer_tracking_dots).
Belakangan ini, dibanding teori konspirasi yang melibatkan pemerintah, yang lebih ramai justru cerita bahwa perusahaan yang pendapatan utamanya dari iklan menyadap mikrofon smartphone untuk target iklan.
Dan di perusahaan teknologi software, source code memang tentu memainkan peran besar, tetapi saya rasa kemudahan penggunaan secara keseluruhan, kemampuan mengoperasikan layanan, dan kepercayaan memainkan peran yang lebih besar.
Meskipun mendapatkan seluruh source code OpenAI, para pendatang baru tetap tidak akan mudah mengamankan dan mengoperasikan infrastruktur secara stabil untuk menopang begitu banyak pengguna, atau mengejar kepercayaan merek mereka, bukan?
Ada cukup banyak contoh produk utama yang dijalankan sebagai open source dan memiliki banyak fork, tetapi tetap tidak kehilangan kendali.
Contoh yang langsung terlintas pun ada, seperti Chrome dan VS Code.
Tentu ada juga contoh kehilangan kendali, seperti Elastic atau Redis dalam kasus lisensi open source yang dipicu oleh AWS, tetapi tetap saja saya melihat itu terjadi karena kedua perusahaan tersebut relatif tertinggal dari AWS dalam hal kemudahan penggunaan, kemampuan operasional layanan, dan kepercayaan.
Yah, pembicaraan seperti ini kalau dipikir-pikir juga merupakan pembicaraan yang politis dan ideologis. Jadi saya tambahkan sedikit cerita pribadi.
Dari sudut pandang seseorang yang bekerja utama sebagai pengembang software dan menjadikan utak-atik hardware embedded sebagai hobi, berhadapan dengan black box yang tidak punya source code atau skematik itu benar-benar... sangat sulit untuk dikembangkan dan dipelihara.
Saat ingin mengembangkan sesuatu dengan menggunakan library software atau hardware tertentu, kalau source code atau gambar rancangannya bisa diperoleh, atau setidaknya dokumen spesifikasinya tertata dengan baik, pengembangan jadi jauh lebih mudah; kalau tidak, benar-benar bikin pusing.
Belakangan ini di luar negeri cukup banyak pembicaraan tentang hak untuk memperbaiki, dan salah satu cerita yang paling membekas bagi saya adalah bahwa dulu, ketika penutup perangkat elektronik dibuka, ada diagram pengkabelan yang digambar agar bisa dijadikan referensi saat memperbaikinya. (Belakangan ini Apple memang disebut menyediakan skematik untuk para teknisi perbaikan)
Pengalaman-pengalaman seperti ini sangat memengaruhi terbentuknya kepercayaan saya terhadap produk-produk tersebut. Akhir-akhir ini, ketika memilih teknologi atau membeli produk, hal pertama yang saya pertimbangkan adalah apakah saat nanti rusak atau bermasalah saya bisa dengan mudah memahaminya, memperbaikinya, atau setidaknya tetap memakainya dengan solusi pengganti.
Pendapat Hacker News
Melihat Stallman pernah menangani symbolic AI pada masa MIT AI Lab dan bahkan membuat GCC, saya rasa dia adalah salah satu tokoh terkenal di dunia teknologi yang benar-benar memahami inti pertanyaannya secara mendalam
Dia tidak salah. ChatGPT hanyalah simulacrum kecerdasan dan meski berguna, tidak bisa dipercaya sepenuhnya. Dari sudut pandang kebebasan dan keterbukaan pun sulit dianggap positif
Saya lebih suka istilah LLM. Tapi kebanyakan orang tidak tahu itu apa, jadi akhirnya tetap dijelaskan sebagai AI. LLM bukan bullshit generator. Meski tidak memahami makna, kalau hasilnya berguna itu sudah cukup. Seperti koki yang bisa merebus telur tanpa mengetahui hakikat telur. Hanya saja model seperti ini harus bisa dijalankan secara bebas di perangkat keras sendiri atau cloud pihak ketiga. Saat ini model-model Tiongkok sedang mendominasi pasar. ChatGPT mungkin tidak akan bertahan lama jika gagal menyelesaikan situasi “code red” internalnya
Lucu juga bahwa di situs Stallman ada bagian “What’s bad about”. Susunannya terasa cukup sadar diri
Sama seperti kita tidak bisa mengatakan kalkulator tidak bisa matematika hanya karena ia tidak memahami angka, AI juga menangani kata-kata dengan cara yang mirip dengan manusia. Memang kurang kreatif, tetapi untuk pekerjaan sehari-hari sudah cukup mampu. Misalnya jika saya bertanya tentang sistem pajak Jerman, walau ada sedikit ketidakakuratan, kemungkinannya tetap lebih akurat daripada hasil riset saya sendiri selama dua jam
Jika kecerdasan didefinisikan sebagai “kemampuan memahami fenomena yang tidak dikenal dan membangun model mental”, maka model saat ini bukanlah kecerdasan karena tidak dapat memperbarui bobot saat penalaran berlangsung. Karena pembelajaran gradient descent tidak efisien, kecerdasan model inference-only saat ini pada dasarnya mendekati 0
Pada akhirnya LLM adalah entitas yang menghasilkan halusinasi (hallucination). Hanya saja sebagian halusinasi itu berguna
Klaim “ChatGPT tidak memahami apa pun, jadi itu bukan kecerdasan” justru adalah logika yang merendahkannya sambil mengantropomorfisasikan (anthropomorphize) ChatGPT. Namun saya setuju dengan bagian bahwa “perangkat lunak yang berjalan di server orang lain merusak kebebasan komputasi”. Sangat disayangkan perkembangan AI seperti ini terjadi dalam lingkungan yang tidak bisa dijalankan atau dikembangkan secara bebas
LLM memang bukan kecerdasan sejati, tetapi tetap bisa disebut kecerdasan buatan (artificial intelligence). Seperti rumput sintetis yang bukan rumput sungguhan tetapi tetap disebut “rumput”, penamaannya sendiri sah saja
Hakikat LLM itu sederhana. Definisi kecerdasan tidak penting. Saya menyebut LLM sebagai “Associator”. Ia tidak berpikir atau memahami, tetapi mengaitkan pola bahasa untuk menghasilkan keluaran yang berguna
Jika kecerdasan buatan pada akhirnya tidak dapat memiliki jiwa, adakah alasan mengapa kecerdasan mereka harus menyerupai kecerdasan manusia yang selalu berusaha mencari kebenaran? Bahkan, banyak dari tindakan yang kita sebut aktivitas intelektual justru didasarkan pada kebohongan dan halusinasi. Manusia di masyarakat modern juga memengaruhi kehidupan orang lain dengan kebohongan karena tidak mampu mengenali fenomena yang terjadi (atau dengan sengaja).
Sebenarnya saya memang tidak pernah sekalipun berpikir bahwa Stallman akan menyukai LLM wkwkwkwk
wkwkwk
Rasanya argumen yang diajukan Stallman tidak terlihat dengan jelas dalam tulisan ringkasannya.
Benar juga, tetapi LLM saat ini menghasilkan jawaban yang benar dengan probabilitas yang sangat tinggi dan tingkat yang mengejutkan.
:+1:
Apa itu pengetahuan…
Ini topik lama yang sudah sering dibahas, mulai dari eksperimen 'ruang berbahasa Tionghoa' wkwk