Sejak hadirnya ChatGPT, ekspektasi terhadap AGI semakin besar, dan istilah superintelligence pun kini tidak lagi terdengar seperti fiksi ilmiah. Namun, konsep kecerdasan sendiri masih tetap samar, dan sulit juga untuk membayangkan sampai sejauh mana ia bisa meningkat.
Karena itu, saya mencoba membuat hipotesis seperti ini. Kecerdasan bukanlah sifat yang bisa terus meningkat tanpa batas. Tidak ada sistem apa pun yang dapat melampaui kecerdasan manusia.
https://blog.naver.com/conanoc/224107260779
Saya penasaran bagaimana pendapat kalian.
21 komentar
Kecepatan perkembangan teknologi berbanding lurus dengan jumlah populasi.
Semakin meningkat produksi pangan, populasi yang bertambah mendorong kecerdasan total.
Namun, sejak titik tertentu, produksi pangan tidak lagi terhubung ke populasi, kecerdasan, lalu teknologi.
Kecerdasan buatan berbeda.
Sesuai jumlah perangkat keras yang diproduksi dan daya listrik yang dimasukkan, total kecerdasan meningkat secara linear.
Kesimpulan: performa kecerdasan buatan mungkin punya batas, tetapi skalanya tidak memiliki batas.
Sebagai contoh ekstrem, oragutan dalam jumlah tak terbatas lebih pintar daripada satu manusia. Dari sisi coba-coba dan kecerdasan total, begitu. Dan kalau melihat belakangan ini, meski masih belum mahir dalam sekadar membuat penilaian, di ruang bernama internet AI menunjukkan kemampuan yang nyaris mahatahu. AI sudah lebih pintar daripada manusia rata-rata.
Saya rasa sulit untuk mengatakan bahwa jumlah orangutan tak terbatas lebih cerdas daripada satu manusia. Sebanyak apa pun orangutannya, mereka tidak akan menyelesaikan masalah yang menurut kita layak diperhatikan, jadi jika premisnya adalah "kecerdasan pada akhirnya adalah kemampuan memecahkan masalah", maka mereka tidak mencapai kecerdasan manusia. Tentu saja, dari sisi bahwa kita yang menentukan "masalah" itu, ada sedikit alasan mengapa orangutan bisa merasa dirugikan.
Saya cukup setuju sampai batas tertentu bahwa ChatGPT sudah lebih pintar daripada manusia. Setidaknya, ia tahu jauh lebih banyak daripada saya. Benar-benar serbabisa.
Namun, dari sisi kemampuan memecahkan masalah, AI jelas masih memiliki banyak kekurangan. Karena itu pula orang mengatakan bahwa AI masih belum mencapai tingkat AGI.
Dua orang, A dan B, mengikuti ujian dan masing-masing mendapat nilai 80 dan 60. Kita bisa mengatakan A lebih pintar, tetapi agak ambigu untuk menyebut kecerdasannya lebih tinggi.
Jika pada ujian berikutnya B belajar lebih giat sehingga kali ini A dan B masing-masing mendapat 70 dan 90, maka kita harus mengatakan bahwa kali ini B lebih pintar dan kecerdasannya lebih tinggi.
Manusia dapat memperluas pengetahuan melalui pembelajaran, dan seperti AI, perluasan pengetahuan itu tidak memiliki batas yang jelas.
Manusia sudah bisa menyimpan pengetahuan melampaui batas kapasitas otak dan ingatan dengan menggunakan kertas dan perangkat digital, lalu belajar tambahan sesuai kebutuhan.
Kuncinya bukan pada pengetahuan itu sendiri, melainkan pada kemampuan menggunakan pengetahuan untuk memecahkan masalah.
Untuk memecahkan masalah, kita harus menemukan atau menciptakan sendiri pengetahuan yang belum tercakup dalam pengetahuan yang ada dan juga tidak bisa didapat dari tempat lain.
Untuk memastikan bahwa itu adalah pengetahuan yang benar dan benar-benar bisa dipakai menyelesaikan masalah, kita mau tak mau harus menggunakan alat eksternal. Di sinilah muncul persoalan skalabilitas.
Untuk penemuan baru di bidang fisika, eksperimen pikiran saja tidak cukup. Mungkin kita harus membuat alat fisik baru, atau melakukan berbagai eksperimen dengan alat yang sudah ada.
Bahkan untuk mengembangkan model AI baru saat ini, kita tidak hanya perlu coding, tetapi juga harus menggunakan perangkat fisik berupa infrastruktur pelatihan, dan bila perlu membeli lebih banyak GPU untuk memperluas infrastruktur yang ada.
Pekerjaan fisik semacam ini bukan hanya akan tetap membutuhkan dukungan manusia untuk waktu yang lama ke depan, tetapi juga membuat kita tak terhindarkan berhadapan dengan pertanyaan ini: "Di luar pekerjaan fisik yang sedang kita dukung, apakah ada pekerjaan lain yang benar-benar bisa dilakukan AI dengan lebih baik?"
Pertama, asumsi ini mustahil (dengan premis bahwa ia adalah pengamat/komputator di dalam sistem fisik kita) karena prinsip ketidakpastian (lihat setan Laplace). Selain itu, dalam tindakan menangani informasi, proses yang tidak dapat dibalik seperti penghapusan/inisialisasi disertai peningkatan entropi (prinsip Landauer), sehingga pada akhirnya tindakan pemrosesan informasi seperti pembelajaran/komputasi memiliki batas atas yang ditentukan oleh kondisi energi, waktu, dan panas dalam sistem fisik.
Dan jika LLM benar-benar ingin dibandingkan dengan otak, saya membayangkannya sebagai bentuk berikut: 1. seluruh kondisi otak manusia dibekukan sehingga pembelajaran/perbaikan tambahan menjadi tidak mungkin, 2. semua organ indera dihilangkan, lalu 3. hanya dibuat menerima dan mengeluarkan urutan Braille. Pada akhirnya, jika dilihat dari luar, bukankah otak ini tidak akan bisa dibedakan dari LLM? Kalau begitu, apakah otak ini tidak cerdas?
Argumen yang diajukan dalam tulisan tersebut tampaknya hanyalah sebuah gagasan sederhana, dan saya rasa tidak ada dasar khusus di dalam tulisannya yang cukup mendukung hal itu.
Adakah dasar untuk mengatakan bahwa bahkan model AI masa depan pun pada akhirnya tidak akan bisa melampaui keterbatasan saat ini?
Nick Bostrom dalam bukunya "Superintelligence" pernah mengajukan tiga bentuk superintelijensi.
Dari ketiganya, yang tampaknya dibahas dalam tulisan yang Anda berikan adalah hanya superintelijensi kualitatif. Namun, sekalipun superintelijensi kualitatif mustahil, tidak ada dasar untuk menganggap superintelijensi kecepatan dan superintelijensi kolektif juga mustahil.
Sudah cukup banyak model AI yang menunjukkan kemampuan menghasilkan keluaran dengan kecepatan yang sama sekali tidak bisa dibandingkan dengan manusia, dan secara internal juga menggunakan arsitektur Mixture-of-Experts.
Karena itu, jika teknologi AI terus berkembang, maka sekalipun kedalaman pemikiran individualnya hanya setara manusia, kemampuan keseluruhan yang ditunjukkannya tetap dapat diperkirakan akan melampaui manusia dalam banyak hal.
Dan dasar untuk mengatakan bahwa superintelijensi kualitatif tidak mungkin juga tampak lemah.
Lebih dari 10 tahun lalu, kita sudah menyaksikan datangnya era ketika AI melampaui manusia dalam ranah spesifik yaitu permainan Go. Dengan cara yang sama, setidaknya di bidang-bidang yang memiliki jawaban pasti, sudah tampak jelas bahwa mesin dapat melampaui kemampuan manusia.
Saya tidak berpandangan bahwa ketika superintelijensi datang, maka akan muncul "jawaban benar" untuk persoalan-persoalan yang memang tidak memiliki jawaban pasti.
Misalnya, dalam dilema etika, yang ada hanyalah nilai mana yang lebih diprioritaskan; tidak ada "jawaban benar" yang bisa ditetapkan.
Namun saya rasa ia tetap bisa membantu diskusi terkait persoalan semacam itu. Misalnya, dengan menunjukkan hal-hal yang belum terpikirkan oleh manusia. Menurut saya, ini pun sampai batas tertentu sudah mungkin dilakukan sekarang.
Terima kasih atas pendapat yang bagus.
Alasan saya memperkirakan bahwa "mungkin tidak akan ada kecerdasan yang melampaui manusia" memang didasarkan pada "hakikat kecerdasan".
Jika saya membagi kecerdasan menjadi dua: kemampuan melakukan dengan baik hal-hal yang sudah diketahui (tipe A) dan kemampuan mencari-cari karena belum tahu (tipe B), saya rasa batasnya akan terlihat lebih jelas.
Tipe A adalah wilayah yang saat ini dikuasai AI, dan wilayah yang mudah kita anggap sebagai kecerdasan dalam arti sempit. Karena ini lebih mudah (meski tetap lama dianggap sulit bagi AI), batasnya juga tampak cukup jelas. Ibarat soal matematika sederhana yang batas nilainya adalah 100.
Tipe B mungkin tidak terlihat seperti kecerdasan, tetapi sebenarnya kemampuan inilah yang membuat kita bisa memecahkan masalah-masalah sulit. Meskipun kita tidak tahu bagaimana membuat AI setingkat AGI, kita tetap bergerak ke arah itu. Seperti Fleming menemukan penisilin, itu bukan semata-mata kebetulan; kita mencari jawaban dengan memilih arah yang lebih mungkin berhasil dari sekian banyak kemungkinan. Di sini batasnya tampak lebih bersifat kuantitatif daripada kualitatif, dan bisa dipikirkan sebagai superinteligensi dalam hal kecepatan atau kolektivitas seperti yang Anda sebutkan di atas. Karena masalah di dunia nyata tidak bisa diselesaikan hanya lewat eksperimen pikiran, ada batas pada kecepatan. Ibarat di Jalan Gangnam-daero, mobil secepat apa pun sulit melaju lebih dari 100 km/jam.
Saya juga melihat kasus AlphaGo bisa menjadi rujukan yang menarik. Dalam kasus ini, menurut saya perbedaannya lebih bersifat kuantitatif daripada kualitatif. Hasil itu dimungkinkan karena AI menguasai pola setingkat manusia lalu menelusuri jauh lebih banyak kemungkinan dengan lebih cepat daripada manusia.
Yang lebih menarik, AlphaGo dilatih menggunakan catatan permainan manusia, tetapi kemudian AlphaZero mengesampingkan catatan permainan manusia dan dilatih untuk menemukan langkah yang baik sendiri. Meski begitu, walaupun AlphaZero mencatat skor yang lebih tinggi daripada AlphaGo, pola permainan baduk AlphaZero ternyata hampir sama dengan pola permainan manusia. Artinya, joseki tidak banyak berubah. Ini menunjukkan bahwa manusia sebenarnya sudah menemukan langkah yang nyaris optimal. Itulah batas pada tipe A.
Standar perbandingannya bisa berbeda-beda bagi tiap orang, tetapi dalam pandangan saya, di baduk AI dan manusia telah mencapai tingkat yang sama. Pemula baduk dan pemain profesional memiliki kemampuan yang secara kualitatif berbeda, tetapi AI hanya lebih cepat sedikit daripada pemain baduk profesional.
Hmm? Meski saya tidak terlalu paham Go, saya sudah cukup lama bermain catur, dan bagian ini justru sangat berbeda dari yang pernah saya dengar dari orang-orang yang bermain Go.
Apakah ada dasar atau sumber untuk bagian ini?
Setahu saya, AlphaGo meninjau langkah-langkah yang sebelumnya dianggap buruk oleh manusia sehingga melahirkan joseki baru.
https://namu.wiki/w/3%EC%9D%98%203
Untuk kasus Go, tampaknya pemahaman yang keliru jika sejak awal menilai bahwa "AI dan manusia telah mencapai level yang sama". AI sudah membuktikan kemampuan yang melampaui manusia di bidang Go.
Saat ini, pemain dengan rating tertinggi di dunia Go adalah Shin Jin-seo 9-dan, dengan skor 3866. (lihat https://www.goratings.org/ko/)
Namun, untuk AlphaGo Zero (2017) yang Anda sebutkan, Elo rating yang diumumkan mencapai 5185.
Sebagai referensi, jika selisih Elo rating adalah 200 poin, itu setara dengan perbedaan kekuatan di mana satu pihak dapat menang tiga kali dari empat pertandingan; dan jika selisihnya 1200 poin, tingkat kemenangan yang diperkirakan mencapai 99,9%.
Versi AlphaGo yang melawan Lee Sedol dan menang 4 kali dari 5 pertandingan dengan 1 kekalahan memiliki Elo rating 3739, dan ketika versi AlphaGo itu dipertandingkan melawan AlphaGo Zero, AlphaGo Zero menang 100:0.
Karena itu, menganggap tidak ada perbedaan kualitatif meskipun selisih skornya lebih dari 1300 poin tampaknya hanyalah mengabaikan kenyataan.
Dan klaim bahwa joseki Go tidak banyak berubah bahkan setelah kemunculan AI juga dapat diketahui tidak sesuai fakta hanya dengan sekali pencarian Google.
Selain itu, sekalipun hasil pemrosesan AI keluar dengan cara yang mirip manusia, itu tidak menjamin bahwa cara manusia selalu merupakan yang terbaik di antara semua kemungkinan.
Mengatakan bahwa kecerdasan manusia berada di puncak tertinggi sehingga tidak ada lagi ruang untuk meningkat pada dasarnya sama dengan mengatakan bahwa cara manusia belajar dan memecahkan masalah adalah yang terbaik sejauh mungkin.
Tetapi benarkah demikian? Kecerdasan manusia dibentuk oleh tekanan evolusioner untuk menyelesaikan masalah-masalah seperti kelangsungan hidup yang dihadapi pada tiap masa dalam proses evolusi, sehingga sarat dengan berbagai heuristik dan bias.
Memang benar bahwa saat ini kecerdasan buatan bahkan belum sepenuhnya mampu menyamai hal itu, tetapi itu tidak dapat menjadi dasar bahwa kecerdasan buatan yang akan muncul di masa depan juga tidak bisa melampaui manusia.
Terakhir, "mencari ke sana kemari karena tidak tahu" justru merupakan bagian yang menurut saya dapat dilakukan mesin jauh lebih baik daripada manusia. Mesin dapat mengerahkan banyak instance untuk melakukan pencarian secara paralel. Bahkan ini pun sudah didemonstrasikan pada level AlphaGo Zero yang Anda sebutkan.
Di sini saya juga setuju bahwa dalam eksperimen ilmiah seperti fisika atau kimia akan muncul bottleneck dalam perolehan pengetahuan, tetapi di bidang yang bottleneck semacam itu tidak ada atau lebih kecil, kemajuan yang jauh lebih cepat justru akan dimungkinkan. Misalnya di ranah matematika atau coding.
Dan bahkan pada titik-titik tempat bottleneck muncul sekalipun, ada bidang-bidang yang bisa berkembang jauh lebih cepat daripada sekarang. (seperti yang ditunjukkan AlphaFold) Sesuatu akan diprediksi lebih dulu lewat simulasi untuk mengurangi jumlah eksperimen nyata yang diperlukan, lalu eksperimen berulang akan diotomatisasi dengan robot.
Kalau begitu, bukankah lebih tepat memprediksi bahwa superintelijensi kolektif/berbasis kecepatan yang Anda beri nama "Tipe B" akan, di bidang tersebut, sudah melampaui manusia? Batas manusia dan batas teoretis/fisik jelas merupakan dua hal yang berbeda. Jika Anda bersikeras bahwa "yang hanya lebih cepat bukanlah peningkatan kualitatif", menurut saya itu hanyalah memindahkan gawang dan menyimpang dari pokok bahasan. Hasil nyata yang akan keluar jelas akan melampaui hasil manusia, jadi pada titik itu sudah sulit mengatakan bahwa ia "hanya lebih cepat".
Sebaliknya, kalau argumennya adalah bahwa kecerdasan manusia telah menabrak batas biologis saat ini sehingga kecil kemungkinan kecerdasan manusia meningkat jauh lebih tinggi dari sekarang, itu terdengar masuk akal.
Namun, jika klaim beraninya adalah bahwa kecerdasan mesin—yang dibatasi bukan oleh batas biologis melainkan batas fisik—akan memiliki batas yang secara kualitatif mirip dengan manusia, saya rasa dibutuhkan bukti dan logika yang jauh lebih meyakinkan.
Untuk menanggapi pendapat dua orang di bawah, sepertinya masalahnya ada pada bagaimana evaluasinya akan dilakukan. Karena saya tidak menyajikan kriteria evaluasi, sejak awal ini mungkin memang terdengar seperti klaim yang agak samar.
Menurut standar saya, saya tidak ingin menganggap perbedaan antara nilai matematika 80 dan 90, atau perbedaan antara membutuhkan 1 jam dan 30 menit untuk menyelesaikan soal, sebagai perbedaan kecerdasan. Jika hanya selisih sebesar itu, sepertinya lebih tepat dianggap sebagai tingkat kecerdasan yang sama. Bahkan antar manusia pun variasinya besar, tetapi kita tetap menyederhanakannya sebagai "kecerdasan manusia". Para pemain Go profesional juga semuanya punya kemampuan dan peringkat elo yang berbeda-beda, tetapi kita tidak mengatakan bahwa permainan Go mereka berada pada tingkat yang sepenuhnya berbeda; namun kita bisa mengatakan bahwa mereka bermain Go pada tingkat yang benar-benar berbeda dibanding amatir level 10-kyu. Dari sudut pandang ini, meskipun AlphaZero selalu mengalahkan Lee Sedol, itu bukan berarti Go pada tingkat yang berbeda. (Kalau berbicara seperti ini, berarti dalam Go kita harus mengatakan bahwa dewa, manusia, dan AI berada pada tingkat yang sama. Tentu jika dewa tidak bisa memainkan Go pada tingkat yang sepenuhnya berbeda. Misalnya, dewa tetap menang melawan manusia bahkan dengan handicap 9 batu.)
Terhadap klaim saya bahwa "joseki Go tidak banyak berubah", sanggahan bahwa bukan berarti tidak ada perubahan sama sekali, dan bahwa joseki baru juga muncul, terasa sedikit seperti "sanggahan demi sanggahan", tetapi memang itulah menariknya diskusi. Kalau tidak ada sanggahan, diskusinya akan jadi terlalu datar.
Tambahan lagi, hanya dengan membedakan antara perbedaan kualitatif dan kecepatan, menurut saya kita bisa memprediksi prospek AI dengan lebih baik. Seperti yang saya sebutkan sebelumnya, sama seperti sulit melaju kencang di Gangnam-daero, masalah-masalah yang benar-benar harus kita selesaikan di dunia nyata berada dalam lingkungan yang sulit untuk mengandalkan kecepatan. Ada batasan pada kecepatan, dan jika tingkat kecerdasannya serupa secara kualitatif, akan sulit menghasilkan perbedaan dalam hasil. Tentu mungkin ada beberapa bidang yang tidak memiliki bottleneck kecepatan, tetapi sepertinya bukan matematika dan coding, dan di bidang-bidang ini tampaknya peningkatan tingkat kualitatif harus didahulukan. (Namun, argumen saya bukan bahwa AI tidak akan mampu menyamai manusia.)
Ketika manusia dan AI berhadapan lalu salah satu pihak menang telak dengan tingkat kemenangan di atas 99%, bagaimana itu bisa dianggap berada di level yang sama? Itu pada dasarnya sama saja dengan mengatakan tidak perlu dibedakan.
Pernyataan bahwa "dalam Go, dewa, manusia, dan AI berada di level yang sama" terdengar seperti klaim bahwa karena dewa, manusia, dan AI berbagi aturan yang sama saat bermain Go, maka kemampuan ketiganya pada dasarnya setara. Namun, berbagi aturan yang sama dan memiliki kemampuan yang sama adalah dua hal yang sepenuhnya berbeda.
Dengan standar ini, bahkan jika ada kesenjangan empiris yang jelas, menurut standar beliau tetap bisa disebut berada di level yang sama, sehingga diskusinya tampak tidak memiliki makna apa pun.
Melihat tulisan lain yang beliau unggah di blog pribadinya, tampaknya sejak premis dalam menerima dasar argumennya saja sudah sangat berbeda dari standar saya.
Dalam kondisi dengan perbedaan seperti ini, tampaknya sulit untuk melanjutkan diskusi yang normal, jadi saya akhiri sampai di sini.
Ah wkwkwkwk, begitu dibilang bantahan demi membantah tanpa tambahan dasar apa pun untuk sanggahan itu, saya sempat mikir, sebenarnya maunya apa? tapi...
Terima kasih banyak sudah melampirkan tautan blognya. Saya juga cukup sampai di sini saja, sepertinya.
Pantas saja cara bicaranya tidak biasa, ternyata Anda adalah orang yang menang dengan teori konspirasi dalam taruhan teori konspirasi pendaratan di bulan.
Sampai berhasil menggolkan klaim teori konspirasi pendaratan di bulan, jadi saya penasaran apakah ada topik taruhan yang mustahil bagi orang ini.
Ini benar-benar pendapat yang tidak terduga, jadi meski Anda bilang akan berhenti sampai di sini, bolehkah kita membahasnya sedikit lebih jauh?
Mungkin karena Anda tidak terlalu paham baduk, tetapi apakah adanya sedikit perubahan pada joseki yang sudah ada berbeda dengan pernyataan bahwa "joseki baduk tidak banyak berubah"?
Anda tentu tahu bahwa "banyak" dan "sama sekali tidak" punya makna yang berbeda, jadi saya penasaran dalam hal apa Anda sampai berpikir, "sebenarnya mau bilang apa sih?"
Saya memahami dengan baik perbedaan sudut pandang dalam kriteria evaluasi. Seperti yang Anda katakan, jika menggunakan kriteria bahwa menerima skor yang lebih baik meski hanya 1 poin berarti kecerdasannya lebih tinggi, maka saya juga berpikir bahwa "hipotesis kontinum kecerdasan" adalah false.
Terima kasih atas pendapatnya.
Satu-satunya cara untuk mengetahui batas kemungkinan dari sesuatu adalah dengan sedikit melampauinya ke wilayah yang mustahil.
Pendapat yang menarik. Hipotesis tetaplah hipotesis, dan setiap orang bisa punya pandangan yang berbeda. Reaksi seperti "saya tidak suka hipotesis ini, hipotesis ini membuat saya tidak nyaman" karena terlalu mencampurkan preferensi pribadi ke dalam hipotesis tampak agak aneh. Sebaliknya, jika hanya berpikir hipotesis itu salah, atau bereaksi sebatas bagaimana bisa mengetahuinya, itu hanyalah pendapat pribadi jadi tidak ada yang aneh.
Karena Anda bertanya, izinkan saya menjawab: untuk membahas hipotesis ini, kita harus memikirkan terlebih dahulu apa itu "kecerdasan". Hakikat kecerdasan itu samar. Kita masih belum memiliki definisi yang jelas dan disepakati mengenainya. Bagi orang awam maupun para pengembang di bidang AI, hakikatnya terasa kabur, tetapi di bidang psikologi kognitif juga telah banyak dilakukan penelitian tentang hal ini.
Pertanyaan adalah sarana yang sangat efektif untuk menemukan jawaban, dan hipotesis juga merupakan semacam pertanyaan.
Konten itu sudah saya tulis di blog, dan kalau ada yang berkata, "Saya tidak paham isinya. Hipotesisnya juga tidak saya suka," sepertinya tidak ada lagi yang bisa saya jawab. Mungkin memang kemampuan saya menulis masih kurang.