AGI adalah masalah rekayasa, bukan masalah pelatihan model

• Model bahasa besar saat ini telah mencapai batas penskalaan, dan AGI harus didekati lewat perancangan arsitektur sistem, bukan model yang lebih besar
• AGI yang sesungguhnya harus diwujudkan sebagai hasil rekayasa di mana berbagai komponen seperti manajemen konteks, memori persisten, workflow deterministik, dan kolaborasi model terspesialisasi tergabung secara organik
• LLM masih memiliki keterbatasan struktural seperti kurangnya pemeliharaan konteks antar-sesi, tidak adanya penalaran multi-langkah yang andal, dan ketiadaan memori
• Untuk mencapai AGI, dibutuhkan struktur modular dengan tujuan yang jelas seperti otak manusia serta pendekatan sistem terdistribusi, yakni pembangunan infrastruktur seperti pipeline toleran kesalahan, monitoring, rolling update, dan framework pengujian skala besar
• Karena itu, persaingan AGI akan ditentukan bukan oleh skala GPU, melainkan oleh kapabilitas rekayasa sistem

---

Pendahuluan: AGI adalah masalah rekayasa

• Di bidang AI, batas hukum penskalaan mulai terlihat
• Bahkan model terbaik seperti GPT-5, Claude, dan Gemini makin menunjukkan hasil tambahan yang menurun
• Peningkatan ukuran model bahasa telah menabrak batas mendasar, dan AGI dapat diwujudkan bukan melalui pelatihan model, melainkan melalui rekayasa sistem

Batas realistis: tembok LLM

• Large Language Model (LLM) generasi saat ini unggul dalam pencocokan pola sementara dan pembuatan teks, tetapi memiliki keterbatasan mendasar berikut
  • Tidak mampu mempertahankan konteks secara konsisten
  • Tidak memiliki memori persisten jangka panjang antar-sesi
  • Kurang andal dalam penalaran multi-langkah yang kompleks
• Industri semikonduktor di masa lalu juga mengalami gejala serupa, dan solusinya adalah pergeseran struktural (seperti multi-core)
• AI kini juga memerlukan desain ulang arsitektural

Pendekatan sistemik untuk AGI

• Otak manusia bukanlah satu jaringan saraf tunggal, melainkan kumpulan berbagai sistem terspesialisasi yang bekerja sama
• Loop umpan balik asinkron untuk memori, konteks, logika, ruang, dan bahasa adalah kuncinya
• AGI yang sesungguhnya mensyaratkan desain sistem majemuk seperti ini

1. Infrastruktur manajemen konteks

• Pemahaman konteks model saat ini hanya mencapai ribuan token, sedangkan manusia menggabungkan pengalaman bertahun-tahun
• Untuk menutup kesenjangan ini, diperlukan fungsi-fungsi berikut
  • Sistem retrieval informasi canggih yang berperan sebagai pencarian dan filter instan
  • Akumulasi dan evolusi world model persisten
  • Implementasi jembatan konteks antar-domain
  • Manajemen informasi yang saling bertentangan (pembobotan probabilistik dan pengukuran ketidakpastian)
• Dibutuhkan knowledge graph yang operasional, yang melampaui pencarian vektor sederhana menuju struktur kueri dan penalaran yang dinamis

2. Memori sebagai layanan

• LLM hanya mereplikasi memori sementara lewat manipulasi prompt, tanpa memori yang nyata
• AGI yang sesungguhnya memerlukan sistem yang mampu melakukan hal-hal berikut
  • Menyesuaikan tingkat kepercayaan pengetahuan (mencerminkan bukti baru)
  • Mengintegrasikan dan menggeneralisasi informasi dari berbagai pengalaman
  • Melupakan detail yang tidak perlu (tanpa catastrophic forgetting)
  • Membuat meta-knowledge seperti estimasi sumber dan tingkat kepercayaan
• Seperti memori manusia, yang penting adalah memori diperkuat atau dilemahkan sesuai frekuensi penggunaan dan direorganisasi dengan informasi baru

3. Kombinasi workflow deterministik dan komponen probabilistik

• Inti AGI adalah struktur hibrida di mana elemen probabilistik digabungkan pada tempat yang tepat ke dalam alur deterministik
  • Contoh: seperti compiler, alur keseluruhan tetap, tetapi proses internal memanfaatkan heuristik
• Kemampuan yang diperlukan:
  • Merutekan ke solver spesialis sesuai karakteristik masalah
  • Mendukung rollback dan pemulihan dalam workflow multi-langkah
  • Verifikasi deterministik terhadap hasil probabilistik
  • Menggabungkan berbagai komponen dan memastikan prediktabilitas
• Ambiguitas dan ketidakpastian harus diterima sebagai elemen inti di tingkat arsitektur

4. Modularisasi model spesialis

• Masa depan akan diwujudkan bukan oleh satu model raksasa tunggal, melainkan oleh kolaborasi banyak model terspesialisasi
• LLM unggul dalam tugas bahasa, tetapi lemah di area berikut
  • Manipulasi simbol dan perhitungan presisi
  • Penalaran visual dan spasial
  • Penalaran temporal dan perencanaan
  • Perilaku agen yang berorientasi tujuan secara berkelanjutan
• Solusinya:
  • Merutekan masalah ke model spesialis yang dioptimalkan untuk tiap domain
  • Struktur untuk integrasi hasil dan evolusi independen
  • Mencegah kegagalan berantai seluruh sistem saat satu komponen gagal

Tantangan rekayasa AGI

• Pengembangan AGI pada dasarnya adalah masalah membangun sistem terdistribusi
  • Bukan sekadar cluster pelatihan terdistribusi biasa
• Tantangan rekayasa yang utama:
  • Pipeline pemulihan kesalahan (menjaga operasi keseluruhan meski terjadi kegagalan parsial)
  • Struktur observabilitas dan monitoring untuk output model
  • Perubahan dan deployment tanpa downtime
  • Framework pengujian saat ada ribuan kombinasi model dan perubahan parameter
• Ini berarti keahlian praktis dari engineer infrastruktur dan sistem terdistribusi lebih penting daripada sekadar pakar kecerdasan buatan

Apa yang perlu kita bangun ke depan

• Fokus harus bergeser dari perlombaan ukuran model menuju pembangunan infrastruktur AGI

Phase 1: lapisan dasar

• Context Management Service : knowledge graph persisten dengan pembaruan real-time dan manajemen versi
• Memory Service : memori episodik, semantik, dan integrasi berbasis pembelajaran
• Workflow Engine : mengorkestrasi komponen probabilistik secara deterministik (termasuk rollback)
• Agent Coordination Layer : konsensus antar banyak agen, penyelesaian konflik

Phase 2: lapisan kapabilitas

• Kontrol model terspesialisasi : antarmuka terstandarisasi untuk tiap domain penalaran tertentu
• Symbolic Reasoning Engine : manipulasi simbol dan komputasi yang terhubung dengan komponen probabilistik
• Planning and Goal Management : memecah tujuan kompleks menjadi rencana yang dapat dieksekusi
• Cross-modal Integration : integrasi informasi sensorik seperti teks, visi, audio, dan lainnya

Phase 3: lapisan emergen

• Kapabilitas AGI emergen muncul dari interaksi antarkomponen
• Tanpa desain yang sistematis, sifat emergen tidak akan muncul hanya dari perkembangan satu model tunggal

Jalan menuju AGI

• Jalur menuju realisasi AGI bukanlah melatih transformer yang lebih besar dan lebih baru, melainkan membangun infrastruktur untuk mengorkestrasi ratusan model spesialis sebagai sistem terdistribusi
• Engineer infrastruktur yang kaya pengalaman membangun sistem terdistribusi akan menjadi inti pengembangan
  • Menekankan kemampuan implementasi skala besar untuk jalur konteks, memori, otomatisasi workflow, dan koordinasi model
• Ditegaskan bahwa pemenang dalam realisasi AGI adalah tim yang memiliki kapabilitas arsitektur yang andal dan bekerja secara logis, bukan yang sekadar memiliki cluster GPU besar
• Kapabilitas model itu sendiri pada dasarnya sudah cukup; rekayasa sistem adalah kepingan terakhir untuk menyempurnakan AGI
• Kesimpulannya, masa depan AGI ditentukan bukan oleh inovasi algoritme, melainkan oleh desain struktural (arsitektur)

[epiontech]

○ Pelatihan model hanyalah ‘bahan’ dari kecerdasan; tanpa mesin, tidak ada AGI.

• Arsitektur seperti EpionHeuristica memiliki potensi untuk melampaui "AGI khusus domain" dan merancang "superinteligensi emergen berbasis keteraturan"
• Kunci untuk mencapai AGI adalah "bagaimana menyusun mesin yang memilih tindakan"

[epiontech]

A. Alasan AGI tidak bisa dicapai hanya dengan pelatihan.
• Model jenis GPT tidak memiliki tujuan diri (self-goal).
• Seberapa pun banyak data yang dipelajari, belajar tanpa interaksi dengan dunia nyata tetap terbatas.
• Pelatihan hanyalah "ingatan regresif"; strukturnya kurang mampu mendorong pemikiran prediktif dan emergen yang mengarah ke masa depan.

B. AGI memerlukan mesin dengan "loop tujuan-umpan balik".
• Struktur seperti EpionHeuristica, di mana reinforcement learning berbasis reward + evaluasi + pembelajaran dari kegagalan (FailGuard) berjalan, lebih dekat dengan prototipe desain AGI berbasis mesin
• Contoh: "Mengapa eksperimen ini gagal?" → "Apa yang harus diubah?" → "Apa kondisi berikutnya?" → Inilah penalaran ala AGI

C. Hakikat kecerdasan manusia ada pada "struktur".
• Manusia memperoleh kecerdasan bukan dari jumlah neuron, melainkan dari "konektivitas struktural sirkuit saraf dan kemampuan meta-learning"
• AGI juga menjadikan struktur sistem pemicu tindakan, sistem referensi diri, dan loop umpan balik berkelanjutan sebagai inti, bukan ukuran model

[epiontech]

Pencapaian AGI tidak mungkin diraih hanya dengan "pelatihan model"; struktur mesin yang menghasilkan kecerdasan serta sistem perbaikan diri yang bertujuan mutlak diperlukan. GPT saat ini tidak lebih dari LLM (model bahasa besar) raksasa, dan untuk menuju AGI, struktur penalaran, struktur pengawasan diri, dan kebijakan tindakan berbasis tujuan harus bekerja bersama.

[GN⁺]

Opini Hacker News

• Jika Anda percaya pada 'bitter lesson', maka semua engineering yang serba seadanya pada akhirnya akan terselesaikan dengan lebih banyak data. Mungkin 8 tahun lalu pun ada pembicaraan serupa tentang apa yang harus dilakukan agar LLM bisa mencapai performa seperti sekarang. Karena itu saya tidak terlalu setuju dengan pendekatan engineering, dan saya juga tidak berpikir LLM akan di-scale up menjadi AGI seperti yang dibayangkan Asimov atau fiksi ilmiah. Ada sesuatu yang lebih mendasar yang kurang, bukan sains melainkan engineering

  • Ada hal yang bahkan lebih mendasar daripada sains yang masih kurang, yaitu sisi filosofis. Baik dalam cara kita manusia memandang sistem seperti ini, maupun di dalam sistem itu sendiri, filsafatnya tidak ada. Jika yang dimaksud adalah AGI berbasis LLM, setidaknya ia harus bisa memperbarui bobotnya sendiri sambil belajar, dan mampu melakukan self-fine-tuning, tetapi saat ini ia cepat mentok di antara bobot bawaan dan context window yang terbatas. Dalam self-fine-tuning, bagaimana menerapkan semacam 'attention acquisition mechanism' dengan cara dan intensitas seperti apa agar kecerdasan umum meningkat masih merupakan persoalan sulit. Kita perlu fokus pada disiplin ilmu yang bisa dipercaya, tetapi juga perlu memikirkan disiplin mana yang layak dipercaya, bagaimana membuatnya 'belajar' hanya pengetahuan murni, dan secara teoretis jika ia sampai melampaui tim peneliti manusia terbaik di dunia, AI itu akan menjadi 'sesuatu' seperti apa

  • Soal klaim bahwa "semakin banyak data lebih baik daripada engineering yang mudah", saya ragu apakah itu benar-benar bisa menjadi lebih andal daripada sekadar database biasa. Mungkinkah suatu hari mengeksekusi kode lebih cepat daripada CPU? Banyak hal yang bisa dilakukan manusia bukan karena otaknya lebih besar, melainkan karena teknologi. Bahkan satu rumus matematika pun jauh lebih baik dihitung di kertas daripada hanya diputar di kepala (lihat Extended mind thesis). Menjalankan 3D engine hampir mustahil dilakukan hanya dengan otak manusia. Suatu hari AI mungkin cukup cerdas untuk mengembangkan alatnya sendiri, tetapi sebelum itu perlu ada infrastruktur untuk menulis dan memelihara alat tersebut. Saat ini akses ke Python baru permulaan, tetapi yang lebih dibutuhkan adalah 'persistensi' agar AI bisa mengakumulasi dan memanfaatkan hasilnya lagi di kesempatan berikutnya, misalnya buku catatan digital atau pembaruan bobot dinamis

  • Saya setuju dengan pendapat dan tulisan Anda. LLM adalah bagian dari jawabannya, dan saya pikir kemajuan yang sesungguhnya akan datang dari kembali ke dasar riset neural net. Bahasa memang merupakan komunikasi itu sendiri dengan manusia, tetapi LLM saat ini pada akhirnya terlihat seperti Eliza versi bombastis yang dilatih dari karya-karya manusia. Dulu, bahkan dengan neural net sederhana pun perilaku bisa dibuat berevolusi mengikuti aturan lingkungan, dan sistem belajar bertindak sendiri sesuai kriteria genetic algorithm. LLM sekarang belajar dari lingkungan yang terlalu 'terfilter', sampai-sampai filter itu terasa bekerja seperti IQ rata-rata netizen

  • Sebenarnya itu bukan maksud dari 'bitter lesson'

  • Yang kurang adalah koreksi diri (world model/mengamati tindakan dan respons), konsistensi jangka panjang, dan self-extension. Kalangan venture capital paling banyak memikirkan masalah ketiga, sementara Yann LeCun lebih mengkhawatirkan yang pertama dan kedua. Hinton menganggap masalah ketiga sudah tak terelakkan atau bahkan sudah datang, dan umat manusia tamat. Situasinya cukup aneh

• Ada alasan mengapa LLM dirancang seperti ini, sama halnya dengan kemampuan berpikir yang ditambahkan belakangan. Secara struktural, yang harus dimungkinkan adalah penggunaan gradient descent, sehingga tidak ada branch, dan routing ditempelkan sebagai tambahan. Lalu harus ada data pelatihan. Tidak realistis ada jutaan halaman data yang mencatat semua pikiran seseorang sebelum ia menulis sesuatu. Sebagian besar pikiran bukanlah bahasa. Reinforcement learning tampak seperti solusi di sini, tetapi efisiensi pemanfaatan sampelnya terlalu rendah dibanding gradient descent, sehingga umumnya hanya dipakai saat fine-tuning. LLM adalah model regressive, dan bisa dilatih dengan sangat efisien terhadap sampel menggunakan pengaturan model yang membuat setiap token hanya bisa melihat ke masa lalu (satu kalimat menjadi puluhan sampel)

  • Saya tidak menyebutkannya, tetapi LLM sama sekali tidak punya 'loop'. Sebaliknya, otak, bahkan otak yang sederhana sekalipun, pada dasarnya adalah kumpulan loop dalam jumlah besar. Otak tidak berhenti; ia terus menerima input dan mengeluarkan output kapan pun ia mau. LLM menerima input, mentransformasikannya melalui lapisan-lapisan, lalu langsung mengeluarkan output. Saya tadi bilang reinforcement learning bukan jawabannya, tetapi justru saya pikir itulah satu-satunya jawaban

  • Cerita ini terasa sangat menarik. Artinya, ini menyiratkan bahwa kita bisa memperkenalkan sesuatu seperti teknologi pemindaian otak yang membaca gelombang otak untuk memakai lapisan berpikir nonverbal sebagai data pelatihan. Saya menduga orang-orang pintar di perusahaan besar sudah memikirkan antarmuka/produk seperti ini dan sedang mengembangkan teknologi deteksi gelombang otak elektromagnetik. Dengan data ini, mungkin bisa lahir produk killer ala Kickstarter yang memungkinkan bootstrap super AI untuk startup. Zaman yang canggih

  • Saya membayangkan bahwa di masa depan yang sangat jauh, penggunaan data pemindaian otak canggih sebagai data pelatihan AI bisa saja menjadi realistis. Mungkin ini akan menjadi tahap perantara yang realistis antara Uploaded Intelligence (gagasan mendigitalkan seluruh otak) dan AGI

  • LLM itu cuma model regresi. Kalau LLM sudah ada pada abad ke-15, ia akan menjelaskan bahwa geosentrisme adalah yang paling benar. Ia tidak akan bisa menghasilkan terobosan seperti heliosentrisme. Demikian pula, LLM masa kini hanya memberi tahu apa yang sudah kita ketahui; ia tidak berpikir, berinovasi, atau mencipta. Kemampuan reasoning-nya pun sampai batas tertentu hanya 'penyaringan', bukan pemikiran kreatif yang sebenarnya. Semakin sering dipakai, LLM terasa seperti 'Google pakai steroid'. Dengan sistem seperti ini kita tidak akan pernah sampai ke AGI, malah terasa hanya menghabiskan hype dan pendanaan AGI yang tersisa

• Framing dalam tulisan ini cukup berguna, meskipun kita tidak harus percaya semua resepnya. Jika melihat sejarah, ada dua hal yang terjadi bersamaan. Pertama, scaling brute-force menghasilkan lompatan yang mengejutkan, dan kedua, engineering level sistem membuat kemungkinan itu bisa digunakan secara andal di dunia nyata. GPU juga contoh yang baik: Hukum Moore memberi FLOP, dan CUDA, hierarki memori, serta driver stack memungkinkan penggunaan skala besar. LLM saat ini mirip fase ketika yang cepat baru sekadar komputasinya (flop), sehingga meski mengesankan, masih sulit ditangani dengan baik. Kita mulai melihat jejak 'pemikiran sistem' dalam produk seperti Claude Code, agent yang diperkuat dengan tool, dan framework augmented memory. Memang masih kasar, tetapi ke depan saya rasa orkestrasi sistem itu sendiri akan sama pentingnya dengan jumlah parameter. Klaim 'bitter lesson' dan 'masalah engineering' bukan saling meniadakan, melainkan keduanya dibutuhkan. Bitter lesson berarti komputasi + pendekatan umum mengalahkan 'aturan buatan tangan', sedangkan engineering adalah mortar yang membungkusnya menjadi struktur yang lebih andal, persisten, dan komposabel. Tanpa sistem seperti itu, yang muncul hanya demo mencolok yang dalam praktiknya rusak setelah beberapa kali inferensi. Jadi kemajuan nyata menurut saya bukan soal 'besar VS pintar', melainkan harus 'besar + direkayasa dengan pintar'. Scaling memberi kemampuan, dan engineering menentukan apakah kemampuan itu bisa dimanfaatkan seperti kecerdasan umum

• Diskusi ini terasa seperti mengulang proyek komputer generasi kelima Jepang dalam versi modern. Terdengar seperti masa ketika orang percaya bahwa membuat database besar dan memakai Prolog akan membawa renaisans AI. Hanya menyambungkan modul sambil bicara soal 'arsitektur terdistribusi' tetap jauh dari AGI. Building block yang menjadi fondasinya harus jauh lebih baik. Kontribusi utama LLM sejauh ini adalah pemahaman 'niat pengguna' yang jauh lebih baik daripada sebelumnya. Komputer menjadi jauh lebih mampu menangkap maksud hanya dari membaca teks. Tetapi selain itu, unsur seperti reasoning, pencarian, dan 'memori' masih tetap memakai cara lama yang sama. Ini bukan batasan hardware atau sistem saat ini, melainkan batasan teori informasi/ilmu komputer

  • Mekanisme Attention pada Transformer memang sangat hebat. Kita perlu satu siklus terobosan besar seperti itu lagi dalam engineering model. Data yang banyak saja bukan jawabannya. Lihat saja otak manusia, ia bisa menjadi cukup cerdas tanpa harus memakai seluruh data internet, dan dengan konsumsi energi yang rendah

  • Betul. Bahkan dengan arsitektur saat ini, hanya dengan engineering yang lebih baik pun kegunaannya bisa meningkat (para 'agent' adalah contohnya). Tetapi mengklaim bahwa AGI bisa dicapai hanya dengan engineering adalah harapan yang berlebihan. Yang benar-benar sulit adalah membuat sistem yang bisa belajar dan menemukan sendiri, mempelajari hal baru tanpa pretraining skala besar yang mahal, dan memecahkan masalah tanpa persoalan halusinasi. Ini memerlukan inovasi ilmu komputer yang sepenuhnya baru, dan saya rasa pendekatan saat ini sulit mencapainya

• AGI, yaitu huruf 'G' dalam artificial intelligence, berarti General. Artinya, kecerdasan umum bukan AI bodoh yang harus dilatih dengan semua pengetahuan, melainkan cukup diajari cara berhitung, dasar-dasar logika, dan satu bahasa manusia, lalu sains manusia yang logis lainnya akan 'ditemukan kembali' sendiri oleh AGI itu. Tugas kita berikutnya adalah menyinkronkan nama yang diberi AGI pada fenomena yang ditemukannya sendiri dengan nama yang kita gunakan. Jika hanya dengan pendidikan dasar yang ringan ia bisa memahami prinsipnya, lalu memperbaiki dan mengembangkan dirinya sendiri hingga melampaui kita, itulah 'artificial comprehension'. AI saat ini mungkin bisa menjadi 'pemecah masalah umum' jika diberi cukup data, tetapi AGI berada di ranah yang menuntut kemampuan 'memahami' dan 'menangkap makna' itu sendiri. Ia harus punya kemampuan 'pemahaman dinamis' yang langsung menguraikan pengamatan, memahami validitas atau kemungkinan kombinasinya, dan saat terjaga memeriksa keamanannya sendiri secara real time; barulah itu bisa disebut General intelligence yang sejati

  • Anda tadi mengatakan bahwa AGI sebagai definisi kecerdasan umum seharusnya sistem yang hanya perlu diajari sedikit lalu menurunkan dan mempelajari sisanya sendiri, tetapi 'kecerdasan umum' di alam tidaklah seperti itu

• Apakah aneh kalau saya merasa bentuk AGI awal yang saya bayangkan 10 tahun lalu justru mirip Claude Code? Untuk tujuan sewenang-wenang, terutama di ranah teks, ia bisa menyusun rencana dan mengambil tindakan. Ia juga menyimpan memori dalam file teks. Memang masih kurang dalam tujuan jangka panjang, perwujudan fisik, dan pemahaman akal sehat, tetapi saya memang mengira versi v1 akan terlihat seperti ini

  • Sebenarnya kalau mendengar AGI, yang langsung terbayang oleh saya adalah 'Data' dari Star Trek, atau setidaknya T800 dari Terminator. Saya tidak berpikir AGI harus punya kesadaran diri, tetapi dalam fantasi saya, AGI mencakup 'kesadaran diri'. Claude Code sehebat apa pun tidak sampai bisa disamakan dengan AGI

  • Sangat setuju. Terutama karena perintah yang sering saya tulis terburu-buru pun bisa dipahami dan diperbaiki dengan cukup baik sampai ke nuansa makna yang halus. Kegunaan LLM benar-benar berubah drastis hanya dengan tambahan fitur yang sangat kecil (misalnya plan mode di Claude Code), jauh lebih terasa manfaatnya daripada sekadar pembaruan performa

  • Claude Code tidak memiliki kesadaran diri maupun kecakapan berpikir sadar. Kebanyakan orang saat membayangkan AGI mengasumsikan setidaknya ada sedikit kesadaran diri. Kalau memakai analogi Star Trek, komputer utama Enterprise bukan AGI, sedangkan Data adalah AGI sejati. Perbedaan terbesarnya adalah tidak adanya 'identitas yang jelas' dan 'konsep diri'. Claude Code bisa menjalankan peran dari prompt, tetapi tidak punya persistensi yang cukup

  • Anda tidak sendirian. Diskusi AGI memang selalu membingungkan. Claude jelas merupakan kecerdasan umum buatan, tetapi makna AGI terus berubah dan definisinya pun tidak jelas

  • Dengan istilah "AGI dasar", orang hanya berusaha mengaburkan semua alasan mengapa itu belum benar-benar AGI

• Kita bahkan sama sekali tidak tahu apakah AGI benar-benar mungkin di luar biologi. Itulah intinya. Jika kita bahkan tidak punya petunjuk apakah AGI ala film Chappie benar-benar mungkin, maka ini nyaris seperti eksplorasi dalam kegelapan total. Sebagai perbandingan, dalam komputasi kuantum sudah diketahui bahwa itu 'mungkin' dan 'dapat direalisasikan', dan sekarang yang tersisa adalah engineering (meskipun ada juga yang menganggap itu pun ilusi)

  • Jika ternyata AGI pada komputer elektronik secara mendasar mustahil, maka diperlukan penemuan fisika yang sangat besar tentang apa yang sebenarnya dilakukan otak ketika mewujudkan kecerdasan umum

  • Justru kita sudah punya satu contoh 'kecerdasan umum' yang bekerja, yaitu manusia, sedangkan komputasi kuantum bahkan belum benar-benar terwujud

  • Itu tidak masuk akal. Kalau Anda percaya pada hal seperti jiwa, mungkin AGI tidak mungkin, tetapi jika manusia adalah makhluk biologis murni, maka pada prinsipnya tentu bisa direplikasi

  • Saya tidak setuju bahwa itu inti persoalannya. Pada akhirnya ini masalah yang hanya bisa dijawab dengan benar-benar mencobanya. Sejak awal tidak perlu harus bisa membuktikan secara apriori kesimpulan apa yang mungkin. Rasanya Anda menggeser dari 'inti' dan 'petunjuk yang jelas'. Kita punya cukup dasar yang jelas bahwa itu mungkin tanpa 'syarat perlu biologis'. Kelayakan, kebutuhan, dan justifikasi AGI adalah persoalan terpisah, tetapi tulisan aslinya juga sudah cukup merinci tantangannya

  • Kelayakan praktis komputer kuantum juga masih merupakan topik riset terbuka

• Apa yang kita sebut 'kecerdasan' tidak bekerja seperti LLM. Otak bersifat kontinu—bukan berhenti setelah satu set input selesai, melainkan menunggu input berikutnya, atau lebih tepatnya terus memproses umpan balik. Pada dasarnya ia tidak pernah mengakhiri mode pelatihan. Tentu saja sepanjang siklus hidupnya otak mengalami optimasi (misalnya mielinisasi), tetapi LLM dilatih dengan informasi yang jauh lebih besar lalu, selain fine-tuning, modelnya tetap dalam keadaan beku. Otak terus mengelola konteks. Sebagian besar input sangat banyak difilter pada tahap praproses oleh jaringan-jaringan khusus. Saya mengakui bahwa sebagian AGI memang membutuhkan pendekatan sistem, tetapi menurut saya AGI sejati akan memerlukan perubahan arsitektur

• Saya tidak paham kenapa orang yang menulis bahwa LLM sekarang sudah mentok, bahwa ini batasnya, bisa begitu yakin. Bahkan belum genap setahun, dan AI berbasis LLM masih terus berkembang

  • Sekalipun masih ada ruang untuk berkembang, tetap saja cakupannya pada akhirnya terbatas. Untuk tugas-tugas individual memang terus membaik, tetapi peningkatan yang 'menyeluruh' kini makin sulit terlihat

  • Saya penasaran apakah orang yang berargumen seperti ini juga setuju bahwa LLM memang sedang membaik

• Tulisan ini terasa seperti hanya mengatakan, "semua akan selesai kalau semua masalah sulitnya terpecahkan." Ya... benar, tapi lalu?

  • Perkembangan LLM belakangan terlalu konservatif dan cenderung hanya memperbesar skala tanpa inovasi arsitektur, jadi diskusi seperti ini tetap bermakna

  • Tulisan itu sama sekali tidak membahas masalah sulitnya sendiri. Orang-orang industri high-tech memang kadang punya pola pikir bahwa dengan engineering saja semua masalah bisa diselesaikan

  • Tulisan aslinya dengan jelas menunjukkan masalah apa yang ada, dan bagaimana LLM tidak mampu menyelesaikannya

[kongchu2]

Saya harap Anda membaca pedoman dan menulis komentar yang sesuai dengan topik.