Apa Itu Kecerdasan? (2024)

• Menjelajahi konsep ‘kecerdasan (intelligence)’ pada manusia dan kecerdasan buatan secara filosofis dan teknis, sambil meninjau ulang definisi dan hakikatnya
• Mendefinisikan kecerdasan bukan sebagai sekadar kemampuan komputasi, melainkan kemampuan umum untuk beradaptasi terhadap lingkungan dan memecahkan masalah
• Membandingkan kecerdasan biologis dan kecerdasan buatan, serta menyoroti pemahaman konteks dan orientasi tujuan sebagai unsur kunci
• Menjelaskan bahwa kemajuan kecerdasan buatan berperan sebagai cermin yang membantu kita memahami hakikat kecerdasan manusia dengan lebih mendalam
• Pembahasan ini memberikan implikasi penting untuk merumuskan ulang arah riset AI dan filosofi desain yang berpusat pada manusia

---

Definisi dan hakikat kecerdasan

• Tulisan ini memandang kecerdasan bukan sekadar sebagai pemrosesan informasi atau kemampuan komputasi, melainkan mendefinisikannya sebagai kemampuan umum untuk beradaptasi dengan lingkungan dan mencapai tujuan
  • Kecerdasan bukanlah keterampilan untuk menyelesaikan masalah tertentu, melainkan keluwesan dalam mempelajari dan menyelesaikan masalah baru
  • Karena itu, kecerdasan dijelaskan bukan sebagai sifat yang statis, melainkan proses dinamis yang berubah sesuai situasi dan konteks
• Ditegaskan bahwa kecerdasan manusia terhubung erat dengan kesadaran, emosi, dan interaksi sosial, dan hal ini tidak dapat direduksi menjadi sekadar perhitungan algoritmis
  • Pemikiran manusia mencakup penetapan tujuan, penilaian nilai, dan penalaran berbasis pengalaman
  • Unsur-unsur ini ditunjukkan sebagai ranah yang masih sulit ditiru oleh sistem kecerdasan buatan saat ini

Perbandingan kecerdasan buatan dan kecerdasan biologis

• Kecerdasan buatan menjalankan tugas tertentu melalui pembelajaran pola berbasis data, sedangkan manusia memecahkan masalah melalui pemahaman kontekstual dan penafsiran makna
  • AI mempelajari korelasi statistik, tetapi manusia mengenali hubungan sebab akibat dan tujuan
  • Perbedaan ini menunjukkan bahwa hakikat ‘kecerdasan’ terletak bukan pada kecepatan pemrosesan informasi semata, melainkan pada kemampuan membangun makna
• Kecerdasan biologis terbentuk di bawah tekanan evolusioner dan tujuan bertahan hidup, sementara kecerdasan buatan bekerja berdasarkan fungsi tujuan yang dirancang manusia
  • Karena itu, ‘kecerdasan’ AI didefinisikan sebagai bentuk artifisial yang tunduk pada tujuan eksternal
  • Kecerdasan manusia mencakup struktur motivasi intrinsik seperti pelestarian diri dan kerja sama sosial

Unsur pembentuk kecerdasan dan masalah pengukuran

• Tulisan ini mengajukan pembelajaran, penalaran, ingatan, perencanaan, dan kreativitas sebagai unsur utama yang membentuk kecerdasan
  • Unsur-unsur ini saling berinteraksi dan menghasilkan perilaku adaptif dalam lingkungan tertentu
  • Misalnya, kreativitas dijelaskan sebagai ekspresi tingkat tinggi dari kecerdasan yang menyusun ulang pengetahuan yang ada untuk menawarkan solusi baru
• Kesulitan dalam mengukur kecerdasan juga disorot
  • IQ atau benchmark test hanya mengukur kemampuan menyelesaikan jenis masalah tertentu, sehingga tidak mampu merefleksikan karakter kecerdasan yang kompleks dalam dunia nyata
  • Karena itu, untuk mengevaluasi kecerdasan perlu mempertimbangkan adaptabilitas kontekstual dan kemampuan generalisasi secara bersamaan

Pertanyaan filosofis yang diajukan oleh perkembangan AI

• Perkembangan pesat kecerdasan buatan kembali mengangkat pertanyaan mendasar: ‘apa hakikat kecerdasan?’
  • Semakin AI meniru bahasa, kreasi, dan penilaian manusia, semakin besar kebutuhan untuk menelusuri di mana letak kecerdasan khas manusia
  • Ini meluas bukan hanya sebagai persoalan teknis, tetapi juga sebagai persoalan ontologis dan etis
• Tulisan ini menjelaskan bahwa AI berperan sebagai cermin bagi kecerdasan manusia
  • Melalui keterbatasan dan kesalahan AI, kita dapat memahami struktur dan kekuatan pemikiran manusia dengan lebih jelas
  • Karena itu, riset AI ditafsirkan sebagai proses perluasan pemahaman tentang manusia

Arah masa depan riset kecerdasan

• Ditekankan bahwa riset kecerdasan ke depan harus mencakup desain yang berpusat pada manusia dan pertimbangan etis
  • Bukan hanya pencapaian teknis, dampak kecerdasan terhadap masyarakat dan kehidupan manusia juga harus dievaluasi bersama
  • Ini terhubung dengan persoalan ‘penyelarasan nilai (value alignment)’, yaitu merancang sistem AI agar mencerminkan nilai dan tujuan manusia
• Upaya merumuskan ulang definisi kecerdasan dipaparkan sebagai proses untuk memperkuat landasan filosofis pengembangan AI
  • Perkembangan teknologi dapat memperdalam pemahaman tentang kecerdasan manusia dan menjadi momentum untuk merekonstruksi makna kecerdasan
  • Pada akhirnya, riset kecerdasan harus bergerak ke arah eksplorasi ko-evolusi (co-evolution) antara manusia dan mesin

[GN⁺]

Komentar Hacker News

• Saya merasa buku ini benar-benar butuh editor.
  Sekitar 100 judul bab terasa seperti dibuat lewat asosiasi saat berhalusinasi, dan tiap bagian tampak seperti eksperimen artistik yang justru membingungkan pembaca.
  Ada banyak diagram rumit dan istilah teknis yang hanya terhubung longgar dengan isinya, ditambah scroll hijacking, sehingga makin sulit dibaca.
  Karena totalnya mencapai 600 halaman, saya rasa kebanyakan orang tidak akan membacanya dari awal sampai akhir.

  • Secara retoris, ini semacam struktur "Yes-set".
    Artinya, pembaca digiring untuk setuju lewat urutan fakta yang bisa diverifikasi → kebenaran yang gamblang → opini yang diterima luas → klaim tanpa dasar → kesimpulan klise.
    Struktur seperti ini sering dipakai pemimpin kultus atau orator politik sebagai teknik persuasi untuk menyelipkan klaim yang dasar logisnya lemah.
    Bagian buku tentang sibernetika dan teori komputasi memang diteliti dengan baik, tetapi tidak orisinal dan tidak punya argumen terpadu.
    Campuran cerita biologi dan film justru membuat fokusnya buyar.
    Penulis tampaknya punya opini kuat soal AI, tetapi alih-alih membuktikannya secara langsung, ia seperti menyembunyikannya di dalam sandwich persuasi.
    Referensi terkait: Compliment Sandwich, tulisan History of Computing
  • Video kuliah 1 jam dari penulis merangkum inti bukunya.
    Saya belum membaca seluruh bukunya, tetapi rasanya membaca teori predictive processing dari Karl Friston atau Andy Clark akan lebih bernilai.
  • Justru sebaliknya, saya cukup menikmati membaca buku ini dari awal sampai akhir.
    Desain situs saya sendiri memang lebih nyaman dibaca, tetapi susunannya yang aneh malah terasa menarik buat saya.
  • Kalau Anda suka tulisan seperti ini, saya merekomendasikan paper A Definition of AGI.
  • Saya juga mendapat kesan serupa.
    Belakangan kalau melihat tulisan bergaya seperti ini, saya langsung merasa ada kesengajaan untuk kabur atau pendekatan pseudosains, jadi saya lewatkan saja.

• Dalam diskusi ini, 『Universal Artificial Intelligence』 karya Marcus Hutter tidak boleh dilewatkan.
  Buku ini menyajikan definisi matematis tentang kecerdasan dan dasar pengambilan keputusan berbasis probabilitas algoritmik.
  Keterbatasan teknologi AI saat ini juga bisa dijelaskan dalam kerangka itu.

  • Kalau ada yang sudah membaca buku itu, saya ingin mendengar penjelasan yang lebih konkret tentang bagaimana kesenjangan AI dijelaskan dalam kerangka tersebut.

• Saya ingin bertanya apakah ada yang benar-benar membaca buku ini.
  Saya baru membaca sekitar setengahnya, dan gagasan bahwa replikasi diri muncul secara alami dalam semesta komputasional terasa menarik.
  Nuansanya mirip pandangan dunia Wolfram, tetapi upaya menghubungkan banyak bidang terasa merangsang.
  Cocok dibaca sebagai pop-sci.

  • Saya juga menamatkannya. Memang butuh editing, tetapi perjalanan melintasi biologi, fisika, ilmu komputer, dan keuangan sangat menyenangkan.
    Terutama konsep bahwa “replikasi dimulai dari salinan yang buruk” sangat membekas.
    Menarik melihat bagaimana sistem mula-mula membuat salinan yang tidak sempurna, lalu perlahan membaik hingga mencapai replikasi.
    Menurut saya ide ini juga berlaku untuk startup, ide, dan sistem keuangan.
    Sebagai bonus, kode brainfuck di versi online-nya punya bug, jadi coba cari.
  • Saya tidak tertarik pada kesadaran maupun kecerdasan.
    Saya menganggap makna berasal dari perubahan keadaan.
    Manusia adalah pembangkit makna yang kompleks, dan alam semesta terikat pada entropi sehingga punya batas waktu.
    Selama itu, saya memandang kita sebagai makhluk yang memancarkan makna seperti bintang memancarkan cahaya.

• Saya belum membaca bukunya langsung, tetapi penulis tampaknya berargumen bahwa sebagian besar kecerdasan manusia bisa direproduksi oleh AI.
  Dengan kata lain, sistem nonhayati juga bisa menunjukkan perilaku cerdas.
  Namun AI tidak punya konteks jasmani (embodiment), jadi sulit menyebutnya setara dengan kecerdasan manusia.
  Untuk memahami asal-usul kecerdasan manusia, 『A Dynamic Systems Approach to the Development of Cognition and Action』 karya Ester Thelen adalah titik awal yang baik.
  Buku itu menjelaskan bahwa perkembangan manusia bukanlah program genetik semata, melainkan interaksi coba-coba dan galat.
  Pada akhirnya saya pikir seni merawat dan mendidik adalah kunci kemajuan peradaban.

  • Saya tidak melihat masalah memakai kata ‘kecerdasan’ untuk sistem buatan.
    Penanda ‘artifisial’ sudah cukup membedakannya.
    Namun mereka tidak punya kehendak (will). Tujuan mereka pada akhirnya hanyalah kehendak programmer.
  • Kalau begitu, apakah pasien locked-in syndrome harus dianggap punya bentuk kecerdasan lain karena pengalaman jasmaninya terbatas?
  • Banyak hewan sudah memiliki kemampuan yang terprogram secara genetik seperti berjalan sejak lahir. Jadi tidak bisa dijelaskan sepenuhnya hanya lewat pembelajaran.

• Sikap penulis yang mengatakan “ini bukan filsafat, melainkan sains yang meneruskan jejak Turing” terasa seperti berpura-pura rendah hati sambil meremehkan filsafat.
  Gagasan utamanya, yaitu “imitasi adalah kecerdasan”, mudah dibantah lewat contoh sosial.
  Misalnya, seorang aktor bisa memerankan jenius dengan sempurna tanpa benar-benar menjadi jenius.
  Jadi, menghasilkan kalimat yang meyakinkan bukanlah hakikat kecerdasan.
  Kecerdasan manusia lahir dari penalaran mendasar dan pengenalan pola sensorik, dan itu masih wilayah yang belum dicapai AI.

  • Tetapi jika imitasi sempurna benar-benar mungkin, bukankah aktor itu pada akhirnya tak terbedakan dari seorang jenius, dan dengan demikian menjadi jenius itu sendiri?

• Bahkan jaringan saraf sederhana pun adalah universal approximator, jadi baik otak biologis maupun otak buatan pada akhirnya bisa menjadi entitas yang mengaproksimasi fungsi-fungsi kompleks dunia.

  • Benar, tetapi itu mengabaikan peran world model.
    Kecerdasan bukan sekadar aproksimasi input-output, melainkan kemampuan mempelajari struktur kausal, mensimulasikannya, dan merencanakan.
    LLM hanya terlihat cerdas karena sudah memuat pengetahuan yang diperluas oleh kecerdasan manusia.
    Pertanyaan sebenarnya adalah apakah ia bisa membangun model kausal sendiri.
    LLM saat ini kuat dalam interpolation tetapi lemah dalam extrapolation.
  • Definisi state dan next state di sini tidak jelas.
    Input sensorik masuk pada beragam siklus dan lokasi, sehingga penyederhanaan berlebihan bisa menghilangkan informasi penting.

• Dalam wawancara yang pernah saya dengar, ada hipotesis bahwa reasoning manusia berevolusi bukan untuk berpikir logis, melainkan untuk persuasi sosial.
  Artinya, kita membuat alasan untuk meyakinkan orang lain atau membenarkan tindakan kita sendiri.
  Dalam hal ini, saya merasa struktur prediksi token berikutnya pada LLM mirip dengan struktur percakapan manusia.
  Sepertinya itu penelitian Hugo Mercier.

  • Menurut paper Mercier, reasoning berevolusi bukan sebagai alat bantu kognitif individual, melainkan sebagai alat debat sosial.
    Lihat Why do humans reason?
  • Saya pikir handedness dan pembuatan alat menjelaskan asal-usul bahasa dan penalaran.
    Untuk membuat alat dan mewariskan pengetahuan, dibutuhkan pengajaran dan kolaborasi.
    Kutipan terkait: Cambridge excerpt
  • Manusia memilih kata secara spontan saat berbicara, tetapi mereka sudah tahu konsep yang ingin disampaikan.
    Sebaliknya, LLM hanya berurusan dengan kata, bukan konsep.
    Bahasa hanyalah alat yang dibuat manusia; ide dan bahasa adalah hal yang berbeda.
  • Tujuan bahasa bukan menggambarkan realitas secara akurat, melainkan abstraksi untuk meyakinkan orang lain, sehingga mirip dengan argumen dalam 『Language vs Reality』 karya N.J. Enfield.
  • Saya ingin mengusulkan Turing test evolusioner.
    Caranya dengan terus menambah jumlah kata prediksi otomatis di smartphone dan mengukur seberapa mirip hasilnya dengan percakapan manusia.

• Buku ini membahas sentralitas prediksi, struktur sosial kecerdasan, fungsi kompresi bahasa, dan keterbatasan sistem yang terisolasi.
  Namun isu utamanya adalah apakah kecerdasan sejati mungkin lewat prinsip komputasi murni saja, ataukah perlu imanensi lingkungan.
  Saya memandang biaya dan efisiensi sebagai penggerak semua pembelajaran.
  Sistem biologis harus menopang generasi berikutnya, sehingga kecerdasan menjadi proses pencarian yang dioptimalkan oleh tekanan ekonomi.
  Tulisan terkait: What the Dumpster Teaches

  • Kalau begitu, apakah ketel listrik juga cerdas?
    Sekadar mengukur suhu lalu mematikan diri bukanlah inferensi tujuan.
    Kecerdasan sejati harus punya lapisan meta yang dapat merefleksikan tujuannya sendiri.
  • Pelatihan model juga menimbulkan biaya finansial nyata, dan jika kinerjanya buruk pelatihannya dihentikan.
    Jadi ada tekanan seleksi ekonomi, sehingga strukturnya tidak sepenuhnya berbeda.
  • Jika rentang waktu prediksi berbeda-beda, akan muncul kontradiksi dan ketidakpastian, dan itulah yang membentuk batas kecerdasan.
    Manusia tidak suka kontradiksi seperti ini, jadi mereka memakai cerita (story) untuk menjaga koherensi.
    Agama, politik, hukum, mitos AI, dan sebagainya semuanya adalah perangkat naratif untuk meredam kesalahan prediksi kolektif.
    Namun mikroba bisa bertahan hidup tanpa semua itu.
    Pada akhirnya, kecerdasan hanyalah pusaran informasi yang tidak stabil, dan bukan sesuatu yang mutlak perlu untuk mempertahankan kehidupan.
  • Dalam diskusi seperti ini selalu ada bayang-bayang kesadaran (consciousness).
    Jika kesadaran bersifat emergent, maka kecerdasan berbasis silikon juga mungkin saja terjadi.

• Menurut ulasan Amazon,
  inti buku ini adalah hipotesis predictive brain bahwa “otak berevolusi untuk memprediksi masa depan”.
  Buku itu juga berargumen bahwa sebagian sistem AI modern mungkin memiliki kecerdasan, kesadaran, dan kehendak bebas.

  • Namun jika dilihat dari perspektif evolusi, otak di masa depan bisa berevolusi untuk fungsi lain.
    Karena itu, definisi berbasis ‘prediksi’ hanyalah ciri sementara yang berubah seiring waktu.

• Kecerdasan adalah apa yang kita anggap bisa kita lakukan sendiri.
  Namun komputer makin lama makin bisa melakukan semuanya.
  Pada akhirnya, kecerdasan manusia mungkin hanyalah pattern matching tingkat tinggi.

  • Manusia punya kemampuan menciptakan pertanyaan baru dan menyelidikinya.
    LLM masih belum mampu melakukan riset otonom atau perancangan tingkat tinggi.
    Selain itu, ia juga kurang memiliki kemampuan untuk melupakan dan mengelola konteks dirinya sendiri.
    Banyak bagian dari kecerdasan manusia juga dimiliki hewan lain, tetapi dipercepat oleh tulisan dan pembuatan alat.
  • Jika kecerdasan adalah apa yang bisa kita lakukan, lalu apa yang tidak bisa kita lakukan itu sihir? Lelucon itu terlintas di kepala saya.
    Pattern matching memberi heuristik yang sangat berguna: “korelasi kemungkinan besar adalah kausalitas.”
    Kecerdasan adalah kemampuan meretas dan memahami sistem, dan lewat itu kita menumpuk pengetahuan yang makin kompleks.
    Kita berawal dari api, batu, dan gandum, dan sekarang sudah sampai pada tahap membicarakan eksplorasi Mars.