Doug Lenat Meninggal

• Peneliti AI Doug Lenat adalah tokoh kunci yang berupaya mewujudkan AI simbolik yang menangani representasi eksplisit menjadi sistem nyata, dan Gary Marcus menilainya sebagai “raksasa yang hilang dari AI”
• Selama 40 tahun terakhir hidupnya, Lenat mencurahkan diri pada Cyc untuk mengodekan pengetahuan akal sehat ke dalam bentuk yang dapat ditafsirkan mesin, dan Cycorp tetap bertahan selama 40 tahun meski tanpa sukses komersial besar
• Upaya Cyc secara langsung menargetkan persoalan representasi dan penalaran akal sehat yang hingga kini masih sulit bagi model bahasa besar (LLM)
• Ken Forbus dan Muktha Ananda sangat menghargai pengaruh Cyc terhadap riset representasi simbolik, penalaran, serta knowledge graph/web
• Salah satu makalah terakhir Lenat, Getting from Generative AI to Trustworthy AI, merupakan upaya menghubungkan pelajaran dari Cyc dengan LLM modern

---

Posisi Doug Lenat dan Cyc

• Doug Lenat adalah peneliti yang berusaha membuat AI simbolik yang dieksplorasi oleh Marvin Minsky, John McCarthy, Allen Newell, dan lainnya benar-benar dapat bekerja
• Gary Marcus telah menjadikan integrasi jaringan saraf dan AI simbolik sebagai tema seumur hidupnya, tetapi menilai bahwa di ranah AI simbolik murni, Lenat melangkah jauh lebih dalam
• Selama 40 tahun terakhirnya, Lenat memulai dan memimpin proyek Cyc
  • Cyc adalah upaya untuk mengodekan akal sehat tentang dunia ke dalam bentuk yang bisa ditafsirkan mesin
  • Cyc dan Cycorp yang dibangun untuk menaunginya memang tidak meraih sukses komersial besar
  • Meski begitu, fakta bahwa Cycorp masih menjalankan bisnis setelah 40 tahun merupakan kasus langka di antara perusahaan AI
• Bagi Marcus, Cyc adalah eksperimen perintis yang sulit dibagi sekadar menjadi sukses atau gagal
  • Cyc memang belum sepenuhnya mapan, tetapi semakin ada kemajuan nyata menuju kecerdasan umum buatan, semakin besar pula pentingnya proyek itu

Masalah penalaran akal sehat dan makalah terakhir

• Ada kesadaran bahwa banyak peneliti AI muda tidak terlalu mengenal Cyc, tetapi perlu memahami apa yang dicobanya
  • Ini bukan berarti Cyc harus dipakai sebagai pengganti langsung model bahasa besar
  • Tujuan membuat mesin mampu merepresentasikan dan menalar akal sehat masih tetap ada
• TED Talk Yejin Choi tahun 2023, Why AI is incredibly smart and shockingly stupid, melanjutkan argumen bahwa sistem AI saat ini, meski tampak sukses, masih kekurangan akal sehat
• Buku tahun 2019 karya Marcus dan Ernie Davis, Rebooting AI, juga membahas tema yang sama
• Model bahasa besar, bergantung pada cara pertanyaan dirumuskan atau kebetulan dalam data pelatihan, bisa benar dalam sebagian kasus dan salah dalam kasus lain sehingga menciptakan ilusi akal sehat
  • Bahkan jika kesalahan spesifik ditambal, kasus lain dengan pola serupa bisa terus muncul
  • Cyc adalah upaya mencari jawaban yang lebih dalam dan lebih kokoh
• Peneliti AI Northwestern University Ken Forbus menilai Cyc sebagai contoh pertama yang menunjukkan bahwa representasi dan penalaran simbolik dapat memuat sebagian besar akal sehat
  • Di industri, basis pengetahuan yang memuat miliaran fakta memang umum, tetapi menurutnya Cyc masih yang paling maju dari sisi daya ekspresi
  • Kelompok riset Forbus telah memakai representasi Cyc selama beberapa dekade
• Direktur Google Learning Platform Muktha Ananda sangat menghargai visi, ketekunan, dan kegigihan Lenat, serta menyatakan bahwa kerja Cyc menjadi inspirasi besar dalam perjalanannya meneliti knowledge graph/web
• Marcus dan Lenat selama setahun terakhir berupaya bersama menulis makalah panjang yang merangkum pelajaran dari Cyc
  • Naskahnya hampir mencapai 40.000 kata dan berbentuk campuran antara sains dan sejarah lisan
  • Cyc luar biasa dari sisi cakupan, tetapi implementasinya sulit ditangani, dan dari sudut pandang akademik masalah terbesarnya adalah bahwa ia merupakan sistem proprietari
  • Ketika Lenat jatuh sakit dan waktunya makin terbatas, ia menulis makalah lain yang lebih pendek dan padat
• Pada 31 Juli 2023, Getting from Generative AI to Trustworthy AI: What LLMs might learn from Cyc dipublikasikan di arXiv
  • Makalah itu meninjau kembali apa yang dicoba dilakukan Cyc
  • Merangkum unsur-unsur yang seharusnya diharapkan dari kecerdasan buatan sejati
  • Menyerukan rekonsiliasi antara tradisi AI simbolik yang mendalam yang digeluti Lenat dan LLM modern

[GN⁺]

Opini Hacker News

• Doug kadang blak-blakan, tetapi pada dasarnya ia adalah orang yang baik hati dan murah hati, dan dedikasinya terhadap visinya serta orang-orang yang bekerja bersamanya layak dihormati.
  Saya bekerja di Cycorp pada 2016–2020, dan karena kantornya tidak besar, saya sering bertemu Doug.
  Suatu kali, saat makan siang mingguan seluruh perusahaan, ia berkata akan membeli mobil baru dan bertanya apakah ada yang membutuhkan mobil lamanya yang sudah tua tetapi terawat baik. Ketika seorang karyawan dengan hati-hati mengangkat tangan karena putrinya akan segera mulai mengemudi, Doug langsung menghadiahkan mobil itu di tempat.
  Ia juga menyukai board game dan bermain dalam grup D&D bersama orang-orang kantor; saya dengar ia selalu hanya memainkan karakter lawful good. Katanya ia memang orang yang tidak tahu cara bermain dengan cara lain.

  • Rasanya memang ia akan memilih lawful good. Karena itu pasti pilihan yang paling logis.
  • Saya tidak terlalu tahu, tetapi penasaran mengapa ia lebih dulu digambarkan sebagai blak-blakan.
  • Jika Anda berpandangan CYC tidak dapat mencapai kecerdasan atau penalaran akal sehat, saya penasaran apa alasan utamanya; sebaliknya, jika menurut Anda itu mungkin, apa alasannya?

• Saat berusia 17 tahun dan masih SMA, saya diwawancarai Doug Lenat, lalu diterima sebagai intern musim panas di Cycorp, yang menjadi pekerjaan pemrograman sungguhan pertama saya.
  Magang itu mengubah hidup saya, dan saya selalu berterima kasih kepada Doug karena benar-benar berani memberi kesempatan kepada seorang anak.
  Doug adalah ilmuwan komputer yang luar biasa dan pelopor kecerdasan buatan. Karena Cycorp adalah perusahaan kecil, saya sering ikut rapat, dan jelas terlihat bahwa ia memahami setiap detail teknologinya.
  Cycorp berada 30 tahun di depan zamannya, tetapi pada praktiknya tidak berhasil berjalan. Untuk menjelaskan kepada yang belum tahu, itu adalah upaya komersial berskala besar pertama untuk membangun kecerdasan buatan umum, pada dasarnya semacam OpenAI pertama.
  Dari Doug saya belajar banyak tentang cara memiliki ambisi yang sangat besar dan tidak menyerah. Jarang sekali saya melihat orang yang selama puluhan tahun mempertahankan Cycorp, menjaga pendanaannya, merekrut orang-orang hebat, dan terus mendorong masalah itu maju.

  • Kedengarannya benar-benar keren. Saya penasaran apakah kemudian ada kemungkinan untuk kembali ke Cycorp dan bekerja penuh waktu, atau apakah magangnya menyenangkan tetapi Anda tidak ingin membangun karier di bidang itu.
    Saya juga penasaran apa tepatnya yang Anda kerjakan sebagai intern berusia 17 tahun, dan kemampuan teknis apa yang Anda miliki saat itu.

• Saya bekerja bersama Doug di Cyc sekitar 1985–1989. Kami juga sempat berada di PARC pada waktu yang sama, tetapi di sana kami tidak banyak berinteraksi.
  Pekerjaan pertama saya adalah membuang implementasi yang ada dan memulai lagi dari nol, merancang sistem hierarki dan semua kode bootstrap.
  Itu masa yang menyenangkan bersama tim inti kecil, terutama saya, Guha, dan Doug, tetapi seiring waktu saya makin tidak puas dengan sifat basis pengetahuannya yang terasa arbitrer.
  Menjelang saya meninggalkan proyek Cyc karena alasan pribadi, meskipun hubungan kami dekat dan proyek itu berjalan di atas kode saya, saya cukup negatif terhadap fondasi proyek tersebut.
  Baru setelah waktu berlalu dan saya menjadi lebih bijak, saya kembali mengakui nilainya; saat itu sepertinya saya terlalu melihatnya hanya dari sudut pandang matematika murni.
  Setelah itu saya mengerjakan hal lain dan kehilangan kontak dengan Doug dan Mary, dan saya menyesalinya.

• Semoga Doug Lenat beristirahat dengan tenang. Saya bekerja di Cycorp di Austin pada 2000–2006.
  Ia pergi terlalu cepat, tetapi Doug sempat berkontribusi pada kemajuan riset ilmu komputer di lembaga militer dan intelijen Amerika Serikat.
  Suatu hari nanti, ketika kemajuan pesat kecerdasan buatan melalui LLM melambat, perhatian akan kembali ke Cyc Project dan Cycorp, para anggotanya, serta penalaran logis dan representasi pengetahuan yang didorong oleh Dr. Doug Lenat.
  Sebab jika inferensi jaringan saraf memang secepat itu, kita tentu akan mengompilasi program C menjadi jaringan saraf, bukan mengompilasinya menjadi inferensi logika deduktif yang dijalankan efisien oleh compiler.

  • Benar. Ketika saya mendengar orang berkata buku seperti Paradigms of AI Programming menjadi usang karena LLM, saya tidak setuju.
    Justru berkat LLM, buku itu lebih relevan daripada sebelumnya.
    Kecerdasan buatan jaringan saraf dan kecerdasan buatan simbolik pada akhirnya akan menyatu, dan model simbolik membawa efisiensi serta ketangguhan yang sangat dibutuhkan melalui normalisasi.
  • Hal terbaik yang bisa dilakukan Cycorp sekarang adalah merilis sebagai open source basis data relasi logis yang telah mereka kumpulkan, agar bisa diserap oleh LLM besar.
    Apa gunanya begitu banyak data itu hanya menumpuk debu tanpa banyak hasil?
  • Pernyataan bahwa “jika inferensi jaringan saraf secepat itu, kita akan memakainya saat mengompilasi program C, alih-alih memakai inferensi logika deduktif compiler” hampir merupakan definisi argumen straw man.
    Siapa yang mengklaim inferensi jaringan saraf adalah cara tercepat untuk menjalankan semua komputasi?
    Daripada merendahkan jaringan saraf, yang merupakan teknologi berbeda, lebih baik berfokus membuat metode simbolik mampu memecahkan masalah dunia nyata. Misalnya, bagaimana kita bisa membuat sistem deteksi spam email yang tangguh dengan metode simbolik?

• Jika ingin mendengar lebih banyak tentang karya dan pemikiran Doug, tahun lalu Lex Fridman melakukan wawancara yang cukup panjang dengan Doug
  https://www.youtube.com/watch?v=3wMKoSRbGVs&pp=ygUabGV4IGZya...

  • Saya menonton bagian awalnya, dan cerita yang menarik adalah bahwa sebelum Cyc dimulai, beberapa “orang pintar”, termasuk Marvin Minsky, memperkirakan jumlah hal yang perlu dienkode agar sistem memiliki common sense adalah “sekitar 1 juta”
    Doug mengatakan bahwa sekitar 5 tahun kemudian ia mengetahui perkiraan itu meleset satu digit orde besarnya, dan kenyataannya lebih mendekati sekitar 10 juta
    Saya penasaran apakah ada literatur atau publikasi terkait. Saya bertanya-tanya bagaimana kita tahu itu bukan 100 juta, mengapa bisa dianggap terbatas, dan mengapa tidak terjadi ledakan kombinatorial
    Tentu, untuk berjalan selama 38 tahun pasti ada metrik evaluasi yang terus dipakai, tetapi saya belum benar-benar memahami logikanya, jadi saya penasaran dengan referensi atau tautan kritik
    Saya pernah mendengar tentang Cyc pada 1990-an, tetapi tidak tahu bahwa proyek itu masih hidup; mengesankan bahwa mereka mempertahankannya selama itu
    Artikel Wikipedia-nya juga cukup bagus: https://en.wikipedia.org/wiki/Cyc#Criticisms
    Namun klaim 1 juta atau 10 juta itu klaim yang kuat untuk dipertahankan selama puluhan tahun, jadi saya penasaran apakah benar-benar didukung oleh metrik yang kuat
  • Sepertinya lebih baik mencari Doug Lenat di YouTube. Saya jamin video lain mana pun yang Anda tonton akan lebih baik daripada wawancara Fridman
  • Saat membaca biografi Lex Fridman di Wikipedia, saya kebingungan melihat frasa “Learning of Identity from Behavioral Biometrics for Active Authentication”

• Alasan membaca makalah yang ditautkan itu menarik adalah karena saya selalu tertarik menjadikan prinsip-prinsip yang menurut mereka harus ada di dalam komputer sebagai struktur eksternal komunitas
  Akan sangat berguna jika orang bisa menelusuri dan berkolaborasi pada korpus argumen dan kesimpulan, lalu memperkayanya seiring waktu dengan tidak menyetujui atau menambahkan bagian-bagian dari graf argumen
  Dengan begitu, orang lain juga dapat membaca dan mengadopsi penalaran yang sama
  Saya sedang bereksperimen dengan ide seperti ini di http://concludia.org/, yang kadang saya kerjakan, tetapi untuk saat ini lebih seperti alasan untuk mengutak-atik konsep dan lebih memahami pemrograman Akka(Pekko)
  Suatu hari saya berniat menambahkan akun pengguna dan argumen yang dapat diedit agar menjadi situs web sungguhan

  • Pada akhirnya, bukankah ini mirip Zettelkasten yang dipakai banyak orang? Zettelkasten, disingkat zk, adalah cara tiap catatan menjadi satu ide, konsep, atau argumen, dan semuanya saling terhubung
    Argumen terhubung ke bukti, konsep terhubung ke konsep terkait, dan seterusnya
    https://en.m.wikipedia.org/wiki/Zettelkasten
  • Sepertinya bukan tujuan proyek ini, tetapi saya penasaran apakah ada proyek serupa yang menyediakan kebenaran dan kekeliruan, menggabungkannya dengan argumen logis, lalu membuat model bahasa menghasilkan himpunan kesimpulan yang mungkin
    Sepertinya bagus untuk brainstorming
  • Saya sampai pada ide yang sama—atau lebih tepatnya kesimpulan yang sama—tetapi tidak pernah mengeksekusinya. Keren bahwa sudah ada seseorang yang melakukannya, dan namanya juga bagus
    Saya terpikirkan hal ini saat membayangkan cara menyatukan wacana publik di negara dengan polarisasi politik yang besar
    Semacam forum debat publik terstruktur, sehingga orang bisa melihat dengan lebih baik di bagian mana dalam hierarki pendapat mereka berbeda, dan yang lebih penting, seberapa banyak sebenarnya mereka sepakat

• Saya selalu menganggap Cyc sebagai versi kecerdasan buatan dari Principia karya Russell dan Whitehead
  Secara teknis ambisius dan menarik dengan sendirinya, tetapi pada akhirnya terasa seperti pendekatan yang keliru, yang secara independen tidak akan benar-benar bekerja tidak peduli berapa lama dikerjakan dan berapa banyak aturan yang terus ditambahkan
  Meski begitu, saya rasa ini bisa berguna untuk menguji dan mengajari model jaringan saraf
  Pada masa Lenat memulai Cyc, belum ada sumber daya komputasi untuk menjalankan model jaringan saraf yang menunjukkan tingkat yang kini orang sebut “common-sense reasoning”, jadi sangat bisa dipahami ia memulai dari jalur itu

  • https://arxiv.org/pdf/2308.04445.pdf
    “Getting from Generative AI to Trustworthy AI: What LLMs might learn from Cyc”
    Makalah terakhir Lenat, yang ia terbitkan bersama Gary Marcus pada 31 Juli
    https://news.ycombinator.com/item?id=37354601
    Jika membaca makalah ini, dua gagasan mungkin terguncang: gagasan bahwa model jaringan saraf saat ini, yaitu LLM, menunjukkan common-sense reasoning, dan gagasan bahwa pendekatan yang diwakili Cyc dan pendekatan yang diwakili LLM saling eksklusif

• Melihat bagian akhir tulisan itu membuat saya berpikir bahwa saya harus lebih banyak membuka hal-hal yang saya buat dan pikirkan
  Saya bukan Doug Lenat, dan konten saya kemungkinan besar hanya akan menambah kebisingan di internet, tetapi tetap saja, kita tidak boleh membiarkan ide-ide sendiri mati bersama diri kita atau dikendalikan oleh dewan pemangku kepentingan
  Saya bukan fanatik open source, tetapi open source adalah cara yang baik agar orang lain bisa melanjutkan pekerjaan yang saya mulai
  Selama setahun terakhir, Gary Marcus dan Doug mencoba menulis makalah panjang dan rumit yang akhirnya tidak pernah selesai, dan Cyc memang luar biasa besar dari segi cakupan, tetapi implementasinya sulit ditangani
  Dari sudut pandang akademis, masalah terbesar Cyc adalah bahwa ia merupakan perangkat lunak proprietari
  Agar lebih banyak orang memahaminya, Doug berusaha meneruskan pelajaran yang ia dapat dari Cyc kepada generasi peneliti berikutnya. Hal-hal seperti apa yang berhasil dan mengapa berhasil, kapan dan mengapa gagal, apa yang sulit diimplementasikan, dan apa yang sebaiknya dilakukan secara berbeda
  Salah satu email terakhirnya adalah permohonan agar makalah itu diterbitkan secepat mungkin, dan setelah berbagai liku-liku, pada 31 Juli makalah Getting from Generative AI to Trustworthy AI: What LLMs might learn from Cyc (https://arxiv.org/ftp/arxiv/papers/2308/2308.04445.pdf) diunggah ke arXiv
  Tulisan itu singkat, tetapi merupakan ulasan tentang apa yang ingin dilakukan Cyc, ringkasan tentang apa yang seharusnya kita harapkan dari kecerdasan buatan sejati, sekaligus seruan untuk mendamaikan tradisi simbolik mendalam yang ia geluti dengan model bahasa besar modern

  • Sebaiknya kalimat “konten saya kemungkinan besar hanya akan menambah kebisingan di internet” tidak diulang-ulang lebih dari perlu. Sebagai kalimat motivasi, itu kurang bagus
    Bagikan saja hal-hal yang menurut Anda penting
    Bahkan perbaikan pengetahuan yang kecil dan tampak kecil kemungkinannya pun bisa bermakna. Jika jumlahnya cukup banyak, secara statistik hal-hal itu bisa menggerakkan jarum
    Tentu saja konten terkait harus bisa ditemukan, dan itu sendiri juga masalah besar

• Saya tidak pernah bertemu langsung dengannya, tetapi karya Doug adalah salah satu inspirasi terbesar dalam komputasi
  Rasanya tepat untuk menautkan tulisan blog yang saya tulis pada 2018. Tulisan itu merangkum secara singkat lintasan karya Lenat yang berujung pada Cyc dan mengumpulkan tautan makalah
  http://blog.funcall.org//lisp/2018/11/03/am-eurisko-lenat-do...

• Cyc, diucapkan “Syke”, adalah proyek yang sudah lama saya pandang menarik secara samar-samar, tetapi saya tidak pernah punya waktu dan energi untuk benar-benar mendalaminya
  Ini adalah proyek kecerdasan buatan berbasis ontologi komprehensif dan basis pengetahuan
  Ringkasan Wikipedia: <https://en.wikipedia.org/wiki/Cyc>
  Situs proyek/perusahaan: <https://cyc.com/>

  • Saya pernah bekerja dengan Cyc. Itu adalah upaya yang mengesankan menuju apa yang ingin dicapainya, tetapi tidak berjalan dengan baik
    Itu adalah upaya raksasa terakhir untuk melakukan kecerdasan buatan dengan cara yang “rapi”, dan kegagalannya membantu melahirkan pendekatan kecerdasan buatan yang “berantakan” yang kini sangat sukses
    Kegagalan ini tidak merendahkan Doug. Seseorang memang harus mencobanya, dan untungnya yang mencoba adalah salah satu orang paling cerdas
    Saya pikir ia bertahan terlalu lama setelah jelas bahwa itu tidak akan berfungsi, tetapi terobosan memang kadang benar-benar terjadi
    Ledakan machine learning saat ini sendiri juga merupakan kebangkitan teknik yang dulu pernah ditinggalkan, dan orang-orang yang tetap bertahan menemukan kiat untuk membuatnya bekerja
  • Menurut saya, itu lebih mirip aspirasi daripada produk
    Beberapa tahun lalu saya bekerja dengan perusahaan konsultan yang ingin masuk ke AI, dan perusahaan itu memilih Cyc sebagai platform untuk dijual terutama kepada klien keuangan
    Namun sepertinya tidak ada satu pun proyek nyata yang dimulai, dan juga tidak ada gambaran jelas tentang apa yang bisa dijual
    Saya tidak ingin menganggap Lenat sebagai penipu. Ia tampak seperti orang yang tulus dan luar biasa
    Namun saya rasa Cyc dijual dengan klaim yang sangat berlebihan meskipun hampir tidak pernah menghasilkan sesuatu yang berguna. Situs webnya penuh dengan ungkapan teknis, tetapi setelah 40 tahun berbisnis, tidak ada satu pun studi kasus
  • Saya membuka cyc.com dan sayangnya yang terlihat hanya omong kosong ala bisnis, sementara halaman “Documention” tidak menampilkan apa pun tanpa login