Obituari Cyc

Kegagalan proyek Cyc

• Ringkasan: Proyek Cyc adalah upaya selama 40 tahun untuk membangun kecerdasan umum buatan dengan cara memperluas logika simbolik, namun berakhir dengan kegagalan. Esai ini bertujuan menyoroti sejarah rahasia Cyc agar lebih dikenal luas.

Matematikawan otomatis dan EURISKO

• Matematikawan Otomatis (AM): Proyek legendaris pertama Douglas Lenat, sebuah sistem yang secara otomatis menemukan konsep-konsep matematika. Namun, AM dengan cepat mengalami kelelahan intelektual setelah penemuan-penemuan awalnya.
• EURISKO: Sistem yang dikembangkan untuk mengatasi keterbatasan AM, dirancang agar dapat menemukan sendiri aturan heuristik untuk penemuan baru. Namun, EURISKO pada akhirnya juga mengalami kelelahan intelektual.

Sejarah Cyc

• Awal Cyc: Pada 1985, Lenat memulai Cyc dengan mengenkode pengetahuan akal sehat secara manual. Proyek ini membutuhkan sekitar 30 juta pernyataan dan biaya sebesar 200 juta dolar.
• Penggunaan komersial: Sejak 2016, Cyc beralih ke aplikasi komersial, tetapi secara fungsional sama dengan layanan dari perusahaan mapan seperti Oracle dan IBM.
• Kerahasiaan: Cyc bersifat tertutup, sulit digunakan oleh peneliti luar, dan gagal menunjukkan hasil pada benchmark publik.

Penyebab kegagalan Cyc

• Keterbatasan logika simbolik: Lenat tetap berpegang pada pendekatan logika simbolik, tetapi pendekatan ini gagal mencapai kecerdasan umum dalam AI.
• Pentingnya pengetahuan akal sehat: Lenat menilai alasan manusia tidak mengalami kelelahan intelektual terletak pada pengetahuan akal sehat yang sangat luas, yang memungkinkan manusia terus menghasilkan ide-ide baru.

Kesimpulan

• Keterbatasan logika simbolik: Kegagalan Cyc menunjukkan bahwa pendekatan logika simbolik tidak cocok untuk mencapai kecerdasan umum dalam AI.

[GN⁺]

Komentar Hacker News

• "Ini terasa seperti kalimat yang mungkin ditulis oleh AI yang sadar diri: 'Tidak ada yang bisa dilihat di sini, silakan lewat'"

  • Merasa Cyc tidak bergerak ke arah yang berguna
  • Terkesan oleh demo dunia balok McCarthy
  • Menganggap penting bahwa aturan yang membentuk 'konteks' tempat AI akan bekerja telah diformalkan
  • Kasus-kasus kegagalan awal LLM adalah contoh khas kegagalan konteks
  • Model yang ada tidak memiliki konteks selama pelatihan, sehingga keluarannya tidak disesuaikan dengan konteks

• "Artikel yang sangat menarik dan berharga"

  • Sayang jika langsung menyimpulkan bahwa proyek ini gagal
  • Jaringan saraf membutuhkan lebih dari 40 tahun hingga menjadi berguna
  • Jika basis pengetahuan Cycorp dapat diakses secara umum, itu bisa digunakan untuk melatih LLM

• "Versi opencyc yang dipublikasikan secara online bisa dijalankan"

  • Ada dataset, basis pengetahuan, dan mesin inferensi di GitHub
  • Ditulis dengan versi Java yang lama

• "Saya berusaha banyak membaca tentang AM dan EURISKO, tetapi pekerjaan Lenat bersifat tertutup"

  • Disayangkan bahwa orang lain tidak bisa mengembangkan lebih lanjut berdasarkan pekerjaan Lenat

• "Artikel ini adalah ulasan yang sangat bagus tentang Symbolic AI"

  • Dulu pernah menghabiskan banyak waktu dengan OpenCyc, tetapi sudah 10 tahun tidak menyentuhnya
  • Masa depan produktif Symbolic AI kemungkinan akan terkait dengan penggunaan LLM untuk membangun graf pengetahuan dan relasi simbolik dari data tak terstruktur

• "Menurut situs webnya, Cyc berjalan dengan baik"

  • Lenat meninggal pada 2023, tetapi masih tercantum sebagai satu-satunya anggota 'tim kepemimpinan'

• "Saya rasa Lenat benar soal arah besarnya, bahwa jumlah data adalah kunci untuk mendapatkan kecerdasan yang berguna"

  • Pernah mengkritik proyek Cyc, tetapi hal serupa juga terjadi pada LLM

• "Esai yang luar biasa! Terima kasih kepada OP atas penelitiannya yang tak kenal lelah"

• "Saya tidak punya pendapat kuat tentang Cyc, tetapi obituari ini terasa cukup jahat"

  • Keyakinan dasar Lenat juga dianut dalam ML
  • ML membutuhkan jumlah komputasi yang sangat besar

• "Thread besar tentang Cyc tahun lalu"