Cara Memikirkan AGI

"Pada dasarnya kita tidak bisa benar-benar mengetahuinya, kita juga tidak tahu risikonya, dan kalau para ahlinya pun mengatakan mereka tidak tahu, lalu bagaimana kita harus memikirkannya?"

Memikirkan AGI dari Sudut Pandang Historis

• Ketertarikan terhadap kecerdasan buatan (AI) dimulai sejak kemunculan komputer pada 1946
• AI dianggap sebagai istilah yang merujuk pada teknologi yang belum sepenuhnya terwujud
• Ketertarikan terhadap AGI (Artificial General Intelligence), yang berarti kecerdasan berbasis perangkat lunak setara manusia, terus berlanjut

Perbedaan Pendapat tentang Kemungkinan Terwujudnya AGI

• Dengan kemunculan terbaru large language model (LLM), muncul pandangan bahwa realisasi AGI sudah semakin dekat
  • Sebagian pakar memperkirakan LLM dapat berkembang menjadi AGI
  • Sebaliknya, ada juga pendapat bahwa masih dibutuhkan terobosan tambahan untuk mewujudkan AGI
• Kekhawatiran bahwa AGI dapat menjadi ancaman bagi umat manusia juga telah diajukan
• Namun, bahkan di antara para pakar pun tidak ada kesepakatan mengenai kemungkinan maupun waktu terwujudnya AGI

Ketiadaan Model Teoretis untuk AGI

• Tidak ada model teoretis yang disepakati tentang apa sebenarnya kecerdasan umum (General Intelligence) itu
• Alasan LLM dapat bekerja dengan baik dan potensi perkembangannya ke depan juga masih belum pasti
• Konsep AGI sendiri memiliki sifat sebagai eksperimen pemikiran (Thought Experiment)

Ketidakpastian dan Risiko AGI

• Mendefinisikan AGI sebagai bentuk kehidupan baru yang memiliki emosi dan hak, lalu mengasumsikan bahwa ia tidak dapat dikendalikan, berisiko jatuh ke dalam logika sirkular
• Kita tidak bisa yakin terhadap karakteristik dan potensi AGI
  • Ia bisa jauh lebih cerdas daripada manusia, atau mungkin hanya lebih cepat
  • Ia juga bisa tetap sekadar alat berguna dengan kecerdasan umum setingkat anjing
• Kekhawatiran mengenai risiko AGI memang nyata, tetapi besaran dan sifat risiko yang tepat tidak dapat diketahui

Keniscayaan Pengembangan AGI dan Cara Menyikapinya

• Dalam jangka panjang, perkembangan teknologi AGI tampak tak terelakkan
  • Model terbuka semakin menyebar, dan kinerja chip akan terus meningkat
  • Pada akhirnya, matematika tidak bisa dilarang
• Gesekan dan penderitaan yang ditimbulkan oleh teknologi otomasi tidak dapat dihindari, tetapi kehidupan akan terus berjalan
• Mengakui risiko AGI sambil meresponsnya dengan sikap tenang dan rasional, alih-alih ketakutan berlebihan, tampaknya merupakan pendekatan yang lebih baik

[vwjdalsgkv]

Saya rasa, dari sudut pandang berbasis risiko, ini mirip dengan anak kecil atau manusia purba yang melihat api.
Mereka tidak tahu melalui proses apa api menghasilkan cahaya dan panas, tetapi dari gejalanya mereka menemukan bahwa cahaya kadang berguna dan panas juga bisa berguna, lalu memanfaatkannya dengan baik.
Namun, karena tidak memahami gejala itu dengan jelas atau menggunakannya dengan cara yang salah, mereka juga bisa mengalami kerugian, jadi pada akhirnya dalam hal ini kita adalah manusia purba terhadap kecerdasan buatan.
Atau jangan-jangan, selain saya, kalian semua sebenarnya sudah sangat paham tentang kecerdasan buatan?

[kandk]

Memang ini terdengar jelas, tapi..
Banyak orang merasa takut pada AGI, dan sepertinya tulisan ini bisa membantu.