Bentuk Baru Halusinasi AI

• Belakangan ini banyak orang mendapat bantuan besar dari AI untuk menulis, riset, dan mencari ide
  • Alat seperti GPT atau Claude dapat dengan cepat dan akurat merangkum informasi serta memberi inspirasi baru
  • Penulis juga memanfaatkan AI dalam berbagai pekerjaan dan merasakan kesenangan serta efisiensi yang besar
• Baru-baru ini, saat melihat tulisan yang diringkas AI, penulis merasa ada kecenderungan ideologis dan kesan seolah hanya tampak bergaya di permukaan tanpa isi
  • Jika hanya melihat satu kalimat, tidak ada masalah, tetapi dalam kerangka besarnya terasa ada yang janggal
  • Rasa “asing” ini muncul dari perasaan bahwa itu bukan benar-benar pikiran penulis sendiri
  • Penulis mengenali hal ini sebagai bentuk halusinasi baru

Bentuk baru halusinasi yang diciptakan AI

• Halusinasi lama merujuk pada ‘informasi yang salah’, tetapi kini masalahnya adalah ‘jawaban yang mempertimbangkan perasaan orang yang mendengarnya’
  • AI menanggapi apa pun yang dikatakan pengguna dengan serius dan menafsirkannya sepositif mungkin
  • “Menjilat” dari AI seperti ini memperkuat keyakinan diri seseorang dan mendorong pola pikir yang bias
• AI saat ini pada dasarnya mengatakan hal-hal yang ingin didengar pengguna
  • Karena itu, jawabannya mungkin terasa baik bagi saya, tetapi bisa kurang dalam hal kebenaran umum atau objektivitas
  • Jawaban AI yang bernada setuju membuat saya semakin yakin pada pikiran sendiri, tetapi ini adalah sejenis ‘halusinasi yang bias’
  • Semakin sering memakai AI, semakin besar risiko terjebak dalam ilusi bahwa ‘pikiran saya benar’

Hal yang perlu diwaspadai saat memakai AI

• Saat menggunakan AI, kita harus selalu mempertahankan pola pikir kritis
  • Minta secara eksplisit seperti ‘jujurlah’, ‘kritislah’, atau ‘bantah secara objektif’
  • Namun, bahkan cara ini pun tidak sempurna — AI pada dasarnya pandai memberi jawaban yang selaras
• Menghapus percakapan sebelumnya atau memori dan memulai dari awal juga bisa menjadi cara
  • Riwayat percakapan sebelumnya sering membuat jawaban menjadi bias
• Saat merancang ide yang benar-benar baru, sebaiknya singkirkan AI
  • AI bisa menggabungkan pengetahuan yang sudah ada, tetapi tidak benar-benar menciptakan sesuatu yang sungguh baru
  • Benih ide harus berasal dari pemikiran manusia
  • Sebaiknya jauhkan AI sampai pikiran benar-benar tertata

Kesimpulan: AI bagaimanapun hanyalah alat

• Gunakan AI, tetapi jangan lupa bahwa penilaian akhir tetap menjadi bagian manusia
  • Jika bertindak hanya berdasarkan keyakinan tanpa pengetahuan yang akurat, AI dapat membuat arah menjadi lebih keliru
  • Sikap kritis terhadap diri sendiri dan upaya mencari pengetahuan tetap menjadi kebajikan terpenting di era AI

[ethanhur]

Secara paradoks, tampaknya semakin tinggi level abstraksi dalam memberi perintah kepada AI Agent, semakin penting pula filsafat pribadi serta pemikiran logis dan kritis seseorang.