Jangan Mengutip AI — Jawaban LLM Bukan Fakta

• Respons large language model (LLM) bukanlah fakta, melainkan hasil prediksi statistik kata
• ChatGPT, Claude, Gemini, dan lainnya hanya memprediksi kata berikutnya yang paling masuk akal, bukan memahami sumber atau kebenaran informasi
• Mereka dapat membuat kalimat yang meyakinkan, tetapi isinya bisa jadi tidak akurat atau tidak dapat dipercaya
• Menyalin dan menyebarkan jawaban AI seolah-olah itu dasar yang berwibawa pada dasarnya hanya mengulang “kombinasi kata-kata yang sering muncul bersama”
• Praktik mengutip respons AI sebagai fakta memperlihatkan risiko melemahnya verifikasi pengetahuan dan kemampuan berpikir

---

Hakikat Respons AI

• Respons large language model seperti ChatGPT, Claude, dan Gemini bukanlah fakta
  • Model-model ini bekerja dengan memprediksi kata yang akan muncul berikutnya dalam sebuah kalimat
  • Akibatnya, mereka bisa menghasilkan informasi yang terdengar masuk akal tetapi tidak akurat
• Model semacam ini diibaratkan seperti orang yang telah mempelajari sangat banyak materi tetapi tidak dapat mengingat sumbernya
  • Artinya, mereka hanya menyusun ulang kalimat tanpa memahami dasar dan konteks informasi

Batas Keandalan

• Jawaban atau saran yang diberikan AI mungkin saja benar, tetapi dasarnya tidak jelas
  • Jawaban itu bukan “buku yang diingat”, melainkan gabungan kata-kata yang sering muncul bersama
• Karena itu, tidak tepat mengutip keluaran AI sebagai fakta atau informasi yang berwibawa
  • Klaim seperti “ChatGPT mengatakan begitu” tidak lebih dari kutipan atas hasil prediksi kata semata

Bahaya Mengutip

• Menyalin dan menyebarkan respons AI apa adanya sama saja dengan menyebarkan gabungan kata, bukan kebenaran
  • Terkadang hal itu bisa berguna atau memberi wawasan, tetapi bukan kebenaran atau tolok ukur penilaian akhir
• Artikel ini menggambarkan tindakan semacam itu sebagai “orang-orang pintar yang berhenti berpikir”

Referensi Tambahan

• OpenAI: Mengapa model bahasa berhalusinasi
• Oxford University: Large language model menimbulkan risiko bagi sains lewat jawaban yang salah
• New York Times: Kekuatan AI terus tumbuh, tetapi halusinasinya makin parah
• MIT Media Lab: Orang terlalu memercayai saran medis buatan AI meski akurasinya rendah
• Business Insider: Peneliti OpenAI menjelaskan penyebab ‘halusinasi’ pada chatbot AI
• Reuters: ‘Halusinasi’ AI dalam dokumen pengadilan membunyikan alarm bagi para pengacara
• Nature: ‘Chatbot AI itu penjilat’ — para peneliti memperingatkan dampaknya bagi sains
• CNN: Orang tua menggugat OpenAI, menuduh chatbot menyarankan bunuh diri kepada putra mereka yang berusia 16 tahun
• Financial Times: ‘Halusinasi’ yang menghantui AI: mengapa chatbot tidak bisa mengatakan yang sebenarnya
• The Guardian: Chatbot AI yang ‘menjilat’ mengulangi apa yang ingin didengar pengguna

Kesimpulan

• Meski teknologi AI dan machine learning itu sendiri dinilai positif,
  sikap mengutip atau memercayai respons AI tanpa kritik tetap harus diwaspadai
• Situs ini menganjurkan agar isi ini dibagikan kepada orang yang berkata, “But ChatGPT Said...”