Saat memakai ChatGPT, utang kognitif (Cognitive Debt) menumpuk di otak Anda

• Studi yang menganalisis secara eksperimental dampak penggunaan large language model (LLM) untuk menulis esai terhadap aktivitas otak dan beban kognitif manusia
• Pengguna LLM memiliki rasa kepemilikan tulisan yang lebih rendah, kesulitan mengutip tulisannya sendiri secara akurat, dan dalam jangka panjang mengalami penurunan performa yang berkelanjutan pada tingkat bahasa, perilaku, dan saraf
• Peserta dibagi menjadi tiga kelompok: LLM, mesin pencari, dan Brain-only (hanya otak), lalu mengerjakan tugas yang sama; sebagian peserta juga menukar kondisi untuk perbandingan
• Hasil EEG (pengukuran gelombang otak) menunjukkan kelompok Brain-only memiliki jaringan konektivitas otak yang paling kuat dan luas, sementara pengguna LLM menunjukkan konektivitas paling lemah
• Studi ini menunjukkan bahwa ketergantungan pada AI dapat menimbulkan biaya kognitif dalam proses belajar dan memunculkan perlunya peninjauan mendalam terhadap dampak pendidikan

---

Gambaran penelitian

• Penelitian ini mengeksplorasi pengaruh penggunaan alat bantu AI saat menulis esai terhadap aktivitas otak dan perilaku
  • Peserta dibagi menjadi tiga kelompok: LLM (ChatGPT, dll.), mesin pencari, dan Brain-only (tanpa alat)
  • Setiap kelompok menjalani tiga sesi dalam kondisi yang sama, dan pada sesi keempat sebagian peserta menukar kondisi
    • Pengguna LLM beralih ke Brain-only (LLM-to-Brain)
    • Pengguna Brain-only beralih ke kondisi LLM (Brain-to-LLM)
• Total 54 orang mengikuti sesi 1~3, dan 18 orang menyelesaikan hingga sesi 4

Metode eksperimen

• EEG (elektroensefalografi) digunakan untuk mengukur beban kognitif dan konektivitas otak selama penulisan esai
• Esai yang ditulis dianalisis dengan natural language processing (NLP), serta dinilai oleh guru manusia dan evaluator AI
• Hasil analisis NER (named entity recognition), pola n-gram, dan ontologi topik menunjukkan kemiripan yang tinggi di dalam masing-masing kelompok

Hasil utama

• Analisis EEG menemukan perbedaan yang jelas antarkelompok
  • Kelompok Brain-only menunjukkan jaringan konektivitas otak yang paling kuat dan luas
  • Kelompok mesin pencari menunjukkan tingkat keterlibatan menengah
  • Kelompok LLM menunjukkan konektivitas paling lemah
• Ditemukan kecenderungan bahwa semakin besar penggunaan alat eksternal, semakin menurun aktivitas kognitif
• Pada sesi 4, peserta yang beralih dari LLM ke Brain-only menunjukkan penurunan konektivitas pita alfa dan beta, yaitu kondisi hipoaktivasi kognitif
• Sebaliknya, peserta yang beralih dari Brain-only ke LLM menunjukkan peningkatan kemampuan recall memori serta aktivasi wilayah oksipito-parietal dan prefrontal, yang mirip dengan pengguna mesin pencari

Pengamatan perilaku dan bahasa

• Rasa kepemilikan terhadap esai (self-reported ownership) paling rendah pada kelompok LLM dan paling tinggi pada kelompok Brain-only
• Pengguna LLM mengalami kesulitan mengutip tulisannya sendiri secara akurat
• Hasil pelacakan selama 4 bulan menunjukkan pengguna LLM mengalami underperformance yang berkelanjutan pada tingkat saraf, bahasa, dan perilaku

Kesimpulan dan implikasi

• LLM menawarkan kemudahan instan, tetapi juga memiliki biaya kognitif jangka panjang (cognitive cost)
• Studi ini memperingatkan dampak negatif ketergantungan pada AI terhadap kemampuan belajar dan berpikir
• Studi menekankan perlunya keseimbangan dan peninjauan ulang penggunaan AI dari sisi pendidikan dan kognitif
• MIT Media Lab menyatakan bahwa hasil ini menunjukkan perlunya mendesain ulang mekanisme belajar di era AI

[dbs0829]

Dari sudut pandang seseorang yang bekerja di bidang riset, saya sangat sering membicarakan masalah ini. Benda-benda yang sebelumnya menggantikan fungsi manusia biasanya hanya menggantikan fungsi tertentu, jarang yang sampai menggantikan kognisi itu sendiri. Fungsi kognitif berkembang melalui proses menghadapi beban, tetapi dengan ini kita justru merampas kesempatan itu dari diri sendiri. Memang bisa saja dibilang bahwa ini memungkinkan kita fokus pada pekerjaan lain, tetapi jika fungsi kognitif itu sendiri tidak bisa berkembang, mungkin kita bahkan tidak akan diberi kesempatan untuk melakukan pekerjaan lain. Tentu ini bisa jadi fenomena yang muncul pada masa transisi, tetapi ketika saya melihat para junior yang baru-baru ini saya wawancarai, atau adik tingkat saya di kampus, saya merasa masalahnya lebih serius dari yang saya kira. Memang benar, alat pada akhirnya tergantung bagaimana dipakai, tetapi bahkan smartphone kecil saja banyak orang tidak bisa mengendalikannya, sampai fenomena orang berjalan sambil menatap ponsel di mana-mana. Dalam situasi seperti ini, saya tidak merasa realistis untuk berharap bahwa kebanyakan orang akan mampu menggunakan hal semacam ini dengan kendali diri yang baik.

[m00nlygreat]

Saya sendiri juga waspada agar tidak bergantung pada LLM karena masalah ini. Sebagian besar hal yang dibuat manusia pada dasarnya adalah soal 'niat'. Film, makanan, teknologi.... Saya merasa implementasi hanya penting sekitar 15% saja.

Jika LLM menghemat waktu, waktu yang dihemat itu seharusnya digunakan untuk meningkatkan kualitas

[euphcat]

> Setiap kali media baru muncul, selalu ada kontroversi serupa.
> Socrates mengatakan bahwa menulis merusak daya ingat, dan pada era Gutenberg orang khawatir kemampuan untuk merenung akan hilang.

Menurut saya, pendapat ini menarik. Referensi: xkcd.com/1601 xkcd.com/1227

[GN⁺]

Komentar Hacker News

• Jika terlalu sering memakai AI, terasa rasa tenggelam dalam pemecahan masalah jadi berkurang
  Saat mengimplementasikan algoritma layout graf berbasis framework Sugiyama yang kompleks, berkat AI saya bisa cepat memahami konsepnya, tetapi ketika AI yang menulis kodenya, pemahaman saya justru terasa buntu
  Setelah itu saya beralih dari Copilot IDE ke aplikasi Copilot 365, meminta penjelasan prinsipnya, lalu saya sendiri yang melakukan debugging, dan akhirnya mendapatkan kembali rasa keterlibatan itu
  Menurut saya jauh lebih baik memakai AI sebagai ensiklopedia interaktif daripada menyerahkan pekerjaan kepadanya

  • Pekerjaan saya yang sebenarnya bukan menulis kode, melainkan memecahkan masalah
    Sekarang saya bisa lebih fokus pada code review atau perancangan arsitektur, jadi waktu saya dipakai untuk hal yang lebih esensial
  • Menurut saya ini anekdot yang bagus. Kemunduran keterampilan itu memang nyata
    Bahkan jika AI dipakai seperti ensiklopedia pun, kemampuan mencari informasi tetap bisa menurun, tetapi trade-off penghematan waktu dan energi itu tetap bernilai
  • Saya juga melewati tahap yang mirip
    Awalnya dari “tanya saja ke LLM”, lalu berkembang menjadi “sementara saya istirahat, LLM yang mengerjakannya”, lalu menjadi “LLM mengikuti ide saya dan memberi inspirasi baru”
    Tapi pada akhirnya deadline dan pekerjaan nyata tetap datang
  • Saya penasaran apakah orang yang beralih dari programmer menjadi manajer juga merasakan hal yang serupa
  • Sangat setuju. Pada akhirnya kita harus belajar menjinakkan binatang bernama AI

• Setiap kali muncul medium baru, perdebatan serupa selalu ada
  Socrates mengatakan menulis akan merusak ingatan, dan pada era Gutenberg orang juga khawatir perenungan akan hilang
  Penelitian kali ini sampelnya kecil dan periodenya singkat sehingga keandalannya rendah, tetapi LLM secara kualitatif berbeda dari kalkulator atau Google karena berpotensi menggantikan keseluruhan proses kognitif
  Bisa jadi kemampuan kognitif tidak hilang, melainkan berubah bentuk. Mungkin hasilnya baru akan terlihat sekitar 20 tahun lagi

  • Sebenarnya para pengkritik di masa lampau itu tidak sepenuhnya salah
    Orang yang belum mengenal tulisan punya kemampuan menghafal yang sangat besar, sedangkan sekarang kita jadi malas karena bergantung pada mesin
    Sudah 30 tahun sejak internet menyebar luas, tetapi produktivitas tidak banyak naik; ada juga paradoks produktivitas(https://en.wikipedia.org/wiki/Productivity_paradox)
  • Tiga pilar pembelajaran adalah teori, praktik, dan metakognisi
    LLM melemahkan ketiga tahap ini sekaligus. Sebaliknya, jika dimanfaatkan sebagai guru yang dipersonalisasi untuk memberi soal, itu juga bisa membantu otak berkembang
    Tapi perusahaan tidak akan bergerak ke arah itu, jadi kita harus memperjuangkan arah yang lebih baik
  • TV memang benar-benar ‘kotak bodoh’. Masalahnya bukan sekadar alatnya, tetapi kualitas konten yang dikonsumsi
    Kalkulator juga sama, karena melemahkan kemampuan berhitung yang kompleks
  • Desain penelitiannya tidak buruk, tetapi masih tahap awal
    Kalau perubahan ini positif, maka dibutuhkan cara baru untuk mengevaluasi pembelajaran; kalau negatif, maka dibutuhkan kebijakan pemblokiran LLM
    Apa pun hasilnya, desain ulang sistem pendidikan tidak terelakkan
  • Novel atau TV tidak menggantikan proses berpikir manusia, tetapi AI bisa meruntuhkan tangga menuju keahlian
    Jika junior tidak bisa berkembang lewat tugas-tugas sederhana, maka senior pun pada akhirnya akan hilang

• Dari sudut pandang mahasiswa, bantuan belajar berbasis AI lebih banyak mudaratnya daripada manfaatnya
  Proses trial and error dan refleksi menghilang, dan bahkan proses berpikir pun didelegasikan ke sistem otomatis
  Dulu cukup memblokir Instagram, sekarang kita hidup di zaman ketika pikiran itu sendiri harus diblokir

• Dalam podcast Change, Technically dari psikolog Cat Hicks dan neuroscientist Ashley Juavinett, kelemahan penelitian ini dibahas dengan baik

  • 52 menit terasa terlalu panjang. Akan bagus kalau ada ringkasan kesimpulan utamanya
  • Sebenarnya tanpa podcast pun, dari makalahnya saja sudah terlihat bahwa ini adalah penelitian yang tidak ilmiah dan bias
    ChatGPT mungkin saja bisa membuat orang jadi lebih bodoh, tetapi itu tidak bisa dibuktikan lewat penelitian seperti ini

• Justru saya merasa AI membantu meringankan gejala ADHD
  Saya bisa menata ide seperti memakai notebook interaktif, dan proses menulis teks panjang dengan LaTeX jadi jauh lebih menyenangkan
  Rasanya seperti bisa berfungsi layaknya orang tanpa ADHD

  • Sebaliknya, saya merasa AI justru mengganggu konsentrasi
    Saat coding sendiri saya bisa tenggelam fokus, tetapi menunggu respons AI malah membuat saya terdistraksi
  • Seperti ketika api sudah menyala stabil dan kita tak lagi terobsesi pada percikan, AI hanyalah alat untuk mengefisienkan proses berpikir
  • Saya juga ADHD, dan berkat AI saya bisa lebih mudah menjalankan proyek skala besar
    Saya memakai ChatGPT untuk berdiskusi tentang desain, dan Copilot untuk membantu pekerjaan coding
    Justru kecepatan belajar dan tingkat pemahaman saya meningkat
  • Produktivitas saya juga naik, tetapi meninjau detail jadi lebih melelahkan
    Saya belum pernah menjalani tes ADHD, tetapi saya jelas merasakan masalah konsentrasi

• Teman saya bilang rekan kerjanya yang berusia 20-an menyerahkan perhitungan saat jam makan siang ke ChatGPT
  Mengejutkan melihat generasi muda bergantung pada AI bahkan untuk aritmetika sederhana

  • LLM lemah dalam matematika, jadi bahkan perhitungan sederhana pun sering salah
    Bahkan Google Sheets saja kadang disebut Excel
  • Bisa jadi itu cuma bercanda. Kalau tidak bisa menambah 30 menit, itu memang lucu
  • Saya sendiri sudah lebih dari 10 tahun menghitung lewat address bar browser atau prompt Python
    Manusia memang pada dasarnya lemah dalam aritmetika, jadi tidak perlu memaksakan diri melakukannya dengan tangan
  • Saya lulusan matematika, tetapi berhitung mental saya tetap lemah
    Perhitungan sederhana bukanlah pemecahan masalah
  • Sejak kalkulator, aritmetika dasar sudah menjadi keterampilan yang tidak berguna
    Sekarang AI bahkan mengambil alih membaca dan menulis, jadi manusia bisa fokus pada pemikiran tingkat yang lebih tinggi

• Seperti para druid yang mengkritik literasi, hilangnya daya ingat selalu ada sepanjang sejarah
  Meski begitu tulisan tetap menyebar, dan kita pun tidak tahu apakah itu membuat kita lebih pintar atau lebih bodoh

  • Karena LLM melemahkan ketiga pilar pembelajaran (teori, praktik, metakognisi), ini adalah perubahan di level yang berbeda dari literasi
    Meski begitu, kalau dipakai sebagai guru yang dipersonalisasi, ia juga bisa membantu otak berkembang
    Pada akhirnya arah AI ditentukan oleh kita
  • Smartphone memberi pukulan yang lebih besar pada memori
    Karena kita tidak lagi perlu menghafal nomor telepon atau jalan
    Tapi jika AI menghemat waktu, kita bisa menginvestasikan waktu itu untuk membaca materi sumber
  • Daya ingat tetap ada. Anak saya hafal seluruh lirik dari band favoritnya
    Pada akhirnya agama juga merupakan ekonomi perhatian pertama
  • Perumpamaannya terasa agak melenceng dari topik
  • Sebenarnya Socrates sudah menentang buku sejak dulu.
    Ironisnya, masalah yang ia khawatirkan justru sedang diselesaikan oleh LLM

• Ketergantungan pada GPS dan ketergantungan pada AI adalah masalah yang mirip
  Sebagian orang tidak bisa menghafal jalan, dan sebagian lagi mengikutinya secara membabi buta

  • Saya membiasakan mengunci orientasi peta ke utara
    Itu membantu memahami struktur kota
    Dengan LLM pun mirip; saya menjaga fokus dengan berlomba menyelesaikan masalah sendiri saat AI sedang menyusun jawabannya
  • Ada penelitian(https://www.nature.com/articles/s41598-020-62877-0) yang menyebut ketergantungan berlebihan pada GPS berbahaya bagi kesehatan otak
    Saya khawatir generasi muda bahkan tidak bisa menjalankan mobil tanpa GPS
  • Untuk rute yang sudah beberapa kali saya lalui, saya sengaja mengemudi tanpa navigasi
    LLM juga sama; jika terlalu bergantung, kita akan mengalihdayakan kemampuan berpikir itu sendiri
  • Dari dulu saya memang buruk dalam mengingat jalan. GPS bukan menciptakan masalah, melainkan menyelesaikannya
  • Kemampuan kognisi spasial tiap orang berbeda
    Ada yang cepat memahami medan, ada juga yang butuh waktu lebih lama

• Penelitian ini adalah eksperimen yang meminta peserta menulis esai selama 20 menit
  Dalam lingkungan seperti ini, orang cenderung mengejar efisiensi jangka pendek, sehingga jauh dari dampak kognitif yang sebenarnya
  Yang perlu dilihat adalah bagaimana pengaruh LLM pada tugas yang benar-benar bermakna

• Pada akhirnya ini hanya kesimpulan setingkat “orang yang benar-benar bermain tenis memakai otot lebih banyak daripada orang yang hanya menonton robot bermain tenis”

  • Betul, pada dasarnya ini cuma mengatakan “kalau pekerjaan sulit dibuat lebih mudah, otak dipakai lebih sedikit”

[epiontech]

Ini setara dengan melihat palu lalu berkata, “itu membuat rumah dibangun dengan buruk.”
Masalahnya bukan alatnya, melainkan bagaimana cara menggunakannya.

Contohnya:
Jika memakai kalkulator, kemampuan berhitung di kepala memang bisa berkurang, tetapi
sebagai gantinya kita bisa mengerjakan matematika yang lebih kompleks

Jika memakai GPS, kemampuan menghafal jalan mungkin berkurang, tetapi
kita bisa menyusun strategi ruang yang lebih luas
ChatGPT juga sama.

[epiontech]

Dan ada satu hal yang menarik.
Saat membaca tulisan seperti ini lalu tanpa berpikir setuju dengan, “Benar, pakai AI bikin jadi bodoh”,
pada saat itu juga utang kognitif yang ia bicarakan sebenarnya sudah terjadi.
Alat pada dasarnya selalu netral.
Apakah pikiran dijadikan utang atau aset ditentukan oleh sikap penggunanya.

[yurihan]

Pak Kim. Ada satu hal yang ingin saya sarankan. Bukan hal lain, jangan terlalu sering memakai AI GTP? Kalau ada kemudahan, risikonya juga meningkat. Untuk menyembelih sapi ada bilah yang sesuai, tapi untuk menangkap ayam apakah perlu pisau? Yang sederhana bisa jadi jawaban yang tepat.

Ada GitHub, ada googling, ada cara yang sederhana. Tidak perlu bintang atau waktu, dan nanti juga ada cara ngoding langsung.

Mari kita andaikan Pak Kim adalah seorang jenderal di medan perang. Bukankah wajar kalau harus menang dalam perang? Strategi yang sesuai dengan situasi? Menaklukkan hanya dengan pasukan darat? Tentu tidak. Menurut saya googling bisa lebih cepat, meski tentu tiap orang berbeda, dan GPT juga bisa bagus. Saya menyampaikan pendapat ini karena AI terasa seperti pisau untuk menyembelih sapi.

[tazuya]

Bagian awalnya terasa relevan, tetapi contoh di bagian belakang sepertinya kurang tepat.
Alat olahraga = bukan LLM, melainkan alat bantu olahraga = LLM. Artinya, saat berolahraga jika memakai alat bantu untuk mengurangi beban yang diterima tubuh, kita memang bisa menambah beban angkatan, tetapi itu juga mengurangi efek olahraga seperti menambah massa otot tubuh atau melancarkan peredaran darah.

[tazuya]

Menuliskan contoh yang tidak tepat lalu berkata, "Analogi dan metafora digunakan agar lebih mudah dipahami," itu kontradiktif. Melihat komentar yang Anda tulis, sepertinya tidak ada gunanya lagi saya membalas komentar.

[tazuya]

Ah ya. Jika Anda memahaminya seperti itu, benar.