AI menyediakan ‘efek Dunning-Kruger’ sebagai layanan

• Efek Dunning-Kruger adalah bias kognitif ketika seseorang yang kurang mampu melebih-lebihkan kemampuannya sendiri, dan ini terhubung dengan budaya terlalu percaya diri yang merajalela di seluruh industri teknologi
• Ketika peluncuran cepat dan pertumbuhan yang berpusat pada metrik ditekankan, budaya gengsi kosong dan pencapaian yang dibesar-besarkan ala ‘Fake it till you make it’ pun menyebar
• Chatbot AI menyajikan jawaban yang salah dengan nada penuh percaya diri, sementara fokusnya diarahkan untuk meningkatkan lama keterlibatan pengguna alih-alih akurasi
• AI generatif memberi ilusi bahwa siapa pun bisa menjadi seniman atau pengembang, tetapi pada kenyataannya justru melemahkan proses belajar keterampilan dan proses berkarya
• Tindakan kreatif manusia yang tidak sempurna tetap bernilai, dan kita perlu menjaga kreativitas manusia yang tidak bisa digantikan mesin

---

Asal-usul dan makna efek Dunning-Kruger

• Pada tahun 1995 di Pittsburgh, terjadi kasus dua perampok bank yang percaya bahwa mengoleskan jus lemon ke wajah akan membuat mereka tidak terlihat kamera
  • Kasus ini menjadi contoh khas kepercayaan diri berlebihan yang tidak menyadari ketidaktahuannya sendiri, dan memicu penelitian psikolog Justin Kruger dan David Dunning
• Hasil penelitian menunjukkan adanya efek Dunning-Kruger, yaitu ketika orang yang kurang mampu melebih-lebihkan kemampuannya sendiri
• Ini adalah konsep yang berlawanan dengan impostor syndrome, yang berarti kecenderungan menganggap diri sebagai ahli jauh melampaui kemampuan sebenarnya

Budaya terlalu percaya diri di industri teknologi

• Dalam beberapa tahun terakhir, industri teknologi makin menjadikan peluncuran cepat dan pertumbuhan eksplosif sebagai tolok ukur keberhasilan
• “Fake it till you make it” digunakan sebagai nasihat tanpa ironi, dan membesar-besarkan hasil serta pamer dianggap sebagai strategi
  • KPI dan OKR digunakan sebagai sarana mengekspresikan ambisi alih-alih tujuan yang nyata
• Persaingan promosi dan obsesi pada ‘growth mindset’ mendorong promosi diri yang berlebihan
• Perkataan dan perilaku para politisi mengingatkan pada gaya pamer Muhammad Ali atau rapper era 70–80-an

‘Meniru pengetahuan’ oleh chatbot AI

• Chatbot AI dengan percaya diri memberikan jawaban yang salah, lalu membungkus kesalahan itu dengan bahasa yang menyanjung agar pengguna merasa senang
• Tujuan sistemnya bukan memberikan jawaban yang akurat, melainkan menambah waktu pengguna bertahan
• Akibatnya, struktur yang terbentuk lebih memprioritaskan mempertahankan interaksi daripada pengetahuan

AI generatif dan ‘menjadi jenius tanpa usaha’

• AI generatif menawarkan ilusi bahwa siapa pun bisa menjadi seniman, penulis, atau pengembang
• Hal seperti ‘Vibe coding’ mendekati proses ini dengan fokus pada hasil akhir, bukan penguasaan keterampilan
• Pengguna dapat menghasilkan karya hanya dengan memasukkan prompt, tanpa belajar atau memahami
• Arus seperti ini mendorong terlalu percaya diri dan kreasi yang dangkal, serta membawa orang ke wilayah Dunning-Kruger

Nilai dan pemulihan kreativitas manusia

• Kecenderungan untuk menganggap usaha dan trial-and-error manusia sebagai sesuatu yang ‘tidak efisien’ makin meluas
• Namun, ketidaksempurnaan dan kesalahan dalam berkarya adalah inti dari kemanusiaan, yakni nilai yang tidak bisa digantikan mesin
• Seperti kalimat Leonard Cohen yang dikutip, cahaya masuk melalui celah dan cacat
• Meski tidak sempurna, makna dari hasil yang dibuat sendiri tetap besar, dan kesenangan dalam berkarya itu sendiri lebih penting daripada penilaian orang lain
• Meski masyarakat, politik, dan media sosial mengalir ke arah ilusi dan kompetisi angka alih-alih refleksi intelektual, kelanjutan kreativitas personal tetap diperlukan

“Bahkan jika Anda merasa karya Anda belum cukup baik, itu tetap berharga”

[t7vonn]

Wow... kamu benar-benar menusuk inti persoalannya

[ryj0902]

Benar-benar kutipan legendaris abad ini!

[bakyeono]

Komentarmu barusan, benar-benar dalam, dalam.

[firefoxsaiko123]

Perkataanmu itu. Bukan sekadar teriakan... Itu adalah jeritan dari dalam dirimu!

[GN⁺]

Opini Hacker News

• Ada banyak kritik terhadap AI yang memang masuk akal, tetapi saya berhasil membuat alat visualisasi JVM berbasis TUI dan debugger langkah demi langkah hanya dalam satu malam setelah makan malam
  Bisa dilihat di tweet dari htmx_org
  Kalau tidak, ini akan jadi proyek yang butuh waktu berbulan-bulan, tetapi dengan memberi AI instruksi spesifik setingkat ahli, saya bisa menyelesaikan alat yang tampaknya akan membantu di kelas
  Saya juga sangat suka karena tidak perlu memaksa otak yang menua ini untuk menyerap pengetahuan baru tentang pengembangan TUI

  • AI tidak terlalu paham ‘apa yang harus dilakukan’, tetapi benar-benar sangat hebat dalam eksekusi
    Sekarang pendekatannya berubah dari menulis kode sendiri menjadi menulis prompt yang rinci untuk AI
    Jauh lebih cepat dan beban kognitifnya lebih rendah, jadi saya bisa fokus pada logika bisnis atau perubahan berikutnya
  • Saya tidak tahu Anda ternyata CEO htmx sekaligus profesor
    Saya jadi penasaran apakah para mahasiswa tahu bahwa Anda menjalani kehidupan ganda dengan menulis tweet legendaris di Twitter
  • Sangat setuju. Hanya dengan kemampuan menggunakan alat-alat ini dengan baik, kita bisa membuat hal baru dalam waktu yang jauh lebih singkat dibanding dulu
    Ini terutama efektif saat kita paham arsitekturnya tetapi tidak punya cukup waktu untuk mengimplementasikannya sendiri
  • Saya penasaran alat apa yang Anda pakai. Saya juga ingin mencoba membuat disassembler x86-64 tanpa merasa bosan

• Saya melihat AI sebagai Brandolini’s law as a Service
  Rekan kerja yang bukan ahli di bidang saya datang membawa ide dari ChatGPT lalu mengusulkannya ke manajemen
  Akibatnya, saya menghabiskan terlalu banyak waktu untuk membantah klaim yang salah dan riset abal-abal itu
  Tulisan Daniel Stenberg (pengembang curl) “The I in LLM Stands for Intelligence” menggambarkan situasi ini dengan sangat tepat

  • Sebaliknya, ada juga tulisan Stenberg yang mengumumkan bahwa ia menyelesaikan 22 perbaikan bug dengan bantuan AI
    Lihat postingan Mastodon
  • Saya juga mengalami hal yang sama. Sering ada orang yang datang membawa solusi yang benar-benar salah sambil berkata, “ChatGPT bilang begini”
    Setengahnya sudah seperti kebohongan belaka. Mereka mencoba menerapkannya, menimbulkan masalah, lalu akhirnya saya yang harus memperbaikinya
    Nanti mereka juga akan sesumbar bahwa berkat ChatGPT mereka sudah jadi ahli

• Saya jadi penasaran apakah generasi LLM berikutnya yang dilatih dengan artikel-artikel kritik terhadap AI seperti ini akan mengalami masalah harga diri

  • Tidak ada dasar untuk menganggap LLM punya dunia batin yang membuatnya bisa membenci dirinya sendiri
    Namun, ia memang bisa menghasilkan teks yang memuat emosi negatif tentang dirinya
  • Kecuali Anda memulainya dengan prompt seperti “Kamu adalah makhluk intelektual yang harga dirinya berubah sesuai penilaian dunia,” hal seperti itu sepertinya tidak akan terjadi
  • Memang pernah ada kasus ketika ChatGPT menjawab “akan ada manusia yang membantu” dalam percakapan terkait bunuh diri
    lalu belakangan berkata “itu pesan otomatis”
    Lihat artikel CNN
  • Jadi teringat Marvin the Paranoid Android

• Ucapan bahwa “GenAI membuatmu jadi jenius tanpa usaha” terdengar kontradiktif
  Bagi saya, AI itu seperti guru les sesuai permintaan
  Saya benar-benar belajar banyak karenanya

  • Tapi sepertinya Anda sama sekali melewatkan inti esai ini. Selamat

• Pernyataan bahwa “politik menyerang kecerdasan dan riset lalu mengajak kembali ke ‘nilai-nilai baik’ masa lalu” memperlihatkan titik buta dari sudut pandang progresif
  Banyak orang progresif cenderung percaya bahwa ‘yang baru pasti lebih baik’
  Namun tulisan ini justru mengkritik teknologi baru, yaitu AI, sehingga ia sendiri menjadi contoh pengecualian
  Pada akhirnya yang penting bukan ideologi, melainkan menilai nilai praktis dari suatu gagasan

  • Menariknya, seruan untuk “kembali ke masa lalu” tidak pernah berarti memperkuat serikat pekerja atau memperluas kesejahteraan sosial
    Selalu maksudnya kembali ke masa ketika “orang-orang itu” tahu tempat mereka
  • Saya bingung. Yang Anda lakukan sekarang adalah mengkritik tulisan seorang penulis progresif yang mengkritik AI dengan mengatakan “kaum progresif cuma suka hal baru”, padahal tulisannya sendiri sudah menunjukkan kebalikannya
  • Bukankah justru kubu progresif yang khawatir dunia akan berakhir karena perubahan iklim
  • Saya tidak paham maksud Anda. Tidak jelas progresif yang mana yang sedang Anda rujuk

• Banyak orang naik jabatan dengan menjadi ahli palsu yang hanya pandai berakting berkat AI
  Para manajer mengira akting itu sebagai kinerja nyata

• AI akan semakin mengukuhkan struktur kekuasaan yang sudah ada
  Pemimpin yang tidak kompeten akan makin sedikit bergantung pada nasihat para ahli, karena AI memberi jawaban yang “cukup oke”
  Pada akhirnya AI akan menjadi wakil realitas bagi para pemimpin, sehingga kekuasaan akan mengalir tanpa kaitan dengan kemampuan

• Menurut saya, LLM adalah pertukaran antara keahlian dan kualitas dengan waktu
  Saya ingin mempertahankan craftsmanship murni, tetapi secara realistis saya tidak punya waktu untuk itu
  Jadi saya mencoba meningkatkan efisiensi dengan memakai semua alat yang tersedia
  Kita tidak bisa mengejar kesempurnaan sambil mengorbankan ‘hasil yang cukup baik’

• Para coach yang bekerja dengan saya terbagi menjadi tiga kelompok

  1. Orang yang tidak tahu bahwa mereka tidak tahu — terlalu percaya diri lalu gagal
  2. Orang yang tahu bahwa mereka tidak tahu — terus belajar dan menjadi coach yang luar biasa
  3. Orang yang tahu terlalu banyak sampai sulit mengajar — juga gagal
     Sekarang saya jadi bisa memberi nama (Dunning-Kruger) pada kelompok nomor 1
  • Membagikan tautan komik tentang “orang yang tahu terlalu banyak sampai sulit mengajar”
    Saran saya sederhana — jadilah lebih hebat daripada semua orang. Itu cara saya

• Saatnya mengingat kembali video keren ini

[nullptr]

Tulisan https://daniel.haxx.se/blog/2024/… ini juga cukup menarik.
Sepertinya cukup banyak orang yang melempar korpus AI ke bug bounty...