Apakah Ini Nabi Zaman Modern atau Mesin Omong Kosong — Cara Bertahan dan Berkembang di Dunia ChatGPT

• Kita berharap sistem komputer supercerdas akan membawa era inovasi dan kemakmuran
• Sejak kemunculan ChatGPT, sebagian orang menyebutnya nabi versi modern, sementara yang lain menilainya sebagai mesin omong kosong
• Para pakar teknologi dan humas mengklaim bahwa LLM akan merevolusi cara kita bekerja, belajar, bermain, berkomunikasi, berkarya, dan terhubung
• AI akan memengaruhi hampir setiap aspek kehidupan sehari-hari
• Dengan memungkinkan orang berbicara dengan komputer menggunakan bahasa biasa, aksesibilitas komputasi meningkat secara signifikan
• Namun, sebergunanya sistem AI, ada juga risiko lingkungan informasi kita dipenuhi omong kosong dalam skala besar

"Teknologi ini akan menjadi teknologi paling transformatif yang pernah diciptakan umat manusia, sebanding dengan penemuan mesin cetak, listrik, dan internet"
— Sam Altman, CEO OpenAI

• Suka atau tidak, LLM sudah menjadi bagian dari hidup kita
• Kita membaca konten yang dihasilkan LLM secara online, dan banyak orang berinteraksi dengan chatbot LLM
• Sebagian orang juga menggunakan LLM untuk membuat konten secara langsung

Cara bertahan di era LLM

• Melalui kuliah berdurasi 5–10 menit, akan dijelaskan apa itu LLM dan bagaimana cara kerjanya
• Kita bisa belajar membedakan antara situasi ketika ini dapat menghemat waktu dan tenaga dan situasi ketika ini cenderung membuat kesalahan
• Di tengah pemasaran yang berlebihan, penting untuk belajar membedakan informasi yang benar-benar berguna dari klaim yang dibesar-besarkan

Daftar pelajaran

• Pelajaran 1: Autocomplete yang Ngebut (Autocomplete in Overdrive)
• Pelajaran 2: Hakikat Omong Kosong (The Nature of Bullshit)
• Pelajaran 3: Uji Turing dan Tolok Ukur Omong Kosong (Turing Tests and Bullshit Benchmarks)
• Pelajaran 4: Komputer yang Bisa Diajak Bicara (Computers You Can Talk To)
• Pelajaran 5: Sulit Dipahami, Lebih Sulit Diperbaiki (Hard to Understand, Harder to Fix)
• Pelajaran 6: Tidak, Mereka Tidak Melakukan Itu! (No, They're Not Doing That!)
• Pelajaran 7: Dari Kloning Suara hingga Udang Yesus (From Voice Cloning to Shrimp Jesus)
• Pelajaran 8: Jamur Beracun dan Paspor Anjing (Poisonous Mushrooms and Doggie Passports)
• Pelajaran 9: Tautan Biru Itu Penting (Blue Links Matter)
• Pelajaran 10: Seni Menulis yang Manusiawi (The Human Art of Writing)
• Pelajaran 11: Mengubah Pendidikan? (Transforming Education?)
• Pelajaran 12: Ilmuwan AI (The AI Scientist)
• Pelajaran 13: Mesin Omong Kosong untuk Pekerjaan Omong Kosong (Bullshit Machines for Bullshit Work)
• Pelajaran 14: Keaslian (Authenticity)
• Pelajaran 15: Kecerdasan Buatan dan Kebodohan Manusia (Artificial Intelligence and Human Stupidity)
• Pelajaran 16: Kekeliruan Langkah Pertama (The First-Step Fallacy)
• Pelajaran 17: Truman Show Pribadimu Sendiri (Your Own Private Truman Show)
• Pelajaran 18: Demokrasi (Democracy)

[GN⁺]

Komentar Hacker News

• Artikel ini penuh dengan pernyataan yang sangat yakin tentang AI, tetapi kurang didukung bukti dan sebagian tampaknya keliru

  • Klaim bahwa AI "tidak memiliki kebenaran dasar" itu salah
  • Mengatakan AI tidak bisa bernalar secara logis adalah klaim yang dibesar-besarkan
  • Pernyataan bahwa AI tidak bisa menjelaskan bagaimana ia sampai pada suatu kesimpulan juga tidak benar
  • Pernyataan yang penuh keyakinan seperti ini justru lebih mirip kritik terhadap model yang lemah

• Seorang teman bekerja di tim yang memengaruhi kebijakan pemerintah, dan anggota tim yang lebih muda menulis laporan yang penuh angka yang diambil dari LLM

  • Laporan itu tidak akurat dan tidak dapat diandalkan
  • Para pengembang memahami dengan baik cara kerja LLM, serta dapat meninjau dan memperbaiki ketidakakuratan outputnya
  • Banyak orang akan mempercayai perangkat seperti ini, dan konten yang tidak akurat akan membanjir

• Versi AI saat ini bisa berbahaya bagi pelajar dan dapat membuat mereka menjadi lebih buruk

  • Saat membantu teman nonteknis, saya melihat laju perubahannya dan menekankan bahwa keandalannya tertinggal jauh dibanding kemungkinannya
  • Lingkungan yang bersifat adversarial masih belum terpecahkan, dan prediksinya tidak pasti
  • Prediksi dari orang-orang yang seperti burung beo tidak bisa dipercaya
  • Karena RL ada, klaim tentang koreksi otomatis menjadi berlebihan
  • Kaum pesimis mungkin salah, tetapi orang yang meremehkan argumen mereka justru lebih tidak paham daripada para pesimis itu sendiri

• Bagian "The AI scientist" sangat bagus

  • Tidak terjebak dalam perangkap argumen tentang burung beo, dan menunjukkan use case AI yang positif
  • Menyajikan secara objektif penggunaan positif AI dalam sains, contoh yang merugikan, dan contoh yang hanya membuang waktu

• Materi ini memang dasar, tetapi bermanfaat bagi audiens yang luas

  • Saya suka karena disebutkan agar tidak memanusiakan model
  • Akan lebih bermanfaat jika para pembuat kebijakan berusia di atas 50 tahun mendengarkan kursus ini dibanding mahasiswa baru berusia 19 tahun

• Menyebut LLM sebagai burung beo hanya karena menebak token berikutnya itu tidak ada artinya

  • Manusia juga menebak tombol berikutnya di keyboard
  • Sudut pandang ini tidak lebih dari menutup mata terhadap revolusi teknologi yang akan datang

• Bagi pelajar, menavigasi lingkungan AI adalah tantangan

  • Saya sedang mempertimbangkan untuk membagikan materi ini kepada para pelajar
  • Pelajar yang ingin memakai LLM untuk segala hal kemungkinan tidak akan benar-benar terlibat dengan materi ini
  • Saya mengusulkan agar ditambahkan paragraf yang menjelaskan mengapa menulis tanpa LLM tetap penting dalam bidang sains

• Saya berharap judulnya tidak terlalu anti-teknologi

  • Saya ingin mendorong kursus ini di tempat kerja, tetapi dengan judul seperti itu saya bisa terlihat negatif dan menghambat

• Materi ini adalah sumber yang sangat bagus

  • Saya sedang merancang kursus untuk memberi mahasiswa kedokteran pengetahuan dasar tentang perkembangan ML dan LLM
  • Tujuannya adalah membantu mereka memahami ML medis, menunjukkan kemungkinan teknologinya, dan menyajikan jalur untuk mengadopsinya dengan aman

• Saya sangat menikmati materi ini

  • Saya menemukan beberapa typo di Lesson 11
  • "No one is going to motivated by a robotic..." kehilangan "be"
  • "People who are given a possible solution to a problem tend to less creative at..." kehilangan "be"