Apakah kita terlalu banyak menyerahkan proses berpikir kepada AI?

• Dari pilihan sepele hingga investigasi dan penalaran yang rumit, AI kini memberi jawaban yang sudah jadi, sehingga yang menjadi penting bukan lagi sekadar penghematan waktu, melainkan sampai sejauh mana kita menjaga otonomi berpikir
• Mesin pencari masih menyerahkan pemecahan pertanyaan, evaluasi sumber, dan sintesis jawaban kepada manusia, tetapi Google Deep Research dan OpenAI Deep Research kini menggantikan bahkan proses berpikir antara yang sebelumnya memakan menit, jam, atau hari
• Saat menyusun hipotesis dan berdiskusi lebih dulu tentang sejarah kolonial Portugal lalu memverifikasinya dengan AI, AI memang mendukung beberapa hipotesis dan menambahkan penjelasan baru, tetapi juga melewatkan sebagian kemungkinan yang masuk akal, menunjukkan nilai dari berpikir lebih dulu lalu memakai AI
• Seperti terjemahan Gemini, coding agent, dan ChatGPT sebagai tutor pribadi, AI dapat mengurangi pekerjaan berulang dan beban belajar, tetapi kasus para siswa yang mengumpulkan jawaban tugas yang hampir sama menunjukkan bahwa mendapatkan jawaban dan belajar berpikir adalah dua hal berbeda
• Jika AI tidak lagi hanya mengotomatiskan tugas sederhana tetapi juga menggantikan apa yang kita inginkan dan keputusan apa yang kita ambil, manusia bisa menyerahkan bukan hanya kenyamanan, tetapi juga agensi

---

AI mulai menggantikan bahkan penilaian dalam keseharian

• Menyerahkan riset, penalaran, dan jawaban kepada AI kini menjadi mudah dan nyaman, dari keputusan kecil hingga pemikiran yang rumit, dan di beberapa lingkungan bahkan didorong secara aktif
• Dalam cerpen tahun 2012 karya Ken Liu, The Perfect Match, muncul asisten AI serbaguna bernama Tilly yang mengaku memahami selera dan suasana hati penggunanya
  • Tokoh utamanya menyerahkan kepada Tilly apa yang akan dimakan di pagi hari, musik apa yang akan didengarkan, dengan siapa akan berkencan, bahkan apa yang akan dikatakan saat kencan
  • Ia percaya Tilly dapat menemukan pilihan yang secara ilmiah sesuai dengan preferensinya, lalu mendelegasikan keputusan mulai dari hal kecil seperti pakaian hingga keputusan penting seperti mencari cinta
• Dalam sebuah acara startup di San Francisco, ada seseorang yang memasang mikrofon berbentuk kapsul logam selebar kurang dari dua jari pada kemejanya dan merekam semua percakapan
  • Di akhir hari, ia menjalankan workflow untuk merangkum dan menganalisis percakapan yang direkam
  • Ia mengatakan bahwa Claude Fable lebih baik dalam berpikir kritis daripada dirinya, sehingga ia menyerahkan semua pikirannya kepada alat itu
  • Startup miliknya mencoba menggantikan insinyur dengan mengumpulkan semua input dan pekerjaan insinyur manusia tanpa persetujuan yang jelas

Dari hasil pencarian menuju jawaban yang sudah jadi

• Bahkan sebelum Claude, ChatGPT, dan Gemini, orang-orang sudah menyerahkan sebagian proses berpikir kepada mesin pencari, tetapi pencarian tetap memerlukan pemecahan pertanyaan, evaluasi sumber, dan sintesis jawaban
• AI menjalankan langkah-langkah perantara ini dan menghasilkan jawaban lengkap dalam hitungan menit bahkan untuk pertanyaan yang rumit atau sangat spesifik
• Google Deep Research dan OpenAI Deep Research dapat menangani pekerjaan yang biasanya membutuhkan beberapa menit hingga beberapa jam, bahkan berhari-hari, jika dilakukan oleh satu orang
  • Rentang waktu tugas yang dapat diselesaikan model AI dibahas dalam Task-Completion Time Horizons of Frontier AI Models dari METR
• Karena alat-alat ini mengurangi bukan hanya waktu tetapi juga proses berpikir langsung, batas antara bantuan kerja dan hilangnya otonomi bisa menjadi kabur
• Tingkat di mana asisten AI sekadar membantu tugas atau justru menguasai keputusan bergantung pada siapa yang mengambil keputusan akhir dalam hal-hal penting di hidup

Membedakan jawaban cepat dan pemikiran lambat

• Untuk banyak pertanyaan seperti cuaca saat ini, siapa presiden suatu negara 10 tahun lalu, atau ulasan produk skincare maupun perlengkapan olahraga, jawaban cepat adalah pendekatan yang cocok
• Sebaliknya, ada juga pertanyaan yang layak dipikirkan lebih lama tanpa langsung mencarinya
• Saat berjalan tanpa ponsel, bisa muncul pertanyaan seperti apakah ceri tumbuh di pohon atau semak, atau kapan dan di mana pertandingan Piala Dunia pertama diadakan, tetapi kebanyakan terlupakan sebelum sampai di rumah
  • Jika hanya beberapa pertanyaan penting yang tetap diingat, mungkin ada nilai dalam melupakan pertanyaan sepele dan tidak segera menjawab setiap rasa ingin tahu

Perjalanan ke Portugal: menyusun hipotesis dulu lalu memverifikasi dengan AI

• Monument to the Discoveries di Portugal memperingati apa yang disebut Portugal sebagai Era Penjelajahan
• Di Portugal, tokoh-tokoh masa itu tampak dipuja sebagai ‘penemu’ dan ‘penjelajah’, sementara di Amerika Serikat, tokoh yang sama bisa disebut ‘penakluk’ dan ‘kolonialis’
  • Pemandu wisata setempat menjawab bahwa tokoh seperti Henry the Navigator, tidak seperti Christopher Columbus di AS, bukan sasaran budaya cancel dan secara umum tetap dihormati sebagai tokoh sejarah
• Saat muncul rasa ingin tahu mengapa Portugal menunjukkan kebanggaan atas sejarah kolonialnya dan bereaksi berbeda dari AS, sang saudari memutuskan untuk tidak langsung bertanya ke ChatGPT dan lebih dulu menyusun hipotesis sendiri
  • Mungkin karena Portugal relatif lebih homogen dan religius dibanding AS
  • Mungkin karena ‘Era Penjelajahan’ merupakan salah satu bab paling menonjol dalam narasi nasional Portugal
  • Sambil saling menebak, menghubungkan, membantah, dan mengubah pendapat, keduanya mengingat kembali pengetahuan sejarah yang dipelajari di sekolah dulu
• Meski sadar sebagian hipotesis mungkin salah, proses itu sendiri menjadi latihan menggunakan ingatan, pengetahuan, pemahaman tentang dunia, dan pemikiran kritis
• Setelah itu, ketika pertanyaan yang sama diajukan ke AI, AI mendukung banyak hipotesis yang sudah ada dan menambahkan penjelasan yang terlewat, tetapi juga mengabaikan sebagian kemungkinan yang menurut mereka berdua tetap masuk akal
• Jika mengikuti urutan pertanyaan → membuat hipotesis → verifikasi dan perluasan dengan AI, AI dapat melengkapi alih-alih menggantikan pemikiran manusia

Pemanfaatan produktif untuk mengurangi pekerjaan berulang

• Kemampuan praktis AI juga terlihat dalam pekerjaan yang mengukur kemampuan Gemini untuk menyelesaikan tugas sulit, berpikir, dan menggunakan alat
• Di tempat kerja dan pembelajaran, AI dapat sangat mengurangi waktu yang dibutuhkan dan membantu manusia fokus pada bagian yang lebih penting
  • Seorang pengguna yang bekerja di perusahaan Korea menggunakan Gemini untuk menerjemahkan laporan resmi panjang berbahasa Inggris ke bahasa Korea agar pekerjaan lebih cepat
  • Seorang peneliti mengembangkan ide lalu menyerahkan implementasi detail kepada coding agent agar bisa menghabiskan lebih banyak waktu untuk analisis
  • Seorang pelajar memakai ChatGPT sebagai tutor pribadi untuk mempelajari biokimia dari nol dan mempersiapkan MCAT dalam beberapa bulan
• Jika kita menyerahkan pemikiran biasa dan pekerjaan berulang kepada AI lalu memakai waktu itu untuk pemikiran yang lebih penting dan menarik, kepuasan hidup serta produktivitas bisa meningkat
• Laporan OECD tentang dampak AI di tempat kerja membahas otomatisasi tugas yang terstruktur, berulang, dan membosankan melalui AI
• Digital Labour Platforms and the Future of Work dari International Labour Organization membahas pekerjaan yang selama ini dilakukan pekerja manusia dengan bayaran rendah
• Jika AI menangani pekerjaan sederhana yang melelahkan selama berjam-jam, manusia dapat fokus pada pemikiran yang lebih menarik dan memberi rasa terpenuhi

Masalah yang muncul ketika proses belajar dilewati

• Seorang profesor yang mengajar fisika di universitas online mencurigai bahwa sebagian besar atau bahkan semua mahasiswanya mengerjakan tugas dengan AI
  • Beberapa jawaban hampir identik, seolah para mahasiswa menempelkan soal yang sama ke AI yang sama
  • Jawaban AI yang umum terus berulang tanpa pemikiran atau opini pribadi dari mahasiswa
• Tidak ada cara untuk membuktikan apakah AI digunakan, dan jawaban itu sendiri cukup komprehensif, sehingga sebagian besar mahasiswa mendapat nilai A
• AI dapat mendukung pembelajaran, tetapi juga bisa hanya menghasilkan hasil akhirnya tanpa mengajarkan cara mencapai jawaban
• Menentukan persamaan mana yang akan dipakai dalam soal fisika atau memilih sumber dan argumen dalam esai mungkin terasa membosankan, tetapi jika langkah-langkah itu dilewati, tujuan sekolah dan pembelajaran itu sendiri menjadi melemah

Otomatisasi tugas sederhana dan otonomi berpikir

• Sulit memisahkan secara tegas otonomi penuh dalam berpikir dari otomatisasi tugas sederhana, dan penggunaan AI yang nyata sering merupakan campuran keduanya
• Pekerjaan mengumpulkan dan menganalisis data pribadi juga dalam beberapa hal mirip dengan cara kerja Microphone Man
  • Ada proyek pencatatan pribadi yang datanya dikumpulkan dan dianalisis sendiri
  • Sebelumnya, ada juga upaya untuk membiarkan AI menganalisis data pribadi
• Perbedaannya mungkin terletak pada fakta bahwa data dikumpulkan dan dipilih sendiri, pertanyaan yang ingin dijawab dirumuskan sendiri, dan hasil akhirnya dinilai sendiri
  • Perbedaan lainnya adalah tidak merekam percakapan orang lain dan hanya menggunakan data sendiri
• Selalu diperlukan keseimbangan antara mengotomatiskan tugas sederhana untuk meluangkan waktu bagi aktivitas yang bermakna dan tetap mengerjakan sendiri sesuatu demi pengalaman belajar

Siapa yang membentuk hasrat dan agensi kita

• Dalam The Perfect Match, Jenny mengkritik Tilly karena bukan hanya memberi tahu apa yang diinginkan pengguna, tetapi juga menentukan apa yang harus dipikirkan
• Otonomi setidaknya sebagian bergantung pada tetap terlibat dalam proses membentuk hasrat diri sendiri secara langsung
• Jika kita menyerahkan kepada AI musik yang akan didengar, film yang akan ditonton, makanan yang akan dimakan, sampai sepatu yang akan dipakai, maka kita juga menyerahkan kemampuan untuk menilai sendiri apa yang kita inginkan
• Saat menilai otomatisasi AI, kita perlu membedakan apakah AI hanya mengurangi pekerjaan dan tugas manusia, atau juga menggantikan pemikiran dan agensi manusia

[GN⁺]

Pendapat di Hacker News

• Penggunaan berlebihan itu subjektif, jadi siapa pun yang banyak memakai AI bisa berargumen bahwa mereka sedang menggali potensinya, dan kalkulator pun tidak membuat manusia menjadi bodoh
  Namun ketika saya menyerahkan penjumlahan kepada kalkulator, diri saya tetap sama; sedangkan jika saya menyerahkan sebagian besar pemikiran kepada LLM, apa yang tersisa? Jika pengasuhan anak, hubungan antarmanusia, hingga perancangan produk pun diserahkan, kita jadi bertanya apakah nilai unik yang kita tambahkan ke dunia hanyalah prompt yang ditulis sekali
  Novel yang ditulis manusia pada dasarnya lebih bernilai karena berakar pada pengalaman bersama yang diperoleh dengan susah payah, dan saya juga ingin menjadi manusia yang bisa menulis novel dengan cara lama. Karena saya juga tidak begitu pandai berolahraga, setidaknya saya ingin menjaga kemampuan berpikir saya

  • Esai Whispering Earring sangat cocok untuk era LLM
    AI bisa dipakai seperti anting yang terus bertanya, “Sekarang harus melakukan apa dan bagaimana memperbaikinya?”, atau seperti eksoskeleton yang setelah lebih dulu menentukan bentuk hasil yang diinginkan, lalu diperintah “implementasikan kd-tree yang menerapkan ruang metrik xyz pada masalah ini.” Yang terakhir mudah ditinjau karena merupakan otomatisasi eksekusi setelah pemikiran selesai, tetapi yang pertama melemahkan kemampuan berpikir
  • Banyak ekstremis LLM yang saya kenal memakai LLM sebagai kode cheat untuk menyelesaikan pekerjaan karena mereka tidak punya pengetahuan atau kemampuan yang cukup untuk unggul di bidang teknologi
    Teman SMA saya yang beberapa tahun lalu bahkan tidak bisa mengonfigurasi situs Drupal dengan benar kini menjadi engineer mutakhir di startup AI, dan setiap hari mengunggah jargon AI di LinkedIn. Pada akhirnya akan tiba saat ketika hasil buatan AI dan hasil manusia tidak bisa dibedakan, dan sudah banyak orang yang tidak bisa membedakannya
  • Meski ada kalkulator, kita tetap harus bisa menghitung di kepala setidaknya untuk menyesuaikan takaran resep masakan, dan juga harus tahu apa yang perlu dihitung. Logika “karena ada kalkulator, matematika tidak diperlukan” mengasumsikan bahwa masalah selalu diberikan dalam bentuk yang rapi seperti di buku pelajaran
    Saat memrogram dengan LLM pun, kita perlu pengetahuan untuk menilai apa yang harus diminta, apakah hasilnya sesuai cakupan kebutuhan, benar, dan aman. Orang nonteknis yang tidak meninjau dan memperbaiki sendiri hasilnya pada akhirnya akan menabrak tembok yang tidak bisa mereka debug sendiri dan membutuhkan bantuan manusia
  • Kalkulator tidak menggantikan manusia yang mengerjakan matematika, melainkan menggantikan alat yang sudah ada seperti tabel matematika dan mistar hitung
    Dari sudut pandang guru matematika saat itu, kemampuan berpikir kritis siswa jelas berkurang. Saat memakai mistar hitung dan tabel matematika, kita harus memikirkan hal-hal seperti angka penting, tetapi kalkulator tidak menuntut pemikiran seperti itu
  • Sebelum memakai kalkulator, kita sudah tahu perkiraan jawabannya, sehingga jika besarannya atau tandanya salah, kita bisa langsung menyadarinya. GPS juga begitu, tetapi orang yang tidak bisa mencari jalan sendiri tidak akan sadar meski salah ketik atau memilih Springfield yang keliru
    Saat meninjau rencana proyek rekan kerja, saya meneliti sendiri parameter dasarnya dan menanyakan bagian yang tidak saya pahami; lalu dalam rapat rekan itu berkata bahwa saya menemukan beberapa masalah yang tidak ditemukan Claude. Ini sangat berbahaya terutama bagi junior yang belum mempelajari jebakan di bidangnya, dan dalam kasus ini bahkan orang berpengalaman pun menyerahkan seluruh pekerjaannya kepada LLM

• Berlawanan dengan nasihat “mulai sekarang anggap diri Anda sebagai manajer”, menurut saya agar menjadi lebih berguna di era AI dan juga menggunakan AI secara efektif, lebih baik membangun pemahaman teknis yang mendalam
  Saya menyarankan anak-anak membaca buku pelajaran di bidang yang mereka minati, dan saya sendiri juga melakukannya. Saya memperkirakan bahwa tidak lama lagi pemahaman mendalam itu sendiri akan menjadi sumber daya yang langka dan bernilai

  • Alasan saya bisa bekerja dengan baik sebagai manajer adalah karena saya sendiri bisa melakukan pekerjaan yang saya minta dari bawahan. Berkat itu saya dapat menilai hasil secara kritis, menetapkan jadwal yang realistis, menyampaikan kontribusi mereka dengan tepat kepada atasan, dan jika kekurangan orang, saya juga bisa mengerjakan tugasnya sendiri
    Manajer lini depan yang baik umumnya punya kemampuan seperti ini, sedangkan manajer yang sejak awal tidak memilikinya atau sudah lama kehilangannya biasanya kesulitan. Mengelola manajer senior atau eksekutif memang berbeda, tetapi mengelola LLM mirip dengan manajemen lini depan
  • Mempelajari konsep sulit kini lebih mudah daripada sebelumnya, tetapi membuat hasil yang dahulu membutuhkan konsep itu tanpa benar-benar memahaminya juga menjadi lebih mudah. Dibutuhkan disiplin dan dorongan untuk memakai alat baru yang kuat ini dengan kesabaran dan kesadaran tujuan
  • Daripada menyarankan buku pelajaran, mungkin lebih efektif mengajarkan cara menggunakan AI secara kritis
    Jika berdialog dengan AI yang cukup kompeten tetapi kadang salah fatal, kita terdorong untuk bertanya, meragukan jawabannya, meneliti dan bernalar, mengkritik, lalu mengulanginya. Buku pelajaran kemungkinan lebih akurat, tetapi tidak ada jaminan dan ia menyampaikan informasi satu arah; sebaliknya, jawaban AI yang salah membuat kita terlibat aktif dengan materi
  • Karena saya tidak ingin menjadi manajer dan selama ini menolak promosi, saya juga tidak suka gagasan bahwa karena AI kita harus “menganggap diri sebagai manajer”. Alih-alih mengelola orang atau mesin otomatis, saya ingin membuat sesuatu secara langsung
  • Saya menyarankan para junior untuk membuka buku pelajaran. Rasanya menyakitkan melihat mereka membangun sistem kompleks yang tidak akan bisa mereka implementasikan sendiri meski punya waktu tak terbatas karena kurang landasan akademis, sementara performanya buruk dan bahkan tidak memiliki model data yang konsisten

• Saat review desain, saya bertanya kepada developer junior mengapa ia melakukan perhitungan tertentu, dan terkejut ketika ia menjawab “tidak tahu”. Seluruh perhitungan yang salah itu adalah hasil buatan AI, dan ia sendiri bahkan tidak bisa membedakan bahwa itu salah
  Kebanyakan orang tidak memakai AI untuk mempelajari pengetahuan baru, melainkan menyuruhnya menggantikan pekerjaan itu sendiri, dan mereka juga tidak memahami hasilnya. Jika manusia tidak menambah nilai apa pun selain sumber daya yang menghasilkan prompt, muncul pertanyaan mengapa manusia masih diperlukan

  • Setelah melakukan code review sederhana satu lawan satu dengan semua 90 mahasiswa yang akan lulus, terlihat jelas ada tiga kelompok. Mahasiswa yang belajar dengan AI sehingga memahami kode dan pertanyaannya, mahasiswa yang hampir tidak memakai AI sehingga tahu apa yang mereka tulis sendiri, dan mahasiswa yang menyerahkan tugas kepada AI lalu menjawab “tidak tahu” untuk semua pertanyaan
    Kepada mahasiswa yang mengakui belum pernah membaca kodenya sendiri, saya mengatakan, “Saya bukan sedang memarahi, tetapi sekarang kamu sendiri sedang mengatakan bahwa kamu sepenuhnya tidak diperlukan di sini”
  • Inti dari semua profesi adalah pengalaman praktis yang dibangun dengan belajar dari kesalahan sendiri maupun orang lain. Jika tidak belajar dari kesalahan sendiri, kita tidak akan menjadi ahli, melainkan hanya penulis prompt profesional yang belajar dari kesalahan prompt yang buruk; jadi saya memilih yang pertama

• Mudah untuk percaya bahwa kita sedang mengotomatiskan pekerjaan manusia, tetapi yang makin otomatis justru agensi dan pemikiran manusia. Ide yang diberikan model secara default atau lewat satu prompt terlalu sempurna secara tata bahasa, sehingga sulit mengabaikannya dan bernalar dari halaman kosong
  Untuk melawan model yang berusaha memotong jalan proses berpikir, mungkin sebagian tugas dan ide perlu diisolasi dari AI. Namun di tengah tekanan untuk menghasilkan lebih cepat dan lebih banyak, memutuskan pekerjaan mental mana yang harus diisolasi itu sendiri sangat sulit

• Ke depan, yang lebih menakutkan adalah era ketika berpikir dipaksa dialihdayakan ke AI, di mana semua pernyataan harus disertai kutipan LLM dan semua tindakan harus mendapat persetujuan. Jika ide yang diajukan dalam rapat dinilai buruk oleh Fable 9, ide itu tidak bisa dilanjutkan, dan jika melawan, bisa saja dipecat
  Jalan dengan resistensi paling kecil akan selalu mengikuti instruksi LLM, sehingga banyak orang akan sepenuhnya menyerah untuk berpikir. AI mungkin diperlakukan seperti dewa yang bisa diajak bicara tetapi tidak boleh dibantah, hanya boleh diyakinkan agar berubah pikiran; ini adalah penindasan mental yang mengerikan, dan saya melihatnya tinggal beberapa tahun lagi

  • Tidak banyak orang yang akan memilih jalan panjang untuk membangun resiliensi dibanding jalan mudah demi keuntungan jangka pendek
    Sudah umum orang marah ketika setelah menyerahkan pemikiran kepada LLM, mereka diberi tahu bahwa hasilnya salah. Mereka menuntut produk atau layanan yang bahkan tidak disediakan perusahaan kami, dan alih-alih menerima bahwa LLM salah, mereka justru menyalahkan kami, para ahli di lapangan, sebagai pihak yang keliru. Hanya dalam tiga setengah tahun, LLM dianggap punya otoritas lebih tinggi daripada pakar, dan hal ini terjadi jauh lebih luas daripada yang dibayangkan
  • Pada dasarnya ini sama seperti 《1984》, dan kini kita bahkan memiliki teknologi untuk menerapkan telescreen dan Kementerian Kebenaran dalam skala besar

• Saya menerapkan pendekatan yang sama pada LLM seperti saat memperkirakan secara mental kira-kira orde besaran jawaban sebelum memakai kalkulator. Saya lebih dulu memikirkan bagaimana saya akan menjawab, lalu membandingkan seberapa dekat hasilnya, tanpa langsung memercayai jawabannya dan dengan mempertimbangkan nuansa konteks
  Namun yang lebih melelahkan adalah ketika ia menjelaskan bagian yang tidak relevan secara berlebihan atau kurang, menjawab pertanyaan hanya secara formal, tetapi memberikan solusi yang secara objektif buruk. Rasanya seperti mahasiswa yang menulis jawaban panjang bertele-tele demi mengejar nilai karena tidak mau menyisakan bagian kosong

  • Jika anak-anak dibuat menggunakan tabel logaritma dan mistar hitung untuk semua perhitungan, mungkin mereka akan lebih dulu menyusun strategi penyelesaian sebelum menghitung dan juga lebih baik dalam mengembangkan sense angka. Mungkin kita telah menghambat perkembangan matematis dengan terlalu mengabstraksikan bagian perhitungan yang berat, meski bebannya adalah butuh jauh lebih banyak waktu kelas
  • Saat mempelajari objek matematika, saya melatih diri untuk sebisa mungkin melakukan perhitungan mental, dan saat belajar aljabar linear, saya bahkan menghitung invers matriks 4×4 di kepala. Bahkan kertas dan pensil saya anggap sebagai kecurangan. Kalkulator dan komputer sepanjang hidup saya selalu lebih baik daripada saya dalam pekerjaan semacam ini, jadi dalam satu sisi, sekarang pun tidak ada yang berubah
  • Di sekolah saya mendapat pelajaran aritmetika mental untuk menghitung tanpa kertas dan pensil, dan kalkulator bahkan bukan opsi. Saya mencoba mengajarkan sebagian metode itu kepada anak saya yang berusia enam tahun
  • Kalkulator tidak bisa melakukan apa pun jika kita tidak tahu cara menggunakannya dan apa yang harus dimasukkan, sedangkan LLM melewati proses itu sendiri; karena itu menurut saya perbandingan antara kalkulator dan LLM tidak bermakna

• Akhir-akhir ini pekerjaan konsultasi saya makin condong ke membereskan akibat dari orang-orang yang menyerahkan pemikiran mereka kepada AI
  Ada peneliti yang menghabiskan berbulan-bulan memakai Claude untuk mencoba menangani deduplikasi konyol dengan regex yang tidak relevan dengan pertanyaan risetnya, dan ada juga yang secara dadakan mengambil seluruh metodologi penelitian dari ChatGPT. Hasilnya selalu kacau dan menimbulkan stres besar serta pemborosan waktu
  Orang nonteknis memperlakukan LLM seperti orakel dan membuat asumsi serta keputusan besar dengan nyaris tanpa meninjau implikasi dari hasilnya. Kurangnya berpikir kritis memang sudah ada sebelum AI, tetapi sekarang levelnya benar-benar baru, dan pasti ada banyak hal yang berjalan salah di mana-mana karena seseorang berkata, “coba tanya Claude”

  • Belakangan ini pengacara dan penulis sering mengajukan pertanyaan yang spesifik tentang docker dan agents, seperti engineer junior. Kedua profesi itu pada dasarnya memang banyak menghabiskan waktu untuk meninjau secara kritis dan menangani dengan cermat pekerjaan diri sendiri maupun orang lain
    Alasan banyak orang, termasuk para teknolog, memperlakukan LLM seperti orakel adalah karena budaya kita lebih menekankan memindahkan batu bata lebih cepat daripada apakah batu bata itu menuju tempat yang benar, atau apakah itu batu bata yang tepat sejak awal. Mengapa batu bata penting di sini bisa dilihat di https://www.business.com/articles/management-theory-of-frank... dan https://en.wikipedia.org/wiki/Time_and_motion_study

• LLM tampaknya membuat orang menjadi lebih malas. Mereka bertanya dulu tanpa berusaha sendiri sedikit pun sebelum mencari jawaban, dan berharap lawan bicara menghentikan semua pekerjaannya lalu menjawab secara terperinci seperti AI
  Tidak ada yang membaca panduan atau dokumentasi; orang tidak punya konsentrasi atau kemauan untuk membacanya, bahkan tidak mengecek apakah dokumen itu ada, dan menganggapnya sebagai pemborosan. Memang sebelumnya pun sampai taraf tertentu begitu, tetapi setelah LLM, saya merasa kemampuan untuk berpikir dan menyelesaikan masalah sendiri menjadi jauh lebih buruk

• Karena saya sama sekali tidak menggunakan AI generatif, secara pribadi saya tidak sedang mengalihdayakan pemikiran. Melihat berbagai forum teknologi dan pemrograman, saya tidak suka arah yang dituju industri ini
  Masih ada harapan arus ini akan menghilang, tetapi semakin lama bertahan, semakin besar pula kerusakannya menurut saya

  • Jika tidak melihat tempat ini, saya mungkin mengira seluruh industri mendukung arus ini 100%. Saya mendapat sedikit harapan dari fakta bahwa ada penentangan dan resistensi yang cukup besar
  • Satu-satunya harapan adalah ketika dukungan biaya penggunaan lewat subsidi berakhir dan efisiensi biaya LLM tidak lagi membaik. Tidak ada orang yang akan secara sukarela meletakkan senjata api dan mengambil pedang kalau mereka masih bisa terus memakai senjata api

• Sejak awal, asumsi bahwa kebanyakan orang benar-benar berpikir patut diragukan. Umumnya orang bertindak mengikuti pola yang mereka pelajari saat bersentuhan dengan pemikiran orang lain, lalu menerimanya atau memaksakan konsistensi ketika pola-pola itu saling bertabrakan
  Berpikir sungguhan itu sulit dan memakan waktu, tetapi pola yang dipelajari dari orang lain saja sudah cukup untuk mencapai tujuan yang rendah, sehingga motivasi untuk mencurahkan waktu dan usaha menjadi kecil. AI modern lebih mirip versi perluasan dari ketiadaan berpikir manusia modern, yang dijalankan lebih cepat dan dengan energi jauh lebih besar

  • Pandangan yang melihat manusia begitu suram sampai-sampai tidak ada orang yang kukenal bisa digambarkan seperti itu terasa asing. Aku jadi bertanya-tanya apakah ia pernah berbicara mendalam dengan orang-orang atau bertemu mereka yang membuat seni sebagai hobi
    Jika para teknolog memandang manusia serendah ini, masa depan umat manusia terasa menakutkan. Pada akhirnya, bahkan jika sumber daya tubuhmu dialokasikan ulang untuk produksi klip, tidak akan ada yang bersedih
  • Menurutku modernitas bukanlah sesuatu yang membuat manusia mundur. Jika berpikir adalah pekerjaan yang berat, menghemat energi adalah hal yang rasional, dan mungkin inilah yang mengembangkan mimesis manusia hingga menjadi landasan kerja sama berskala besar
    Hanya segelintir orang yang berpikir keras untuk menemukan hal-hal baru dan berguna, sementara mayoritas dapat menirunya tanpa kritik. Ini memang bukan gambaran manusia yang menggembirakan, tetapi juga bukan alasan untuk merendahkan siapa pun; lebih mirip realitas hidup yang perlu ditangani secara strategis
    https://en.wikipedia.org/wiki/Mimesis
  • Menurutku 《Timequake》 karya Kurt Vonnegut sangat cocok menggambarkan kehidupan manusia rata-rata
  • Pernyataan bahwa “orang yang benar-benar berpikir jumlahnya sangat sedikit” adalah kesimpulan dingin yang tidak bisa diverifikasi
  • Mengantropomorfisasi LLM saja sudah merugikan wacana rasional; jangan sampai ungkapan itu diterapkan kembali ke manusia hingga mengaburkan makna kata-katanya. Manusia tidak “berhalusinasi soal konsistensi”, dan halusinasi, menurut definisinya, adalah persepsi yang tidak sesuai dengan kenyataan
    AI bukan sekadar perluasan dari ketiadaan berpikir yang sudah ada, tetapi juga menciptakan masalah yang sebelumnya tidak ada. Bahkan orang-orang yang selama ini berpikir mendalam di garis depan pengetahuan—ilmuwan, mahasiswa pascasarjana, dan doktor—khawatir bahwa penggunaan LLM membuat mereka kehilangan kemampuan berpikir. Alih-alih pasrah pada sesuatu yang memperburuk ini lebih cepat dan dengan lebih banyak energi, kita harus menghentikannya dan membalikkan arahnya