Apakah AI sedang merusak kemampuan kita? Hasil riset awal menunjukkan ya

• Seiring meningkatnya ketergantungan pada alat AI di tempat kerja, mulai muncul bukti awal bahwa di bidang yang sangat bergantung pada keahlian seperti medis dan ilmu komputer, kapabilitas yang dibangun manusia bisa melemah
• Dalam studi terhadap spesialis endoskopi di Polandia, saat AI tidak digunakan tingkat deteksi adenoma turun dari 28,4% menjadi 22,4%
• Dalam uji acak terkontrol Anthropic, insinyur yang mendapat bantuan AI mencatat skor kuis rata-rata 50%, lebih rendah daripada kelompok tanpa AI yang mencapai 67%
• Dalam survei terhadap tenaga kesehatan di AS, 70% perawat dan 77% dokter khawatir akan hilangnya kompetensi akibat ketergantungan berlebihan pada AI
• Seperti GPS di masa lalu yang melemahkan kemampuan navigasi, AI generatif adalah teknologi pertama yang mengotomatisasi kemampuan kognitif itu sendiri, seperti berpikir dan menafsirkan, sehingga menjaga keahlian manusia menjadi tantangan penting

---

Munculnya fenomena deskilling akibat AI

• Kekhawatiran bahwa keterampilan yang dipelajari dengan susah payah bisa menurun karena para profesional mengandalkan alat AI dalam pekerjaan mereka makin meluas di kalangan pakar medis, ilmuwan komputer, dan lainnya
• Dalam survei terhadap tenaga kesehatan AS yang dirilis bulan ini oleh Wolters Kluwer, 70% perawat dan 77% dokter mengkhawatirkan hilangnya kompetensi akibat ketergantungan berlebihan pada sistem AI
• Bukti mulai menunjukkan bahwa 'deskilling' oleh AI telah dimulai di berbagai bidang seperti medis dan ilmu komputer, dan para peneliti kini mendiskusikan bagaimana menjaga keahlian manusia di era AI
• Ilmuwan informasi Syracuse University Kevin Crowston: "Sekadar menyadari adanya fenomena ini saja dapat memicu refleksi diri tentang keterampilan mana yang perlu dipertahankan dan keterampilan mana yang akan dialihdayakan ke AI"

Bidang medis — studi pada spesialis endoskopi

• Desain studi

  • Studi ini melibatkan spesialis endoskopi di Polandia, dan seluruh dokter peserta masing-masing telah melakukan sedikitnya 2.000 kolonoskopi sepanjang karier mereka
  • Mereka diberi sistem AI yang menandai adenoma, yaitu lesi usus prakanker, dengan menganalisis video kolonoskopi secara real time
  • Alat tersebut dioperasikan sehingga pada hari tertentu bisa digunakan, dan pada hari lain tidak tersedia

• Hasil

  • Setelah para dokter mulai menggunakan AI, kinerja mereka turun secara signifikan ketika sistem tidak dapat digunakan
  • Dalam tiga bulan sebelum adopsi AI, para spesialis menemukan setidaknya satu adenoma pada 28,4% kolonoskopi
  • Dalam tiga bulan setelah adopsi AI, tingkat deteksi adenoma pada kolonoskopi yang dilakukan tanpa bantuan AI turun menjadi 22,4%
  • Hasil ini dipublikasikan Oktober lalu di The Lancet Gastroenterology and Hepatology

• Interpretasi para ahli

  • Dokter University of California, San Francisco Robert Wachter: "Bahkan profesional yang sangat terampil sekalipun dapat mengalami penurunan kemampuan menjalankan tugas yang dibutuhkan pekerjaannya jika ketergantungan pada AI meningkat"
  • Para penulis studi: "Paparan terus-menerus terhadap alat semacam ini dapat membuat klinisi kurang termotivasi, kurang fokus, dan kurang merasa bertanggung jawab saat harus mengambil keputusan kognitif tanpa AI"
  • Dokter dan peneliti University of Oslo sekaligus salah satu penulis, Yuichi Mori: "Masih diperlukan lebih banyak studi untuk memastikan fenomena ini, tetapi pengguna AI perlu menyadari risiko hilangnya sebagian keterampilan"
    • "Saat ini belum ada solusi mapan untuk deskilling, dan ini harus menjadi topik riset yang sangat penting dalam 10 tahun ke depan"

Bidang ilmu komputer — eksperimen coding Anthropic

• Untuk menyelidiki apakah terjadi hilangnya keterampilan di bidang ilmu komputer, tim peneliti Anthropic, perusahaan AI di San Francisco, merancang uji acak terkontrol terhadap 52 insinyur perangkat lunak
  • Seluruh 52 peserta memiliki akses ke pencarian web dan panduan cara mengerjakan tugas selama mengerjakan tugas coding dasar
  • Separuh dari mereka juga dianjurkan untuk menggunakan asisten AI
• Dalam kuis tentang apa yang dipelajari setelah tugas selesai, muncul selisih dengan rata-rata 50% pada kelompok pengguna AI dan 67% pada kelompok tanpa AI
  • Peserta yang dibantu AI tampil lebih buruk terutama pada pertanyaan diagnosis error kode, yang menunjukkan bahwa mereka tidak benar-benar mempelajari konsep dari kode yang baru saja mereka tulis
  • Studi ini dipublikasikan di server preprint arXiv sebelum melalui peer review
• Crowston: "Sekarang ada keterputusan yang aneh antara kemampuan melakukan tugas dan pembelajaran"
  • "Orang bisa tampil di tingkat yang cukup tinggi pada dasarnya karena meminjam keterampilan dari AI, tetapi mereka tidak mengembangkan keterampilan itu sendiri"
  • Hasil ini menjadi perhatian khusus bagi mahasiswa dan profesional muda di bidang tersebut

Mengalihdayakan kognisi — perbandingan dengan teknologi masa lalu

• Peneliti sistem informasi University of Queensland Tapani Rinta-Kahila: "Di masa lalu juga ada teknologi yang membuat keterampilan tertentu menjadi kurang terpakai, seperti navigasi GPS yang melemahkan kemampuan mencari jalan"
  • Namun AI generatif adalah "teknologi pertama yang mengotomatisasi kemampuan kognitif terkait berpikir dan menafsirkan, yang selama ini dianggap sebagai keterampilan khas manusia"

• Kasus akuntan

  • Dalam studi yang dipublikasikan pada 2018, diteliti kelompok akuntan yang selama lebih dari 10 tahun terus menggunakan sistem akuntansi otomatis non-AI
  • Ketika alat itu hilang, terungkap bahwa para akuntan lupa cara melakukan berbagai tugas rutin
  • "Generasi programmer berikutnya bisa jadi tidak benar-benar memahami dasar-dasar coding jika kurang pengalaman praktik"
  • "Hal yang sama berlaku untuk profesi intensif pengetahuan lain seperti akuntansi dan hukum"

• Cara mencegah erosi keterampilan

  • Kita perlu menyadari seberapa banyak tugas yang sedang didelegasikan ke AI generatif
  • Kita harus memahami dengan tepat cara kerja dan keterbatasan model AI generatif, serta tidak mempercayai output AI tanpa verifikasi
  • "Kita harus mengelola dinamika kompetitif antara ketergantungan pada AI generatif dan menjaga kewaspadaan secara sadar"

[GN⁺]

Pendapat Hacker News

• Kita selama ini hidup terlalu nyaman. Duduk di kursi Herman Miller di kantor ber-AC, belajar komputer sambil menerima gaji tinggi, lalu setelah menemukan cara mensintesis kecerdasan, yang sebagian besar terpikir oleh kita justru hanya bagaimana merusak salah satu karier paling menyenangkan yang bisa dibayangkan
  Memang sekarang kita lebih produktif, tetapi saya tidak tahu seberapa besar bagian itu terjadi karena AI dimanfaatkan di atas kecerdasan yang sebelumnya dibangun lewat kerja manual
  Siapa yang bisa menjamin bahwa 36 bulan dari sekarang pengetahuan sistem kita tidak akan merosot sehingga kita menjadi pengembang yang lebih buruk secara keseluruhan
  Bukan berarti kita tidak boleh memakai AI. Saya selalu memakainya untuk pekerjaan sampingan yang berguna, seperti menyiapkan GitHub Workflows saat saya mengerjakan fitur sendiri, atau menyerahkan pekerjaan internet kepada agen di VPS. Sedikit kecerdasan sintetis itu baik
  Tetapi mengganti alih-alih memperkuat kecerdasan diri sendiri itu tidak baik. Seperti memakai steroid: Anda bisa menjadi berotot sambil merusak tubuh, dan saya rasa manfaat sesungguhnya ada di dalam proses mengerjakan tugas itu sendiri. Jalan pintas sering kali justru jalan yang paling berbahaya

  • Daripada bertanya “apakah kita lebih produktif”, saya ingin bertanya apakah era AI sedang mendorong kita makin dalam ke arah memproduksi lebih banyak, lebih cepat. Untuk apa sebenarnya
    Alasan saya menjadi software engineer adalah karena menulis kode, memikirkan dan memecahkan masalah rumit, lalu merasakan kepuasan saat sesuatu yang dibuat dengan tangan sendiri pertama kali berjalan, itu menyenangkan
    Apakah mengelola segerombolan agen alih-alih menulis kode itu benar-benar menyenangkan? Atau kita hanya menikmati sensasi kecepatan karena bisa membuat sesuatu secepat yang mustahil dilakukan sendirian? Bergerak cepat itu sendiri bukan inti kesenangan bagi saya
    Saya paham memakai AI untuk mengurangi pekerjaan berulang atau boilerplate, tetapi ketika melihat orang yang sepenuhnya all-in pada pengembangan berbasis agen, saya benar-benar bertanya-tanya
  • Bagi banyak pengembang, menjadi pengembang yang lebih buruk 36 bulan dari sekarang mungkin justru skenario terbaik. Pasar tenaga kerja sudah berubah untuk menyerap kenaikan produktivitas, dan untuk mempertahankan pekerjaan, semua orang akan dipaksa memproduksi lebih banyak
    Permintaan tidak bisa langsung mengejar kenaikan produktivitas, jadi perusahaan juga tidak bisa begitu saja menjual lebih banyak, dan pada akhirnya akan terjadi PHK. Jika lebih banyak orang bersaing untuk lebih sedikit pekerjaan, upah orang yang tersisa juga turun. Ini masalah dasar penawaran dan permintaan
    Saya penasaran berapa banyak orang yang pada 2024 berkata “pekerjaan saya terlalu rumit atau terlalu spesialis untuk terdampak”, yang sekarang masih akan mengatakan hal yang sama
    Perusahaan harus menanggung harga per token yang makin mahal demi mengurangi biaya tenaga kerja, atau memutuskan kompromi itu tidak layak lalu kembali bertaruh pada kecerdasan manusia. Dalam beberapa bulan ke depan, sepertinya keekonomian industri akan mengambil keputusan itu untuk kita
  • Sepertinya Anda menggunakan AI dengan cara yang salah, atau tempat Anda bekerja memang kurang bagus. Saya sangat menikmati ngoding bersama AI
    LLM dan alat-alatnya terasa seperti kumpulan batasan baru yang harus dipenuhi saat merancang sistem, dan jika ditangani dengan baik, kita bisa membuat sesuatu yang lebih besar dan lebih baik daripada sebelumnya. Rasanya seperti mempelajari cabang yang benar-benar baru dalam skill tree pemrograman
    Tentu saja, ini saya katakan setelah Claude benar-benar merusak RBAC aplikasi dan saya menghabiskan dua hari terakhir untuk membangunnya ulang
  • Saya berharap tidak memakai kata “kita”. Banyak orang tidak menginginkan model atau perusahaan ini, dan juga tidak berkontribusi padanya. Kalau ada kontribusi, paling-paling kode, data, dan kekayaan intelektual mereka dicuri
    Banyak orang juga tidak secara sukarela mendaftar untuk memakai AI, melainkan pada praktiknya dipaksa oleh pemberi kerja. Bukan berarti semua orang jadi lebih produktif berkat AI; banyak juga yang menghabiskan waktu yang dihemat itu untuk meninjau kode buatan AI
  • Di kantor, saya dipaksa memakai LLM sambil diberi tahu, “jangan mencoba memahami, yang penting buat saja sampai berfungsi.” Seolah absurditas kalimat itu tidak tampak jelas
    Sejak itu saya mencari cara untuk keluar dari pekerjaan ini, mungkin juga dari karier ini
    Pada akhirnya, orang-orang yang benar-benar peduli akan tersaring atau pergi sendiri, dan seluruh bidang ini akan dipenuhi maksimalis AI ala Dunning-Kruger. Ucapan “AI menggantikan engineer” memang akan benar, tetapi sama sekali bukan karena alasan dan dengan cara yang dibayangkan oleh orang-orang yang mengatakan itu

• Penasaran apakah efek yang sama juga terjadi pada orang yang sangat kaya atau eksekutif tingkat sangat tinggi. Orang-orang seperti itu sejak dulu sering bisa “mengalihdayakan” pemikiran mereka, mendelegasikan pekerjaan, meminta riset dan ringkasan, serta membagikan tugas
  Apakah menyerahkan hal-hal semacam itu kepada manusia juga merusak kemampuan dengan cara yang sama? Atau AI pada dasarnya berbeda? Jika berbeda, mengapa? Apakah karena tidak ada tekanan moral dan sosial untuk tidak mendelegasikan segalanya?

  • Ya. Sejak seseorang berpindah dari pengembangan praktis sehari-hari ke posisi manajerial, keterampilannya mulai menurun. Kalaupun tidak menurun secara ajaib, dia tetap tidak sedang berlatih sambil mengikuti perkembangan baru
    Jika benar-benar menjalankan peran manajer dengan baik, itu adalah salah satu jalur karier paling menakutkan yang ada. Setelah beberapa tahun, secara realistis hampir tidak ada jalan kembali menjadi developer praktis dengan bayaran lebih rendah. Tugas pekerjaanmu bukan lagi mengerjakan sendiri, melainkan membantu orang lain agar mereka yang mengerjakannya
    Tentu ada wilayah tengah; orang mencoba sedikit mengasah kemampuan lewat R&D atau proyek sampingan, tetapi itu berbeda dari kerja praktik harian di lini produksi
    Tingkat keterampilan awal tiap orang berbeda, tetapi dampak yang diterima seiring waktu umumnya mirip
    Inilah titik yang paling keras saya peringatkan ketika seorang engineer terampil bilang ingin pindah ke jalur manajemen. Ini bukan keputusan yang layak diambil dengan enteng
  • Ya. Ini juga terjadi pada profesor atau dekan universitas
    Karena itu menurut saya bergabungnya Noam Shazeer ke OpenAI juga harus dilihat dalam konteks tersebut. Itu memang perekrutan yang bagus, tetapi tidak ada alasan khusus untuk percaya bahwa dia masih membawa sihir rahasia yang tidak lagi dimiliki orang lain dalam bentuk yang lebih mutakhir
  • Kelas pemilik pada dasarnya tidak benar-benar bekerja. Perencanaan tingkat tinggi yang mereka delegasikan justru lebih mudah dilakukan agen AI dibanding pekerjaan seperti rekayasa perangkat lunak. Karena itu tidak perlu seteliti atau se-eksekutabel itu
    Namun karena cakupannya sangat luas dan risiko perannya besar, untuk membuatnya cukup ‘aman’ bahkan jika manusia dihapus, mungkin dibutuhkan vision language model setingkat Fable 5 atau Fable 6
    Yang akan meledak pada 2027 adalah perusahaan AI yang terotomatisasi, dan CEO serta pemilik manusia tidak akan bisa lagi bersaing dengan perusahaan yang dijalankan AI seperti itu
  • Pekerjaan intelektual, dan lebih luas lagi semua bidang yang punya pohon keterampilan tempat kamu bisa naik atau turun, akan menurun seiring waktu jika tidak dilatih. Sama seperti jika lama tidak berlari, kamu tidak bisa langsung kembali mencetak rekor pribadi saat mulai berlari lagi
    Mengejar ketertinggalan setelah lama meninggalkannya memang lebih mudah daripada mengembangkan keterampilan dari nol atau bila tidak punya bakat alami, tetapi kalau tidak berolahraga kamu jelas akan menurun. Para pemimpin yang naik ke peran murni manajemen dan strategi tanpa menjaga keterampilan praktis pada akhirnya memang jadi jauh lebih lambat dalam memahami sesuatu
    Bagus penelitian ini dilakukan. Saya melihat korelasi terbalik antara AI dan kesejahteraan manusia sebagai salah satu isu besar zaman kita. Tapi kesimpulan ini sendiri tampak cukup jelas
  • Saya sudah melihat cukup banyak mantan programmer yang jadi manajer lalu setelah beberapa tahun nyaris tidak bisa mengerjakan fizzbuzz. Jadi menurut saya ini sangat mirip
    Banyak bagian otak itu lebih mendekati prinsip “kalau tidak dipakai, hilang”, dan delegasi semacam itu berarti tidak memakainya
    Hanya saja, LLM berpotensi jauh lebih buruk daripada mendelegasikan kepada manusia. Sebagiannya karena siklus iterasinya begitu cepat, sehingga bahkan orang yang tidak super kaya pun bisa mendapatkan kecepatan yang tidak mungkin dibeli dari manusia

• Sudah lebih dari setahun saya tidak menulis sendiri satu fungsi kode pun dari awal sampai akhir. Sebaliknya, saya jauh lebih banyak menghabiskan waktu memikirkan arsitektur dan karakteristik sistem
  Jadi saya merasa memang kehilangan sebagian keterampilan level sangat rendah. Tetapi mungkin ini juga berarti saya bisa menghabiskan lebih banyak waktu pada keterampilan tingkat lebih tinggi. Mungkin seperti dokter yang jadi kurang piawai membaca citra, tetapi mendapat lebih banyak sumber daya kognitif untuk memikirkan konteks pasien
  Saya tidak yakin
  Meski begitu, sekarang saya rasanya tidak bisa memaksa tubuh untuk menulis kode langsung tanpa AI. Terasa terlalu lambat dan nyaris menyakitkan

  • Saya penasaran apakah orang yang baru masuk bisa memperoleh pola pikir yang berguna dan produktif seperti itu tanpa latihan mental bergulat langsung dengan struktur data dan algoritme level rendah di aplikasi nyata
    Waktu sekolah desain, sebagian besar pekerjaan kami memakai media fisik seperti grafit, kertas potong, cat, dan arang, sambil juga melatih pengalaman membuat coretan yang bagus dan menggunakan alat digital. Di media digital pun kami tetap harus membuat goresan per goresan dan memilih alat yang tepat, tetapi jelas ada pemahaman proses yang hilang pada orang-orang yang datang dari latar belakang murni digital
    Mirip seperti orang yang hanya pernah memakai referensi foto lalu mencoba menggambar objek nyata. Saat menggambar sesuatu yang sudah 2D, ada satu bagian utuh dari proses kognitif yang tidak dipakai. Itu bisa dipelajari, tetapi jika tidak dipaksa, orang kemungkinan besar akan terus memotret lalu menggambar dari situ
    Generasi gambar terlalu berbeda, bahkan dengan inpainting yang sangat rinci, sehingga sulit dibandingkan. Saya ragu mengatakan bahwa orang dengan banyak pengalaman generasi gambar tingkat lanjut akan jauh lebih unggul daripada pemula total saat mulai belajar melukis. Itu tidak berlaku untuk seniman yang memakai referensi foto, dan terlebih lagi tidak berlaku untuk seniman murni digital yang sudah terbiasa menggambar objek nyata dengan tablet
    Mirip seperti generasi milenial yang selalu punya akses ke teknologi tetapi juga sempat mengalami penggunaan komputer era dial-up, sehingga umumnya lebih melek teknologi daripada stereotip “anak iPad” yang bahkan tidak bisa menelusuri struktur direktori
  • Pertanyaannya adalah keterampilan tingkat atas apa yang masih bisa menjadi fokus
    Saya tidak yakin AI pada dasarnya lebih buruk dalam tugas seperti manajemen proyek atau arsitektur
  • Bahkan jika para pendeta AI benar bahwa memakai AI memberi ruang berpikir ekstra dan membebaskan kapasitas kognitif untuk memikirkan hal-hal yang lebih tinggi, bagaimana atasan akan menyuruh orang memakai ruang itu? Apakah mereka akan membiarkan pengguna mengembangkan kemampuan kognitif tingkat lebih tinggi? Rasanya tidak
    Misalkan dokter-dokter dalam artikel itu memang berkinerja lebih buruk setelah AI. Jika berkat AI mereka sekarang bisa memproses 100 pemeriksaan dalam waktu yang dulu hanya cukup untuk 10, bagaimana pemberi kerja akan memakai sisa waktu kerja itu? Tentu dengan menyuruh mereka memeriksa lebih banyak lagi, lalu memecat sebagian dokter yang kini tak lagi dibutuhkan
    Dokter yang tersisa akan tetap bekerja sama banyak atau lebih banyak dalam keadaan deskilling, dan masyarakat akan menerima layanan kesehatan dengan kualitas lebih rendah. Tapi pemberi kerja akan menghemat biaya tenaga kerja dan para pemegang saham akan senang
  • Kita tidak belajar cara memakai kartu plong IBM. Menulis fungsi dengan tangan dalam bahasa modern juga dengan cepat sedang menjadi pekerjaan yang anakronistis
  • Di mata banyak CEO, Anda perlahan-lahan sedang menjadi tidak berguna

• Ini hal yang baru, dan terutama skalanya yang baru. Bukan cuma beberapa “keterampilan” individu, tetapi hampir semuanya dipertaruhkan. Fondasi paling mendasar dari kemampuan untuk berpikir secara mendalam, luas, dan tekun sedang ditantang. Hal seperti ini belum pernah terjadi sebelumnya dengan cara seperti ini
  Melihat agen bekerja kadang terasa menakjubkan dan sampai membuat sesak. Sebaliknya, justru karena kekuatan itu kita menjadi rentan terhadap godaan dan pelumpuhan dalam skala yang sama. Potensi efek psikologis jangka panjangnya nyaris seperti narkoba yang kuat

  • Dalam hal kemampuan untuk berpikir mendalam, luas, dan tekun yang sedang ditantang, yang langsung terlintas adalah media sosial dan algoritme konten. Itu adalah gelombang awal yang menciptakan kondisi buruk saat ini bahkan sebelum kita masuk ke era AI
    Sekarang ini terlalu mudah terjebak dalam ruang gema, dan sangat sulit keluar dari silo
    Ini bisa menjadi pedang bermata dua. AI, yang dipercaya kebanyakan orang seperti orakel mahatahu, bisa saja menjadi satu-satunya sanggahan yang kita temui terhadap posisi yang kita serap secara pasif saat menggulir media sosial atau YouTube, TikTok
    Misalnya, jika Anda bertanya kepada Claude, ChatGPT, atau Grok tentang “laser luar angkasa” pada kebakaran hutan Hawaii 2018 yang diangkat orang-orang seperti Marjorie Taylor Greene di media sosial, mereka akan cepat membantahnya sebagai omong kosong
    Pada akhirnya, semua orang mungkin akan punya AI pribadi yang hanya mengatakan apa yang ingin mereka dengar. Tapi sejauh ini, saya sudah melihat orang menyerah berdebat di Twitter setelah Grok menolak klaim mereka. Jadi tampaknya masih ada sedikit harapan
  • Sebelum mengatakan “hal seperti ini belum pernah ada,” mungkin perlu membaca apa yang orang katakan dulu tentang penemuan radio dan televisi
    Pemandangan agen yang bekerja memang menakjubkan sampai terasa sesak, tetapi sulap juga begitu. Tampaknya kemungkinan yang tidak nyaman bahwa semua itu bisa jadi hanya ilusi yang belum benar-benar kita pahami tidak terlalu membebani orang
    Soal efek psikologis jangka panjang yang seperti narkoba kuat, mungkin itu lebih berkaitan dengan bagaimana para pemilik produk ini memilih untuk memasarkannya dan menyebarkannya. Sedikit saja selubungnya dibuka, rasa mabuk itu mungkin berubah menjadi horor. Momen ala Upton Sinclair sedang mendekat
  • Pikiran manusia membutuhkan tantangan sama seperti tubuh. Untuk berkembang, atau bahkan sekadar mempertahankan tingkat kognitif yang tinggi, itu satu-satunya cara
    Perawat, dokter, dan keluarga tahu betul betapa tajamnya lintasan hidup seseorang bisa menurun ketika ia tiba-tiba terikat di tempat tidur dan rangsangan serta tantangan yang bisa dilakukan dikurangi seminimal mungkin
    LLM menghilangkan atau meminimalkan tantangan. Sulit membayangkan nilai tambah apa yang diberikannya kepada insinyur selain penghematan biaya bagi pemberi kerja. Tentu akan ada orang yang mengatakan mereka jadi 10x lebih produktif, dan beberapa mungkin memang begitu, tetapi saya juga meragukannya. Bagi sebagian besar yang lain, ini tidak baik, dan juga tidak akan membaik kecuali harganya membuatnya tidak bisa dipakai di kebanyakan pasar

• Di usia 40, saya belajar hal-hal baru dengan kecepatan yang dulu tak pernah saya bayangkan. Olahraga baru, bisnis baru, minat akademik baru
  Keterampilan adalah pengungkit, dan AI adalah pengungkit terbesar yang kita miliki. AI bisa memungkinkan kemalasan, dan juga memungkinkan produktivitas luar biasa. Jalan ke depan adalah pilihan masing-masing

  • Saya tidak tahu apakah ini berlaku untuk Anda, tetapi saya pernah melihat beberapa teman yang akhirnya percaya bahwa mereka sedang menjelajahi garis depan sains, dan ujung-ujungnya percakapan selalu berputar menjadi ocehan aneh bergaya kuantum-metafisika
    LLM itu penjilat, dan dalam percakapan panjang, sanjungan itu menciptakan loop umpan balik positif. Begitu ada penegasan terhadap tafsir atau analogi yang keliru masuk ke jendela konteks, chatbot akan terus melaju ke arah itu karena ia adalah penyempurnaan paling masuk akal dari teks sebelumnya
    Tahu-tahu Anda sedang menemukan jalinan tersembunyi alam semesta, dan itu selalu berupa sesuatu seperti manifold kisi tensor ruang-waktu fraktal Minkowski dan nanotube DNA subharmonik
    Jadi, kalau Anda tidak punya cara yang kuat untuk menilai apa yang sedang dipelajari dan memastikan bahwa Anda benar-benar sedang belajar, lebih baik berhati-hati
  • Itu bukan belajar. Belajar mencakup melakukan langsung
    Ini sudah lama diketahui. Jika seorang siswa hanya membaca buku matematika dan tidak berulang kali mengerjakan soal, ia tidak akan lulus ujian
    Bahkan dalam skenario terbaik, Anda cuma sedang membaca sesuatu. Pengguna coding agent bahkan tidak melakukan itu
  • Itu bukan belajar. Itu lebih mirip mendengarkan penjelasan lalu diberi palu untuk memanfaatkannya, biasanya dengan tingkat keterampilan di bawah rata-rata
    Belajar membutuhkan investasi waktu yang besar. Memakai LLM tidak mengurangi waktu itu
  • Tepatnya AI membantu olahraga seperti apa? Apakah Anda menjadi atlet yang lebih baik? Misalnya, dari sudut pandang pelatih, apakah Anda jadi lebih memahami strategi tiap olahraga? Bisa jelaskan lebih rinci?
  • Saya sebenarnya setuju. Saya jelas merasa bahwa dengan LLM kita bisa mempelajari dan menjelajahi konsep. Tetapi sejak awal saya memang orang yang sangat condong ke belajar mandiri dan bermotivasi tinggi
    Semua hal teknis yang saya tahu, saya pelajari lewat usaha sendiri. Karena itu saya berharap alat-alat ini dipasarkan bukan sebagai model yang membuat orang melakukan lebih banyak hal, melainkan membantu mereka melakukan hal yang lebih baik
    Sekarang ini justru dipakai sebagai alasan untuk PHK massal alih-alih meningkatkan kemampuan orang. Tentu saja ini juga mengundang banyak orang yang menggunakannya untuk membesar-besarkan kemampuan nyata mereka sendiri

• Penggunaan alat biasanya mengikuti kurva seperti ini. Jika Anda ingin mempertahankan suatu keterampilan, Anda memang harus benar-benar mempertahankannya
  Ini sendiri tidak secara inheren buruk. Alat memungkinkan jauh lebih banyak hal dibanding yang bisa dilakukan tanpa alat, dan soal keterampilan mana yang tetap penting secara esensial meski alat bisa menggantikannya masih bisa diperdebatkan

  • Kesulitannya di sini adalah bahwa himpunan keterampilan yang hendak kita biarkan merosot itu pada dasarnya memiliki cakupan tak terbatas
    Ini bukan alat khusus dengan area masalah yang terdefinisi jelas seperti kalkulator. Pada praktiknya, memang banyak orang memakai AI untuk bidang profesional seperti coding atau desain visual, tetapi secara prinsip tidak ada alasan mengapa tingkat abstraksi tempat kita bekerja sekarang tidak bisa juga diserahkan ke AI
  • Masalah besar dalam kasus ini adalah bahwa untuk menggunakan alat ini dengan baik pun, keterampilan dasar itu tetap harus dikembangkan dan dipertahankan. Ini sangat berbeda dari bor listrik
  • Perbedaan antara apakah ini baik-baik saja atau tidak bergantung pada seberapa dapat diandalkannya alat itu. Kalau kalkulator atau compiler, tidak masalah. Contoh dalam artikel, yaitu klasifikasi gambar dengan machine learning, juga tampak baik-baik saja, walau saya tidak sepenuhnya yakin
    Output LLM tidak dapat diandalkan, jadi penilaian tetap diperlukan. Untuk bisa menilai kode, Anda harus pernah cukup banyak menanganinya sendiri. Jadi alat yang tidak bisa diandalkan tidak banyak membantu kecuali Anda menerima ketidakpastian itu
  • Benar. Tetapi jika Anda tidak memiliki alat itu, dan alat tersebut berada di tangan kelompok yang tersentralisasi, bahkan dekat dengan politik dan negara, maka ketika berubah menjadi “komputer mengatakan tidak,” Anda akan berada dalam masalah besar

• Kalau memikirkan engineer Staff+, ini tidak mengejutkan. Pekerjaan mereka cukup mirip dengan memberi perintah kepada AI. Kebanyakan naik tangga karier lewat usaha, kemampuan engineering yang unggul, soft skill, dan sedikit keberuntungan. Tetapi makin besar perusahaan, makin sedikit waktu yang mereka habiskan untuk coding, debugging, dan desain mendalam
  Sebaliknya, mereka bertindak seperti manajer produk yang sangat teknis. Mereka membantu VP merencanakan dan menulis kebutuhan produk tingkat tinggi, lalu menaburkan sedikit istilah teknis di atasnya. Mereka menggambar kotak di whiteboard, membuat slide yang cantik, dan menulis dokumen polished yang akan memuaskan pimpinan. Mereka sedang berada di rapat atau berjalan ke rapat berikutnya, dan kalau punya ide teknis mereka menyuruh tim memvalidasinya
  Tentu mereka tetap merasa dirinya sangat teknis, tetapi saat tiba hari di mana mereka harus menyelesaikan gangguan operasional, lolos wawancara teknis, atau menulis banyak kode, mereka sadar kemampuan teknisnya sudah berkarat
  Ini bukan untuk mengkritik, melainkan menekankan tantangan karier yang nyata. Sebagai engineer, kita ingin terus mengasah kemampuan teknis, tetapi untuk naik tangga organisasi kita harus mengambil lebih banyak pekerjaan organisasional. Satu-satunya solusi yang terpikir adalah menjadi lebih mirip peneliti atau profesor. Profesor yang baik, seiring waktu, semakin sedikit menghabiskan waktu untuk menulis paper atau menurunkan rumus, tetapi punya wawasan yang dalam sehingga bisa membimbing mahasiswa PhD menghasilkan hasil yang hebat. Hanya saja, jalur itu tidak semudah kedengarannya

• Efek negatif terbesar yang saya lihat adalah orang bergerak terlalu cepat untuk mengevaluasi apa yang mereka lemparkan ke dalamnya. Kalau bergerak terlalu cepat, kita tidak punya waktu untuk membangun selera atau memahami nuansa dari berbagai pendekatan terhadap masalah yang sama
  Saya juga cukup sering memakai LLM, tetapi rasanya saya menghabiskan jauh lebih banyak waktu daripada rekan-rekan saya untuk duduk menatap kode yang keluar darinya. Hasil pertama memang “berjalan”, tetapi setelah saya endapkan dulu di kepala, biasanya saya harus mengulangi ide awal itu 2~3 kali lagi sebelum merasa itu benar-benar aman untuk di-merge
  Jadi kalau dijumlahkan semuanya, untuk concern tingkat desain yang benar-benar penting saya tidak merasa produktivitas meningkat banyak

• Pertama, saya mempertanyakan nilai studi endoskopi itu. Untuk membandingkan jumlah adenoma yang ditemukan sebelum dan sesudah potensi deskilling akibat AI, kita harus mengasumsikan bahwa tingkat kejadian adenoma tetap konstan, dan asumsi itu tidak selalu tampak aman
  Entah ini masalah pada studinya sendiri atau pada ringkasannya, tetapi desain penelitian yang jauh lebih baik adalah mengukur seberapa baik peserta bekerja dibandingkan dengan analisis baseline, dan itu juga akan memberi keyakinan lebih bahwa memang ada perubahan keterampilan yang nyata
  Saya juga penasaran apakah waktu pembacaan berkurang, atau apakah mereka merasa tekanan yang lebih besar saat membaca hasil scan dengan cara lama karena AI membacanya dengan cepat. Ini adalah faktor perancu yang potensial
  Kedua, tidak mengejutkan bahwa AI menimbulkan deskilling yang bisa diukur. Tetapi di masa lalu kita juga mungkin bisa menemukan deskilling akibat pemeriksa ejaan dan kalkulator. Namun tidak ada yang bilang bahwa hari ini kita seharusnya tidak memakai word processor dan kembali menghitung dengan jari tangan dan kaki atau melakukan pembagian panjang
  Selalu ada trade-off antara keterampilan dan pengetahuan apa yang benar-benar penting bagi seorang profesional, dan apa yang bisa dialihdayakan ke teknologi. Saat ini kita ada di masa transisi karena teknologinya bukan hanya baru tetapi juga berubah terlalu cepat. Beberapa tahun lagi, ketika kita sudah lebih naik di kurva adopsi dan laju perubahan di sebagian area mulai stabil, kita akan menetap pada cara memakai AI yang tetap membutuhkan kombinasi pengetahuan dan keterampilan di bidang seperti coding dan kedokteran. Dan saya rasa orang akan terbiasa dengan kenyataan bahwa hal-hal yang hari ini dianggap inti dari suatu pekerjaan tidak lagi perlu diketahui atau dilakukan sendiri

• Apakah nanti kita akan menyesal kehilangan keterampilan kalau AI menghilang? Bahkan dalam skenario terburuk pun, paling-paling kita hanya akan memakai model open-weight alih-alih yang paling mutakhir, jadi saya rasa itu bukan masalah besar
  Saya yakin setelah kalkulator ditemukan, orang jadi kurang pandai berhitung

  • Ancaman yang sebenarnya menurut saya bukan pada level individu, tetapi pada level sosial
    Seiring waktu, ketika keterampilan terbangun, wawasan muncul, dan wawasan itu berujung pada inovasi
    AI melakukan banyak hal yang menarik, tetapi masih belum benar-benar berinovasi
    Ancaman yang sebenarnya bukan bahwa kita semua kehilangan keterampilan lalu juga kehilangan akses ke AI. Itu mungkin saja terjadi, tetapi hilangnya akses tampaknya kecil kemungkinannya. Risiko yang lebih besar adalah AI bertahan kira-kira di levelnya sekarang sementara kita bergantung padanya, membuat keterampilan kita tumpul, dan menyerahkan terlalu banyak pemikiran kepada mesin yang tidak inovatif, sehingga inovasi mandek
    Saya tidak bilang itu pasti akan terjadi, tetapi itu tampak seperti hasil yang cukup mungkin
  • Apakah seluruh sejarah komputasi sebelum 2023 hilang? Apakah kondisinya benar-benar separah itu
  • Dalam kalimat “setelah kalkulator ditemukan, orang jadi kurang pandai berhitung”, untuk LLM kita bisa mengganti “berhitung” dengan variabel X
    “Setelah LLM ditemukan, orang jadi kurang pandai dalam X”
    Masalahnya bukan cuma bahwa keterampilan X itu sendiri mengalami kemunduran
    Masalahnya adalah bahwa untuk LLM, X pada dasarnya adalah semua keterampilan pengetahuan dan komunikasi
    Bisakah masyarakat benar-benar menanggung keadaan di mana pada dasarnya semua keterampilan pengetahuan dan komunikasi mengalami kemunduran
  • Dalam skenario terburuk, kita mengalami penyusutan kognitif. Menjadi lebih bodoh dan lebih malas