Teknologi Masa Depan Bukan 'AI', Melainkan 'Fokus'

• LLM berguna untuk otomatisasi pekerjaan berulang dan brainstorming, tetapi ketergantungan membabi buta dapat menurunkan kemampuan pemecahan masalah
• Terutama, keandalan LLM untuk masalah yang benar-benar baru rendah, sehingga penilaian insinyur manusia tetap penting
• Mesin pencari seperti Google menyediakan keseimbangan antara eksplorasi dan eksploitasi, tetapi LLM langsung mendorong hanya ke ‘eksploitasi’ (exploitation)
• Kebiasaan yang hanya mengandalkan jawaban cepat akan menyebabkan kemunduran kemampuan inti pemecahan masalah dan fokus (focus)
• Kompetensi inti masa depan bukanlah cara menggunakan AI, melainkan kemampuan khas manusia berupa pemikiran mendalam dan fokus

---

LLM kuat, tetapi harus digunakan dengan hati-hati

• LLM sangat membantu dalam mengotomatisasi tugas berulang, menulis kode, maupun membantu debugging
• Namun, karena masalah seperti bias, inkonsistensi, dan halusinasi (hallucination), hasil output selalu perlu ditinjau
• Secara khusus, data pelatihan memang memuat jawaban untuk masalah yang sudah ada, tetapi kemampuan menghadapi masalah yang benar-benar baru rendah
• Akibatnya, jika insinyur terlalu bergantung pada LLM, kemampuan pemecahan masalah mereka sendiri bisa melemah

Risiko menerima tanpa sikap kritis

• Jika jawaban yang diberikan LLM diterima begitu saja tanpa dipahami, fokus akan bergeser dari memecahkan masalah menjadi sekadar menerima jawaban
• Pemecahan masalah yang kompleks pada akhirnya tetap membutuhkan akumulasi kemampuan dasar dan daya pikir, dan LLM tidak dapat menggantikannya
• Yang penting bukan hanya hasil akhirnya, melainkan pemahaman tentang mengapa solusi itu bekerja dan proses berpikir di baliknya

Perbedaan penting antara mesin pencari dan LLM

• Mesin pencari memungkinkan pendekatan yang seimbang antara eksplorasi (exploration) dan eksploitasi (exploitation)
• Sebaliknya, LLM sejak awal berusaha memberikan jawaban, dan pengguna cenderung memanfaatkannya tanpa verifikasi
• Sistem yang hanya memiliki eksploitasi tanpa eksplorasi akan memperbesar ketidakstabilan dan ketergantungan

Tujuan asli ilmu komputer: alat agar manusia dapat fokus menyelesaikan masalah

• Manusia telah menciptakan alat untuk mengurangi pekerjaan berulang, dan kendali atas algoritme tetap berada di tangan manusia
• Namun sekarang, karena tekanan untuk menghasilkan output dengan cepat, kesempatan melatih fokus dan daya pikir semakin berkurang
• Pada akhirnya, arus ini dapat menyebabkan melemahnya kreativitas manusia dan pemikiran yang mendalam

Teknologi sejati untuk masa depan: fokus (Focus)

• Semakin maju teknologi, kemampuan berpikir dan fokus yang khas manusia justru menjadi semakin penting
• Yang lebih penting daripada performa AI adalah kapasitas manusia untuk mengenali dan memecahkan masalah yang kompleks
• Bukan kemampuan menggunakan LLM, melainkan fokus dan kemampuan memahami esensi yang kemungkinan besar akan menjadi skill inti di masa depan

[GN⁺]

Komentar Hacker News

• Hal yang umum jika mahasiswa baru kehilangan kemampuan untuk fokus. Bukan hanya LLM, hampir semua aplikasi dan startup bersaing untuk merebut perhatian pengguna yang terbatas

  • LLM menghilangkan hambatan yang dulu mengharuskan siswa berusaha mencari jawaban. Mudah kecanduan jawaban cepat, dan mudah lupa untuk bertanya mengapa sesuatu bekerja
  • Namun jika didekati dengan benar, LLM dapat mendukung eksplorasi. Ada kalanya siswa membantah jawaban pertama dan menemukan wawasan yang lebih dalam
  • Risiko yang sebenarnya bukan alatnya, melainkan melupakan cara menggunakannya dengan hati-hati

• Menggunakan aimbot di Gunbound tidak membuat pemain menjadi lebih baik. Itu merusak ekosistem gim

  • Tidak yakin apakah umat manusia bisa menggunakan "aimbot literasi" secara bertanggung jawab
  • ABS membuat pengereman lebih mudah dan lebih aman dalam kondisi licin. Orang-orang tidak belajar mengerem dengan lebih baik, dan masih berpikir bahwa menekan pedal lebih keras akan membuat mobil berhenti lebih cepat
  • Banyak orang membutuhkan fokus. Sebagian tidak, dan mereka perlu berkembang. Beberapa sistem membutuhkan aimbot, beberapa sistem tidak
  • Masa depan menuntut semua jenis teknologi untuk hidup berdampingan

• Mesin pencari memberikan pilihan yang baik antara eksplorasi (menelusuri daftar hasil dan halaman) dan eksploitasi (mengklik hasil teratas)

  • LLM tidak memberikan pilihan ini
  • LLM sangat berguna untuk eksplorasi. Membantu menyelesaikan masalah yang kompleks dan mematangkan ide. Dapat menciptakan loop umpan balik yang sulit bahkan dengan mitra manusia

• Kemampuan untuk fokus sekarang tampak seperti sebuah privilese

  • Pada era 90-an, orang bisa bekerja berminggu-minggu tanpa gangguan. Sekarang selalu ada manajer yang menginginkan pembaruan atau rencana
  • Pekerjaan nyata terdorong ke belakang dibanding percakapan

• Di dunia yang kaya informasi, kelimpahan informasi berarti kelangkaan sesuatu yang lain. Informasi menghabiskan perhatian penerimanya

  • Kelimpahan informasi menyebabkan kemiskinan perhatian, dan perhatian itu perlu dialokasikan secara efisien

• Lawan dari fokus adalah reaktivitas. Jika memposting di SO, kita bisa mendapatkan jawaban yang akurat, tetapi perlu kesabaran untuk menulis pertanyaan yang tepat dan menunggu respons

  • LLM bisa langsung mengatakan hal yang salah. Sifatnya reaktif
  • Insinyur hebat harus responsif terhadap rekan tim, manajer, pelanggan, dan bisnis. Mereka juga harus menemukan waktu untuk fokus
  • Setelah Covid, terjadi perubahan budaya besar ketika orang-orang yang sebelumnya tidak asinkron dan tidak remote semuanya pindah ke online
  • Reaktivitas mudah diukur, tetapi kualitas dan pertumbuhan sulit diukur

• Saat menggunakan LLM, kemampuan fokus hilang

  • Salin-tempel, salin-tempel. Tidak ada pemahaman nyata tentang solusinya
  • Mungkin bisa menyelesaikan lebih banyak hal, tetapi tidak menikmatinya. Sekarang sudah tidak bisa kembali ke kebiasaan mencari lewat Google
  • Andai saja ini tidak pernah diciptakan

• Ini akan menjadi jenis fokus yang berbeda

  • Teknologi secara berkala diprediksi akan mengurangi kemampuan yang sebelumnya dianggap penting
  • Kalkulator membuat anak-anak tidak perlu lagi berhitung manual. Namun keterampilan untuk menafsirkan hasil tetap dibutuhkan
  • Mesin pencari memungkinkan orang menemukan jawaban dalam hitungan detik. Namun tetap perlu tahu apa yang harus dicari, dan bagaimana menggunakan apa yang ditemukan

• Sepuluh tahun lalu ada para pakar yang mengatakan smartphone dan media sosial akan mengubah segalanya. Kita harus belajar menggunakannya dengan bijak

• Tidak setuju menyamakan revolusi LLM dengan kebangkitan mesin pencari seperti Google pada era 90-an

  • LLM mendorong eksploitasi instan. Pengguna mungkin akan bereksplorasi saat solusi pertama tidak berhasil
  • Sebagian besar penggunaan LLM sebenarnya mirip dengan mesin pencari. Menjelaskan keputusan desain yang sudah ada, mencari library yang sesuai kebutuhan, atau membuat kueri yang relevan