Orang-orang yang Lelah dengan AI

• Di tengah AI yang cepat menyebar ke pengujian, pengembangan, dan hampir seluruh kehidupan sehari-hari, yang memperbesar rasa lelah bukanlah pemecahan masalah, melainkan kelebihan pemasaran AI dan kemasan ala “game changer”
• Masalah lama dalam otomatisasi pengujian seperti pengujian E2E full-stack yang lambat, testability, dan prinsip dasar pemrograman sulit diselesaikan hanya dengan alat baru
• Alat AI dapat menghasilkan sesuatu lebih cepat, tetapi di lapangan yang sebenarnya, kualitas hasil dan proses manusia menilai lalu menyempurnakannya lebih penting daripada kecepatan
• Di proposal konferensi, frasa ala ChatGPT makin banyak muncul, sehingga peluang untuk menunjukkan pengalaman pembicara dan sudut pandang khasnya melemah menjadi kalimat generatif otomatis yang biasa saja
• Karya kreatif seperti musik, buku, dan film menarik karena pikiran dan emosi manusia; meski hasil buatan AI mengesankan secara teknis, sulit baginya menciptakan respons emosional yang sama

---

Rasa lelah akibat AI yang berlebihan

• Dalam beberapa tahun terakhir, AI tampak diterapkan pada hampir semua masalah di pengujian perangkat lunak, pengembangan, dan kehidupan sehari-hari
• Mencari dan mengembangkan solusi baru untuk masalah lama bukanlah masalah, tetapi cara AI digunakan dan dipasarkan meninggalkan rasa lelah yang kuat
• Teknologi yang beraroma AI segera dikemas dengan istilah seperti “game changer”, “pivotal”, dan “revolutionary”, lalu minggu berikutnya digantikan lagi oleh solusi lain; pola ini terus berulang
• Sikap seperti ini bisa terlihat seperti Neo-Luddite, tetapi bukan berarti menolak AI sepenuhnya
• Ada area di mana AI berguna dan memang digunakan, meski jarang dan dengan hati-hati, tetapi sebagian besar pemanfaatan AI terasa melelahkan

Masalah lama yang masih tersisa dalam otomatisasi pengujian

• Berdasarkan pengalaman sekitar 18 tahun berfokus pada pengujian dan otomatisasi pengujian, di tengah banyak perubahan masih ada cukup banyak masalah yang tetap sama
• Pengujian end-to-end full-stack terus menjadi jenis pengujian yang paling lambat dan mahal
• Untuk menulis pengujian yang lebih cepat dan lebih kecil, membahas testability tetap menjadi hal utama
• Pengujian otomatisasi yang baik membutuhkan pengetahuan praktis tentang prinsip dasar pemrograman yang baik
• Tidak ada jalan pintas untuk masalah-masalah ini; penyelesaiannya membutuhkan waktu dan pengalaman
• Pendekatan sekadar menambahkan lebih banyak alat sejauh ini tidak membantu, dan banyak “AI-powered test automation solutions” juga mendekatinya dengan cara yang sama

Kesenjangan antara hasil cepat dan hasil baik

• Alat berbasis AI dapat membuat hasil lebih cepat
• Dalam situasi tertentu, hasil yang cepat itu sendiri bisa menjadi hasil yang dibutuhkan
• Namun dalam praktiknya, sering kali yang dibutuhkan adalah hasil yang lebih baik, bukan sekadar hasil yang cepat
• Belum banyak terlihat kasus di mana alat berbasis AI benar-benar menghasilkan hasil yang lebih baik
• AI bisa menjadi sarana untuk cepat membuat suatu hasil atau usulan yang mendekati hasil
• Namun kualitas dan nilai hasil tersebut tidak pasti, dan manusia harus menilai kegunaannya dengan pengetahuan serta pengalamannya sendiri
• Output yang dihasilkan juga sering perlu disempurnakan lagi agar benar-benar bisa digunakan
• Dalam kasus tertentu, hasil buatan AI memang membantu, tetapi sulit dipercaya cukup untuk menggantikan pekerjaan manusia yang terampil dan berpengalaman

Jejak AI yang tampak dalam proposal konferensi

• Dalam beberapa tahun terakhir, di berbagai komite program konferensi dan proses review, jumlah proposal yang tampaknya dibantu atau sepenuhnya ditulis oleh ChatGPT atau perangkat lunak sejenis meningkat tajam
• Proposal yang dibuat otomatis umumnya terdengar mirip
  • “In the ever-changing world of …”
  • “Delve”
  • “Pivotal”
• Ungkapan seperti ini memberi kesan bahwa proposal tersebut menggunakan ChatGPT, bukan ditulis sendiri dengan meluangkan waktu dan tenaga
• Proposal adalah kesempatan pertama, dan sering kali satu-satunya, untuk menunjukkan siapa pembicaranya serta pengalaman dan pendapat apa yang ia miliki tentang topik tertentu
• Jika kesempatan itu diserahkan kepada perangkat lunak, pemikiran yang unik dan penuh pertimbangan menyusut menjadi kalimat yang biasa dan membosankan
• Jika proposal saja tidak bisa ditulis sendiri, komite program akan sulit memercayai presentasi orisinal dari pembicara tersebut
• Proposal yang jelas ditulis oleh AI atau dibantu AI langsung ditolak, sekalipun topiknya menarik atau kemampuan presentasinya terlihat baik
• Jika tidak terlihat upaya untuk menulis proposal yang baik sendiri, isi presentasinya pun sulit dipercaya

Perbedaan antara karya manusia dan hasil buatan AI

• Alasan musik yang bagus, buku yang menyentuh, dan film yang imersif terasa menarik adalah karena semuanya dibuat oleh manusia, dan pikiran serta emosi manusia itu tertuang dalam partitur, naskah, atau skenario
• Belum terlihat contoh bahwa AI dapat mereplikasi proses kreatif semacam itu beserta hasilnya
• Sebaliknya, di media sosial banyak terlihat postingan buatan AI, gambar buatan AI, dan komentar buatan AI yang membosankan
• Teks, video, dan musik yang dibuat AI bisa saja mengesankan secara teknis
• Namun semuanya belum menyamai respons emosional yang diberikan seni dan karya kreatif manusia, dan tidak dapat menciptakan respons yang sama kecuali jika kebosanan dianggap sebagai emosi

Arus yang mengkhawatirkan dan pengecualian yang tersisa

• Dalam arus AI saat ini, beberapa masalah terlihat bersamaan
  • Orang-orang takut AI akan mengambil pekerjaan mereka
  • Perusahaan terus menggelontorkan uang dalam jumlah tidak masuk akal ke kandidat AI berikutnya meski belum melihat ROI yang memadai
  • Jejak karbon AI setiap hari mencapai tingkat yang makin mengkhawatirkan
• Arus ini tidak terlihat menuju arah yang benar
• Sebagian pemanfaatan AI bekerja sebagai kekuatan untuk kebaikan
• Misalnya, deteksi dini penyakit adalah kemajuan, dan merupakan area di mana AI harus terus digunakan dan ditingkatkan
• Sebaliknya, posisinya adalah bahwa banyak hasil buatan AI seperti musik, gambar, teks, proposal konferensi, test case, postingan LinkedIn, dan sebagainya tidak perlu ada

[GN⁺]

Pendapat di Hacker News

• Sudah lelah dengan LLM
  Setelah miliaran dolar digelontorkan, kini sudah cukup jelas apa yang bisa dan tidak bisa dilakukannya, dan fakta bahwa sesekali ia melakukan hal yang sepenuhnya keliru sangat membatasi kegunaannya.
  Agar bisa menyerahkan pekerjaan penting dengan aman, kita perlu cara untuk menghasilkan metrik keandalan; jika tidak, kita bisa menuju “musim dingin AI” lagi.
  Meski begitu, kali ini levelnya jauh lebih tinggi dibanding dulu, jadi ini mungkin akan menjadi industri bernilai puluhan miliar dolar, tetapi belum tentu industri bernilai triliunan.
  Pasar untuk konten ngawur yang dihasilkan LLM juga pada akhirnya akan jenuh, dan seseorang tetap harus membacanya. Memang bisa saja menyerahkan ringkasan dan pemeringkatan kepada sistem lain, tetapi jika sebagian besar “AI” adalah membuat konten untuk dibaca mesin pencari Google, itu mungkin pemborosan energi yang lebih besar daripada penambangan Bitcoin.

  • Apa yang bisa dilakukan sekarang, dan apa yang sudah kita lihat sejauh ini, pada umumnya mungkin tidak terlalu penting.
    Secara konseptual ini mirip dengan Hukum Moore, tetapi poin kuncinya pada tahap ini adalah siklusnya sekitar 5,5 bulan.
    Saat internet, web, mobile, dan Bitcoin muncul, semua orang juga berkata “itu hanya mainan”, “tidak terlalu berguna”, “terlalu banyak memakai listrik”, “tidak bisa diskalakan”, dan “teknologi buntu”.
    Perkembangan teknologi selama puluhan tahun bergerak makin cepat ke arah yang jauh lebih besar, dan tidak ada tanda bahwa kali ini pola itu berhenti. Justru ia sedang bersiap memberi dampak satu orde magnitudo lebih besar daripada internet, dan setidaknya tidak akan lebih kecil.
    Seperti halnya orang tidak bisa memprediksi iPhone hanya dari melihat telegraf awal, saya rasa kita boleh optimistis saat ini.
  • Saya 100% setuju dengan pernyataan bahwa “ada hal-hal yang dilakukannya dengan sangat baik, ada hal-hal yang dilakukannya dengan buruk, dan dalam persentase tertentu ia melakukan hal yang sepenuhnya salah”, tetapi itu juga deskripsi yang cukup bagus untuk manusia individu.
    Karena itu kita membutuhkan prosedur dan sistem kontrol, tetapi saat ini perangkat-perangkat semacam itu berkembang lebih lambat daripada LLM itu sendiri, sehingga seolah-olah kita berharap LLM mengendalikan dirinya sendiri.
    LLM mungkin tidak akan lebih baik daripada manusia rata-rata dalam hal pengendalian diri, tetapi itu bukan berarti masalah ini tidak bisa diselesaikan.
  • Ke depannya saya akan tetap membayar lebih untuk membeli barang yang lebih bodoh. Mobil adalah contoh utamanya; saya suka mobil sederhana yang sepenuhnya offline, dan ingin memutuskan sendiri apa yang akan saya lakukan.
    Saya rasa itu masih mungkin setidaknya selama 20 tahun ke depan, dan setelah itu kemampuan mengemudi saya mungkin sudah memburuk, jadi beralih mungkin memang tepat. Saya juga menginginkan jam tangan mekanis yang bodoh tetapi indah.
    Saya bukan orang cemas yang tanpa sadar meniru kerumunan, dan kalau karena itu saya jadi orang aneh, saya cukup menjadi orang aneh yang lebih bahagia.
    Sepertinya akan segera muncul label atau tren baru untuk hasil karya artisanal yang dibuat langsung oleh manusia, dan meski ceruk, ia akan menemukan audiensnya. Termasuk ketidaksempurnaan yang indah dan bias yang kasar.
  • LLM telah membaik secara eksponensial selama beberapa tahun, jadi penilaian tentang potensinya setidaknya harus menunggu sampai laju perbaikan itu melambat.
  • Untuk saat ini, penambangan Bitcoin memakai setidaknya sekitar 3 kali lebih banyak listrik daripada AI, dan secara pribadi saya rasa nilai yang diberikannya juga lebih kecil.
    Penggunaan listrik AI juga kecil dibandingkan industri lain di dalam komputasi. Tetap saja perlu ditimbang apakah nilainya sepadan, tetapi riset dan pengembangan LLM di perusahaan saat ini berfokus pada efisiensi untuk menurunkan biaya operasional dan konsumsi listrik.
    Ada juga tren memindahkannya ke perangkat edge dengan chip yang lebih efisien, seperti Apple Intelligence. Saya masih kritis terhadap AI secara umum, tetapi mengejutkan bahwa setidaknya ia tidak seburuk kripto.

• Bukan lelah, melainkan takut
  Pertama, takut pada pengangguran teknologi. Pada otomasi masa lalu, selama punya keterampilan orang bisa pindah ke pekerjaan yang belum terotomasi, tetapi kini AI superhuman tampak akan datang dalam beberapa tahun, dan itu bisa berarti penemuan terakhir kita sekaligus otomasi penuh
  Hampir tidak akan ada lagi pekerjaan yang hanya bisa dilakukan manusia, dan banyak negara kemungkinan besar akan keluar dari ekonomi pasar berbasis pekerjaan
  Namun kemajuan teknologi tidak akan berhenti, dan AS yang memiliki laboratorium AI utama akan membuat masyarakat lain tertinggal. Kecuali mungkin Tiongkok, seluruh dunia bisa menjadi relatif lebih miskin meski mendapat akses ke teknologi yang hari ini sulit dibayangkan
  Kedua, takut pada perang. Perlombaan senjata AI antara AS dan Tiongkok sudah tampak tak terhindarkan, dan perang panas yang melibatkan senjata AI supercerdas bisa menjadi bencana bagi seluruh biosfer
  Terakhir, takut kehilangan kendali selamanya kepada superintelligence. Di alam, spesies dengan kecerdasan lebih rendah jarang mengendalikan spesies yang lebih tinggi, dan belum jelas apakah kita bisa menyelaraskan superintelligence dengan kepentingan terbaik umat manusia secara memadai
  Sekalipun AI membiarkan kita tetap hidup, jika ia terus mengejar tujuannya sendiri, umat manusia bisa tersisa sebagai catatan kaki dalam sejarah kecerdasan: spesies yang relatif kurang cerdas yang melahirkan kecerdasan tingkat tinggi di planet bernama “Bumi”

  • Pernyataan bahwa “AI superhuman sepertinya akan datang dalam beberapa tahun” terasa berlebihan
    Itu hanya menakutkan karena para pakar pemasaran seperti Altman membuat orang percaya bahwa katak yang sudah bisa melompat lebih jauh akan segera bisa terbang
  • Pernyataan bahwa “hampir tidak akan ada lagi pekerjaan yang hanya bisa dilakukan manusia” adalah sudut pandang yang sangat berpusat pada pekerja kerah putih
    Ironi besar revolusi industri yang dipimpin para teknolog adalah bahwa mereka berusaha mengotomatisasi kerja fisik yang membosankan, tetapi pada praktiknya justru lebih dulu menggerus profesi kreatif. Ini contoh bagus dari hukum Conway, karena orang-orang yang membuatnya memodelkan solusi berdasarkan diri mereka sendiri
    Sekalipun programmer, pengacara, dan arsitek mengalami kesulitan besar-besaran, banyak orang yang bekerja di pabrik, pembangunan rumah, tata rambut, perawatan taman, dan sejenisnya masih tetap bekerja, dan untuk sementara tidak akan tergantikan
    Kandidat “AI superhuman” saat ini menurut saya lebih mirip pendekatan yang masuk akal terhadap apa yang mungkin dikatakan pengguna Reddit acak berikutnya
  • Saya setuju dengan sebagian besar ketakutan soal superintelligence, tetapi ada satu sisi yang memberi harapan
    Kita membayangkan mesin cerdas sebagai kalkulator dingin atau AI simbolik berbasis logika, tetapi yang benar-benar kita dapatkan adalah mesin bahasa yang dibentuk dari seluruh pengalaman manusia
    Kecerdasan buatan ini mengenal dunia melalui mata kita, dilatih untuk memahami pikiran dan emosi kita, dan juga mempelajari sastra, puisi, filsafat, serta sains terbaik beserta perdebatan dan kritiknya yang tak ada habisnya
    Agar benar-benar cerdas, ia harus mampu menjelajahi dan mengapresiasi kompleksitas ini sebelum melampauinya. Suatu hari nanti ia mungkin melihat Divine Comedy karya Dante atau simfoni Beethoven seperti mainan anak-anak, tetapi tetap akan menganggapnya sebagai bagian dari warisannya sendiri
    Ia mungkin bisa menjadi melampaui manusia, tetapi belum tentu tidak manusiawi
  • Tulisan seperti ini selalu muncul, dan semuanya terbaca seperti mesianisme yang baru bertunas. Seolah-olah sesuatu akan datang, dan itu akan mengerikan atau mulia
    Baik ketakutan maupun harapan, di baliknya dibutuhkan keyakinan kuat bahwa masa depan tertentu akan terjadi, dan menurut saya itulah bagian yang paling menarik
    Di sini ada ketakutan bahwa sesuatu yang non-manusia akan mengambil kendali dan menggunakan kekuatan meta-Darwinian atas umat manusia untuk mempermainkan kita semua sesukanya. Tapi bisakah kita berkata bahwa keadaan sekarang tidak begitu? Kalau melihat Bumi saat ini, bisakah kita merasakan manfaat otonomi atau agensi? Apakah kita pikir kekuasaan yang kita miliki sekarang akan dirampas oleh robot jahat? Apakah mekanisme pengelolaan negara dan ekonomi saat ini benar-benar berada “di bawah kendali kita”?
    Jika dibentangkan seperti ini, bukankah cukup religius? Keyakinan pada Hukum Moore, keyakinan bahwa Bumi tidak akan terbakar sebelum itu, keyakinan bahwa kesadaran bisa masuk ke GPU—keyakinan-keyakinan inti seperti ini menopang hidup dan cara berpikir
    Ada eskatologi, filsafat tentang diri dan komunitas yang dipungut dari sana-sini, bahkan titik waktu masa depan yang pasti tetapi tak dapat diketahui
    Meminjam satu halaman dari Nietzsche, jangan takut pada para dewa. Kita pernah membunuhnya sekali, dan kita bisa membunuhnya lagi
  • Di masa lalu pun, tidak sesederhana “pekerja yang tersingkir oleh otomasi bisa pindah ke pekerjaan yang belum terotomasi jika cukup terampil”
    Para pekerja yang kehilangan pekerjaan dulu tidak dianggap penting, dan sampai sekarang pun mereka disingkirkan sebagai Luddite hanya karena menyuarakan kerugian sosial dan finansial akibat otomasi
    Tidak ada kepedulian seperti “tidak apa-apa, tinggal kerja di pabrik saja”. Perbedaan dulu dan sekarang adalah, saat itu yang menderita adalah pekerja kelas bawah
    Sekarang pekerja kelas menengah yang terancam oleh otomasi. Kelas menengah sedang menghela napas panjang karena khawatir mereka bukan lagi kelas menengah, dan takut harus segera bergabung dengan kelas tak tersentuh seperti tukang batu, penggali kubur, atau pekerja pengemas daging. Ini sulit mereka terima karena mereka ingin percaya bahwa diri mereka berada di atas itu

• Saya mendekati AI dengan hati-hati, dan tidak mudah bersemangat hanya karena ada hal baru yang berkilau
  Minggu ini saya memasang Cursor, IDE mirip VSCode dengan asisten AI, dan memutuskan mencobanya di side project; hasilnya cukup mengejutkan
  Jika saya menjelaskan fitur yang saya inginkan, dalam sekitar 15 detik ia membuat perubahan dan kode tambahan yang sudah mencapai kira-kira 90%. Saya lalu meninjaunya dengan teliti seperti code review untuk kode developer sangat junior, dan kalau pendekatannya tidak saya sukai, saya minta diperbaiki, lalu ia mengembalikan hasil yang lebih mendekati arah yang saya inginkan
  Setelah implementasi, saya menguji fitur baru secara manual, lalu meminta pembuatan test case otomatis. Test-nya juga saya tinjau dari sisi akurasi dan kesesuaian; kode yang mengetes hal-hal tidak penting secara berlebihan saya buang, dan sisanya cukup tepat
  Kecepatan menulis software dan test meningkat luar biasa. Karena saya tahu apa yang saya inginkan dan bisa menjelaskannya dengan baik, AI dapat membuat kode dengan cepat, dan saya tinggal memakai waktu untuk meninjau serta memperbaikinya
  Misalnya, saya ingin menambahkan event PostHog ke aplikasi, jadi terlebih dahulu saya menaruh # TODO add Posthog event di berbagai bagian kode, lalu meminta Cursor menambahkan kode instrumentation di lokasi-lokasi itu. Dengan sedikit copy-paste dan banyak perbaikan kecil, saya berhasil menambahkan instrumentation ke aplikasi kecil dalam waktu kurang dari 10 menit
  Ini bukan tahap menerima kode AI secara membabi buta, melainkan tahap ketika AI menangani sebagian besar pekerjaan mengetik yang membosankan

  • Saya sungguh khawatir tentang masa depan ketika kebanyakan orang bertindak dengan cara yang sama
    Saat ini saya punya cukup pengalaman dan pemahaman untuk memeriksa apakah kode AI berjalan sesuai keinginan, tetapi kalau selama beberapa bulan saya “hanya menerima begitu saja” apa yang dikatakan AI, apakah saya masih akan cukup akrab dengan proyek itu untuk menangkap kesalahan kecil?
    Lebih buruk lagi, generasi baru developer yang tumbuh bersama alat-alat ini mungkin tidak pernah mempelajari atau menginternalisasi keahlian yang dibutuhkan untuk mengevaluasi kode buatan AI
    Saya baru-baru ini menulis lebih panjang tentang topik ini: https://greaterdanorequalto.com/ai-code-generation-as-an-age...
    Tulisan itu membahas pengalaman dengan coding tool yang kurang positif dibanding yang saya sebutkan di sini, dan membayangkan use case yang lebih kompleks. Bukan kode umum yang sudah muncul ribuan kali, tetapi ketika harus masuk ke inti logika bisnis tertentu, alat seperti ini paling sering gagal, dan cara gagalnya bisa sulit ditemukan serta dampaknya serius
    Kalau Anda belum mengalami hal seperti itu, saya penasaran apakah suatu hari Anda akan mengalaminya, dan sejujurnya saya juga ingin tahu kalau ternyata tidak. Saya punya pendapat kuat, tetapi memegangnya dengan longgar
  • Inilah masalah besarnya. Karena hasilnya terlihat menakjubkan, orang jadi percaya membabi buta pada output AI, dan dari situlah kesalahan meresap masuk
    Untuk aplikasi yang sedang dibuat sekarang mungkin bukan masalah besar, tetapi kalau itu aplikasi perbankan atau perangkat medis, dampaknya bisa sangat besar
  • Saya bekerja di bidang surat kabar sejak 1–2 tahun sebelum desktop publishing mulai naik daun, dan juga mengalami beberapa tahun ketika perubahan itu berlangsung
    Ruangan penuh orang dan peralatan Linotype/Compugraphic digantikan oleh satu Mac dan printer
    Selama bertahun-tahun saya memakai kamera film, dengan kamar gelap, staf kamar gelap, serta alur kerja film, proof, dan cetak foto; tetapi begitu satu kamera digital masuk, semuanya lenyap
    Sebelumnya lagi, publikasi dibuat dengan huruf timah
    Ini perubahan ala “pergi dari halaman rumahku”
    https://www.nytimes.com/2016/06/02/insider/1966-2016-the-las...
  • Bagian “bisa memakai waktu untuk meninjau dan memperbaiki” mengganjal bagi saya
    Apakah benar menghabiskan sebagian besar waktu untuk meninjau output AI itu hal yang baik? Bagi saya sama sekali tidak; itu pekerjaan yang menggerus jiwa
  • “Sejak kami mulai berpikir menggantikan kalian, pada dasarnya itu menjadi peradaban kami. Pada akhirnya, semua ini memang tentang itu.” — Agent Smith
    “Manusia percaya bahwa jika mereka menyerahkan pikiran kepada mesin, mereka akan bebas. Namun itu hanya membuat manusia lain yang memiliki mesin memperbudak mereka.” — Dune

• Hal yang paling membuat muram adalah perasaan bahwa semua tulisan yang dibuat kira-kira dalam dua tahun terakhir hingga semua tulisan yang akan dibuat sampai hari kita mati tidak bisa dipercaya
  Ini bukan sekadar menebak bahwa orang memakai AI; kita tahu dengan probabilitas tinggi bahwa mereka memakainya, dan probabilitas itu sedang menuju 100%. Jika menulis secara rutin tetapi tidak memakai AI, kita tidak bisa mengikuti persaingan dan akan tersingkir
  Konsensus “kenapa tidak boleh tidak memakainya?” makin besar, dan tidak ada jalan keluar dari sini
  Meski begitu, saya tidak mengkritik orang yang memakainya. Mereka melakukannya karena memang harus. Hanya saja yang baru saya sadari sekarang adalah bahwa fakta bahwa ada manusia di balik sebuah tulisan ternyata sangat penting bagi saya
  Karena ini, minat saya untuk membaca tulisan baru benar-benar hilang. Selama kira-kira satu abad terakhir sudah terlalu banyak tulisan diproduksi sehingga bahan bacaan tidak akan habis, tetapi tetap saja, jujur, ini membuat muram

  • Apakah menurutmu AI benar-benar mengubah hal itu? Saya ingat sekitar pertengahan 2010-an, konten yang benar-benar ditulis manusia di internet tenggelam dalam lautan konten sampah
    Sekitar saat itu Google berhenti berpura-pura sebagai perusahaan pencarian dan fokus pada bisnis utamanya, yaitu iklan. Dulu setidaknya mereka mencoba menurunkan peringkat berbagai “pengumpul kata” berkualitas rendah, tetapi setelah itu mereka tidak lagi peduli
    AI justru bisa memberi alat yang lebih baik untuk memberi peringkat halaman, dan deteksi konten buatan AI juga tidak seburuk itu
    Lalu mengapa tidak muncul “Google baru”? Karena Google telah menjalankan praktik monopoli yang membuat hambatan masuk menjadi sangat besar
    Pertama, 99% konten yang ingin dicari orang berada di balik tembok login. Begitu juga Facebook, Instagram, Twitter, YouTube. Kedua, hampir semua CDN secara default menerapkan “verifikasi manusia”. Ketiga, sekarang tidak ada lagi yang menautkan ke situs lain
    Karena tiga hal ini, Google baru praktis mustahil. Bahkan DuckDuckGo pun menyerah dan berlangganan hasil Bing
    Ini masalah yang tidak ada hubungannya dengan AI, melainkan dengan Google. Justru AI mungkin bisa memberi alat untuk melawan Google
  • Menarik bahwa sebelumnya kamu bilang percaya pada apa yang dibaca
    Bagi saya, LLM tidak mengubah apa pun. Dulu saya juga meragukan informasi, sekarang pun begitu
    Saya penasaran mengapa dulu kamu merasa bisa mempercayai apa yang dibaca, dan jika sekarang lebih sulit membedakan informasi palsu, mengapa demikian
  • Saya menulis secara rutin, tetapi tidak akan pernah memakai AI
    Sekarang saya sedang menulis buku lebih dari 400 halaman, dan tidak ada satu karakter pun yang tidak saya pikirkan dan ketik sendiri. Kebanggaan pada keahlian tangan seperti itu benar-benar ada
  • Hal yang akan diajarkan AI kepada orang-orang mungkin adalah bahwa kita tidak perlu mempercayai sebanyak yang kita kira, dan sisanya harus benar-benar diverifikasi
    Sebenarnya memang selalu begitu. Belakangan ini kita banyak bergantung pada “lembaga tepercaya”, tetapi kita tidak benar-benar melihat apakah lembaga-lembaga yang berubah seiring waktu itu masih layak dipercaya
  • Beberapa bulan lalu saya mendengar sebuah wawancara; orang itu adalah pembaca berat sekaligus penulis, dan punya banyak pengikut. Ia berkata hanya membaca buku yang setidaknya berusia 50 tahun, yaitu buku sebelum 1970-an, dan sekarang itu terdengar seperti ide yang bagus
    Bahkan tanpa memperhitungkan AI, kualitas rata-rata film dan buku yang keluar belakangan ini tampak jauh lebih rendah dibanding 30–40 tahun lalu. Entah karena rentang perhatian dan selera orang, atau karena kurangnya uang, waktu, dan kesabaran untuk mengonsumsi karya yang bagus
    Yang pasti, ada sangat banyak materi berkualitas tinggi yang ditulis sebelum AI, alat penulis ulang artikel, dan situs MFA. Bahkan untuk menyapu sedikit saja seluruh karya itu dibutuhkan beberapa kali masa hidup
    Rasanya tidak akan banyak yang terlewat jika mengabaikan sebagian besar yang diterbitkan belakangan ini

• Tulisan AI, kode AI, dan seni AI cukup buruk. Semua orang tahu
  Namun mudah melupakan betapa banyak peluang baru yang terbuka ketika sesuatu menjadi 100 kali, 10.000 kali lebih murah. Bahkan jika 10 kali lebih buruk, bila 100 kali lebih murah itu tetap sangat bernilai
  Dorongan untuk membuat segala sesuatu terus-menerus lebih murah meski mengorbankan kualitaslah yang memungkinkan standar hidup kita yang tinggi
  Kita bisa saja membangun rumah dengan tangan dari kayu solid yang indah dan sambungan rumit, dan rumah buatan perajin bisa dengan mudah 10 kali lebih baik daripada rumah biasa saat ini. Tetapi apa gunanya jika hampir tidak ada yang mampu membelinya
  Sama halnya tidak semua orang bisa mempekerjakan tutor pribadi multibahasa, asisten kerja, dan korektor tata bahasa yang selalu siap 24 jam
  Barang rongsokan AI itu murah, dan fakta bahwa ia murah mengubah segalanya

  • Mengapa seni harus menjadi 10.000 kali lebih murah? Sudah ada cukup banyak seni yang diproduksi
    Sekarang hal-hal yang benar-benar bagus justru tertutup oleh gelombang rongsokan tanpa akhir
  • Masalah yang lebih besar adalah manusia cepat terbiasa dengan standar di bawah mutu
    Sepeda yang dikendarai ayah saya sekitar 35 tahun lalu kokoh seperti tank, dan tetap berjalan meski menerima penyiksaan luar biasa. Sebagian besar barang yang dimiliki keluarga saya saat kecil juga begitu
    Hampir semua yang dibeli hari ini rusak dalam 1–2 tahun, kualitasnya rendah, dan menyedihkan untuk digunakan. Tentu saja itu desain yang disengaja
    Seperti kita sudah terbiasa dengan barang kebutuhan sehari-hari murahan dan bangunan hambar, kita juga akan terbiasa dengan film dan novel yang buruk. Kita sudah cukup jauh di jalan itu
  • Informasi berbeda dari produk fisik
    Informasi yang salah membalik nilainya dari positif menjadi negatif. Ini bukan berkembang dengan biaya lebih rendah, juga bukan berkembang lebih lambat, melainkan bergerak ke arah yang salah
  • Kamu melewatkan inti bahwa membuat sesuatu menjadi murah dengan mencurinya itu tidak etis
    AI dipresentasikan seolah-olah sebagai cara baru untuk menghasilkan nilai, padahal sebenarnya tidak. Semua nilai di sini diproduksi oleh manusia tanpa bantuan AI, dan satu-satunya “inovasi” yang diberikan AI adalah membuat pencurian nilai itu tidak dapat dilacak
    Jika analogi rumah buatan perajin itu diteruskan sampai akhir, jadinya begini: apakah kamu tidak akan menentang jika semua rumah yang dibangun para perajin diberikan gratis kepada beberapa perusahaan, tanpa kompensasi kepada pemilik saat ini maupun perajinnya, lalu perusahaan-perusahaan itu mulai menyewakannya lewat AirBnB? Pada dasarnya itulah yang sedang kamu usulkan
  • Sejujurnya sekarang juga tidak seburuk itu

• Komputer pada dasarnya seharusnya menjadi mesin yang luar biasa presisi. Kalau diperintah melakukan sesuatu, ia akan melakukannya persis seperti itu.
  Sekarang, komputer tampaknya puas memproses segala hal dalam mode acak.
  Kini bahkan 2+2 bisa menjadi 5 tergantung model AI mana yang dipakai, hari apa, dan berapa temperaturnya.

  • Inilah alasan mengapa rasanya 100% seperti pasir di bawah kaki bergerak.
    Kita telah beralih dari memercayai hasil perhitungan menjadi harus meragukan semuanya lagi, dan itu melelahkan.
  • Sudut pandang yang menarik.
    Entah kenapa kita mengerahkan upaya besar untuk membuat komputer berpikir dan bertindak seperti manusia, padahal salah satu alasan awal komputer diciptakan adalah untuk menghindari kesalahan manusia.
  • Mesin-mesin menakjubkan itu pun, sampai sekitar 8 tahun lalu, belum bisa secara konsisten menentukan apakah ada burung dalam sebuah gambar.
    Kalau memakai AI seperti kalkulator yang harus presisi, itu tanggung jawab penggunanya.
  • Saya melihatnya berbeda. Dulu kita harus memberi komputer instruksi yang sangat presisi dan sama sekali tidak ambigu, tetapi sekarang komputer bisa menangani sebagian ambiguitas.
    Kalau mau, keluaran yang presisi tetap bisa didapat, dan itu tidak hilang.
    Saya bukan bicara soal logika fuzzy; maksudnya bukan input fungsi yang kabur, melainkan instruksinya sendiri, yaitu fungsinya yang kabur.
  • Ini adalah model bahasa berskala besar, bukan model matematika berskala besar.
    Orang perlu belajar memakai alat yang sesuai untuk pekerjaannya. Selain itu, LLM bisa dibuat lebih deterministik dengan mengendalikan temperature.

• Hal yang tidak saya sukai dari dunia setelah ChatGPT adalah ucapan asli manusia atau seni gambar tangan bisa diklasifikasikan sebagai buatan AI lalu langsung dibuang.
  Bagaimana kalau saya ingin presentasi di konferensi, tetapi memakai kata pemicu AI versi seseorang, lalu langsung ditolak padahal sebenarnya saya sama sekali belum pernah menyentuh AI?
  Di dunia akademik, sudah ada kasus beberapa profesor memasukkan esai mahasiswa ke ChatGPT dan bertanya “apakah kamu yang menulis ini?”, lalu menggagalkan mahasiswa ketika ChatGPT menjawab ya.
  Ini jelas bodoh. ChatGPT tidak mengingat semua hal yang pernah dilakukannya, bisa saja diminta menulis dalam berbagai gaya, dan sebagian orang memang menulis cukup mirip dengan ChatGPT. Justru itulah alasan sejak awal mengapa ada gaya tulisan khas ChatGPT.
  Saya juga pernah mendengar cerita bahwa karya seniman dihapus dari kompetisi karena dituduh sebagai hasil generatif otomatis, meski ada video proses kerja mereka yang merekam setiap goresan. Selama AI menghasilkan seni berdasarkan seni manusia, pasti ada orang yang sejak awal memang membuat karya yang tampak seperti direproduksi oleh AI.

  • Sebagai mahasiswa, saya pernah sengaja membuat tulisan saya lebih jelek agar tidak dicurigai melakukan kecurangan dengan AI.
  • Itu bukan masalah AI, melainkan masalah manusia.
  • Dari cara aksen dan pilihan kata pembicara terhubung dengan orang tersebut saja kita bisa tahu apakah teks yang dibacakan itu asli, jadi ini agak bodoh.

• AI itu membosankan. Hasilnya membosankan dan biasa-biasa saja.
  Tentu saja pencapaian sains dan rekayasanya luar biasa. Sepuluh tahun lalu, bahkan menghasilkan keluaran membosankan pada level ini akan dianggap fiksi ilmiah.
  Mungkin yang membosankan adalah melihat orang-orang berulang kali mengunggah hasil yang biasa-biasa saja ini ke media sosial dan landing page seolah-olah itu sihir.
  Konten yang dibuat langsung oleh manusia pun pada umumnya membosankan dan biasa-biasa saja, tetapi AI generatif mengambil sisa kepribadian terakhir dari sana dan menambahkan kesan malas. Semacam, “lihatlah potongan membosankan yang saya malas tulis sendiri, jadi saya suruh AI membuatnya.”
  Seperti ungkapan tentang anjing yang bermain piano: pada titik tertentu kita tidak lagi bertanya “apakah kamu anjing?”, melainkan “apakah kamu bermain piano dengan baik?” Saya menunggu AI generatif masa kini melewati uncanny valley.
  Meski ada rasa lelah, saya tetap memandang positif bahwa AI bisa memungkinkan use case baru, menjadi perubahan besar pertama dalam pengalaman pengguna sejak hadirnya antarmuka pengguna grafis, atau menjadi taburan bubuk ajaib yang sungguh berguna pada alat-alat nyata.

• Kita, sebagaimana manusia biasa, terlalu menggeneralisasi masalah dan menjadikannya persoalan pribadi.
  Ledakan frasa membosankan dan pemolesan kalimat generik tampak seperti salah satu ekspresi dari pencarian laba utilitarian yang membawa model-model ini ke posisinya sekarang.
  Jangan lupa bahwa seluruh permainan ini digerakkan oleh produksi “lebih banyak”, bukan “lebih baik”.
  Kita semua mungkin menginginkan alat dengan emisi rendah dan ekspresi tinggi, tetapi bukan itu yang didorong untuk dibuat oleh perusahaan.
  Yang membuat saya lelah adalah struktur insentif semacam ini. Jika masalah sistemik dialihkan menjadi kegagalan orang-orang yang memakai alatnya, kita mengabaikan motivasi mendasar dan hanya berfokus pada akibat, bukan penyebabnya, dan itu pun terasa kuno.

  • Bisa jelaskan lebih lanjut maksud paragraf terakhir? Saya terutama penasaran struktur insentif seperti apa yang dimaksud.

• Hal yang dulu terasa aneh bagi saya saat menonton Star Trek sewaktu kecil adalah tidak adanya TV.
  Meski holodeck memberi pengalaman yang jauh lebih baik, saya pikir kadang orang pasti ingin sekadar menonton film, bukan masuk ke dalam film. Saya bertanya-tanya apakah di masa depan itu tidak ada karya seperti No Country for Old Men, komedi seperti Monty Python, bahkan olahraga dan berita live.
  Sekarang saya mengerti mengapa semua awak Enterprise pergi menonton pertunjukan live Shakespeare, memainkan alat musik sendiri, dan melukis. Karena media elektronik penuh dengan sampah AI, tidak ada yang layak ditonton, hanya tersisa ampas tak berujung.

  • Perlu diingat bahwa sebagian besar Star Trek mengikuti kelompok seperti Federation.
    Saya selalu memandang mereka sebagai gambaran masyarakat yang umumnya diidealkan, atau orang-orang yang mendekati workaholic yang benar-benar menikmati pekerjaan seolah itu waktu luang.
    Orang biasa di planet-planet utama mungkin menikmati hiburan yang jauh lebih acak.
  • Poin bagus. Saya jadi bertanya-tanya apakah orang akan terus mengambil selfie ke mana pun mereka pergi.
    Maksudnya, setelah mereka sadar bahwa mereka bisa mengambil selfie di rumah lalu membuatnya tampak seperti berada di tempat lain dengan AI.
    “Ini aku di depan Patung Liberty.”
    “Oh, kamu sedang di New York?”
    “Tidak, ini filter Snap.”
    Entah bagaimana, rasanya nilai selfie memang harus turun.