Kalau kamu menyebut AI sekali lagi, aku bakal piledriver kamu
(ludic.mataroa.blog)"Inovasi terbaru di bidang AI seperti GPT-4 kemungkinan akan berdampak luas pada masyarakat. Dampaknya beragam, mulai dari utopia yang menghapus pekerjaan monoton, distopia yang mengancam mata pencaharian para seniman, hingga ancaman eksistensial bagi umat manusia itu sendiri."
- Penulis mendapat pendidikan formal sebagai data scientist, dan kemampuannya cukup menonjol hingga pernah memenangkan kompetisi ML yang diadakan oleh salah satu universitas terbaik di Australia
- Namun penulis bukan yang terbaik, hanya berada di tingkat mampu memakai library buatan institusi elite dan mengimplementasikan solusi yang dikenal dalam bahasa tingkat tinggi
- Tapi kalau ada yang menyebut AI lagi, penulis akan memberikan penyesuaian tulang belakang "yang mematahkan leher" secara gratis, jadi minta maaf tulus-tulus dari sekarang
I. Tapi kita akan mewujudkan efisiensi besar dengan machine learning-
"Apa kamu tidak dengar apa yang baru saja aku katakan?"
- Penulis bekerja sebagai data scientist sejak 2019, tetapi pada 2021 menyadari bahwa bidang ini besar sekaligus penuh penipuan
- Kebanyakan pemimpin bahkan belum membaca soal AI selama 30 menit pun, tetapi tetap bersikeras bahwa mereka harus fokus ke AI
- Jumlah perusahaan yang memulai inisiatif AI jauh melebihi jumlah use case nyata
- Pasar dipenuhi penipu dan orang tidak kompeten
- Penulis lalu beralih ke data/software engineering
- Hype tidak bagus buat developer
- Penulis masih punya teman yang jujur dan jiwa, tapi tidak bisa semudah itu ganti bidang
- Lowongan data science menghilang, dan siklus hype berpindah ke data engineering
- Penulis sempat mengira AI akhirnya selesai...
- Lalu seseorang membuat ChatGPT, dan sekarang upaya engineering besar-besaran dicurahkan untuk menambahkan dukungan chatbot ke semua aplikasi
- Padahal setengah industri ini bahkan tidak tahu cara rutin menguji backup database...
- Alasan kenapa orang bodoh berikutnya yang menyarankan AI adalah masa depan bisnis layak menerima kekerasan adalah karena sekarang mereka tak bisa dibedakan dari ratusan juta orang idiot yang sengaja demikian!
II. Tapi kita butuh AI agar tetap kompetitif-
"Ya Tuhan Yang Maha Pengasih, tolong berhenti bicara. Kecuali kamu termasuk sedikit perusahaan yang benar-benar tahu persis bagaimana akan memakai AI, kamu tidak membutuhkan AI"
- AI yang saat ini ada dan berguna kemungkinan besar sudah terintegrasi ke dalam rantai pasok software bisnis
- Penyedia keamanan terkelola mungkin sudah memakai algoritme yang tertanam dalam software lab untuk mendeteksi trafik anomali
- Mereka pun tidak banyak mengerjakan AI; mereka cuma membeli software di segmen pasar kecil yang memang perlu mempekerjakan data scientist
- Kamu mungkin ingin jadi seperti Steve Jobs dan bicara soal kemampuan inovatif, tapi itu tidak berarti kamu boleh memakai turtleneck
- Kalaupun begitu, agar selamat dari serangan penulis kamu harus memakai zirah baja, bukan sweter
- Kebanyakan perusahaan bahkan tidak mampu mengembangkan dan menerapkan aplikasi CRUD paling sederhana tepat waktu dan sesuai anggaran
- Jika bekerja sama dengan orang pintar dan memberikan requirement yang masuk akal, tim yang kompeten bisa melakukannya setiap saat
- Klien tempat penulis bekerja sekarang, meski sama sekali tidak melek teknologi, saling menghormati kecerdasan satu sama lain dan "berbicara seperti orang dewasa" sambil memecahkan masalah bersama
- Tapi kebanyakan perusahaan lumpuh secara operasional dan kultural sehingga tidak bisa melakukan itu
- Rata-rata masa tinggal engineer hanya sekitar 1~2 tahun, jadi organisasi menderita amnesia institusional yang regresif
- Begitu ada yang mengusulkan mencabut hak kerja jarak jauh tim engineering, engineer terbaik langsung pergi
- Setiap kali ada serangan ransomware, terungkap bahwa tidak ada seorang pun yang menguji backup selama 6 bulan dan setengah sistem legacy tidak bisa dipulihkan
- Penulis sudah melihat ini sendiri dua kali dalam 4 tahun. Kamu paham seberapa gilanya itu?
- Kebanyakan organisasi bahkan tidak bisa secara konsisten menghadirkan aplikasi paling dasar, tetapi di sini kamu berkata bahwa mengadopsi teknologi eksperimental adalah cara terbaik untuk tetap kompetitif
- Teknologi yang satu tingkat di atas apa pun yang dioperasikan departemen IT, yang belum pernah mereka rekrut pengalamannya, dan yang GPU pun belum pernah mereka pakai
- Bahkan jika semuanya dilakukan dengan benar, bisa saja tetap tidak menyelesaikan masalah karena sifat data dan bisnisnya
- Ini bukan resep menuju bencana, ini buku masak untuk orang yang ingin menyiapkan malapetaka 12 hidangan
- Bagaimana kalau tetap kompetitif dengan "memperbaiki pekerjaanmu sendiri dengan benar" saja?
- Penulis pernah melihat seorang senior data scientist yang bisa mengakses catatan pelanggan sensitif dibiarkan menyimpan password di file teks pada desktop-nya
- Tapi kamu justru khawatir bahwa meningkatkan keamanan dengan AI lewat mekanisme yang bahkan belum kamu pikirkan adalah yang terbaik bagi pelanggan?
- Kamu terdengar seperti "orang bodoh", jadi penulis akan menendang rahangmu sampai dokter mengikatnya dengan kawat demi menenangkan semua orang dan memberi kita 10 detik keheningan yang diberkati agar kita bisa "menyelesaikan masalah yang nyata"
III. Tapi kita sudah melihat manfaat yang luas-
"Waktu kecil aku membaca novel fantasi klasik R.A. Salvatore, 'The Crystal Shard'. Di sana ada adegan ketika tokoh utama Wulfgar menantang kepala suku barbar bertarung untuk memimpin kaumnya ke perang yang akan menyelamatkan dunia. Pertarungan itu berakhir ketika Wulfgar membuang senjatanya, memegang kepala sang kepala suku dengan tangan kosong, lalu 'memohon' agar dia menyerah supaya ia tidak menjadi pembunuh"
- Nah, itulah diriku sekarang. Aku sedang memohon padamu untuk berhenti berbohong. Aku sungguh tidak ingin menghancurkan kepalamu.
- "Tapi kalau kamu memaksaku, akan kulakukan".
- Kemarin penulis melihat "2024 AI Readiness Report" dari Scale, dan di grafiknya hanya 8% perusahaan yang tidak memiliki hasil produktif dari adopsi AI
- Apa seseorang harus sebodoh itu untuk percaya bahwa perusahaan yang gagal dalam proyek AI cuma "8%"?
- Dengan aplikasi CRUD saja mereka tidak bisa mengelolanya secara konsisten, dan kamu pikir angka ini tidak menggelikan?
- Selama demam LLM, "sebagian" perusahaan mungkin mendapat manfaat, tapi bukan "92%"
- Katanya 34% perusahaan melaporkan bahwa AI generatif membantu pengambilan keputusan strategis?
- Omong kosong apa itu? GPT-4 bahkan tidak bisa menulis Elixir yang konsisten dan berkualitas tinggi seperti halnya Python
- Dan kamu mengakui menyerahkan pengambilan keputusan kepada sesuatu yang "kadang memberi tahu orang untuk meracik racun mematikan yang akan dikonsumsi keluarganya"?
- Penulis tidak percaya. Tak ada orang waras yang akan percaya
- Jika dewan direksi mempercayai apa yang kamu tulis di survei itu, mereka harus memecatmu
- Sekarang penulis akhirnya paham kenapa beberapa temannya merasa "harus" berada di posisi kepemimpinan
- Karena seseorang harus mencabut kendali kekuasaan dari cakar kadalmu sebelum kamu menggiring kita semua bersama-sama ke tepi jurang
- Beberapa tahun lalu seorang teman diundang ke organisasi FAANG dan berkunjung ke AS, dan banyak presentasinya adalah demo teknis produk AI yang mengesankan
- Sebagai software engineer, dia menghabiskan waktu di belakang panggung bersama para developer, lalu mengetahui bahwa "kebanyakan demo itu direkayasa"
- Produknya tidak berjalan, dan mereka bahkan tidak bisa menyelesaikan masalah sepele seperti "benar-benar memprediksi hal yang seharusnya diprediksi"
- Tapi itu tetap tidak menghentikan mereka memuntahkan omong kosong total selama 1 jam kepada audiens yang terengah-engah kagum!
- Sebagai software engineer, dia menghabiskan waktu di belakang panggung bersama para developer, lalu mengetahui bahwa "kebanyakan demo itu direkayasa"
- Teman lain sedang meninjau software untuk layanan darurat, dan para salesperson rupanya tidak menyangka petugas pengadaan layanan darurat akan menjadi programmer fanatik
- Karena kesadaran keamanan yang payah ini, mereka "tanpa sengaja membongkar fakta bahwa layanan itu pada akhirnya cuma seorang pria di India"
- Penulis pribadi tidak akan tersinggung, karena kalau bertukar tempat dengan sepupu-sepupu India penulis, penulis juga hanya akan jadi pria sembarang di India
- Tapi "menjual tenaga kerja orang-orang yang mirip denganku ke pemerintah asing dengan memakai kata AI" itu menjijikkan, dan kamu monster yang tidak etis
- Kalau kamu terus mencoba "try { thisBullshit(); }", maka kamu akan menerima "catch (theseHands)"
IV. Tapi kita harus bersiap untuk masa depan-
"Aku akan bertanya ke ChatGPT cara menyiapkan tali penjerat, lalu memakainya untuk mencekikmu sampai mati. Dan kamu hanya bisa 'berdoa' agar ChatGPT sedang kumat dalam peluang 10% lalu bilang bahwa tali penjerat itu harus dibuat hanya dari kertas dan niat jahat."
- Saya melihat para eksekutif berdebat bahwa mereka harus segera mengadopsi AI generatif demi mempersiapkan masa depan kerja
- Semua pidatonya terdengar sama, tetapi melihat mereka menggerakkan tangan, berbicara, dan berusaha tidak mengiler, jelas mereka sudah berlatih keras!
- Mari bicara serius sebentar:
- Penulis "bukan" bagian dari kubu yang sama-sama tidak seriusnya, yang menganggap AI generatif tidak punya potensi untuk mengubah dunia secara drastis
- Penulis ingat sempat setengah yakin demo awal GPT-2 entah bagaimana telah dimanipulasi, tetapi ternyata salah
- Jadi sekarang penulis tidak lagi yakin apa sebenarnya yang sedang terjadi
- Namun, penulis punya latar belakang teknis yang cukup untuk memahami prinsip-prinsip inti teknologinya, dan tampaknya kita sedang menuju salah satu dari tiga arah
- Ledakan kecerdasan terjadi, AI memperbaiki dirinya sendiri secara rekursif, dan kita dipanen menjadi atom penyusun
- Karena algoritme pasar mengetahui bahwa manusia bisa diubah menjadi epoksi baru bernama "gloobna" untuk alien yang sangat membutuhkan perbaikan mesin kopi
- Dalam skenario seperti ini, penulis tidak terlalu peduli pada pendapatan perusahaan
- Ternyata pendekatan saat ini tidak berkembang sejauh yang diharapkan, karena berbagai alasan seperti kekurangan data, masalah arsitektur, dan lain-lain
- Di semesta ini, "beberapa" industri, misalnya dukungan pelanggan, akan mengalami kekacauan besar
- Jika hanya terus menghasilkan keuntungan bertahap seperti ini, perusahaan pada dasarnya tidak butuh AI generatif. Kalau benar-benar butuh, mereka akan tahu "persis" kenapa mereka membutuhkannya
- Hal seperti fitur Todoist yang mengubah filter bahasa alami menjadi bahasa filtering internal memang benar-benar membantu. Tetapi kalau "tidak ada use case", fitur luas seperti ini sebenarnya tidak terlalu berguna
- Yang perlu dilakukan hanyalah "memperbaiki operasional dan budaya", lalu Anda akan punya kemampuan untuk memanfaatkan AI ketika nanti memang menjadi relevan
- Semua orang membicarakan retrieval-augmented generation, tetapi kebanyakan perusahaan sebenarnya bahkan tidak punya dokumentasi internal yang layak untuk dicari. Tolong "kerja yang benar".
- Masalah-masalah fundamental ini terpecahkan dan berujung pada sesuatu yang menggantikan pemrograman seperti yang kita kenal sekarang, atau bisa diidentifikasi sebagai kecerdasan umum yang luas
- Jika AI generatif melesat seperti roket, "membuat chatbot acak tidak akan mempersiapkan Anda untuk masa depan"
- Mengetik "import openai" tidak berarti Anda berada di garis depan kecerdasan buatan
- Bisnis akan kacau pada tingkat yang "persis sama" seperti jika mereka tidak melakukan apa-apa, dan bahkan jauh lebih parah daripada itu jika mereka sebelumnya berpegang pada dasar-dasar yang benar
- Mengajari karyawan memakai ChatGPT untuk menulis email kepada pemangku kepentingan "tidak akan membuat perusahaan bisa bertahan dari ini"
- Jika semuanya lolos lewat celah sempit antara dampak moderat dan dampak setingkat asteroid yang memusnahkan dinosaurus, maka semuanya "akan berubah selamanya", dan persiapan Anda yang setengah hati hanya akan punya pengaruh sebesar semut yang "mati-matian" bertahan di bawah bayangan tsunami raksasa
- Jika AI generatif melesat seperti roket, "membuat chatbot acak tidak akan mempersiapkan Anda untuk masa depan"
- Ledakan kecerdasan terjadi, AI memperbaiki dirinya sendiri secara rekursif, dan kita dipanen menjadi atom penyusun
- Kalau ada bajingan bodoh lain yang muncul dan menyuruh orang mengimplementasikan code review berbasis LLM "untuk menaikkan standar" alih-alih mengajari orang sedikit disiplin, saya akan belajar judo secukupnya untuk melempar mereka ke matahari
- Tidak bisa cukup ditekankan: entah Anda berada di "garis depan absolut dan mengeluarkan riset baru", atau selain konsesi kecil untuk mengintegrasikan LLM, Anda harus melakukan persis apa yang Anda lakukan lima tahun lalu
- "Tidak ada gunanya sama sekali berada di tengah-tengah". Kecuali Anda bekerja di bidang langka yang industrinya "sedang benar-benar kacau sekarang juga".
V. Tapi katanya semua orang memakainya-
"Bisakah kamu membayangkan berapa banyak kebijakan pemerintah yang benar-benar ditulis oleh ChatGPT sebelum seorang birokrat administratif yang membosankan pulang dan menyentuh rumput? Ada berapa banyak departemen di mana LLM saling berputar-putar ketika orang-orang sudah muak dengan omong kosong lalu menempelkan pertukaran email ke thread yang terus berlanjut? Aku 'yakin' dalam radius 10 km dariku ada dokter yang memasukkan gejala ke chatbot lalu salah mendiagnosis pasien"
- Sebagai masyarakat, kita sedang melakukan "apa" sebenarnya?
- Penulis bertanya kepada seorang eksekutif di lembaga yang memberikan sertifikasi penting kepada para mahasiswa—yang dipakai untuk memverifikasi kelayakan mereka bagi pekerjaan yang berpotensi menyelamatkan nyawa dan hukum imigrasi—apakah mereka bisa mendeteksi kecurangan mahasiswa
- Penulis tadinya ingin berkata, "Tidak, mungkin tidak bisa", tetapi kemudian ragu, jadi malah berkata begini
"Sepertinya bisa, tetapi saat ini lebih dari 50% mahasiswa berbuat curang, jadi kami harus menskors mereka dan itu akan berdampak serius pada pendapatan. Tetap mau kami selidiki?"
- Sejak itu mereka tidak membicarakan hal ini lagi
- Penulis bertanya kepada mentornya yang saat ini bekerja di sektor publik tentang percakapan yang sangat memalukan yang ia saksikan
Saya: Pertanyaan serius, apa orang-orang benar-benar percaya omong kosong sebodoh itu? Atau apakah kebanyakan dari ini cuma sandiwara rumit dalam upaya menyedihkan untuk menguras uang dari para penipu AI?
Mentor: Jawaban paling politis yang bisa kuberikan adalah... ada orang-orang yang meminum Kool-Aid. Ada juga yang tidak. Dan ada yang berusaha mencampur sebanyak mungkin Kool-Aid. Coba kamu sendiri yang nilai siapa masuk kategori yang mana.
- Saya sudah memutuskan, dan meskipun saya tidak bisa membedakan orang-orang yang menenggak Kool-Aid seolah itu senjata dari mereka yang memproduksinya secara massal, saya akan menangkap "beberapa dari mereka" sebelum pihak berwenang menangkap saya
- Kalau beruntung, mereka akan membuang waktu berbulan-bulan dengan bertanya ke LLM di mana saya berada
- Saat liburan di Fiji, pada sarapan terakhir di resor, seorang pramusaji membawa formulir pendaftaran
- Katanya benar-benar gratis dan ada barang gratis juga. Semua orang di restoran langsung menandatangani
- Setelah saya memindai syarat layanannya, tertulis bahwa mereka berhak menggunakan semua data yang saya berikan untuk melatih model AI, dan juga berhak membagikan model itu kepada sejumlah perusahaan afiliasi yang tidak ditentukan
- Saya cuma ingin makan panekuk dengan tenang, dasar orang-orang bodoh
VI.
"Alasan saya marah bukan karena saya 'membenci' LLM atau demam AI generatif itu sendiri. Saya sempat bersenang-senang dengan Copilot, tetapi pada akhirnya saya memutuskan itu justru membuat saya lebih bodoh. Itu memang mengesankan, tetapi selain memuntahkan boilerplate, sebenarnya tidak terlalu "cocok" untuk hal lain. Pemrograman adalah soal desain, dan karena alat-alat ini belum cukup bagus untuk benar-benar membantu secara serius di area itu, hasilnya tidak memberikan lonjakan produktivitas besar seperti yang saya bayangkan."
- Yang aku benci adalah orang-orang yang menempel pada AI seperti lintah pengisap darah yang menggeliat membabi buta
- Mereka adalah orang-orang yang, saat belum populer, suka membahas potensi blockchain untuk bisnis
- Saat menghadiri konferensi baru-baru ini, mereka terengah-engah mendiskusikan "potensi 'kuantum'", tapi tampaknya sama sekali tidak tahu jelas apa itu
- Di bawah artikel yang kubaca minggu lalu, muncul survei kecil; itu ditujukan untuk eksekutif keamanan, tapi aku cepat-cepat mengkliknya hanya untuk melihat apa pertanyaannya
- Nah, ini dia. Wahai pembaca yang terhormat, apa yang paling menarik minat Anda? Kecerdasan buatan, blockchain, atau komputasi kuantum?
- Mereka tahu persis siapa target pasar mereka. Para pemegang kuasa yang belajar tersenyum pada segala hal sambil mengelola "uang orang lain", dan tahu bahwa mereka bisa mencetak uang dengan menunggangi tren spekulatif berikutnya
- Tak satu pun profesional keamanan kompeten yang kukenal peduli pada hal-hal begini. Mereka sibuk mencari tahu apakah firewall dikonfigurasi dengan benar, atau apakah organisasinya sedang meng-commit kata sandi ke repositori
- Kita memang butuh seseorang yang memahami dampak komputasi kuantum terhadap kriptografi, tapi itu bukan "Greg Sinergi"
- Orang yang, selain bicara sangat cepat dan menambah jumlah pegawai, tidak punya keahlian teknis yang bisa diidentifikasi
- Greg Sinergi sama sekali tidak boleh dimintai saran soal hal penting apa pun, mulai dari operasi machine learning sampai cara mengikat tali sepatu lebih cepat
- Terakhir kali aku bicara dengan salah satu avatar Greg Sinergi, dia bersikeras bahwa aku harus menginvestasikan sebagian besar uangku ke mata uang kripto bernama Monero, sambil berkata "sebagian besar koin akan jatuh ke nol, tapi satu akan menjadi dolar"
- "Inilah wajah AI korporat". Lihatlah wajah mengerikan itu dan ngerilah. Matanya merah seperti iblis, berpura-pura menikmati cerutu
- Di perusahaan konsultasiku ada tiga data scientist "yang cukup hebat". Bahkan, tidak berlebihan kalau dibilang dua di antaranya termasuk yang terbaik di negeri ini di luar kelompok yang melakukan riset eksperimental, tapi mereka terlalu rendah hati untuk mengatakan itu
- Meski begitu, kami "tidak" menjual layanan AI dalam bentuk apa pun. Pasarnya sudah terlalu terdistorsi, sampai-sampai "hampir" seburuk mencelupkan kaki ke dunia kripto
- Aku belum sampai pada titik menganggap siapa pun yang pernah mengetik "import tensorflow" itu bajingan, tapi "kita sedang menuju ke sana"
- Orang-orang semacam ini, singkatnya, menjijikkan bagi orang-orang yang waras
- Mereka memalukan bagi orang-orang yang benar-benar membuat kemajuan di bidang ini, dan aib bagi orang-orang yang tahu cara menggunakan teknologi secara bijak untuk memperbaiki dunia
- Dan mereka juga bajingan bodoh yang membosankan yang harus dilempar ke penjara pemimpin pemikiran sampai mereka belajar mengambil pelajaran. Penjara yang sedang kukumpulkan dananya
- Setiap pagi, sosok berkerudung hitam dengan suara serak seperti sedang memahat batu nisan akan memberi ceramah TedX selama 60 menit kepada para manajer yang dipenjara tentang bagaimana lembaga ini sedang merevolusi hukuman fisik, lalu mengungkap bahwa inovasinya adalah menendang perut mereka sekeras mungkin setiap hari
- Aku muak karena profesi yang kupilih membuatku terlalu dekat dengan orang-orang ini, dan karena aku harus belajar keras agar suku kata busuk mereka tidak mengotori telingaku
- Aku harus mati-matian lari untuk berkumpul dengan orang-orang baik, yang berkontribusi ke OSS dan menganggap bicara soal agile seharian adalah olahraga untuk alien yang membaca buku tentang produktivitas manusia
- Aku baru saja pulang dari perjalanan ke negara yang jauh kurang berkembang, dan untuk sesaat aku benar-benar bisa "merasakan hidup" dan "melihat" betapa banyak kehidupan yang bisa diperbaiki oleh uang itu
- Tapi uang itu malah dibuang secara luar biasa ke selokan Microsoft Fabric, jadi rasanya gigiku bergemeletuk
- Aku bersumpah aku akan belajar, menulis, membangun jaringan, dan kalau perlu "mengerahkan tenaga pada masalah ini"
- Sampai sumber daya itu mengalir ke tempat yang benar-benar bisa menghasilkan sesuatu untuk masyarakat, alih-alih ke dompet badut yang terus nyengir!
VII. Oh, jadi Anda salah satu kaum pesimis AI-
"Demi Tuhan sebagai saksiku, kalau kamu sekali lagi buka mulut soal AI tanpa pernah menulis sistem machine learning sendiri, aku akan mengirim bata dan selembar kertas bertuliskan prompt injection lewat pos lalu menyuruhmu memukul wajahmu sendiri dengan itu. Dan aku akan duduk diam menunggu kamu memuatnya ke ChatGPT, karena kemungkinan besar kamu sudah tidak bisa membaca sendiri lagi, dasar idiot mengerikan."
PS
- Karena banyak pembaca baru datang, mungkin Anda juga akan menikmati tulisan-tulisan di bawah ini:
- Ada juga podcast "Apakah katak punya sifat kalajengking" yang membahas topik teknologi secara blak-blakan bersama teman-teman. Semoga Anda menikmatinya!
3 komentar
Kalau dibilang AI itu dibesar-besarkan, faktanya frekuensi penggunaan Google Search saja sudah turun lebih dari setengah.
"Kami dipanen sebagai unsur penyusun"
Opini Hacker News