- "Software is Changing (Again)"
- Paradigma perangkat lunak sedang berubah secara mendasar untuk pertama kalinya dalam 70 tahun, dan dalam beberapa tahun terakhir berevolusi cepat menjadi Software 1.0 (kode tradisional), 2.0 (bobot jaringan saraf), 3.0 (LLM dan prompt bahasa alami)
- LLM bukan sekadar alat, melainkan ekosistem perangkat lunak baru yang mirip sistem operasi (Operating System), membuka era ketika siapa pun dapat memprogram komputer dengan bahasa alami seperti bahasa Inggris
- Kolaborasi dengan alat dan agen AI, serta 'otonomi parsial (Partial Autonomy)', menjadi inti produk perangkat lunak masa depan, dan hanya dapat dipercaya bila dibarengi verifikasi serta kontrol manusia yang cepat
- AI dan LLM memiliki karakter seperti 'roh manusia (people spirits)', dengan memori dan pengetahuan luar biasa, sekaligus keterbatasan bawaan seperti halusinasi, hilangnya konteks, dan risiko keamanan
- Ke depan, perangkat lunak, dokumentasi, dan infrastruktur harus didesain ulang agar 'ramah agen (LLMs-friendly)', sehingga struktur dan cara penyajiannya berubah agar mudah dipahami dan dijalankan oleh LLM
Software 1.0 → 2.0 → 3.0: evolusi paradigma
- Software 1.0: source code tradisional yang ditulis langsung oleh manusia
- Software 2.0: model yang dibuat dengan men-tuning bobot (parameter) jaringan saraf menggunakan dataset dan optimizer
- Software 3.0: berbasis Large Language Model (LLM), membuat program (instruksi) dengan prompt bahasa alami seperti bahasa Inggris
- Baru-baru ini di GitHub, kode berevolusi menjadi bentuk campuran antara bahasa Inggris dan kode, dan bahasa Inggris sebagai bahasa pemrograman menyebar dengan cepat
- Hugging Face dan lainnya berperan sebagai 'GitHub' untuk Software 2.0 dan memimpin ekosistem model open source
LLM adalah sistem operasi (OS) baru
- LLM berkembang melampaui API atau utilitas sederhana menjadi platform tempat beragam perangkat lunak berjalan, layaknya sistem operasi
- Saat ini pemanfaatan LLM masih berlangsung dalam struktur terpusat berbasis cloud, mirip era mainframe tahun 1960-an
- Dalam jangka panjang, disebutkan juga kemungkinan datangnya era LLM personal (pemakaian terdistribusi dan lokal)
- Lingkungan penggunaan LLM mirip terminal dan command-line interface tradisional, tetapi GUI umum yang matang masih belum cukup berkembang
Kemampuan dan keterbatasan LLM
- LLM memiliki daya ingat sangat besar dan kemampuan menyerap pengetahuan, tetapi juga punya cacat bawaan seperti halusinasi (informasi palsu), hilangnya ingatan konteks, dan kerentanan keamanan
- 'Konteks kerja (working memory)' LLM masih harus dikelola secara eksplisit oleh manusia, dan pembelajaran konteks jangka panjang masih belum memadai
- Karena ada risiko nyata seperti keamanan dan prompt injection, penggunaannya perlu kehati-hatian
Otonomi parsial (Partial Autonomy) dan kolaborasi manusia-LLM
- Aplikasi berbasis LLM seperti Cursor dan Perplexity berkembang ke arah gabungan antara operasi manual tradisional dan otomasi LLM, dengan konsep 'slider otonomi' (mengatur tingkat kontrol pengguna/delegasi ke AI)
- Audit melalui GUI dan loop verifikasi cepat, serta 'metodologi mengendalikan AI dengan ikatan pendek', menjadi hal esensial dalam praktik kerja
- Diperkirakan perangkat lunak, produk, dan layanan semuanya akan secara bertahap makin menguat dalam 'otonomisasi parsial'
Contoh nyata dan budaya 'Vibecoding'
- Budaya 'Vibecoding', yaitu siapa pun bisa membuat aplikasi langsung melalui LLM dengan bahasa Inggris, sedang meluas
- Karpathy juga membagikan pengalamannya membuat aplikasi iOS hanya dalam satu hari dengan bahasa yang belum pernah ia pakai untuk coding (Swift), lalu mengembangkannya menjadi layanan nyata
- Pengembangan prototipe memang dipermudah oleh LLM, tetapi mewujudkannya menjadi layanan nyata (autentikasi, pembayaran, deployment, dll.) masih tersendat oleh kerja manual dan DevOps
- Ke depan, tugas utama adalah merancang perangkat lunak/dokumentasi yang ramah agen agar bagian yang masih harus diklik dan dikonfigurasi langsung oleh manusia dapat diwakilkan kepada 'agen'
Perubahan dokumentasi, infrastruktur, dan keramahan terhadap agen
- Dokumentasi lama yang berpusat pada manusia (klik, urutan langkah, dll.) sulit langsung dimanfaatkan oleh LLM dan agen, sehingga perlu disusun ulang berbasis Markdown dan perintah
- Vercel, Stripe, dan lainnya mulai melakukan transisi dokumentasi ramah agen (misalnya perintah
curl)
- Berbagai alat seperti GitHub Ingest, DeepWiki dan lainnya mengubah repositori kode dan dokumentasi ke bentuk yang bisa langsung dipakai oleh LLM
Kesimpulan dan prospek
- Sekarang adalah waktu terbaik untuk menulis ulang dan membuat banyak kode baru
- LLM akan berkolaborasi dengan pengembang manusia sebagai 'alat bantu (baju zirah Iron Man)', sambil mendorong inovasi bertahap menuju otonomi penuh
- Dalam 10 tahun ke depan, proses menaikkan 'slider otonomi' secara bertahap diperkirakan menjadi tren utama
- Pengembang dan organisasi perlu segera mempercepat desain ulang perangkat lunak, dokumentasi, dan infrastruktur yang dioptimalkan untuk LLM dan agen
2 komentar
Video ini sangat bagus! Sambil menyinggung pernyataan Andrew Ng bahwa "AI Is the New Electricity", dia menjelaskan bahwa jika ChatGPT yang dipakai 800 juta orang tumbang, rasanya sama seperti listrik padam, dan itu benar-benar terasa mengena bagi saya.
Komentar Hacker News