23 poin oleh xguru 2024-12-30 | 2 komentar | Bagikan ke WhatsApp
  • Ringkasan singkat dan penjelasan tambahan dari laporan 2025 (slide 90 halaman)
  • "Hanya ada 2 demo teknologi yang benar-benar revolusioner dalam hidup saya: GUI dan ChatGPT - Bill Gates"
  • OpenAI dinilai dengan valuasi perkiraan $157B (Microsoft membutuhkan 20 tahun)
    • ChatGPT mencapai kesadaran arus utama dengan kecepatan yang belum pernah terjadi sebelumnya
    • Minatnya besar, tetapi kegunaannya masih terbatas dan belum dianggap benar-benar bermanfaat
    • Di pasar sudah mulai muncul pembicaraan apakah hasilnya tidak sebanding dengan investasi yang masuk
  • Dalam Hype Cycle, butuh waktu untuk mencapai "Plateau of Productivity"
  • Pergeseran platform generasi berikutnya adalah "Generative AI"
    • Mainframe → PCs / SQL → Web / Open Source → Smartphones / Cloud → Generative AI
  • Namun, semuanya masih terbuka dan belum ada jawaban pasti
    • How far will this scale?
    • How is this useful?
    • How do we deploy this?

How far will this scale? Sejauh mana ini bisa diskalakan?

  • Apakah LLM akan terus membesar (scaling?) - akankah LLM melakukan 'segalanya (everything)'?
  • Scaling itu sulit
    • Membesarkan model-model ini akan penuh tantangan dan memakan waktu
      • GPU dan listrik, data pelatihan, eksekusi dan engineering, apakah hasilnya akan lebih baik?
    • Untuk saat ini, praktis tidak ada pilihan selain terus berinvestasi (kalau tidak, kita bisa kehilangan teknologi terpenting untuk 10~15 tahun ke depan)
    • "Kami tidak punya moat - Google"
    • "Model yang sedang kami latih saat ini biayanya mendekati $1b, dan pada 2025/2026 biayanya bisa sekitar $5b atau $10b - CEO Anthropic"
    • "Komputasi yang dibutuhkan untuk melatih Llama 4 lebih dari 10x, dan model-model masa depan akan terus lebih besar dari itu - Mark Zuckerberg"
  • Jika moat-nya adalah "modal"... saat ini Nvidia tidak mampu memenuhi permintaan
  • Capex Big 4 (Meta, Alphabet, AWS, MSFT) adalah $90b pada 2023 dan $220b pada 2024. Pada 2025 kemungkinan akan naik lagi
  • Segalanya berubah cepat sementara kemajuan teknologi berlangsung tepat di bawah kaki kita
    • Agar teknologi AI terus maju, penting untuk menyeimbangkan hasil (output yang lebih baik), arah perkembangan, dan efisiensi sumber daya (biaya pelatihan, biaya inferensi, jejak karbon)
  • "Model internet konsumen berupa meluncurkan gratis, menjadi viral, lalu memikirkan model bisnis nanti tidak cocok dengan struktur biaya large language model (LLM) saat ini"
    • Secara tradisional, software memiliki biaya pengembangan awal yang tinggi, tetapi hampir tidak ada biaya untuk menyalin atau mendistribusikannya, sehingga merupakan produk dengan "biaya marjinal" yang nyaris nol
    • LLM membutuhkan sumber daya komputasi yang sangat besar (listrik, server, dll.) dalam proses pelatihan dan inferensi, dan biaya meningkat tajam seiring bertambahnya pengguna
    • Strategi memberi layanan gratis sambil mengumpulkan pengguna dalam jumlah besar tidak akan berkelanjutan jika model monetisasinya belum mapan
    • Artinya, sejak awal dibutuhkan strategi pemulihan biaya yang jelas
  • "Semua orang di industri teknologi sedang menggratiskan model bisnis orang lain"
    • Di dalam industri teknologi, model bisnis atau teknologi inti milik pesaing atau organisasi lain dilepas sebagai open source atau dibuat gratis dalam bentuk lain, sehingga keunggulan kompetitif eksklusif perusahaan tertentu melemah
    • Dengan membuka aset teknologi penting seperti model AI ke open source, Meta mendorong teknologi tersebut berubah menjadi infrastruktur umum (commodity infrastructure) yang bisa digunakan siapa saja
    • Apple, melalui edge computing, mendorong model AI berjalan langsung di perangkat pengguna; alih-alih dijalankan di server pusat, model diperlakukan seperti panggilan API sederhana, sehingga menurunkan nilai komersialisasi teknologinya
  • Ledakan model 2023-2024: pilih 2 dari yang bagus, cepat, dan murah

How is this useful? Seberapa berguna ini?

  • 2013: machine learning mulai bisa membedakan manusia/anjing/kursi. "Pintar sih, terus kenapa?"
  • 2023: apakah generative ML seperti ChatGPT berguna? "Pintar sih, terus kenapa?"
  • Kemampuan mengenali error masih terbatas. Untuk penanganan error yang efektif, dibutuhkan pendekatan yang seimbang dari semua sisi
    • Ini adalah tantangan gabungan yang mencakup masalah ilmiah (peningkatan model), definisi use case, dan desain produk (perbaikan UX)
  • "Pada 2024, bagaimana LLM berguna?"
    • LLM pada dasarnya adalah sistem probabilistik yang memprediksi kata berikutnya
    • Pada level saat ini: berguna untuk merangkum atau mensintesis informasi, tetapi masih kurang untuk penalaran yang kompleks
    • LLM punya potensi untuk mengotomatisasi jenis pekerjaan baru, tetapi untuk memahami dan mendefinisikannya secara penuh masih perlu eksplorasi lebih lanjut
  • VisiCalc adalah program spreadsheet elektronik pertama di dunia, yang memangkas pekerjaan perhitungan dari 20 jam menjadi 15 menit
    • Seorang pengacara yang melihatnya mungkin akan menganggapnya sangat inovatif dan cerdas, tetapi merasa itu tidak relevan dengan pekerjaannya sendiri
    • Namun, kasus seperti itu terus bertambah
      • Coding, marketing, customer support, dan pekerjaan lain dengan kebutuhan yang jelas sudah mendapatkan nilai langsung
  • "Kita harus mulai dari pengalaman pelanggan lalu mundur ke teknologinya. - Steve Jobs"

How do we deploy this? Bagaimana kita menerapkannya?

  • Proses yang umumnya diikuti saat teknologi baru diperkenalkan
      1. Absorb (integrasi): mengubah teknologi baru menjadi fitur dan menambahkannya ke fungsi bisnis atau produk yang sudah ada
      1. Innovate (inovasi): mengembangkan ide atau produk inovatif berdasarkan teknologi baru. Startup memanfaatkannya dengan memisahkan (unbundle) elemen-elemen lama
      1. Redefine markets (mendefinisikan ulang pasar): teknologi baru bisa meruntuhkan batas pasar yang ada dan bahkan menciptakan pasar yang benar-benar baru. Ini sulit diprediksi, dan kasus suksesnya kadang jarang terjadi
  • Pertanyaan standar yang dipertimbangkan perusahaan saat mengadopsi teknologi baru
    • "Buy versus build?" (membeli atau membangun sendiri?)
    • "Single vendor or multi-vendor?" (vendor tunggal atau banyak vendor?)
    • "Which use cases first? Whose budget?" (use case mana yang didahulukan? anggarannya milik siapa?)
    • "Opex or capex? What’s the EPS impact?" (biaya operasional atau belanja modal? apa dampaknya pada EPS?)
  • Masa depan bisa memakan waktu lama
    • Cloud sudah menjadi istilah lama dan membosankan, tetapi masih baru sekitar 30% dari keseluruhan workflow
    • Pada 2024, seperempat CIO telah meluncurkan sesuatu berbasis LLM, tetapi setengahnya bahkan tidak berencana melakukan apa pun tahun depan
  • Namun, platform baru berarti alat baru
    • SaaS berkembang besar dari otomasi dan meng-unbundle workflow dari SAP, Excel, dan Email
  • "Ada dua cara menghasilkan uang. Bundling atau unbundling. - Jim Barksdale"
  • Bagaimana jika LLM bisa menangani segalanya?: jika model berkembang cukup jauh, mungkinkah software yang kita butuhkan akan jauh berkurang?
    • Jika kemampuan LLM menangani tugas tertentu tidak membaik dari sekarang, kita tetap harus terus mengembangkan software baru
    • Jika LLM terus bisa diskalakan dan berkembang, banyak bagian dari pengembangan software bisa menjadi tidak diperlukan
      • Kemungkinan berkembang menuju "AI umum yang menangani semuanya"
  • Apakah LLM adalah infrastruktur? API? platform? pengalaman pengguna baru?: apakah kita akan mengendalikan LLM dengan sistem logis, atau mengendalikan sistem logis dengan LLM?
    • LLM bisa dipakai sebagai API sederhana, atau bisa menjadi platform penuh dan menjadikan yang lain sebagai API
    • Seiring perkembangan teknologi dan skalabilitas, peran LLM akan terus berevolusi
  • Apakah LLM akan meruntuhkan model penemuan use case kita?: jika semuanya memiliki UX yang sama, bagaimana para entrepreneur akan menemukan use case baru dan cara baru untuk mengekspresikan diri?
    • Dalam pengembangan software tradisional, startup dan perusahaan membayangkan serta menciptakan use case tertentu
    • Jika LLM berkembang hingga bisa menangani dan mengotomatisasi semua use case, kebutuhan akan pengembangan software tradisional bisa berkurang
    • Jika LLM menjadi pusat UX, pengguna mungkin harus membayangkan dan menemukan use case baru sendiri
      • Pergeseran paradigma dalam pengembangan software dan desain UX
  • 'AI' cenderung berubah menjadi 'automation'.: As technology matures, it disappears (ketika teknologi matang, ia menghilang.)
    • AI! → Smart → Auto → Just software
  • Tiga model untuk produk LLM?
    • Menambahkan fitur baru ke aplikasi yang sudah ada: "tulis ulang email saya, rangkum review ini"
    • Alat baru: "analisis dan rangkum 500 laporan keuangan"
    • AI umum: "belikan saya sebuah rumah"
  • Mungkin semua pertanyaan tentang AI hanya punya salah satu dari dua jawaban berikut.
    • "Ini akan berjalan seperti semua perubahan platform lainnya."
    • "Tidak ada yang tahu"

Meanwhile...

  • Dari visi ke eksekusi: apa yang sudah besar, apa yang sedang dibangun sekarang, dan apa yang akan datang?
    • Pada awal 2000-an, e-commerce adalah ide inovasi utama: "orang akan membeli barang secara online"
    • Pada 2010-an, ide seperti SaaS (Software as a Service), otomasi, alat kolaborasi, dan workflow management mendapat sorotan
    • Menuju 2030, Generative AI sedang memposisikan diri sebagai visi baru
  • Meta masih terus mengerjakan metaverse (VR & AR). Sejauh ini setidaknya sudah berinvestasi $60b, dan dalam 12 bulan terakhir menginvestasikan $17.4b
  • E-commerce masih tetap sama (kecuali selama periode COVID). Ini adalah grafik paling membosankan di antara semua grafik teknologi
  • Unbundling Amazon: GMV (Gross Merchandise Volume) Shopify menembus $270b. Itu setara 35% dari GMV Amazon
  • Pendapatan iklan Amazon terus naik. Cash flow-nya lebih besar daripada retail/AWS
  • Software eats media: saluran baru, model baru, bundel baru
    • Platform media yang berpusat pada software seperti YouTube dan TikTok mencatat pendapatan setara media tradisional dan muncul sebagai kekuatan utama di pasar media
    • Perusahaan media tradisional besar seperti Disney masih membukukan pendapatan yang kuat, tetapi menghadapi laju pertumbuhan platform software
    • Bentuk media baru seperti streaming (Netflix) menantang model tradisional yang berpusat pada kabel dan siaran
    • Media tradisional berusaha mempertahankan daya saing dengan library konten dan konten eksklusif, sementara platform software memaksimalkan pendapatan dengan menggabungkan model berbasis iklan dan berbasis langganan
  • Software eats cars?: setelah puluhan tahun janji dan investasi puluhan miliar dolar, mungkin mobil otonom mulai benar-benar bekerja
    • Jumlah perjalanan robotaxi terus tumbuh. Industri otomotif sedang beralih menjadi layanan yang berpusat pada software
  • Apakah mobil menjadi software?: BEV mendekati 10% dari total penjualan, tetapi siapa yang akan menang? Akankah proses ini bekerja seperti Android?
    • BEV (Battery Electric Vehicle) menyumbang sekitar 10% dari total penjualan mobil pada 2023 dan sedang menjadi teknologi arus utama
    • Perusahaan seperti Tesla mengubah BEV bukan sekadar menjadi kendaraan, tetapi produk yang berpusat pada software. Ini mengisyaratkan kemungkinan BEV membentuk ekosistem software-sentris yang mirip smartphone