Membangun LLM mungkin tidak akan menjadi bisnis yang hebat

• Large Language Model (LLM) bersifat revolusioner dan banyak orang menganggapnya sebagai "masa depan"
• Namun, kemungkinan "membangun LLM" menjadi bisnis yang benar-benar menguntungkan terbilang rendah
• Ini mirip dengan kasus ketika inovasi teknologinya berhasil, tetapi berujung gagal bagi para investor
  • Pada 1960-an, maskapai adalah masa depan dan terlihat keren hingga sering muncul di film, tetapi banyak maskapai bangkrut. Meski zaman telah berubah, mendirikan maskapai tetap bukan ide yang bagus
  • Kereta api memperbaiki hidup banyak orang, tetapi para investor dibalas dengan "kejatuhan dramatis"
• Ada bisnis lain yang tampak sangat sederhana di permukaan tetapi jauh lebih menguntungkan
• Misalnya, menjual minuman bersoda ternyata adalah bisnis yang luar biasa besar. Bahkan mungkin salah satu bisnis paling sukses
  • Return on Equity (ROE) Coca-Cola hampir tidak pernah turun di bawah 30% pada sebagian besar tahun
  • Ini bisa terasa agak tidak adil karena pencapaian seperti itu datang bukan dari bisnis yang sulit dan rumit seperti penerbangan, melainkan dari pembuatan minuman yang relatif sederhana
  • Yang lebih menarik, Coca-Cola bahkan tidak benar-benar memproduksi minumannya sendiri
  • Produksi dialihdayakan ke "perusahaan pembotolan", dan pada praktiknya mereka hanya menjual produknya

Industri penerbangan - struktur industri yang tidak menguntungkan

• Menjadi maskapai berarti berada dalam posisi pasar yang nyaris unik karena begitu "mengerikan"
• Pemasok terbatas: hanya ada dua produsen pesawat, Airbus dan Boeing. Karena alasan pelatihan dan efisiensi karyawan, maskapai harus memilih salah satunya, sehingga produsen pesawat punya daya penetapan harga yang tinggi
• Pelanggan yang plin-plan: pembeli tiket pesawat mudah berubah dan loyalitasnya rendah; selisih harga kecil saja bisa membuat mereka pindah ke maskapai lain
• Terlalu banyak persaingan dalam industri: yang menjengkelkan, ada banyak maskapai mengoperasikan rute yang sama sehingga terjadi persaingan harga yang sengit
• Mudah dimasuki pemain baru:
  • Memulai maskapai baru ternyata cukup mudah
  • Pesawat punya nilai aset tinggi sehingga mudah dijadikan dasar pinjaman bank
  • Merekrut tenaga kerja terampil juga mudah sehingga maskapai baru bisa masuk ke pasar dengan gampang
  • Maskapai baru kadang menjual tiket murah sambil menanggung rugi di awal, lalu akhirnya bangkrut
• Banyak barang pengganti: bisa digantikan oleh "kereta cepat" yang disubsidi pemerintah atau platform konferensi video seperti Zoom
• Penciptaan nilai terbatas: lebih jauh lagi, bahkan jika maskapai meningkatkan efisiensi atau menghasilkan laba lewat inovasi, produsen pesawat akan menyadarinya lalu menaikkan harga saat pembaruan kontrak layanan sehingga laba tambahan itu terserap

Struktur yang menguntungkan dalam industri minuman bersoda

• Menjadi perusahaan seperti Coca-Cola adalah hal yang sangat hebat
• Kekuatan pemasok
  • Cola hanya berisi air, pewarna, perisa, kafeina, pemanis, dan bahan lain yang murah serta mudah didapat
  • Bahkan tidak perlu menggabungkannya sendiri; produksi bisa dialihdayakan ke perusahaan pembotolan dengan biaya serendah mungkin
• Loyalitas merek pembeli yang kuat:
  • Konsumen sangat pilih-pilih soal makanan dan minuman yang masuk ke mulut mereka
  • Sampai-sampai moto tidak resmi pesaing utamanya adalah "Pepsi juga boleh, kan? (Is Pepsi Ok?)", yang menunjukkan bahwa konsumen punya preferensi yang jelas
  • Ini patut diperhatikan karena walaupun rasa dan warnanya sama, cukup banyak konsumen yang benar-benar menjawab "tidak"
• Hambatan masuk bagi pendatang baru:
  • Nama "Coke" dilindungi merek dagang sehingga pesaing baru tidak bisa memakai nama yang sama
  • Konsumen menolak minuman bersoda dari merek baru, dan menganggap minum minuman dari merek pengganti sebagai sesuatu yang aneh

Struktur industri menentukan keberhasilan bisnis

• Bisnis yang bagus ditentukan oleh struktur industri, bukan oleh faktor seperti efisiensi internal, semangat, inovasi, atau seberapa cerdas orang-orangnya
• Menurut kerangka "5 Forces" dari Michael Porter, struktur industri dibagi menjadi lima hal berikut:
  • Kekuatan pemasok (daya penetapan harga)
  • Kekuatan pembeli (daya tawar harga)
  • Kekuatan pesaing langsung dalam industri
  • Potensi/ancaman pendatang baru
  • Ancaman barang pengganti
• Jika tidak ada satu pun kekuatan itu yang terlalu bekerja melawan Anda, bisnis Anda akan berjalan baik
  • Jika semua kekuatan melawan Anda, Anda akan berada di posisi maskapai
  • Dan jika semua kekuatan berpihak pada Anda, Anda akan menjadi Coca-Cola

Struktur industri pembuat LLM: OpenAI/Anthropic/Gemini dan lainnya

• Apakah posisi para pembuat LLM bagus? Tidak
• Kekuatan pemasok: dominasi NVIDIA
  • Pembuat LLM kadang menyebut penyedia cloud seperti Amazon Web Services (AWS) atau Google Cloud sebagai pemasok, tetapi pada kenyataannya NVIDIA adalah satu-satunya pemasok inti
  • NVIDIA secara praktis memonopoli produksi chip yang dipakai semua LLM, dan memiliki daya penetapan harga yang sangat besar
  • Posisi NVIDIA terhadap Anthropic atau OpenAI jauh lebih kuat daripada Airbus atau Boeing terhadap maskapai
• Daya tawar pembeli: seberapa besar kuasa mereka atas harga token LLM?
  • Pengguna LLM masih belum punya loyalitas merek yang kuat, sehingga mudah berpindah dari Chat-GPT ke Claude
  • Perusahaan mempermudah perpindahan antar model LLM lewat lapisan abstraksi, sehingga LLM menjadi komoditas yang saling dapat dipertukarkan
  • Ini merugikan penjual LLM
• Pesaing langsung yang kuat
  • Ada banyak pembuat LLM, dan persaingan harga sangat sengit
  • Yang paling buruk, Facebook pada dasarnya membagikan model secara gratis sehingga menurunkan harga pasar
  • Ini mirip dengan strategi perebutan pangsa pasar Internet Explorer pada 1990-an, dan sulit dianggap sebagai tanda yang positif
• Kemudahan masuk bagi pemain baru
  • Teknologi pembuatan LLM dipublikasikan lewat paper, sehingga pendatang baru bisa mengembangkan model dengan mudah
  • Bahkan model berkualitas rendah pun bisa merebut pelanggan dengan harga murah, sehingga masuknya pendatang baru sangat aktif
• Situasi campuran untuk barang pengganti
  • Alih-alih teks yang ditulis LLM, orang bisa mempekerjakan manusia, yang memang lebih mahal tetapi punya keunggulan menghindari masalah halusinasi (hallucination)
    • Contoh: bidang hukum kecil kemungkinan memakai LLM
  • Ketika suatu use case sudah mapan, metadata cenderung menggantikan AI
• Sedikit sisi positif saja tidak cukup untuk menjadikannya bisnis yang menguntungkan
  • Struktur industri pembuat LLM mirip dengan Netscape (yang menemukan browser web grafis tetapi bangkrut), dan sulit melihatnya sebagai model bisnis sukses seperti Google yang membangun sesuatu di atas browser web

Bagaimana mereka bisa menggalang dana sebanyak itu?

• Jika pembuat LLM punya struktur industri yang tidak menguntungkan seperti maskapai, bagaimana mereka tetap bisa mengumpulkan dana sebesar itu?
• Misalnya, hanya dua bulan lalu OpenAI menggalang US$6,6 miliar dengan valuasi US$157 miliar
• Ini bahkan mungkin salah satu investasi terbesar dalam sejarah VC
• Apakah mereka tahu sesuatu yang saya tidak tahu? Ini misterius, tetapi jika mempertimbangkan beberapa kemungkinan:
  • Mengembangkan chip untuk mengurangi ketergantungan pada NVIDIA
    • Mungkin OpenAI ingin merancang chip sendiri untuk mengurangi ketergantungan pada NVIDIA dan menekan biaya penggunaan GPU
    • Namun US$6,6 miliar tidak cukup untuk membangun pabrik semikonduktor baru, meski mungkin cukup untuk merancang chip baru yang memungkinkan migrasi dari NVIDIA
    • Tetapi karena NVIDIA sendiri ikut menjadi investor dalam putaran pendanaan ini, kemungkinan "mengembangkan chip pesaing NVIDIA" tidak dimasukkan ke pitch deck investasi
  • Memperkuat merek OpenAI untuk menahan persaingan
    • Ini bisa dilihat sebagai upaya membangun merek yang kuat agar pelanggan tidak mudah berpindah ke model pesaing
    • Ada bukti bahwa strategi merek dan lock-in bisa efektif di bidang teknologi
    • Namun LLM beroperasi lewat antarmuka berbasis teks yang sederhana, sehingga tanpa API yang kuat ada sisi yang membuat pembangunan merek menjadi sulit
  • Menyingkirkan pesaing baru
    • Dengan menginvestasikan US$6,6 miliar untuk meningkatkan performa model secara besar-besaran, mungkin mereka bisa menaikkan beban biaya pesaing dan menyingkirkan pemain kecil dari pasar
    • Tetapi uang adalah aset yang paling likuid, dan US$6,6 miliar sebenarnya bukan jumlah yang sebesar itu
      • Di dunia perbankan, dana sebesar ini bisa dihimpun bahkan hanya lewat satu penerbitan obligasi
    • Karena itu, putaran pendanaan ini sendiri kemungkinan tidak cukup untuk meyakinkan orang lain
• Perusahaan yang berhasil menggalang dana besar belum tentu memiliki model bisnis yang sukses
  • Misalnya, WeWork menggalang lebih dari US$10 miliar dan pernah dinilai sebesar US$47 miliar, tetapi kemudian terbukti model bisnisnya tidak masuk akal
  • Dalam restrukturisasi keuangan terbaru, nilainya dinilai US$560 juta, sehingga lebih dari 95% nilai investasi menguap

Tidak semua perusahaan AI akan gagal

• Hanya karena pembuat LLM kurang layak secara bisnis bukan berarti masa depan teknologi AI suram
• Ini bukan berarti teknologinya buruk: keberhasilan teknologi dan keberhasilan bisnis adalah dua hal yang berbeda
  • Apakah teknologi ini bagus atau tidak hampir tidak ada hubungannya dengan apakah Open AI/Anthropic/Mistra/siapa pun berhasil menghasilkan uang darinya
  • Teknologi yang maju tidak otomatis menjamin profitabilitas
    • Teknologi virtualisasi kontainer: Docker berhasil secara teknis tetapi gagal dalam monetisasi
    • Browser web: perangkat lunak yang sangat maju, tetapi membuat browser bukan bisnis yang sukses
    • CRM itu buruk, tetapi Salesforce justru sangat sukses sebagai bisnis
• Tidak semua perusahaan AI membangun model
  • Jika saya menjalankan bisnis AI, saya tidak akan pernah membangun model sendiri
  • Membangun model sendiri adalah pekerjaan kasar yang tidak terdiferensiasi
  • Dengan memanfaatkan sebagian dari model canggih yang dikembangkan Anthropic dan lainnya, ide bisnis yang dulu mustahil bisa menjadi mungkin

Waspadai perusahaan perangkat lunak yang bukan perusahaan perangkat lunak

• Perusahaan perangkat lunak pada dasarnya memiliki model bisnis yang hebat:
  • Tidak bergantung pada pemasok: praktis tidak ada pemasok nyata
  • Keunikan produk: perangkat lunak sering kali orisinal dan punya sedikit pesaing
  • Minim barang pengganti: alternatifnya hanya pengguna mengerjakan sendiri
  • Karena alasan-alasan ini, perusahaan perangkat lunak mempertahankan margin laba yang tinggi
• Masalahnya, tidak semua perusahaan teknologi adalah perusahaan perangkat lunak
  • Jika bergantung pada satu pemasok yang kuat seperti NVIDIA, struktur ekonominya akan lebih mirip Pan-Am (maskapai yang bangkrut) daripada Microsoft Office

Catatan lain

• Gerakan keamanan AI dan pemasaran teknologi LLM:
  • Gerakan keamanan AI berfungsi sebagai pemasaran yang sangat bagus untuk teknologi LLM
  • Klaim berlebihan seperti "krisis AI sudah dekat" pada praktiknya menjadi strategi promosi produk yang efektif
  • Karena alasan ini, perusahaan seperti OpenAI tampaknya mempekerjakan banyak pakar keamanan AI
• Coca-Cola dan investasi riset:
  • Coca-Cola pada dasarnya duduk santai sambil menghasilkan laba besar, lalu menginvestasikan sebagian dari laba itu ke riset
  • Bahkan "sedikit investasi" pun menjadi jumlah yang besar karena labanya memang sangat besar
  • Riset pasar menunjukkan bahwa Coke Zero adalah Diet Coke yang ditargetkan untuk pria. Ini menunjukkan bahwa pemisahan produk berdasarkan gender bisa efektif
• Bacaan tambahan tentang struktur industri dan strategi pasar:
  • Disarankan merujuk pada revisi tahun 2008 karya Michael Porter, "The Five Forces that Shape Corporate Strategy"
  • Tulisan di atas mungkin bukan jawaban terakhir, tetapi cocok sebagai bacaan pertama untuk mempelajari lebih banyak hal. Tulisan Porter lainnya juga mungkin berguna

[dalinaum]

Netscape bukanlah penemu browser web grafis. Sudah ada Mosaic...

[kandk]

Industri penerbangan mengutamakan hw, dan sw punya keterbatasan. (paling banter pramugari)
AI lebih unggul di sw. Saat ini semua model dipublikasikan penuh lewat paper sehingga tampak tidak punya daya saing, tetapi model yang benar-benar berguna akan dibuat tertutup. Atau menjalankan bisnis lisensi.

[nowdoit7]

Saat ini masih kompetitif, tetapi jika menjadi monopoli, tentu bisa menumpuk keuntungan yang luar biasa besar. Masa depan tidak bisa diketahui.