Serangan Balik GPT Wrapper: Daya Tahan dalam Dunia Model AI yang Dikomersialisasikan

defensibility: daya tahan (diterjemahkan sebagai eksklusivitas saat dipakai bersama moat)
moat: parit pelindung

Contoh layanan GPT Wrapper: Character.ai, Perplexity AI

Komentar ycombinator: https://news.ycombinator.com/item?id=42971442

[xguru]

Ini adalah ringkasannya.

• Selama satu tahun terakhir, bidang AI telah mencapai banyak kemajuan, dengan pemain baru bermunculan dan produk yang berpusat pada AI menunjukkan pertumbuhan yang pesat
• Namun, startup model AI menghadapi pertanyaan mendasar berikut:
  • Jika pertahanan startup model AI lemah, dan alternatif open source serta pemain baru terus menggerus keunggulannya, siapa yang pada akhirnya akan menang?
  • Aplikasi baru yang berpusat pada AI menunjukkan pertumbuhan luar biasa berkat efek kebaruan. Namun seiring waktu, ketika AI menjadi ekspektasi dan rasa barunya hilang, siapa di antara banyak produk baru yang akan menang dalam persaingan distribusi? Bagaimana produk dapat tumbuh dan menjangkau pelanggan di pasar yang padat?
  • Bagaimana jika menyalin produk lain benar-benar menjadi hal sepele seperti, "AI, buatkan aplikasi yang sama persis dengan productxyz.com dan hosting di productabc.com!"? Di masa lalu, butuh berbulan-bulan untuk meniru produk baru, dan selama itu ada waktu untuk membangun posisi terdepan. Namun jika pengejaran bisa dilakukan dengan sangat cepat, bagaimana produk akan mempertahankan penggunanya?
  • Dalam beberapa tahun terakhir, produk AI inovatif yang tidak membangun model sendiri sering diremehkan sebagai "GPT wrapper" berteknologi rendah. Namun selama beberapa dekade terakhir, produk konsumen telah menciptakan nilai yang sangat besar meskipun tampak berteknologi rendah dan memiliki pertahanan yang lemah. Apakah masa depan akan sama seperti masa lalu?
• Dalam lingkungan seperti ini, perang besar antar "GPT wrapper" sedang berlangsung, dan strategi pertahanan tradisional—terutama keunggulan berkelanjutan dalam distribusi dan efek jaringan—kembali muncul ke depan
• Hal ini tidak akan muncul dengan cara yang persis sama, tetapi akan berpadu dengan kemampuan AI untuk menciptakan bentuk-bentuk baru
• Dengan cara ini, generasi berikutnya dari produk AI akan berkembang dengan menunggangi kekuatan yang mendorong gelombang komputasi sebelumnya seperti Web 2.0, kripto, dan ekonomi on-demand

Teori pertahanan AI yang gagal?

• Teori populer tentang pertahanan AI itu sederhana, dan telah mendominasi wacana selama beberapa tahun terakhir:
  • Ada pengamatan bahwa jumlah data/komputasi/energi yang dibutuhkan untuk membangun setiap generasi model AI akan meningkat secara eksponensial.
  • Pada 2024, dibutuhkan lebih dari $100 juta, tetapi di masa depan akan diperlukan miliaran dolar, sehingga akan membentuk moat "efek skala" terhadap pemain baru.
  • Selain itu, seiring model AI menjadi lebih kuat, model itu akan dapat melakukan semua yang diinginkan aplikasi, sehingga sebagian besar aplikasi akan terdegradasi menjadi sekadar "GPT wrapper" sederhana yang berinteraksi dengan model dasar yang lebih kuat.
  • Dalam pandangan ini, segelintir perusahaan model besar akan menciptakan seluruh nilai, dan memungut pajak atas dunia aplikasi GPT wrapper di atasnya.
• Per Februari 2025, teori ini menghadapi kompleksitas besar:
  • Model terdepan hanya unggul sekitar 6 bulan dibanding model open source, dan pemain baru secara rutin menghasilkan model dengan performa serupa (Grok, DeepSeek, dll.).
  • Selain itu, jumlah data pelatihan—yang pada awalnya memberi keuntungan besar bagi pemain skala besar karena akses lebih awal—sedang mencapai batas alaminya.
  • Dan meskipun butuh banyak uang/energi/komputasi untuk melatih model terdepan, para pesaing mencapai performa serupa melalui distilasi model.
  • Pada saat yang sama, lapisan baru startup aplikasi yang terspesialisasi untuk ceruk tertentu seperti alat kreatif, layanan pelanggan, dan hukum sedang bermunculan, menunjukkan pertumbuhan ARR dari $0 menjadi lebih dari $5 juta dalam waktu kurang dari satu tahun.
• Dalam banyak kasus, startup ini tidak secara eksplisit menyebut model AI dasar yang mereka integrasikan, dan pengguna maupun pelanggan juga tidak peduli.
• Apakah sekarang saatnya mendukung GPT wrapper? Dan apa seharusnya teori pertahanan baru untuk generasi baru aplikasi yang berpusat pada AI ini? Di antara banyak aplikasi berpusat pada AI, mana yang akan bertahan?
• Tentu saja, ada juga efek jaringan. Kita telah melihat bahwa efek jaringan memainkan peran penting dalam pertahanan pada generasi sebelumnya seperti alat kolaborasi kerja, marketplace, dan jejaring sosial (dibahas dalam buku saya The Cold Start Problem) — dan saya pikir ini juga dapat memainkan peran besar di era AI.

Database wrapper dan aplikasi CRUD

• Melihat kurva pertumbuhan (S-curve) aplikasi web dari 1990-an hingga 2010-an membantu memahami situasi AI saat ini.
  • Pada awal ledakan dot-com di 1990-an, untuk membangun v1 sebuah situs web perlu menggalang jutaan dolar. Itu karena infrastrukturnya masih minim.
  • Server harus dipasang langsung di data center, harus menggunakan software stack berpemilik, dan strategi pertumbuhan masih meminjam cara-cara tidak efisien dari industri barang konsumsi (CPG).
  • Saat itu, fakta bahwa sebuah produk "berfungsi" saja sudah menjadi pembeda utama, dan perusahaan web pertama sebagian besar didirikan oleh lulusan doktor ilmu komputer Stanford.
• Namun setelah dua generasi berlalu, membangun situs web menjadi sederhana berkat perkembangan open source, cloud computing, dan iklan cost-per-click (CPC).
  • Banyak web app populer hanyalah "database wrapper (atau aplikasi CRUD)" sederhana.
  • Layanan seperti blog, Twitter, dan Flickr adalah contoh representatif, menyediakan fungsi sederhana create, read, update, delete.
  • Kemunculan Ruby on Rails dan software CMS makin memudahkan pengembangan web semacam ini.
  • Bahkan saat itu, para venture capital (VC) pun mengajukan pertanyaan, "Apakah produk seperti Facebook bisa punya pertahanan?"
• Namun, era Web 2.0 memecahkan masalah ini dengan memanfaatkan efek jaringan.
  • Bukan sekadar aplikasi CRUD sederhana, tetapi menambahkan kemampuan bagi komunitas dan seluruh jaringan untuk berbagi data dan berkolaborasi.
  • Selama jaringannya bertahan, produk pun memiliki pertahanan, dan inilah faktor inti yang menghidupkan kembali teknologi konsumen pada era Web 2.0.
  • Ada contoh serupa di masa lalu: ledakan desktop GUI berbasis Windows/Mac pada awal 90-an juga dipercepat oleh meningkatnya "aplikasi berbasis formulir" yang dibuat dengan Visual Basic.
• Artinya, seperti stack teknologi awal internet yang proprietary dan tertutup kemudian menjadi terbuka dan terkomoditisasi di era Web 2.0, AI juga sangat mungkin mengikuti arus yang sama.
  • Poros persaingan bergeser dari pertanyaan "Bisakah ini dibuat? Bisakah mengumpulkan dana untuk membuatnya?" menjadi "Ini bisa dibuat, tetapi apakah orang akan memakainya? Dan apakah akan bertahan?"
  • Produk AI juga sedang mengikuti arus perubahan yang sama, dan akan berevolusi ke bentuk baru yang menggabungkan efek jaringan dan AI.

Pertumbuhan dan efek jaringan di dunia yang dikuasai GPT wrapper

• Efek jaringan berarti "fenomena di mana nilai produk meningkat seiring bertambahnya pengguna."
  • Contoh representatifnya adalah marketplace, jejaring sosial, dan alat kolaborasi.
• Akan ada persaingan antara produk AI yang menambahkan fitur jaringan dan produk jaringan yang sudah ada yang mengintegrasikan AI.
• Di pasar B2B dan SMB, fitur kolaborasi (komentar, tag, berbagi) dan dukungan tim akan ditambahkan secara alami.
• Namun, belum pasti apakah AI bisa menciptakan ulang jejaring sosial secara fundamental.
  • Orang tetap menginginkan interaksi dengan manusia.
  • Ada pertanyaan apakah AI akan menggantikan hubungan antarmanusia atau hanya berperan sebagai pendukung.
  • Misalnya, aplikasi sosial berbasis AI mungkin bisa membuat pengguna membagikan konten interaktif yang dipersonalisasi, bukan sekadar meme berbasis gambar.
• Hingga saat ini, belum ada contoh produk AI berorientasi konsumen yang benar-benar sukses.
  • Ada beberapa contoh seperti Character.ai, tetapi aplikasi konsumen berpusat pada AI yang tumbuh cepat masih belum mapan.
  • Alasannya bisa jadi karena biaya API belum cukup turun, dan daya saing perusahaan yang sudah ada masih kuat.
  • Bisa juga karena AI masih sulit menciptakan interaksi yang menarik setara manusia.
• Namun, jika produk yang menggabungkan AI+fitur jaringan mulai muncul, maka meskipun mudah ditiru, efek jaringan akan membentuk pertahanan.
• Efek jaringan dapat dibagi ke dalam tiga sumbu:
  • Efek jaringan akuisisi (Acquisition)
    • Produk dapat memanfaatkan jaringan pengguna yang ada untuk mengundang pengguna baru, berbagi, dan meningkatkan arus masuk.
    • Produk AI dapat menghasilkan konten yang menarik sehingga secara alami mendorong orang untuk membagikannya.
  • Efek retensi (Retention) dan keterlibatan (Engagement)
    • Produk berbasis jaringan dapat mengaktifkan kembali pengguna yang sudah ada melalui komentar, tag, file bersama, dan sebagainya.
    • Produk AI sederhana harus bergantung pada email/notifikasi push, tetapi produk berbasis jaringan bisa memiliki daya retensi yang lebih kuat.
  • Efek monetisasi (Monetization)
    • Semakin luas alat kolaborasi digunakan di dalam perusahaan, semakin besar kemungkinan beralih ke paket dengan harga lebih tinggi.
    • Jika social game menghasilkan pendapatan dari elemen seperti kustomisasi avatar, interaksi dengan teman dapat meningkatkan nilainya.
• Pada akhirnya, produk AI pada awalnya akan masuk ke pasar dengan fitur-fitur yang terasa baru, tetapi secara bertahap akan menambahkan fitur jaringan untuk tumbuh dan membangun pertahanan.

Apakah generasi AI saat ini akan menang, atau generasi baru akan muncul?

• Jika melihat sejarah inovasi teknologi, ketika platform baru muncul, perusahaan lama sering kesulitan beradaptasi.
  • Misalnya, pada awal inovasi mobile, Flipboard, Foursquare, dan Kik sempat populer, tetapi pada akhirnya pendatang belakangan seperti Uber dan DoorDash yang menguasai pasar.
  • Di era AI saat ini juga, startup AI awal mungkin menawarkan kebaruan, tetapi pendatang belakangan yang menggabungkan efek jaringan bisa meraih kesuksesan yang lebih besar.
• Selain itu, karena perusahaan big tech yang ada sudah cepat mengadopsi AI, tidak ada jaminan bahwa startup yang sepenuhnya baru pasti akan menang.
• Era AI berubah dengan cepat, dan strategi pertahanan lama sedang berpadu dengan AI untuk membentuk pasar baru.
• Kita masih belum tahu perusahaan mana yang akan menang ke depannya, tetapi jelas ini akan menjadi masa yang menarik.

[felizgeek]

Ringkasan komentar

1. Faktor keberhasilan AI dan LLM: Solusi AI/LLM yang sukses memerlukan proses ETL (Extract, Transform, Load) berkinerja tinggi. Terutama, kemampuan pra-pemrosesan dan agregasi data pada domain tertentu menentukan keunggulan kompetitif perusahaan.

2. Peran "wrapper" AI: Agar lebih unggul daripada model dasarnya, wrapper harus memiliki kemampuan pemrosesan dan integrasi data yang sangat baik pada domain tertentu. Inilah yang membentuk moat kompetitif perusahaan yang sesungguhnya.

3. Open source dan peniruan: Banyak produk menggunakan kode open source, tetapi sering kali menirunya tanpa benar-benar membaca kodenya. Hal ini dapat memicu inovasi dangkal seperti pada kasus 'left-pad'.

4. Persaingan model besar: Model besar meningkatkan pangsa pasar, dan produk-produk lainnya harus bersaing di sekelilingnya. Seiring turunnya biaya inferensi dengan cepat, pilihan model per use case juga berkurang.

5. Kemungkinan meniru aplikasi berbasis AI: Aplikasi berbasis AI bisa jadi sulit ditiru. Terutama, prompt yang kompleks dan interaksi antarmodel menjadi tantangan besar dalam proses peniruan.

6. Persaingan antara model dan wrapper: Persaingan di lapisan model akan makin ketat, sementara wrapper dapat mengamankan keunggulan kompetitif dari sisi rekayasa perangkat lunak.

7. Peran OS: Pembuat OS memiliki kekuatan besar dalam mengintegrasikan fungsi AI dengan memanfaatkan konteks pengguna. Ini dapat memberi keunggulan kompetitif dibanding pengembang aplikasi yang sudah ada.

8. Elemen penciptaan nilai: Prompt yang terspesialisasi, akses ke data terstruktur, dan efek jaringan dapat menjadi elemen kunci penciptaan nilai di masa depan.

9. Pentingnya data pelatihan: Data pelatihan dapat memberikan keunggulan kompetitif. Data yang secara akurat mencerminkan perilaku pengguna tertentu dapat menjadi aset penting yang membedakan produk dari hasil tiruan.

10. Model lisensi dan ketergantungan platform: Perusahaan perlu mempertimbangkan ketergantungan pada platform tertentu, karena hal ini dapat meningkatkan ketidakpastian. Khususnya, ada risiko kehilangan setengah pasar atau dipaksa menghentikan bisnis karena perintah geopolitik.

[dongwon]

Saya setuju dengan komentar di YC yang mengatakan bahwa untuk menjadi Wrapper yang bagus, ETL harus dikerjakan dengan baik...