7 poin oleh GN⁺ 2024-10-01 | 3 komentar | Bagikan ke WhatsApp
  • "Hanya bisa bertahan jika pasar bersifat tidak rasional"

Ada yang salah

  • Membangun model bahasa besar membutuhkan biaya yang sangat besar
    • OpenAI menghabiskan $7 miliar per tahun untuk riset, layanan AI baru, dan perekrutan karyawan
    • Anthropic juga diperkirakan akan menghabiskan $2,7 miliar tahun ini
    • Facebook juga menginvestasikan miliaran dolar
  • Biayanya tidak akan menjadi lebih murah
    • Seiring model berkembang, riset menjadi semakin sulit dan kebutuhan daya komputasi juga meningkat
    • Untuk membuat model baru, diperlukan lebih banyak perhitungan matematis yang lebih sulit
  • Terlepas dari biayanya, orang-orang terus membangun model baru
    • Orang-orang percaya bahwa LLM adalah masa keemasan teknologi berikutnya, jadi mereka akan terus berinvestasi
    • Sudah menjadi sifat manusia untuk membuat segalanya lebih cepat, lebih tinggi, dan lebih kuat
  • Jika industri terus membuat model baru, nilai model lama akan turun dengan cepat
    • Jika pesaing merilis model baru yang lebih baik, orang bisa beralih hanya dengan mengubah beberapa baris kode
    • Untuk terus menjual LLM yang menarik, perusahaan harus mempertahankan level teratas
  • Bahkan jika industri berhenti terus membuat model baru atau teknologi mencapai titik asimtotik, nilai model lama tetap akan turun dengan cepat
    • Ada beberapa model open source seperti Llama dan Mistral yang, dalam skenario terburuk, hanya tertinggal satu atau dua langkah dari model proprietary terbaik
    • Jika model proprietary berhenti berkembang, model open source akan cepat memperkecil kesenjangan itu
  • Karena itu, bagi OpenAI, Anthropic, atau penyedia AI lainnya, ada dua pilihan
    • Yang pertama adalah menggelontorkan biaya sangat besar untuk tetap memimpin pasar. Namun ini tampak sangat berisiko:
      • Biaya untuk membangun model-model ini kemungkinan akan terus naik, karyawan paling cerdas bisa pergi, dan mungkin Anda tidak ingin mempertaruhkan bisnis pada upaya menjadi perusahaan pertama yang selalu menemukan terobosan berikutnya
      • Keahlian teknis jarang menjadi moat yang bertahan selamanya
    • Yang kedua adalah.. tidak tahu
      • Bekerja lebih keras pada pilihan pertama?

Prediksi tentang situasi saat ini

  • 18 bulan lalu, ada prediksi bahwa penyedia LLM akan menjadi penyedia cloud generasi berikutnya
    • Secara permukaan memang tampak mirip karena sama-sama membutuhkan dana besar untuk membangunnya, tetapi ada perbedaan penting
    • Penyedia cloud tidak bisa dibangun dalam semalam
    • Penyedia LLM bisa menghadapi ancaman terhadap bisnis inti OpenAI dari tim kecil hanya dalam beberapa bulan
  • Apa moat penyedia LLM?
    • Merek, inersia, aplikasi yang lebih baik, suntikan dana besar untuk menjaga model tetap lebih unggul dari pesaing, dan sebagainya
    • Namun perusahaan AI adalah contoh ekstrem dari pasar yang salah mengklasifikasikan biaya pengembangan software sebagai investasi di muka
    • Perusahaan kecil sulit untuk terus menanamkan miliaran dolar seperti perusahaan raksasa

Pentingnya timing

  • Di pasar ini, timing mungkin adalah hal yang paling penting
  • Suatu saat hype akan hilang dan orang-orang tidak lagi bisa menggalang pendanaan untuk putaran seperti ini
  • Dan pemenangnya bukanlah siapa yang berlari paling cepat atau mencapai garis finis, melainkan siapa yang sedang memimpin ketika pasar memutuskan bahwa perlombaan telah selesai

Pendapat GN⁺

  • Muncul pertanyaan apakah model bisnis perusahaan AI benar-benar berkelanjutan
    • Pengembangan model membutuhkan biaya sangat besar, dan prospeknya biaya ini akan terus meningkat
    • Laju kemajuan teknologi sangat cepat sehingga model-model sebelumnya segera menjadi tidak berguna
    • Karena itu, untuk mempertahankan model kelas teratas, perlu terus menginvestasikan dana besar
  • Model AI open source juga berkembang cepat, sehingga kesenjangan dengan model komersial tampaknya akan menyusut
    • Stable Diffusion, Llama, Mistral, dan lainnya adalah contoh utamanya
    • Jika perusahaan berhenti mengembangkan model baru, open source akan segera menyusul
  • Dalam pengembangan teknologi AI, perusahaan IT raksasa memiliki keunggulan tertentu
    • Google, Microsoft, Meta, dan lainnya bisa terus berinvestasi berkat kekuatan modal yang sangat besar
    • Mereka juga bisa memanfaatkan pengenalan merek yang tinggi dan basis pelanggan yang sudah ada
  • Sebaliknya, startup pendatang belakangan tampaknya tidak mudah bertahan hanya dengan kemampuan teknis
    • Bahkan jika menerima investasi besar di tahap awal, kuncinya adalah mengamankan pendanaan secara berkelanjutan
    • Saat gelembung pecah, akan sulit menarik investasi
  • Timing pasar itu penting, dan perusahaan yang berada di depan saat antusiasme mulai mereda kemungkinan besar akan menang

3 komentar

 
aasfdkdk 2024-10-02

Besarnya faktor adalah OpenAI memang sengaja menjalankan bisnis merugi demi memonopoli pasar. Bagaimanapun, setiap kali OpenAI kehabisan uang mereka bisa menarik investasi dan mendapat banyak tawaran dari seluruh dunia, sementara perusahaan-perusahaan lainnya pada akhirnya akan mati.

 
kandk 2024-10-02

Bukankah ini semacam permainan chicken game yang besar?
Pada akhirnya semua akan tumbang dan hanya satu model raksasa yang bertahan lalu memonopoli pasar..

 
GN⁺ 2024-10-01
Opini Hacker News
  • Pendapat pemimpin tim riset AI

    • Agar AI dapat menciptakan nilai ekonomi, AI harus terhubung dengan dunia nyata
    • Saat ini masih kurang ide tentang cara memanfaatkan model seperti GPT-4 semaksimal mungkin
    • AI mengalami kesulitan dalam memahami niat manusia
    • Jika model open-source mencapai tingkat GPT-4, tidak ada alasan khusus untuk menggunakan OpenAI atau Anthropic
  • Kurva-S inovasi teknologi

    • Saat ini kita berada di tengah kurva-S tajam dari inovasi teknologi
    • Bukan hanya teknologi, tetapi juga retensi talenta, hubungan bisnis, pemasaran, dan berbagai elemen lain menjadi kunci keberhasilan
    • Diperlukan eksekusi yang unggul di semua elemen
  • Perubahan definisi AI

    • Ketika teknologi yang dimulai sebagai AI menjadi umum, teknologi itu tidak lagi disebut AI
    • Contoh: pemrograman logika, OCR, pengenalan suara, dan lain-lain
  • Cara memonetisasi AI

    • Untuk konsumen: pencarian dan iklan ala Google
    • Untuk bisnis: menyediakan API ala AWS
    • Perusahaan yang menggunakan OpenAI API terus berkembang dan tidak punya alasan untuk beralih
  • Situasi yang mirip dengan awal ride-sharing

    • Pada tahap awal, banyak modal diinvestasikan ke segelintir perusahaan
    • Perusahaan dengan modal terbesar kemungkinan besar akan menang
    • Di pasar AI juga, perusahaan dengan modal besar akan lebih diuntungkan
  • Faktor diferensiasi model

    • Model dibedakan bukan hanya dari performa, tetapi juga keamanan, UX, multimodalitas, keandalan, dan kemampuan untuk di-embed
  • Masa kekacauan pasar

    • Berbagai layanan menerima pendanaan dan membuat pasar menjadi kacau
    • Konsumen justru mendapatkan lebih banyak manfaat
  • Masalah optimasi model

    • Model bahasa dapat menunjukkan performa hanya dengan beberapa kali pelatihan
    • Daripada menggunakan sumber daya komputasi berskala besar, lebih penting menemukan metode pelatihan yang efisien
  • Kemudahan penggantian produk

    • Model AI sebagai alat umum mudah diganti
    • Semakin cerdas modelnya, semakin tinggi kemungkinan untuk saling dipertukarkan