Long Tail AI

xguru · 2024-11-18T10:21:01+09:00

Sejak peluncuran ChatGPT pada November 2022, startup AI mendapat perhatian besar dari para investor, dan pada kuartal kedua 2024, 49% dari seluruh pendanaan ventura diinvestasikan ke startup AI dan machine learning. Penyedia model seperti OpenAI, serta perusahaan AI-native seperti Perplexity dan Jasper memang mendapat sorotan, tetapi sebenarnya jumlah perusahaan "non-AI" yang terdampak oleh AI lebih banyak. Kami menyebut dampak AI terhadap perusahaan-perusahaan non-AI ini sebagai "long tail AI", dan long tail ini dapat dibagi ke dalam empat kategori berdasarkan cara perusahaan mengintegrasikan AI: Membangun model secara mandiri Memanfaatkan model yang sudah ada seperti GPT-4 dari OpenAI Membangun di atas model open source seperti Llama dari Meta Menggunakan alat AI yang sudah dibuat sebelumnya seperti ChatGPT Membangun model yang independen dan proprietari adalah cara paling intensif sumber daya untuk memanfaatkan AI, dan umumnya cocok bagi perusahaan yang memiliki sumber data unik dalam skala besar serta sumber daya manusia dan finansial yang cukup untuk melatih model baru. Model closed source seperti GPT dari OpenAI atau Claude dari Anthropic dilatih dengan miliaran hingga triliunan parameter, dapat menghasilkan output yang akurat dan terperinci di berbagai bidang mulai dari coding hingga layanan pelanggan, dan mudah diakses melalui API. Model open source seperti Mistral atau Llama dari Meta adalah alat yang kuat; Llama 3.1 dilatih dengan 405 miliar parameter. Berbeda dari model closed source, model open source menawarkan transparansi dan fleksibilitas, dan bobot modelnya dapat disesuaikan agar cocok dengan kebutuhan spesifik pelanggan. Alat AI pihak ketiga seperti ChatGPT adalah yang paling mudah diintegrasikan, karena pelanggan dapat menggunakan alat yang sudah jadi tanpa perlu membangun atau menyesuaikan model secara internal. Strategi AI berbeda-beda di setiap perusahaan, tetapi perusahaan yang sukses menggunakan AI untuk melengkapi bisnis yang sudah ada, meniru contoh sukses di industrinya, dan tetap fleksibel seiring perkembangan teknologi AI. Hukum pangkat hype di AI Distribusi normal vs. hukum pangkat: Distribusi normal adalah distribusi yang umum ditemui dalam kehidupan sehari-hari, seperti IQ, nilai ujian, dan tekanan darah, di mana data terkonsentrasi di sekitar nilai rata-rata. Sebaliknya, banyak fenomena di dunia ditentukan oleh hukum pangkat, ketika sejumlah kecil kasus ekstrem menentukan sebagian besar hasil. Sebagai contoh, lebih dari setengah kenaikan indeks S&P 500 pada 2023 berasal dari hanya 7 saham, yang setara dengan 1,4% saja. Di venture capital juga, sejumlah kecil investasi yang sukses menyumbang sebagian besar keuntungan dana. Contoh: pendiri Union Square Ventures, Fred Wilson, mengatakan bahwa "satu investasi saja bisa menghasilkan seluruh keuntungan dana". Hukum pangkat di bidang AI: Seperti konsentrasi modal pada perusahaan internet saat gelembung Dot Com, pada 2024 bidang AI menunjukkan hype yang serupa. Dalam cohort musim panas 2024 Y Combinator, 75% sedang mengembangkan produk terkait AI. Dari investasi venture capital pada kuartal kedua 2024, 49% terkonsentrasi pada startup AI dan machine learning (dibandingkan 29% pada kuartal kedua 2022). Pada awal 2020, valuasi median perusahaan AI, SaaS, dan fintech tahap awal masing-masing adalah $25M, $27M, dan $28M, tetapi pada 2024 meningkat menjadi $70M, $46M, dan $50M. OpenAI masih merugi, tetapi pada Oktober 2024 berhasil menghimpun modal baru dengan valuasi $157B (valuasi 39 kali terhadap pendapatan). Batasan startup AI-native: Dengan kemunculan generative AI dan LLM, AI menjadi produk inti perusahaan. Namun, sementara perusahaan AI-native memonopoli perhatian investor, perusahaan non-AI juga terdampak oleh kemajuan teknologi AI. Sebagian besar perusahaan pada dasarnya bukan perusahaan AI, tetapi perkembangan AI akan sangat memengaruhi model bisnis mereka. Dari long tail internet ke long tail AI: Setelah gelembung Dot Com, perusahaan non-internet yang beradaptasi mengikuti tren internet meraih kesuksesan besar. Misalnya, Walmart didirikan pada 1962, tetapi pendapatan e-commerce-nya pada 2023 mencapai $73B, tumbuh 5 kali dibandingkan 2017. Saat ini, "long tail AI" mulai muncul, mencakup perusahaan non-AI di berbagai industri seperti fintech, SaaS, healthcare, e-commerce, dan logistik. Dampak AI yang luas: Mulai dari penggunaan alat AI siap pakai hingga integrasi AI ke dalam workflow internal, perusahaan di berbagai industri sedang memanfaatkan atau berupaya memanfaatkan AI. Seperti dampak internet terhadap perusahaan non-internet, AI juga akan memberi dampak luas yang tidak terbatas hanya pada perusahaan yang membangun model AI. Mendefinisikan long tail AI Perusahaan AI menyerap sebagian besar perhatian dan investasi terhadap AI, dan dapat dibagi ke dalam dua kategori: Perusahaan model: perusahaan seperti OpenAI, Anthropic, dan Mistral yang mengembangkan serta menyediakan LLM (large language model) proprietari atau open source kepada pengguna. Perusahaan AI-native: perusahaan seperti Perplexity dan Jasper yang menyediakan produk dan layanan berbasis model AI. Pada kategori pertama, model itu sendiri adalah produknya. Pada kategori kedua, model AI menjadi inti fungsionalitas, dan tanpa model tersebut perusahaan itu sendiri tidak akan ada. Misalnya, CEO Baseten Tuhin Srivastava menjelaskan bahwa "tanpa model, perusahaan AI-native tidak akan ada". Namun, sebagian besar perusahaan, misalnya Bloomberg, Walmart, dan Canva, tidak termasuk dalam dua kategori ini. Mereka masuk ke kategori yang lebih luas yang disebut "long tail AI". Pertanyaan utama dalam long tail Bagaimana perkembangan teknologi AI akan memengaruhi model bisnis yang sudah ada sebelum peluncuran ChatGPT? Bagaimana karyawan di berbagai industri, dari analis di perusahaan konsultansi hingga software engineer di perusahaan teknologi, menggunakan AI saat ini dan akan menggunakannya di masa depan? Bagaimana perusahaan memosisikan diri di pasar AI? Apakah mereka membangun model sendiri, atau menggunakan alat yang dikembangkan pihak luar? Contoh pemanfaatan AI di berbagai perusahaan Contoh: Ramp (platform manajemen pengeluaran) dan Atlassian (perusahaan SaaS asal Australia) menambahkan generative AI di atas data dan workflow yang sudah ada. Klarna (perusahaan fintech asal Swedia) berinvestasi pada AI untuk meningkatkan efisiensi operasional internal, dan chatbot AI-nya menunjukkan hasil yang setara dengan menggantikan 700 pegawai layanan pelanggan full-time. PwC pada Mei 2024 menandatangani kontrak untuk menyediakan fitur ChatGPT Enterprise kepada 100.000 karyawan. Selain itu, dalam survei Kamar Dagang AS pada 2024, 98% usaha kecil dan menengah menjawab bahwa mereka menggunakan alat AI. Perbandingan masa lalu dan masa kini Mirip dengan kasus setelah ledakan internet, ketika perusahaan non-internet meraih kesuksesan besar melalui adopsi e-commerce, "long tail AI" juga akan membuat perusahaan non-AI di berbagai industri terdampak oleh AI. Seperti internet yang berdampak luas pada perusahaan non-internet, AI juga tidak akan terbatas hanya pada perusahaan yang membangun model AI, tetapi akan memengaruhi ekonomi yang lebih luas. Empat lapisan long tail AI Membangun model AI internal secara mandiri: perusahaan yang membangun model AI sendiri dengan memanfaatkan dataset proprietari. Memanfaatkan model closed source: perusahaan yang menggunakan model closed source dari OpenAI, Anthropic, dan lainnya. Memanfaatkan model open source: perusahaan yang menggunakan model dari Llama, Mistral, dan Hugging Face. Mengintegrasikan alat AI siap pakai: perusahaan yang mengintegrasikan alat AI yang sudah dikembangkan ke dalam workflow mereka. Keempat lapisan ini tidak bersifat tetap, dan perusahaan yang menggunakan AI dengan berbagai cara dapat diklasifikasikan ke beberapa lapisan sekaligus. Seiring pesatnya perkembangan teknologi AI, cara perusahaan memanfaatkan AI juga terus berubah. Lapisan 1: Membangun model sendiri Strategi yang paling menguras sumber daya: Strategi paling mahal dalam long tail AI adalah membangun model independen dari nol. Perusahaan yang cocok untuk strategi ini adalah perusahaan yang (1) memiliki modal melimpah dan (2) memiliki dataset bernilai yang bersifat eksklusif. Contoh: Menurut Sam Altman, biaya pelatihan GPT-4 mencapai $100M. Model sendiri memang berbiaya tinggi, tetapi bagi perusahaan yang memiliki dataset eksklusif, model ini dapat (A) memberikan hasil yang lebih rinci dan lebih sesuai dengan kebutuhan perusahaan, (B) memberikan kendali penuh atas model dan bobotnya, dan (C) menawarkan potensi penghematan biaya dibandingkan model closed-source. Bloomberg Bloomberg adalah perusahaan data keuangan dan media yang berbasis di New York, dengan pendapatan tahunan lebih dari $12B. Produk andalannya, Bloomberg Terminal, menyumbang sekitar 2/3 dari total pendapatan. Bloomberg memiliki lebih dari 350 orang dalam tim rekayasa AI dari total lebih dari 8.000 insinyur, dan menerbitkan berbagai makalah riset AI setiap tahun. Pada Maret 2023, Bloomberg mengumumkan BloombergGPT, LLM yang berfokus pada keuangan. Model ini terdiri dari total 50B parameter, dan dilatih dengan menggabungkan 345B dataset publik dan 363B dataset dokumen keuangan yang dikumpulkan selama 40 tahun. Biaya pelatihannya diperkirakan berada di kisaran $2.7M hingga lebih dari $10M. Pada Januari 2024, Bloomberg memperkenalkan fitur ringkasan buatan AI di Terminal yang diduga menggunakan model internal, dan fitur ini dilatih dengan bantuan analis internal. Replit Replit adalah IDE berbasis web yang menyediakan fitur kolaborasi, pelengkapan kode otomatis, dan debugging. Fitur AI Replit disediakan dengan menggabungkan model yang dikembangkan sendiri, fine-tuning model open source, serta model closed-source dari OpenAI dan Anthropic. Pada April dan Oktober 2023, Replit meluncurkan model pelengkapan kode buatannya sendiri dan membukanya di Hugging Face. Pada April 2024, Replit meluncurkan fitur debugging otomatis dengan melakukan fine-tuning pada model open source. Pada September 2024, Replit meluncurkan programmer pasangan otomatis berbasis model 7B parameter miliknya sendiri, tetapi sebagian pengguna menyampaikan ketidakpuasan terhadap fungsi awalnya. Canva Canva adalah platform desain web berbasis di Australia, yang pada Oktober 2024 memiliki valuasi $49B. Pada Oktober 2023, Canva meluncurkan studio desain AI generatif bernama Magic Studio. Studio ini membangun "model eksklusif" dengan menggunakan konten yang dibuat pengguna sebagai data pelatihan. Data pengguna tidak digunakan tanpa izin, dan pengguna yang berpartisipasi diberi kompensasi. Pada Juli 2024, Canva mengakuisisi platform pembuat gambar Leonardo.Ai dan berencana mengintegrasikannya ke Magic Studio. Walmart Walmart telah membangun alat AI yang berhadapan langsung dengan pelanggan sejak 2018, dan pada Juni 2024 beralih ke model internal untuk semua fitur AI generatifnya. Pada Oktober 2024, Walmart mengumumkan Wallaby, LLM yang berfokus pada ritel. Model ini dilatih menggunakan data Walmart untuk menghasilkan respons alami terkait layanan pelanggan. Walmart menggunakan AI untuk meningkatkan chatbot dukungan pelanggan, penataan katalog produk, dan pengalaman belanja augmented reality. Selain itu, Walmart juga menyediakan pengalaman belanja virtual di platform online seperti Roblox. Walmart lebih memilih model internal, tetapi tetap berencana menggunakan model pihak ketiga untuk use case tertentu. Lapisan 2: Menggunakan model closed-source yang sudah ada Alih-alih membangun model sendiri, perusahaan dapat membangun solusi mereka dengan mengakses model AI closed-source seperti milik OpenAI dan Anthropic melalui API. Model closed-source dapat memberikan keluaran yang akurat di berbagai bidang, sehingga berguna untuk tugas umum seperti transkripsi, layanan pelanggan, dan ekstraksi data. Model GPT dari OpenAI dan model Claude dari Anthropic memberikan keluaran dengan kualitas sangat tinggi. Berkat kemudahan akses API, pendekatan ini dianggap sebagai salah satu cara termudah untuk mengadopsi AI dari sisi engineering. Belakangan ini, model kecil seperti GPT-4o mini juga diluncurkan untuk memberikan efisiensi biaya dan performa inferensi yang cepat. Zapier Zapier adalah platform otomasi workflow yang didirikan pada 2011, dan pada Agustus 2023 memiliki valuasi $5B. Zapier memanfaatkan model OpenAI untuk meningkatkan proses otomasi internal, misalnya fitur pembuatan dan peringkasan transkrip rapat serta peringkasan artikel web. Alat Copilot milik Zapier memungkinkan pembuatan workflow menggunakan prompt bahasa alami. Klarna Klarna adalah perusahaan fintech asal Swedia yang menyediakan layanan "Buy Now, Pay Later", dan pada September 2024 mengumumkan akan menggantikan Salesforce dan Workday dengan AI. Melalui asisten AI layanan pelanggan yang memanfaatkan model OpenAI, Klarna menangani 2/3 dari permintaan dukungan pelanggan, setara dengan beban kerja 700 karyawan penuh waktu. Secara internal, Klarna menggunakan asisten AI Kiki untuk membantu karyawan menjawab lebih dari 2.000 pertanyaan setiap hari. Ramp Ramp adalah startup fintech B2B yang didirikan pada 2019 dan menyediakan berbagai produk perangkat lunak keuangan. Ramp menggunakan model GPT-4 dan Claude untuk mengotomatiskan analisis data kontrak, klasifikasi transaksi, penulisan memo kuitansi, dan lainnya. Secara internal, Ramp juga menggunakan AI untuk menyediakan fitur ringkasan panggilan pelanggan serta tanya jawab, yang terintegrasi dengan Slack. Atlassian Atlassian adalah perusahaan dengan valuasi $50B yang menyediakan perangkat lunak kolaborasi tim seperti Jira, Trello, dan Confluence. Pada April 2023, Atlassian mengumumkan fitur AI generatif bernama Atlassian Intelligence. Fitur ini menggunakan kombinasi model OpenAI dan model internal Atlassian. Asisten AI Rovo memperkuat fungsi pencarian Jira, dan melalui agen no-code mengotomatiskan pembuatan konten pemasaran, pengumpulan umpan balik, dan lainnya. Canva Canva menggunakan model eksklusif di Magic Studio, tetapi juga memanfaatkan model closed-source untuk beberapa fitur. Contoh: editor penulisan yang menggunakan model OpenAI menghasilkan konten dengan menyesuaikan tone dari sampel yang diunggah. Canva juga mengoperasikan berbagai marketplace aplikasi AI, termasuk aplikasi DALL-E dari OpenAI dan Imagen dari Google. Lapisan 3: Pengembangan berbasis model open source Alih-alih membangun model secara mandiri atau menggunakan model closed-source seperti GPT-4o dari OpenAI, banyak perusahaan membangun alat mereka sendiri dengan memanfaatkan model open source seperti Llama dari Meta, Mistral, dan Hugging Face. Model open source menawarkan keunggulan berupa kustomisasi yang tinggi, transparansi, privasi data yang lebih kuat, dan penghematan biaya. Menurut laporan Databricks tahun 2024, 76% perusahaan yang menggunakan LLM memilih open source. Model open source tidak memiliki biaya lisensi terpisah dan dapat di-host sendiri, sehingga bisa menghindari biaya cloud skala besar. Bagi pelanggan perusahaan, rendahnya risiko masalah hak cipta dan kebocoran data juga menjadi faktor penting. VMware VMware adalah penyedia perangkat lunak virtualisasi yang diakuisisi Broadcom pada 2023 senilai $69B. VMware bekerja sama dengan Hugging Face untuk mengembangkan asisten coding berbasis open source bernama SafeCoder. Model ini memanfaatkan StarCoder, model dengan 15.5B parameter, yang mengumpulkan data dari proyek open source untuk meminimalkan masalah hak cipta. Pelanggan perusahaan dapat melakukan fine-tuning pada model StarCoder menggunakan kode mereka sendiri, sehingga membantu pekerjaan internal yang membutuhkan pengetahuan domain. Mathpresso Mathpresso adalah perusahaan edtech asal Korea yang melalui aplikasi terkenalnya, QANDA, memungkinkan siswa mengunggah tangkapan layar soal matematika untuk mendapatkan jawaban secara otomatis. Pada 2023, perusahaan ini mengembangkan LLM khusus matematika bernama MathGPT dengan menggunakan model Llama 2 dari Meta. MathGPT menggunakan solusi matematika dari QANDA sebagai data pelatihan, serta menawarkan kustomisasi yang lebih tinggi dan akurasi yang disesuaikan dengan lingkungan pendidikan dibanding model komersial yang ada. MathGPT melampaui Microsoft Tora pada benchmark MATH dan GSM8K, serta menempati peringkat pertama di antara model dengan 13B parameter atau kurang. Brave Brave adalah peramban web yang mengutamakan privasi, dengan fitur seperti pemblokiran iklan dan pemblokiran pelacak. Pada Agustus 2023, Brave meluncurkan asisten AI bernama Leo, menggunakan model open source Llama 2 dari Meta dan Mixtral 8x7B dari Mistral. Brave tidak menyimpan data pengguna dan menggunakan model yang di-host sendiri untuk melindungi privasi pengguna. Model Claude dari Anthropic juga didukung, tetapi pengaturan default-nya menggunakan model open source. Replit Selain model penyelesaian kode kustomnya, pada April 2024 Replit meluncurkan agen AI Code Repair dengan melakukan fine-tuning pada model 7B parameter dari Hugging Face. Pengguna berbayar dapat beralih antara model open source milik Replit dan model closed-source lainnya, sehingga solusi yang diberikan dapat disesuaikan dengan berbagai kebutuhan pelanggan. Lapisan 4: Menggunakan alat AI siap pakai Ini adalah kasus ketika perusahaan tidak membangun model AI sendiri, melainkan membeli dan menggunakan alat AI generatif siap pakai. Keunggulan utama alat eksternal adalah penghematan biaya. Membeli alat tertentu lebih murah daripada melatih atau melakukan fine-tuning pada model. Tiga alasan utama perusahaan memilih alat AI eksternal: Ketika membutuhkan alat untuk riset pengetahuan umum dan brainstorming - Contoh: Menurut penelitian BCG, alat AI generatif meningkatkan produktivitas kerja dan sangat membantu terutama ketika keahlian teknis terbatas. Ketika membutuhkan alat bisnis umum (misalnya chatbot dukungan pelanggan) - Lebih hemat biaya untuk cepat mendapatkan manfaat dengan memakai alat pihak ketiga daripada membangun model sendiri. Ketika alat khusus yang disesuaikan untuk industri tertentu sudah tersedia - Contoh: Kira, alat untuk meninjau kontrak hukum, digunakan oleh banyak firma hukum. Boston Consulting Group (BCG) BCG adalah perusahaan konsultasi global dengan 32K karyawan di seluruh dunia dan pendapatan sebesar $12.3B. Pada 2023, BCG melakukan eksperimen internal menggunakan ChatGPT dari OpenAI, dan menemukan bahwa AI generatif menunjukkan peningkatan kinerja 40% dalam pekerjaan kreatif. Contoh: peningkatan hasil dalam pemecahan masalah kreatif seperti menghasilkan ide produk sepatu baru dan menulis slogan pemasaran. Pada 2024, BCG menerapkan ChatGPT Enterprise untuk seluruh karyawan, mengakui tingginya kegunaan alat AI. Dollar Shave Club Dollar Shave Club adalah pemasok produk cukur yang diakuisisi Unilever seharga $1B, lalu kemudian dijual ke Nexus Capital Management. Perusahaan ini mengotomatiskan dukungan pelanggan dengan menggunakan Answer Bot dari Zendesk alih-alih chatbot buatan sendiri. Answer Bot dilatih dengan data 12M interaksi pelanggan, sehingga dapat menjawab pertanyaan pelanggan sederhana dalam hitungan detik. Alat ini menyelesaikan 4.5K tiket per bulan, yang setara dengan 10% dari total volume tiket perusahaan. Law Firms (firma hukum) Peninjauan kontrak hukum dipenuhi istilah dan klausul yang kompleks. Banyak firma hukum kekurangan sumber daya untuk mengembangkan alat AI internal, sehingga memanfaatkan alat AI eksternal seperti Kira. Contoh: firma hukum besar seperti Skadden, Hogan Lovells, dan Paul, Weiss menggunakan Kira untuk memangkas waktu peninjauan kontrak hingga 60%. Kira dapat dengan cepat menganalisis lebih dari 1K klausul umum dan titik data, sehingga digunakan untuk due diligence M&A, peninjauan perjanjian pinjaman, dan lainnya. Tiga cara perusahaan Long Tail memanfaatkan AI Perusahaan dalam kategori Long Tail menerapkan AI generatif dengan berbagai cara, seperti Bloomberg yang mengembangkan alat khusus untuk profesional keuangan, dan konsultan BCG yang memanfaatkan ChatGPT sebagai alat produktivitas. Model yang menjalankan alat-alat ini juga beragam, mulai dari model pembuat gambar Canva hingga model integrasi GPT milik Ramp. Jika melihat pola perusahaan yang menerapkan AI, terlepas dari cepatnya perkembangan teknologi saat ini, tiga tren utama berikut tampak menonjol. Menggunakan AI sebagai alat pelengkap bisnis yang sudah ada Sebagian besar perusahaan Long Tail sudah menawarkan produk dan layanan yang mapan, dan AI berperan untuk melengkapi dan meningkatkan hal tersebut. Contoh: Replit sudah sukses bahkan sebelum meluncurkan alat AI, dan AI digunakan untuk meningkatkan produk sebagai perpanjangan dari alat pengembang yang sudah ada. Leo AI milik Brave adalah alat AI generatif yang memperluas kebijakan browser yang mengutamakan privasi. Brave telah berupaya melindungi privasi selama 8 tahun, dan Leo adalah alat yang meneruskan prinsip tersebut. Walmart berfokus pada harga murah dan kebijakan pengembalian yang fleksibel, dan AI hanya berperan sebagai pendukung, bukan pengganti strategi intinya. Kesimpulannya, perusahaan mengadopsi AI secara internal untuk meningkatkan efisiensi proses, tetapi pengalaman pengguna inti tetap menjadi prioritas. Meniru strategi AI di industri yang sama Perusahaan cepat mengadopsi strategi AI yang sukses untuk mempertahankan daya saing. Contoh: BCG menggunakan ChatGPT untuk secara signifikan meningkatkan hasil pekerjaan kreatif dan pekerjaan coding. Hasil ini kemungkinan akan menekan perusahaan konsultan lain seperti McKinsey dan Bain untuk mengadopsi alat AI serupa. Brave dan VMware menawarkan produk inti yang berbeda, tetapi keduanya sama-sama menekankan privasi data, sehingga memilih model open source. Jika perusahaan-perusahaan terdepan berhasil mengamankan keunggulan kompetitif yang berkelanjutan melalui adopsi AI, perusahaan lain juga diperkirakan harus mengadopsi strategi AI yang serupa. Mempertahankan strategi AI yang fleksibel Cara memanfaatkan AI tidak bersifat tetap, dan perusahaan dapat menerapkan atau menyesuaikan berbagai strategi. Contoh: OpenAI pada awalnya membangun model yang semakin besar, tetapi pada 2024 merilis model kecil dan efisien seperti GPT-4o mini. Ini memberikan penghematan biaya dan kecepatan inferensi yang lebih tinggi. CTO Ramp menyebut bahwa GPT-4o mini memenuhi 90% kebutuhan, dan menilai bahwa model kecil bisa lebih efisien daripada model besar. CEO Baseten, Tuhin Srivastava, menunjukkan bahwa perusahaan cenderung ingin membangun model mereka sendiri, tetapi hal itu dapat menghabiskan sumber daya dan waktu secara berlebihan. Saran Srivastava: strategi "gunakan dulu alat yang sudah terbukti, lalu secara bertahap gantikan dengan model buatan sendiri" adalah hal yang penting. Perusahaan perlu berada pada posisi yang memungkinkan mereka merespons secara fleksibel saat teknologi AI baru dirilis, agar dapat cepat memanfaatkan teknologi yang telah ditingkatkan. Tujuan akhir perusahaan Long Tail Saat ini perhatian dan antusiasme terhadap AI berfokus pada model dan perusahaan AI-native, tetapi di antara perusahaan non-AI-native, contoh pemanfaatan AI juga semakin menonjol. Perusahaan-perusahaan ini mengadopsi berbagai solusi AI, mulai dari chatbot layanan pelanggan hingga pengalaman belanja augmented reality. Mengingat cepatnya laju inovasi AI, cara termudah untuk memahami bagaimana perusahaan Long Tail menggunakan AI adalah dengan mengelompokkannya ke dalam empat lapisan yang disajikan dalam deep dive ini: model kustom, model closed-source, model open source, dan alat AI pihak ketiga Berbagai contoh yang dibahas dalam deep dive ini menunjukkan bagaimana perusahaan membangun dan mengadopsi alat AI yang berbeda, sehingga membantu pembaca memahami bagaimana sebaiknya mendekati integrasi AI di organisasi mereka sendiri. Keempat lapisan tersebut masing-masing menghadirkan trade-off terkait waktu pembelajaran, biaya, kustomisasi, privasi, dan kualitas, tetapi karena biaya perpindahan antar model rendah, pelanggan memiliki fleksibilitas untuk bereksperimen dengan berbagai solusi. Tujuan akhir perusahaan Long Tail bukanlah menjadi perusahaan AI, melainkan melengkapi dan mempercepat bisnis inti mereka dengan memanfaatkan alat AI.

(research.contrary.com)

12 poin oleh xguru 2024-11-18 | Belum ada komentar. | Bagikan ke WhatsApp

Sejak peluncuran ChatGPT pada November 2022, startup AI mendapat perhatian besar dari para investor, dan pada kuartal kedua 2024, 49% dari seluruh pendanaan ventura diinvestasikan ke startup AI dan machine learning.
Penyedia model seperti OpenAI, serta perusahaan AI-native seperti Perplexity dan Jasper memang mendapat sorotan, tetapi sebenarnya jumlah perusahaan "non-AI" yang terdampak oleh AI lebih banyak.
Kami menyebut dampak AI terhadap perusahaan-perusahaan non-AI ini sebagai "long tail AI", dan long tail ini dapat dibagi ke dalam empat kategori berdasarkan cara perusahaan mengintegrasikan AI:
- Membangun model secara mandiri
- Memanfaatkan model yang sudah ada seperti GPT-4 dari OpenAI
- Membangun di atas model open source seperti Llama dari Meta
- Menggunakan alat AI yang sudah dibuat sebelumnya seperti ChatGPT
Membangun model yang independen dan proprietari adalah cara paling intensif sumber daya untuk memanfaatkan AI, dan umumnya cocok bagi perusahaan yang memiliki sumber data unik dalam skala besar serta sumber daya manusia dan finansial yang cukup untuk melatih model baru.
Model closed source seperti GPT dari OpenAI atau Claude dari Anthropic dilatih dengan miliaran hingga triliunan parameter, dapat menghasilkan output yang akurat dan terperinci di berbagai bidang mulai dari coding hingga layanan pelanggan, dan mudah diakses melalui API.
Model open source seperti Mistral atau Llama dari Meta adalah alat yang kuat; Llama 3.1 dilatih dengan 405 miliar parameter. Berbeda dari model closed source, model open source menawarkan transparansi dan fleksibilitas, dan bobot modelnya dapat disesuaikan agar cocok dengan kebutuhan spesifik pelanggan.
Alat AI pihak ketiga seperti ChatGPT adalah yang paling mudah diintegrasikan, karena pelanggan dapat menggunakan alat yang sudah jadi tanpa perlu membangun atau menyesuaikan model secara internal.
Strategi AI berbeda-beda di setiap perusahaan, tetapi perusahaan yang sukses menggunakan AI untuk melengkapi bisnis yang sudah ada, meniru contoh sukses di industrinya, dan tetap fleksibel seiring perkembangan teknologi AI.

Hukum pangkat hype di AI

Distribusi normal vs. hukum pangkat: Distribusi normal adalah distribusi yang umum ditemui dalam kehidupan sehari-hari, seperti IQ, nilai ujian, dan tekanan darah, di mana data terkonsentrasi di sekitar nilai rata-rata. Sebaliknya, banyak fenomena di dunia ditentukan oleh hukum pangkat, ketika sejumlah kecil kasus ekstrem menentukan sebagian besar hasil.
- Sebagai contoh, lebih dari setengah kenaikan indeks S&P 500 pada 2023 berasal dari hanya 7 saham, yang setara dengan 1,4% saja.
- Di venture capital juga, sejumlah kecil investasi yang sukses menyumbang sebagian besar keuntungan dana. Contoh: pendiri Union Square Ventures, Fred Wilson, mengatakan bahwa "satu investasi saja bisa menghasilkan seluruh keuntungan dana".
Hukum pangkat di bidang AI: Seperti konsentrasi modal pada perusahaan internet saat gelembung Dot Com, pada 2024 bidang AI menunjukkan hype yang serupa.
- Dalam cohort musim panas 2024 Y Combinator, 75% sedang mengembangkan produk terkait AI.
- Dari investasi venture capital pada kuartal kedua 2024, 49% terkonsentrasi pada startup AI dan machine learning (dibandingkan 29% pada kuartal kedua 2022).
- Pada awal 2020, valuasi median perusahaan AI, SaaS, dan fintech tahap awal masing-masing adalah $25M, $27M, dan $28M, tetapi pada 2024 meningkat menjadi $70M, $46M, dan $50M.
- OpenAI masih merugi, tetapi pada Oktober 2024 berhasil menghimpun modal baru dengan valuasi $157B (valuasi 39 kali terhadap pendapatan).
Batasan startup AI-native: Dengan kemunculan generative AI dan LLM, AI menjadi produk inti perusahaan. Namun, sementara perusahaan AI-native memonopoli perhatian investor, perusahaan non-AI juga terdampak oleh kemajuan teknologi AI. Sebagian besar perusahaan pada dasarnya bukan perusahaan AI, tetapi perkembangan AI akan sangat memengaruhi model bisnis mereka.
Dari long tail internet ke long tail AI: Setelah gelembung Dot Com, perusahaan non-internet yang beradaptasi mengikuti tren internet meraih kesuksesan besar. Misalnya, Walmart didirikan pada 1962, tetapi pendapatan e-commerce-nya pada 2023 mencapai $73B, tumbuh 5 kali dibandingkan 2017.
- Saat ini, "long tail AI" mulai muncul, mencakup perusahaan non-AI di berbagai industri seperti fintech, SaaS, healthcare, e-commerce, dan logistik.
Dampak AI yang luas: Mulai dari penggunaan alat AI siap pakai hingga integrasi AI ke dalam workflow internal, perusahaan di berbagai industri sedang memanfaatkan atau berupaya memanfaatkan AI. Seperti dampak internet terhadap perusahaan non-internet, AI juga akan memberi dampak luas yang tidak terbatas hanya pada perusahaan yang membangun model AI.

Mendefinisikan long tail AI

Perusahaan AI menyerap sebagian besar perhatian dan investasi terhadap AI, dan dapat dibagi ke dalam dua kategori:
- Perusahaan model: perusahaan seperti OpenAI, Anthropic, dan Mistral yang mengembangkan serta menyediakan LLM (large language model) proprietari atau open source kepada pengguna.
- Perusahaan AI-native: perusahaan seperti Perplexity dan Jasper yang menyediakan produk dan layanan berbasis model AI.
Pada kategori pertama, model itu sendiri adalah produknya. Pada kategori kedua, model AI menjadi inti fungsionalitas, dan tanpa model tersebut perusahaan itu sendiri tidak akan ada. Misalnya, CEO Baseten Tuhin Srivastava menjelaskan bahwa "tanpa model, perusahaan AI-native tidak akan ada".
Namun, sebagian besar perusahaan, misalnya Bloomberg, Walmart, dan Canva, tidak termasuk dalam dua kategori ini. Mereka masuk ke kategori yang lebih luas yang disebut "long tail AI".
Pertanyaan utama dalam long tail
- Bagaimana perkembangan teknologi AI akan memengaruhi model bisnis yang sudah ada sebelum peluncuran ChatGPT?
- Bagaimana karyawan di berbagai industri, dari analis di perusahaan konsultansi hingga software engineer di perusahaan teknologi, menggunakan AI saat ini dan akan menggunakannya di masa depan?
- Bagaimana perusahaan memosisikan diri di pasar AI? Apakah mereka membangun model sendiri, atau menggunakan alat yang dikembangkan pihak luar?
Contoh pemanfaatan AI di berbagai perusahaan
- Contoh: Ramp (platform manajemen pengeluaran) dan Atlassian (perusahaan SaaS asal Australia) menambahkan generative AI di atas data dan workflow yang sudah ada.
- Klarna (perusahaan fintech asal Swedia) berinvestasi pada AI untuk meningkatkan efisiensi operasional internal, dan chatbot AI-nya menunjukkan hasil yang setara dengan menggantikan 700 pegawai layanan pelanggan full-time.
- PwC pada Mei 2024 menandatangani kontrak untuk menyediakan fitur ChatGPT Enterprise kepada 100.000 karyawan. Selain itu, dalam survei Kamar Dagang AS pada 2024, 98% usaha kecil dan menengah menjawab bahwa mereka menggunakan alat AI.
Perbandingan masa lalu dan masa kini
- Mirip dengan kasus setelah ledakan internet, ketika perusahaan non-internet meraih kesuksesan besar melalui adopsi e-commerce, "long tail AI" juga akan membuat perusahaan non-AI di berbagai industri terdampak oleh AI.
- Seperti internet yang berdampak luas pada perusahaan non-internet, AI juga tidak akan terbatas hanya pada perusahaan yang membangun model AI, tetapi akan memengaruhi ekonomi yang lebih luas.
Empat lapisan long tail AI
- Membangun model AI internal secara mandiri: perusahaan yang membangun model AI sendiri dengan memanfaatkan dataset proprietari.
- Memanfaatkan model closed source: perusahaan yang menggunakan model closed source dari OpenAI, Anthropic, dan lainnya.
- Memanfaatkan model open source: perusahaan yang menggunakan model dari Llama, Mistral, dan Hugging Face.
- Mengintegrasikan alat AI siap pakai: perusahaan yang mengintegrasikan alat AI yang sudah dikembangkan ke dalam workflow mereka.
Keempat lapisan ini tidak bersifat tetap, dan perusahaan yang menggunakan AI dengan berbagai cara dapat diklasifikasikan ke beberapa lapisan sekaligus. Seiring pesatnya perkembangan teknologi AI, cara perusahaan memanfaatkan AI juga terus berubah.

Lapisan 1: Membangun model sendiri

Strategi yang paling menguras sumber daya: Strategi paling mahal dalam long tail AI adalah membangun model independen dari nol. Perusahaan yang cocok untuk strategi ini adalah perusahaan yang (1) memiliki modal melimpah dan (2) memiliki dataset bernilai yang bersifat eksklusif.
- Contoh: Menurut Sam Altman, biaya pelatihan GPT-4 mencapai $100M.
- Model sendiri memang berbiaya tinggi, tetapi bagi perusahaan yang memiliki dataset eksklusif, model ini dapat (A) memberikan hasil yang lebih rinci dan lebih sesuai dengan kebutuhan perusahaan, (B) memberikan kendali penuh atas model dan bobotnya, dan (C) menawarkan potensi penghematan biaya dibandingkan model closed-source.
Bloomberg
- Bloomberg adalah perusahaan data keuangan dan media yang berbasis di New York, dengan pendapatan tahunan lebih dari $12B. Produk andalannya, Bloomberg Terminal, menyumbang sekitar 2/3 dari total pendapatan.
- Bloomberg memiliki lebih dari 350 orang dalam tim rekayasa AI dari total lebih dari 8.000 insinyur, dan menerbitkan berbagai makalah riset AI setiap tahun.
- Pada Maret 2023, Bloomberg mengumumkan BloombergGPT, LLM yang berfokus pada keuangan. Model ini terdiri dari total 50B parameter, dan dilatih dengan menggabungkan 345B dataset publik dan 363B dataset dokumen keuangan yang dikumpulkan selama 40 tahun.
- Biaya pelatihannya diperkirakan berada di kisaran $2.7M hingga lebih dari $10M.
- Pada Januari 2024, Bloomberg memperkenalkan fitur ringkasan buatan AI di Terminal yang diduga menggunakan model internal, dan fitur ini dilatih dengan bantuan analis internal.
Replit
- Replit adalah IDE berbasis web yang menyediakan fitur kolaborasi, pelengkapan kode otomatis, dan debugging.
- Fitur AI Replit disediakan dengan menggabungkan model yang dikembangkan sendiri, fine-tuning model open source, serta model closed-source dari OpenAI dan Anthropic.
  - Pada April dan Oktober 2023, Replit meluncurkan model pelengkapan kode buatannya sendiri dan membukanya di Hugging Face.
  - Pada April 2024, Replit meluncurkan fitur debugging otomatis dengan melakukan fine-tuning pada model open source.
  - Pada September 2024, Replit meluncurkan programmer pasangan otomatis berbasis model 7B parameter miliknya sendiri, tetapi sebagian pengguna menyampaikan ketidakpuasan terhadap fungsi awalnya.
Canva
- Canva adalah platform desain web berbasis di Australia, yang pada Oktober 2024 memiliki valuasi $49B.
- Pada Oktober 2023, Canva meluncurkan studio desain AI generatif bernama Magic Studio. Studio ini membangun "model eksklusif" dengan menggunakan konten yang dibuat pengguna sebagai data pelatihan.
  - Data pengguna tidak digunakan tanpa izin, dan pengguna yang berpartisipasi diberi kompensasi.
- Pada Juli 2024, Canva mengakuisisi platform pembuat gambar Leonardo.Ai dan berencana mengintegrasikannya ke Magic Studio.
Walmart
- Walmart telah membangun alat AI yang berhadapan langsung dengan pelanggan sejak 2018, dan pada Juni 2024 beralih ke model internal untuk semua fitur AI generatifnya.
  - Pada Oktober 2024, Walmart mengumumkan Wallaby, LLM yang berfokus pada ritel. Model ini dilatih menggunakan data Walmart untuk menghasilkan respons alami terkait layanan pelanggan.
- Walmart menggunakan AI untuk meningkatkan chatbot dukungan pelanggan, penataan katalog produk, dan pengalaman belanja augmented reality. Selain itu, Walmart juga menyediakan pengalaman belanja virtual di platform online seperti Roblox.
- Walmart lebih memilih model internal, tetapi tetap berencana menggunakan model pihak ketiga untuk use case tertentu.

Lapisan 2: Menggunakan model closed-source yang sudah ada

Alih-alih membangun model sendiri, perusahaan dapat membangun solusi mereka dengan mengakses model AI closed-source seperti milik OpenAI dan Anthropic melalui API.
Model closed-source dapat memberikan keluaran yang akurat di berbagai bidang, sehingga berguna untuk tugas umum seperti transkripsi, layanan pelanggan, dan ekstraksi data.
- Model GPT dari OpenAI dan model Claude dari Anthropic memberikan keluaran dengan kualitas sangat tinggi.
Berkat kemudahan akses API, pendekatan ini dianggap sebagai salah satu cara termudah untuk mengadopsi AI dari sisi engineering.
Belakangan ini, model kecil seperti GPT-4o mini juga diluncurkan untuk memberikan efisiensi biaya dan performa inferensi yang cepat.
Zapier
- Zapier adalah platform otomasi workflow yang didirikan pada 2011, dan pada Agustus 2023 memiliki valuasi $5B.
- Zapier memanfaatkan model OpenAI untuk meningkatkan proses otomasi internal, misalnya fitur pembuatan dan peringkasan transkrip rapat serta peringkasan artikel web.
- Alat Copilot milik Zapier memungkinkan pembuatan workflow menggunakan prompt bahasa alami.
Klarna
- Klarna adalah perusahaan fintech asal Swedia yang menyediakan layanan "Buy Now, Pay Later", dan pada September 2024 mengumumkan akan menggantikan Salesforce dan Workday dengan AI.
- Melalui asisten AI layanan pelanggan yang memanfaatkan model OpenAI, Klarna menangani 2/3 dari permintaan dukungan pelanggan, setara dengan beban kerja 700 karyawan penuh waktu.
- Secara internal, Klarna menggunakan asisten AI Kiki untuk membantu karyawan menjawab lebih dari 2.000 pertanyaan setiap hari.
Ramp
- Ramp adalah startup fintech B2B yang didirikan pada 2019 dan menyediakan berbagai produk perangkat lunak keuangan.
- Ramp menggunakan model GPT-4 dan Claude untuk mengotomatiskan analisis data kontrak, klasifikasi transaksi, penulisan memo kuitansi, dan lainnya.
- Secara internal, Ramp juga menggunakan AI untuk menyediakan fitur ringkasan panggilan pelanggan serta tanya jawab, yang terintegrasi dengan Slack.
Atlassian
- Atlassian adalah perusahaan dengan valuasi $50B yang menyediakan perangkat lunak kolaborasi tim seperti Jira, Trello, dan Confluence.
- Pada April 2023, Atlassian mengumumkan fitur AI generatif bernama Atlassian Intelligence.
- Fitur ini menggunakan kombinasi model OpenAI dan model internal Atlassian.
- Asisten AI Rovo memperkuat fungsi pencarian Jira, dan melalui agen no-code mengotomatiskan pembuatan konten pemasaran, pengumpulan umpan balik, dan lainnya.
Canva
- Canva menggunakan model eksklusif di Magic Studio, tetapi juga memanfaatkan model closed-source untuk beberapa fitur.
  - Contoh: editor penulisan yang menggunakan model OpenAI menghasilkan konten dengan menyesuaikan tone dari sampel yang diunggah.
- Canva juga mengoperasikan berbagai marketplace aplikasi AI, termasuk aplikasi DALL-E dari OpenAI dan Imagen dari Google.

Lapisan 3: Pengembangan berbasis model open source

Alih-alih membangun model secara mandiri atau menggunakan model closed-source seperti GPT-4o dari OpenAI, banyak perusahaan membangun alat mereka sendiri dengan memanfaatkan model open source seperti Llama dari Meta, Mistral, dan Hugging Face.
Model open source menawarkan keunggulan berupa kustomisasi yang tinggi, transparansi, privasi data yang lebih kuat, dan penghematan biaya.
- Menurut laporan Databricks tahun 2024, 76% perusahaan yang menggunakan LLM memilih open source.
Model open source tidak memiliki biaya lisensi terpisah dan dapat di-host sendiri, sehingga bisa menghindari biaya cloud skala besar.
Bagi pelanggan perusahaan, rendahnya risiko masalah hak cipta dan kebocoran data juga menjadi faktor penting.
VMware
- VMware adalah penyedia perangkat lunak virtualisasi yang diakuisisi Broadcom pada 2023 senilai $69B.
- VMware bekerja sama dengan Hugging Face untuk mengembangkan asisten coding berbasis open source bernama SafeCoder.
- Model ini memanfaatkan StarCoder, model dengan 15.5B parameter, yang mengumpulkan data dari proyek open source untuk meminimalkan masalah hak cipta.
- Pelanggan perusahaan dapat melakukan fine-tuning pada model StarCoder menggunakan kode mereka sendiri, sehingga membantu pekerjaan internal yang membutuhkan pengetahuan domain.
Mathpresso
- Mathpresso adalah perusahaan edtech asal Korea yang melalui aplikasi terkenalnya, QANDA, memungkinkan siswa mengunggah tangkapan layar soal matematika untuk mendapatkan jawaban secara otomatis.
- Pada 2023, perusahaan ini mengembangkan LLM khusus matematika bernama MathGPT dengan menggunakan model Llama 2 dari Meta.
- MathGPT menggunakan solusi matematika dari QANDA sebagai data pelatihan, serta menawarkan kustomisasi yang lebih tinggi dan akurasi yang disesuaikan dengan lingkungan pendidikan dibanding model komersial yang ada.
- MathGPT melampaui Microsoft Tora pada benchmark MATH dan GSM8K, serta menempati peringkat pertama di antara model dengan 13B parameter atau kurang.
Brave
- Brave adalah peramban web yang mengutamakan privasi, dengan fitur seperti pemblokiran iklan dan pemblokiran pelacak.
- Pada Agustus 2023, Brave meluncurkan asisten AI bernama Leo, menggunakan model open source Llama 2 dari Meta dan Mixtral 8x7B dari Mistral.
- Brave tidak menyimpan data pengguna dan menggunakan model yang di-host sendiri untuk melindungi privasi pengguna.
- Model Claude dari Anthropic juga didukung, tetapi pengaturan default-nya menggunakan model open source.
Replit
- Selain model penyelesaian kode kustomnya, pada April 2024 Replit meluncurkan agen AI Code Repair dengan melakukan fine-tuning pada model 7B parameter dari Hugging Face.
- Pengguna berbayar dapat beralih antara model open source milik Replit dan model closed-source lainnya, sehingga solusi yang diberikan dapat disesuaikan dengan berbagai kebutuhan pelanggan.

Lapisan 4: Menggunakan alat AI siap pakai

Ini adalah kasus ketika perusahaan tidak membangun model AI sendiri, melainkan membeli dan menggunakan alat AI generatif siap pakai.
Keunggulan utama alat eksternal adalah penghematan biaya. Membeli alat tertentu lebih murah daripada melatih atau melakukan fine-tuning pada model.
Tiga alasan utama perusahaan memilih alat AI eksternal:
- Ketika membutuhkan alat untuk riset pengetahuan umum dan brainstorming
  - Contoh: Menurut penelitian BCG, alat AI generatif meningkatkan produktivitas kerja dan sangat membantu terutama ketika keahlian teknis terbatas.
- Ketika membutuhkan alat bisnis umum (misalnya chatbot dukungan pelanggan)
  - Lebih hemat biaya untuk cepat mendapatkan manfaat dengan memakai alat pihak ketiga daripada membangun model sendiri.
- Ketika alat khusus yang disesuaikan untuk industri tertentu sudah tersedia
  - Contoh: Kira, alat untuk meninjau kontrak hukum, digunakan oleh banyak firma hukum.
Boston Consulting Group (BCG)
- BCG adalah perusahaan konsultasi global dengan 32K karyawan di seluruh dunia dan pendapatan sebesar $12.3B.
- Pada 2023, BCG melakukan eksperimen internal menggunakan ChatGPT dari OpenAI, dan menemukan bahwa AI generatif menunjukkan peningkatan kinerja 40% dalam pekerjaan kreatif.
- Contoh: peningkatan hasil dalam pemecahan masalah kreatif seperti menghasilkan ide produk sepatu baru dan menulis slogan pemasaran.
- Pada 2024, BCG menerapkan ChatGPT Enterprise untuk seluruh karyawan, mengakui tingginya kegunaan alat AI.
Dollar Shave Club
- Dollar Shave Club adalah pemasok produk cukur yang diakuisisi Unilever seharga $1B, lalu kemudian dijual ke Nexus Capital Management.
- Perusahaan ini mengotomatiskan dukungan pelanggan dengan menggunakan Answer Bot dari Zendesk alih-alih chatbot buatan sendiri.
  - Answer Bot dilatih dengan data 12M interaksi pelanggan, sehingga dapat menjawab pertanyaan pelanggan sederhana dalam hitungan detik.
- Alat ini menyelesaikan 4.5K tiket per bulan, yang setara dengan 10% dari total volume tiket perusahaan.
Law Firms (firma hukum)
- Peninjauan kontrak hukum dipenuhi istilah dan klausul yang kompleks.
- Banyak firma hukum kekurangan sumber daya untuk mengembangkan alat AI internal, sehingga memanfaatkan alat AI eksternal seperti Kira.
  - Contoh: firma hukum besar seperti Skadden, Hogan Lovells, dan Paul, Weiss menggunakan Kira untuk memangkas waktu peninjauan kontrak hingga 60%.
- Kira dapat dengan cepat menganalisis lebih dari 1K klausul umum dan titik data, sehingga digunakan untuk due diligence M&A, peninjauan perjanjian pinjaman, dan lainnya.

Tiga cara perusahaan Long Tail memanfaatkan AI

Perusahaan dalam kategori Long Tail menerapkan AI generatif dengan berbagai cara, seperti Bloomberg yang mengembangkan alat khusus untuk profesional keuangan, dan konsultan BCG yang memanfaatkan ChatGPT sebagai alat produktivitas.
Model yang menjalankan alat-alat ini juga beragam, mulai dari model pembuat gambar Canva hingga model integrasi GPT milik Ramp.
Jika melihat pola perusahaan yang menerapkan AI, terlepas dari cepatnya perkembangan teknologi saat ini, tiga tren utama berikut tampak menonjol.
- Menggunakan AI sebagai alat pelengkap bisnis yang sudah ada
  - Sebagian besar perusahaan Long Tail sudah menawarkan produk dan layanan yang mapan, dan AI berperan untuk melengkapi dan meningkatkan hal tersebut.
    - Contoh: Replit sudah sukses bahkan sebelum meluncurkan alat AI, dan AI digunakan untuk meningkatkan produk sebagai perpanjangan dari alat pengembang yang sudah ada.
    - Leo AI milik Brave adalah alat AI generatif yang memperluas kebijakan browser yang mengutamakan privasi. Brave telah berupaya melindungi privasi selama 8 tahun, dan Leo adalah alat yang meneruskan prinsip tersebut.
    - Walmart berfokus pada harga murah dan kebijakan pengembalian yang fleksibel, dan AI hanya berperan sebagai pendukung, bukan pengganti strategi intinya.
  - Kesimpulannya, perusahaan mengadopsi AI secara internal untuk meningkatkan efisiensi proses, tetapi pengalaman pengguna inti tetap menjadi prioritas.
- Meniru strategi AI di industri yang sama
  - Perusahaan cepat mengadopsi strategi AI yang sukses untuk mempertahankan daya saing.
    - Contoh: BCG menggunakan ChatGPT untuk secara signifikan meningkatkan hasil pekerjaan kreatif dan pekerjaan coding. Hasil ini kemungkinan akan menekan perusahaan konsultan lain seperti McKinsey dan Bain untuk mengadopsi alat AI serupa.
    - Brave dan VMware menawarkan produk inti yang berbeda, tetapi keduanya sama-sama menekankan privasi data, sehingga memilih model open source.
  - Jika perusahaan-perusahaan terdepan berhasil mengamankan keunggulan kompetitif yang berkelanjutan melalui adopsi AI, perusahaan lain juga diperkirakan harus mengadopsi strategi AI yang serupa.
- Mempertahankan strategi AI yang fleksibel
  - Cara memanfaatkan AI tidak bersifat tetap, dan perusahaan dapat menerapkan atau menyesuaikan berbagai strategi.
  - Contoh: OpenAI pada awalnya membangun model yang semakin besar, tetapi pada 2024 merilis model kecil dan efisien seperti GPT-4o mini. Ini memberikan penghematan biaya dan kecepatan inferensi yang lebih tinggi.
  - CTO Ramp menyebut bahwa GPT-4o mini memenuhi 90% kebutuhan, dan menilai bahwa model kecil bisa lebih efisien daripada model besar.
    - CEO Baseten, Tuhin Srivastava, menunjukkan bahwa perusahaan cenderung ingin membangun model mereka sendiri, tetapi hal itu dapat menghabiskan sumber daya dan waktu secara berlebihan.
    - Saran Srivastava: strategi "gunakan dulu alat yang sudah terbukti, lalu secara bertahap gantikan dengan model buatan sendiri" adalah hal yang penting.
    - Perusahaan perlu berada pada posisi yang memungkinkan mereka merespons secara fleksibel saat teknologi AI baru dirilis, agar dapat cepat memanfaatkan teknologi yang telah ditingkatkan.

Tujuan akhir perusahaan Long Tail

Saat ini perhatian dan antusiasme terhadap AI berfokus pada model dan perusahaan AI-native, tetapi di antara perusahaan non-AI-native, contoh pemanfaatan AI juga semakin menonjol.
- Perusahaan-perusahaan ini mengadopsi berbagai solusi AI, mulai dari chatbot layanan pelanggan hingga pengalaman belanja augmented reality.
  - Mengingat cepatnya laju inovasi AI, cara termudah untuk memahami bagaimana perusahaan Long Tail menggunakan AI adalah dengan mengelompokkannya ke dalam empat lapisan yang disajikan dalam deep dive ini:
    - model kustom, model closed-source, model open source, dan alat AI pihak ketiga
Berbagai contoh yang dibahas dalam deep dive ini menunjukkan bagaimana perusahaan membangun dan mengadopsi alat AI yang berbeda, sehingga membantu pembaca memahami bagaimana sebaiknya mendekati integrasi AI di organisasi mereka sendiri.
- Keempat lapisan tersebut masing-masing menghadirkan trade-off terkait waktu pembelajaran, biaya, kustomisasi, privasi, dan kualitas, tetapi karena biaya perpindahan antar model rendah, pelanggan memiliki fleksibilitas untuk bereksperimen dengan berbagai solusi.
Tujuan akhir perusahaan Long Tail bukanlah menjadi perusahaan AI, melainkan melengkapi dan mempercepat bisnis inti mereka dengan memanfaatkan alat AI.