Ringkasan poin utama
- Model Llama sejauh ini telah mencatat sekitar 350 juta unduhan, meningkat lebih dari 10 kali lipat dibanding periode yang sama tahun lalu. Dalam sebulan terakhir saja, Llama diunduh lebih dari 20 juta kali, menegaskan posisinya sebagai keluarga model open source utama
- Penggunaan volume token Llama di seluruh mitra penyedia layanan cloud utama meningkat lebih dari 2 kali lipat hanya dalam 3 bulan, dari Mei hingga Juli 2024, setelah peluncuran Llama 3.1
- Pada beberapa penyedia layanan cloud besar, penggunaan bulanan Llama (volume token) meningkat 10 kali lipat dari Januari hingga Juli 2024
Pertumbuhan ekosistem setelah peluncuran Llama 3.1
- Bersamaan dengan peluncuran Llama 3.1, panjang konteks diperluas menjadi 128K, dukungan ditambahkan untuk 8 bahasa, dan Llama 3.1 405B diperkenalkan sebagai model AI open source kelas frontier pertama
- Keberhasilan Llama sebagai model open source mendorong inovasi di berbagai skala perusahaan. Dari startup hingga perusahaan besar, berbagai pihak sedang membangun solusi dengan Llama, baik secara on-premises maupun melalui layanan cloud
- Dengan menyediakan model Llama secara terbuka, lahirlah ekosistem AI yang dinamis dan beragam, serta para developer kini memiliki lebih banyak pilihan dan kemampuan dibanding sebelumnya
- Dalam 18 bulan, Llama berkembang dari satu foundation model menjadi sistem referensi lengkap untuk developer. Llama 3.1 menyertakan alat keamanan dan keselamatan yang membantu developer membuat agen kustom dengan lebih mudah
Visi dan komitmen Meta terhadap open source
- Bersamaan dengan peluncuran Llama 3.1, Mark Zuckerberg membagikan surat terbuka tentang keunggulan open source AI, yang semakin menegaskan visi dan komitmennya terhadap pendekatan terbuka
- Open source telah tertanam dalam DNA Meta, dan Llama mewujudkan serta memperkuat komitmen untuk membagikan hasil riset secara bertanggung jawab
- Open source mendorong ekosistem yang lebih kompetitif dan bermanfaat bagi konsumen, perusahaan, termasuk Meta, dan pada akhirnya bagi dunia
Tumbuh menjadi model open source terdepan
- Ekosistem Llama tumbuh sangat cepat. Model Llama telah mencatat sekitar 350 juta unduhan di Hugging Face hingga saat ini, angka yang meningkat lebih dari 10 kali lipat dibanding sekitar setahun lalu
- Pada bulan lalu saja, Llama diunduh lebih dari 20 juta kali di Hugging Face. Ini hanyalah satu bagian dari kisah sukses Llama, karena unduhan juga terjadi melalui layanan para mitra
- Penggunaan Llama yang di-hosting di berbagai mitra penyedia layanan cloud utama (volume token) meningkat lebih dari 2 kali lipat dari Mei hingga Juli 2024 setelah peluncuran Llama 3.1
Perluasan kemitraan dan lonjakan permintaan
- Bersamaan dengan Llama 3.1, jumlah mitra dalam program akses awal meningkat 5 kali lipat, dan upaya tambahan akan dilakukan untuk menjawab lonjakan permintaan dari para mitra
- Banyak perusahaan seperti Wipro, Cerebras, dan Lambda berharap dapat menjadi mitra integrasi LEAP dan Llama di masa depan
Beragam kasus penggunaan Llama
- Accenture: menggunakan Llama 3.1 untuk membangun LLM kustom untuk pelaporan ESG, dengan harapan meningkatkan produktivitas 70% dan kualitas 20-30% dibanding metode sebelumnya
- AT&T: meningkatkan customer care melalui fine-tuning model Llama. Dengan adopsi GenAI, respons pencarian terkait customer care AT&T meningkat sekitar 33%, sekaligus menurunkan biaya dan mempercepat waktu respons
- DoorDash: menggunakan Llama untuk menyederhanakan dan mempercepat pekerjaan harian software engineer
- Goldman Sachs: melalui GS AI Platform, para engineer menggunakan model Llama secara aman dan bertanggung jawab untuk berbagai use case
- Niantic: mengintegrasikan Llama untuk mewujudkan dunia virtual dari game AR Peridot. Pembuatan respons real-time menghadirkan interaksi yang dinamis dan unik
- Nomura: menggunakan Llama di AWS untuk meningkatkan kecepatan inovasi, transparansi, pencegahan bias, dan memperoleh performa yang kuat
- Shopify: terus bereksperimen dengan model open source terbaik seperti Llama berbasis LLaVA. Saat ini menjalankan 40 juta hingga 60 juta inferensi LLaVA per hari untuk mendukung metadata produk dan pekerjaan peningkatan
- Zoom: menggerakkan AI Companion dengan model internal serta LLM tertutup dan open source termasuk Llama. Memberikan ringkasan rapat, smart recording, tindak lanjut, dan lainnya kepada pengguna
Sistem terbuka yang diaktifkan
- Llama memainkan peran terdepan dalam hal keterbukaan, kemampuan modifikasi, dan efisiensi biaya
- Ada komitmen untuk membangun dengan open source agar manfaat AI dapat menjangkau semua orang
- LLM dapat membantu menjawab pertanyaan sulit, meningkatkan produktivitas, dan memicu kreativitas. Seiring ekosistem Llama meluas, kemampuan dan aksesibilitas Meta AI juga ikut berkembang
Pendapat GN⁺
- Pertumbuhan cepat dan adopsi Llama menunjukkan bahwa permintaan terhadap model AI open source semakin tinggi. Perusahaan menginginkan model AI yang hemat biaya namun tetap berkualitas tinggi, dan Llama memenuhi kebutuhan itu
- Namun, saat menggunakan model open source, isu seperti bias, etika, dan keamanan tetap perlu dipertimbangkan. Perusahaan perlu menyiapkan kerangka tata kelola dan menetapkan pedoman penggunaan model
- Di pasar model AI yang sangat kompetitif, pendekatan terbuka Llama membuktikan bahwa dari sisi kualitas, ia tidak tertinggal dibanding model komersial
- Adopsi Llama yang cepat dan popularitasnya yang tinggi kembali menegaskan nilai dan pengaruh open source dalam komunitas AI dan developer. Ini dapat berdampak penting pada arah pengembangan AI ke depan
- Ke depan, model open source seperti Llama dan model berbasis API diperkirakan akan berkembang secara saling melengkapi. Penting bagi perusahaan untuk memilih model yang sesuai dengan kebutuhan mereka dan memiliki kemampuan untuk memanfaatkannya secara efektif
Belum ada komentar.