Pendekatan yang Keliru dalam Pengembangan Produk AI
- Sebagian besar produk AI dibangun sebagai pembungkus untuk model lain, misalnya dengan memanggil API ChatGPT.
- Pendekatan ini mudah diimplementasikan dan bisa menghadirkan fitur yang keren, tetapi punya masalah karena tidak terdiferensiasi, mahal, dan lambat.
- Ketika proposisi nilai unik dari sebuah produk AI itu penting, bergantung pada teknologi yang mudah ditiru berarti berada pada posisi yang berisiko.
Masalah Biaya Tinggi dan Kecepatan Lambat pada LLM
- Large Language Models (LLM) menawarkan fleksibilitas, tetapi karena ukuran dan kompleksitasnya, biaya operasionalnya sangat tinggi.
- Sebagai contoh, GitHub Copilot menelan biaya rata-rata $20 per pengguna tetapi hanya menagih $10, sehingga merugi.
- Karena kecepatannya lambat, LLM dapat menimbulkan masalah besar pada aplikasi yang membutuhkan respons real-time.
Keterbatasan LLM dan Masalah Kustomisasi
- LLM mendukung fine-tuning, tetapi tetap memiliki keterbatasan dalam menyediakan solusi untuk masalah tertentu.
- Saat mengembangkan Visual Copilot milik Builder.io, mereka mencoba menggunakan LLM untuk mengubah desain Figma menjadi kode, tetapi hasilnya lambat, mahal, dan berkualitas rendah.
Solusi: Membangun Toolchain Sendiri
- Builder.io menyelesaikan masalah ini dengan membangun toolchain mereka sendiri.
- Mereka menggabungkan LLM yang telah di-fine-tune, compiler kustom, dan model pelatihan yang disesuaikan.
- Metode ini memungkinkan pembuatan produk yang lebih cepat, lebih andal, lebih murah, dan lebih terdiferensiasi.
Kesalahpahaman Umum tentang Pengembangan Produk AI
- Banyak orang salah paham bahwa semua teknologi inti dalam produk AI ditangani oleh satu super model.
- Ambil contoh kendaraan otonom: orang membayangkan satu AI raksasa memproses semua input dan mengambil keputusan, padahal kenyataannya itu adalah gabungan dari banyak model khusus dan kode umum.
Cara Memulai Membangun AI di Dunia Nyata
- Ada baiknya mengeksplorasi pendekatan yang digunakan pada Visual Copilot untuk solusi AI.
- Jelajahi ruang masalah dengan praktik pemrograman umum, lalu tentukan area yang memang membutuhkan model khusus.
- Jika coding standar tidak mampu menyelesaikan masalah tertentu dengan baik, hasilkan data dengan model AI yang sudah mapan lalu latih model Anda sendiri.
Opini GN⁺
- Hal terpenting adalah menghindari cara yang dipakai orang lain saat mengembangkan produk AI, lalu membangun toolchain sendiri untuk menghadirkan nilai yang berbeda.
- Tulisan ini menarik dan memikat karena menunjukkan penggunaan teknologi AI yang inovatif serta bagaimana para pengembang dapat memanfaatkan AI untuk menciptakan produk yang orisinal.
Belum ada komentar.