Mata Rantai Penentu yang Hilang dari Produk AI [Artikel Terjemahan]

Mata Rantai Penentu yang Hilang dari Produk AI (Loop)

1. Daya saing sesungguhnya produk AI adalah 'loop umpan balik implisit'

   • Sebagian besar startup AI berjanji akan “menyempurnakan model dengan memanfaatkan data pelanggan”, tetapi ketika ditanya bagaimana cara memperoleh data tersebut, mereka hanya memberi jawaban samar seperti formulir umpan balik atau survei.
   • Perusahaan big tech sejak lama telah mengumpulkan data secara implisit dari perilaku alami pengguna seperti Facebook dan TikTok—unggah foto, scroll, dan sebagainya—untuk menumbuhkan platform mereka.

2. Pentingnya loop umpan balik implisit

   • Berbeda dengan layanan seperti Netflix, di mana rekomendasi yang salah bisa berlalu tanpa banyak reaksi, pada layanan seperti asisten AI, kesalahan langsung terlihat dan bisa meruntuhkan kepercayaan, sehingga loop umpan balik yang jauh lebih presisi menjadi sangat penting.
   • Setiap interaksi harus terhubung dengan pembelajaran berkelanjutan sistem.

3. Kasus Cursor: struktur pembelajaran yang alami

   • Developer cukup melakukan coding seperti biasa, dan Cursor akan belajar secara otomatis.
   • Jika kode yang disarankan AI diterima, pola yang baik akan diperkuat; jika ditolak, cara yang tidak efisien akan tersaring.
   • Tanpa perlu meminta umpan balik tambahan, ia menjadi semakin cerdas dengan mencerminkan konteks tiap repositori.

4. Keterbatasan dan masa depan produk AI

   • Banyak produk AI masih bergantung pada metrik yang dangkal atau umpan balik pasif, sehingga sinyal berharga di dalam log belum dimanfaatkan dengan baik.
   • Ke depannya, sistem yang otomatis menganalisis dan memperbaiki berdasarkan data penggunaan—yakni loop umpan balik otomatis—akan menjadi infrastruktur inti produk AI.

5. Perubahan pada perusahaan terdepan seperti Notion dan Perplexity

   • Notion: mengembangkan fitur AI dengan menganalisis interaksi halus dari pengguna.
   • Perplexity: meningkatkan hasil pencarian dengan menganalisis data jawaban yang benar-benar membantu menyelesaikan masalah.
   • Loop umpan balik bukan sekadar fitur, melainkan infrastruktur inti yang menjadi fondasi layanan.

6. Kesimpulan

   • Untuk mengembangkan model dasar secara langsung seperti OpenAI atau Anthropic, dibutuhkan sumber daya yang sangat besar.
   • Ke depan, perusahaan yang secara otomatis memanfaatkan interaksi pengguna untuk pembelajaran akan memimpin pasar.
   • Perusahaan yang membangun 'sistem tak terlihat yang terus belajar' akan menjadi pemeran utama di era AI berikutnya.