Apa itu model collapse?
- Fenomena degeneratif yang terjadi ketika AI dilatih ulang menggunakan data yang dihasilkan AI
- Risiko struktural yang telah dibuktikan berdasarkan paper Nature
Ciri yang tampak di permukaan
- Performa rata-rata dan skor benchmark tetap terjaga atau bahkan meningkat
- Namun kasus langka (outlier dan edge case) makin lama makin menghilang
- Output makin lama makin konvergen ke arah yang tipikal, aman, dan rata-rata
Mekanisme inti
- Tahap awal → belajar dari data buatan manusia
- Setelah itu → konten buatan AI meledak di web → model baru belajar dari data sintetis
- Setiap generasi memperbesar dan memperkuat blind spot generasi sebelumnya
- Peristiwa/data langka secara bertahap diabaikan → hilang permanen
Gejala spesifik menurut modalitas
- Teks: lancar tetapi kosong dan repetitif, lebih memilih pandangan aman daripada ide baru (misalnya penggunaan em-dash berlebihan)
- Sistem rekomendasi: rasa ingin tahu dan keberagaman hilang → feed menjadi sangat sempit
- Gambar/video: hanya konvergen ke gaya yang familiar, hampir tidak mampu melakukan variasi kreatif (contoh: selalu berada dalam rentang estetika yang mirip)
- Kesamaan utamanya: bukan dioptimalkan untuk “malfungsi”, melainkan untuk “menjadi terlalu mirip”
Pencegahan dan langkah penanganan
- Pelacakan dan pengelolaan provenance
→ pertahankan data buatan manusia dan prioritaskan untuk pelatihan, pisahkan dengan jelas data buatan AI - Pilih kepastian daripada kemudahan
→ hindari bias ke pusat distribusi dari data AI, pertahankan kompleksitas dunia nyata - Hargai range
→ sediakan ruang belajar untuk kasus langka (meski harus mengorbankan sebagian efisiensi) - Definisikan ulang kasus langka bukan sebagai noise, melainkan sebagai aset
Pesan kesimpulan
- Pembelajaran rekursif (AI → AI) bersifat katastrofik dalam jangka panjang
- Klaim “jangan melatih AI dengan data AI” makin memiliki dasar yang kuat
- Ketidakpedulian terhadap asal-usul data pelatihan adalah faktor risiko terbesar
Karena sebagian besar model besar saat ini sudah mengonsumsi data sintetis dalam jumlah yang cukup besar, ke depan pengelolaan provenance dan pelestarian data langka diperkirakan menjadi tugas yang paling penting.
Belum ada komentar.