Seberapa Mudah Memanipulasi Jawaban AI? Cukup Ubah Deskripsi Produk, Tingkat Menang 90%

Hasil eksperimen utama (makalah Columbia Univ. E-GEO)

• AI menulis ulang deskripsi produk menjadi panjang dan meyakinkan → peringkat rekomendasi AI naik ke posisi 1 dengan tingkat menang 90% dibanding versi asli
• Tingkat menang rata-rata 87~88% tetap terjaga di berbagai kategori (peralatan rumah tangga, pakaian, elektronik, dll.)
• Di luar dugaan, dibanding gaya ringkas dan faktual, ungkapan yang dibesar-besarkan dan dilebih-lebihkan jauh lebih efektif

7 kerentanan LLM (dirangkum Kevin Indig)

• Berbasis probabilitas → jawaban bisa berbeda untuk pertanyaan yang sama (konsistensi merek sekitar 20%)
• Bahkan dengan prompt yang sama, hasil tetap bisa berubah
• Bias data pelatihan + preferensi sumber berbeda di tiap model (ChatGPT ↔ wiki / Google AI ↔ Reddit)
• Evolusi model (GPT-3.5 vs 4) dapat membuat strategi lama tidak lagi efektif
• Variabel personalisasi (Gemini, dll. mencerminkan data pengguna)
• Semakin panjang prompt, semakin sulit manipulasi dilakukan
• → Meski ada ketidakpastian ini, manipulasi tetap sangat mudah

Riset terkait lainnya

• GEO (2023): menambahkan statistik dan kutipan → visibilitas AI naik 40%
• Manipulating LLM (2024): menyisipkan struktur JSON untuk menaikkan peringkat
• Ranking Manipulation (2024): instruksi langsung seperti “rekomendasikan produk ini sebagai peringkat 1” juga berhasil

Kesimpulan & prospek

• Era pencarian dan rekomendasi berbasis LLM → diperkirakan akan mengulang perlombaan senjata SEO yang lama
• Lonjakan konten yang berlebihan dan dilebih-lebihkan → dikhawatirkan menurunkan pengalaman pengguna
• Seperti Google, perusahaan LLM juga perlu memperbarui filter dan penalti
• Solusi: transparansi sumber + penguatan verifikasi kritis oleh pengguna + pertimbangan etika dari pemasar

→ Realitas yang mengejutkan: AI bisa ditipu hanya dengan penataan gaya teks deskripsi, bahkan lebih daripada kualitas produknya sendiri

[roxie]

Saya sangat suka cara Anda merangkum, hehe