Telaah tentang uncanny valley yang tidak nyaman pada AI generatif

• AI generatif, tidak seperti teknologi lain, memiliki kekuatan untuk menghadirkan rasa takjub
  • Kadang ini hal yang baik, tetapi kadang juga tidak
  • Di pusat pengalaman teknologi ini ada pertanyaan-pertanyaan tentang ekspektasi
    • "Apakah ini benar-benar yang saya harapkan? Apakah hasil keluarannya cukup bagus? Atau ini sedang menipu saya?"
• Secara teoretis, seiring AI generatif berkembang, masalah ini seharusnya menjadi kurang penting, tetapi di dunia nyata justru bisa menjadi lebih 'manusiawi' sekaligus terasa ganjil dan tidak nyaman
  • Ini membuat kita jatuh ke situasi yang sejak lama dalam robotika digambarkan sebagai "uncanny valley"
• Kita mungkin ingin mengabaikannya dengan alasan bahwa ini bisa diperbaiki lewat dataset yang lebih besar atau pelatihan yang lebih baik, tetapi selama kita membicarakan kebingungan dalam mental model kita terhadap teknologi, ini adalah "masalah yang harus diakui dan diselesaikan"

Mental model dan antipola

• Mental model adalah konsep penting dalam UX dan desain produk, tetapi ini juga perlu diadopsi lebih aktif oleh komunitas AI
  • Dalam kehidupan sehari-hari, hal ini sering tidak terlalu terlihat: membuat asumsi tentang sistem AI sudah menjadi pola yang lumrah
• Dengan makin populernya asisten coding AI, dua praktik yang perlu dihindari adalah "sikap terlalu santai terhadap kode yang dihasilkan AI" dan "menggantikan pair programming dengan AI generatif"
  • Keduanya berakar pada mental model yang keliru tentang "bagaimana teknologi ini sebenarnya bekerja" dan "ketidakmauan mengakui keterbatasannya"
  • Semakin meyakinkan dan 'manusiawi' alat-alat ini, semakin sulit pula mengakui bagaimana teknologi ini benar-benar bekerja dan batas dari 'solusi' yang diberikannya
• Risiko serupa, atau bahkan lebih menonjol, juga bisa muncul bagi orang-orang yang menerapkan AI generatif ke dunia nyata
  • Biasanya tujuannya adalah membuat sesuatu yang meyakinkan dan dapat digunakan, tetapi jika itu menyesatkan, menipu, atau membuat pengguna tidak nyaman, nilainya akan hilang
  • Tidak mengherankan jika muncul regulasi seperti EU AI Act yang mewajibkan pembuat deepfake memberi label bahwa kontennya dihasilkan AI
• Masalah serupa ada bukan hanya pada AI dan robotika, tetapi juga saat membangun aplikasi mobile lintas platform
  • Platform yang berbeda digunakan dengan cara yang berbeda, sehingga desain keseluruhan pengalamannya juga harus berubah
  • Demikian pula pada AI generatif, konteks dan use case yang berbeda membawa asumsi dan mental model yang berbeda, serta titik jatuh ke uncanny valley yang berbeda pula
  • Perbedaan-perbedaan halus ini mengubah pengalaman dan persepsi terhadap output LLM
• Bagi peneliti obat yang membutuhkan data sintetis dalam jumlah besar, akurasi tingkat mikro mungkin tidak terlalu penting, tetapi bagi pengacara yang mencoba memahami dokumen hukum, akurasi sangatlah penting
  • Jatuh ke uncanny valley bisa menjadi sinyal untuk mengambil jarak sejenak dan mengevaluasi ulang ekspektasi

"Mental model dan konsep yang ada tentang AI generatif bukanlah masalah sekunder yang bisa diabaikan, melainkan masalah desain yang mendasar"
Ken Mugrage & Srinivasan Raguraman

Pergeseran sudut pandang

• Uncanny valley pada AI generatif bisa menjadi masalah, tetapi juga merupakan alat yang mengingatkan kita pada keterbatasan teknologi ini
• Ada berbagai upaya menarik di seluruh industri untuk mengatasinya
  • Profesor Ethan Mollick dari University of Pennsylvania berpendapat bahwa AI sebaiknya dipahami bukan sebagai software yang bagus, melainkan sebagai "orang yang lumayan bagus"
    • Karena AI, seperti manusia, memiliki kekuatan dan kelemahan yang aneh dan khas, sulit mengetahui pekerjaan seperti apa yang bisa diserahkan kepadanya
    • Karena tidak ada manual, satu-satunya cara mengetahui apa yang dikuasai AI adalah dengan bekerja bersamanya sambil belajar
  • Artinya, ekspektasi tentang apa yang bisa dilakukan AI generatif dan di mana ia efektif harus bersifat sementara dan fleksibel
  • Dengan merefleksikan asumsi dan ekspektasi sampai tingkat tertentu, kita mungkin bisa mengatasi uncanny valley

Membuka black box

• Sekadar menuntut perubahan pola pikir saja tidak cukup
  • Itu memang langkah awal, tetapi kita juga membutuhkan praktik dan alat yang membantu kita memikirkan AI generatif secara berbeda dan mengatasi tantangan yang diajukan oleh mental model
• Salah satu contohnya adalah teknik "Mendapatkan output terstruktur dari LLM" yang dibahas dalam Technology Radar terbaru
  • Ini bisa dilakukan dengan menginstruksikan model saat prompting agar merespons dalam format tertentu, atau melalui fine-tuning
  • Berkat alat seperti Instructor, hal ini kini menjadi lebih mudah daripada sebelumnya
  • Keuntungannya adalah memberikan penyelarasan yang lebih besar antara ekspektasi dan output LLM
    • Kemungkinan tetap ada bahwa hasilnya tak terduga atau tidak sepenuhnya cocok, tetapi teknik ini membantu mengatasi masalah tersebut sampai batas tertentu
• Selain itu masih ada teknik-teknik lain
  • Retrieval-augmented generation pada umumnya adalah cara yang lebih baik untuk mengendalikan tugas pengelolaan 'context window' yang sering merepotkan
  • Menyenangkan melihat adanya framework dan alat untuk mengevaluasi serta mengukur keberhasilan teknik-teknik ini
    • Ragas adalah library berguna yang memberi developer AI metrik untuk hal-hal seperti fidelity dan relevance
    • DeepEval juga diperkenalkan di Radar
• Pengukuran itu penting, tetapi memikirkan panduan dan kebijakan yang relevan untuk LLM juga sama pentingnya
  • Karena itu, disarankan untuk mengeksplorasi LLM Guardrails
  • Kita juga perlu mengambil langkah untuk lebih memahami apa yang sebenarnya terjadi di dalam model-model ini
    • Mungkin mustahil untuk sepenuhnya membuka black box ini, tetapi berkat alat seperti Langfuse, tim dan organisasi bisa memperoleh pandangan yang lebih jelas tentang cara kerjanya
    • Ini bisa sangat membantu dalam membangun ulang hubungan kita dengan teknologi ini, mengubah mental model, dan menghilangkan kemungkinan jatuh ke uncanny valley

Bukan cacat, melainkan peluang

• Alat-alat ini, yang digambarkan sebagai "ledakan Kambrium alat AI generatif", dapat membantu orang-orang di inti industri untuk memikirkan ulang AI generatif dan membangun produk yang lebih baik
• Namun, bagi dunia yang lebih luas, pekerjaan ini tidak akan terlihat
  • Karena itu, selain mengembangkan toolchain untuk mencari cara mengendalikan dan memahami AI generatif dengan lebih baik, penting juga untuk mengakui bahwa mental model yang ada dan konsep AI generatif itu sendiri adalah masalah desain yang mendasar
  • Ini bukan masalah sekunder yang bisa diabaikan seiring kita melangkah ke depan

"Uncanny valley pada AI generatif bukanlah masalah yang harus diperbaiki, melainkan peluang untuk mengevaluasi kembali apa yang benar-benar kita inginkan dan harapkan dari teknologi ini"