Kontroversi manipulasi demo model AI Gemini milik Google
- Model AI Gemini terbaru dari Google menerima reaksi beragam setelah pertama kali diperkenalkan ke publik
- Terungkap bahwa demo yang paling mengesankan pada dasarnya telah direkayasa, sehingga merusak kepercayaan pengguna
- Video berjudul "Hands-on with Gemini: Interacting with multimodal AI" mencatat 1 juta penayangan dan menampilkan kemampuan model multimodal yang fleksibel serta responsif terhadap berbagai input
Demo yang berbeda dari kenyataan
- Video tersebut tampak seolah dilakukan secara real-time, tetapi sebenarnya menggunakan frame gambar dan prompt teks untuk menguji kemampuan Gemini
- Berbeda dari interaksi nyata, video itu memuat hal-hal yang dapat menimbulkan kesalahpahaman tentang kecepatan respons, akurasi, dan cara berinteraksi dengan model
- Memang ada peringatan berbunyi "Kami mengurangi latensi dan mempersingkat output Gemini.", tetapi tampilannya tetap sangat memikat
Perbedaan dengan kemampuan yang didokumentasikan
- Di video, semuanya tampak seperti evaluasi intuitif tanpa kata, tetapi kemampuan yang didokumentasikan menunjukkan bahwa model tidak menalar berdasarkan gestur satu per satu; semua gestur harus diperlihatkan sekaligus dan diberi petunjuk
- Misalnya, di video model tampak langsung mendeteksi perubahan posisi bola kertas di bawah cangkir, padahal dalam praktiknya aktivitas itu harus dijelaskan terlebih dahulu dan model perlu diarahkan
- Google memang mengatakan bahwa video ini "menunjukkan keluaran nyata dari Gemini", tetapi pernyataan bahwa mereka hanya "mengedit beberapa bagian demo (dan mengungkapkannya secara transparan)" tidak benar. Video ini bukan demo, dan sebenarnya menampilkan interaksi yang sangat berbeda dari apa yang dibuat untuk mempromosikan demo tersebut
Opini GN⁺
- Terungkap bahwa video demo model AI Gemini dari Google dibuat dengan melebih-lebihkan kemampuan model sebenarnya, sehingga memunculkan pertanyaan tentang keandalan teknologi tersebut.
- Ini menjadi contoh yang sekaligus menunjukkan potensi perkembangan AI multimodal dan keterbatasan teknologi saat ini, serta memberi pelajaran penting untuk memahami kondisi nyata teknologi AI.
- Insiden ini menekankan pentingnya transparansi dan kejujuran mengenai seberapa sesuai pengumuman dan demo teknologi AI dengan pengalaman pengguna sebenarnya, sehingga memicu diskusi menarik bagi orang-orang yang bekerja di bidang teknologi.
5 komentar
Bard juga sempat memunculkan ekspektasi tinggi pada awalnya.
Saya jadi teringat Google Glass... waktu itu juga rasanya dunia akan berubah
Semangat!
Memang videonya mengesankan, tetapi menurut saya ini isu yang nyaris tak terhindarkan ketika materi diedit dan disajikan dalam waktu singkat.
Saya juga jadi berpikir Google sedang cukup kesulitan, sekaligus merasa kita baru akan benar-benar tahu saat produk nyatanya keluar.
Bagaimanapun, daripada OpenAI melaju sendirian, persaingan jelas lebih baik, jadi semangat juga buat Google.
Sangat disayangkan.
Saya rasa visi dan nilai justru harus semakin dijaga saat masa-masa sulit.