Semua Video AI Berbahaya (2025)

• Teknologi pembuatan video AI diharapkan dapat menurunkan hambatan berkarya, tetapi hasil nyatanya justru hanya menghasilkan adegan yang dangkal dan klise
• Berbagai model seperti Sora, Runway ML, dan Veo dapat membuat video yang matang secara teknis, tetapi sulit menghasilkan karya yang memuat niat dan narasi
• Video-video ini memiliki estetika ganjil khas ‘video AI’ yang memicu rasa tidak nyaman dan ketidakpercayaan pada penonton
• Terutama di kalangan lansia, video disinformasi dan berita palsu menyebar dengan cepat, sehingga batas antara kenyataan dan fiksi menjadi kabur
• Pada akhirnya, video AI menimbulkan dampak langsung maupun tidak langsung, serta mempercepat runtuhnya kepercayaan terhadap media visual secara keseluruhan

---

Harapan dan kenyataan sebagai alat kreatif

• Saat Sora dari OpenAI dirilis, pengguna berharap mereka bisa memasukkan sketsa dan naskah sendiri untuk membuat film pendek
  • Namun video yang benar-benar dihasilkan, tidak seperti demo, berulang kali menghasilkan hasil yang tidak sesuai dengan adegan yang diinginkan
• Model lain seperti Runway ML dan Veo juga diuji, tetapi semuanya menghasilkan video yang sekilas meyakinkan namun tidak memiliki konsistensi naratif
• Hasil seperti ini bukan sekadar keterbatasan teknis, melainkan memiliki ciri yang cukup kuat untuk dibedakan sebagai kategori estetika tersendiri bernama ‘video AI’

Uncanny valley yang baru

• Video AI memiliki tekstur visual khas yang langsung bisa dikenali, dan memberi kesan samar bahwa ada sesuatu yang ‘salah’
  • Penonton mungkin tidak bisa menjelaskannya dengan jelas, tetapi secara naluriah merasakan ketidakalamian
• Penulis merasakan rasa jijik yang kuat terhadap video seperti ini, dan orang-orang di sekitarnya menunjukkan reaksi yang sama
• Menurut laporan BBC, YouTube memodifikasi video dengan AI tanpa persetujuan kreator, sehingga bahkan video asli pun tampak artifisial
  • Wajah bisa terlihat terlalu halus atau terlalu tajam
  • Akibatnya, batas antara video asli dan video AI menjadi kabur

Kasus penyalahgunaan dan meluasnya dampak

• Konsumen utama video AI adalah pengguna yang bertujuan spam, penipuan, dan agitasi
  • Mereka memakai alat AI untuk memproduksi massal disinformasi dan konten manipulatif
• Terutama lansia menjadi korban utama, karena di ruang obrolan grup keluarga atau kenalan, video ucapan palsu tokoh terkenal atau informasi kesehatan palsu menyebar dengan cepat
  • Contoh: video nasihat Denzel Washington, pernyataan Obama tentang agama, perubahan sikap Trump, dan lain-lain
• Penulis berulang kali menjelaskan tanda-tanda video AI (misalnya watermark Sora) dan cara melakukan cek fakta, tetapi tidak mampu mengejar kecepatan penyebaran informasi
• Di komentar YouTube juga ada banyak pengguna nyata yang berbicara serius dengan tokoh palsu

Runtuhnya kepercayaan

• Teknologi video AI digunakan lebih efektif untuk manipulasi dan eksploitasi daripada untuk membantu kreator
• Kemungkinan pemanfaatan positif seperti pendidikan, aksesibilitas, dan seni sempat dipertimbangkan, tetapi pada kenyataannya semua video AI menghasilkan dampak yang merugikan
  • Dampak langsung: disinformasi, penyamaran tokoh, manipulasi kelompok rentan
  • Dampak tidak langsung: hilangnya kepercayaan terhadap media visual secara keseluruhan
• Penulis sampai pada kesimpulan bahwa bahkan video AI yang tampak tidak berbahaya pun mempercepat runtuhnya kepercayaan

Kesimpulan: dari hambatan kreatif ke hambatan kepercayaan

• Video AI kini menempati posisi sebagai teknologi yang sangat efektif untuk tujuan jahat
• Hambatan teknis yang ingin diatasi para kreator masih tetap ada,
  dan kini muncul masalah yang lebih besar, yaitu ‘hambatan kepercayaan’
• Runtuhnya kepercayaan ini akan menjadi masalah yang jauh lebih sulit dipulihkan

[GN⁺]

Komentar Hacker News

• 99% dari segala sesuatu di dunia itu biasa saja, dan video AI juga bukan pengecualian
  Meski begitu, video dari kanal YouTube seperti NeuralViz cukup mengesankan. Misalnya, video musik ADHD milik Igorrr sangat cocok dengan musiknya
  Kesamaan dari video AI yang ‘bagus’ ini adalah AI tidak menggantikan 99% prosesnya. Tetap ada campur tangan manusia seperti editing, akting, dan penulisan naskah, dan keanehan khas AI tidak disembunyikan, melainkan justru dimanfaatkan

  • Saya penggemar PosyMusic. Kanal ini membuat video, suara, dan musiknya sendiri, dan hanya menggunakan AI sebagai alat
    Misalnya, membuat sample sound dengan generator audio AI, atau membuat sendiri set ikon yang menandai apakah AI digunakan lalu membagikannya di GitHub. Namun, karena menyebut AI, ia dibanjiri komentar jahat dan akhirnya menurunkan videonya
  • Belakangan ini banyak kanal video pendek berlatar dunia fiksi ilmiah seperti itu, tetapi walaupun awalnya kreatif, cepat sekali menjadi repetitif
    Sora terasa seperti membuat hal yang sulit menjadi mudah, dan hal yang mudah menjadi sulit. Rasanya kreator seperti ini tidak akan lama diingat
  • Rasanya seperti mendapat rekomendasi terbaik. NeuralViz benar-benar kanal yang luar biasa, terima kasih
  • Bahkan 1% karya AI video yang ‘bagus’ pun menurut saya tidak sepadan jika mempertimbangkan efek samping seperti berita palsu atau penghinaan terhadap orang yang sudah meninggal. Secara keseluruhan, dampak bersihnya bagi masyarakat sangat negatif
  • Saya tidak bisa menahan tawa saat menonton video ini
    Meski begitu, saya berharap biaya membuat video seperti ini jadi lebih mahal. Sepertinya ini bukan pekerjaan yang selesai hanya dengan beberapa prompt sederhana

• Belakangan ini video hasil generasi AI semakin sering muncul di iklan. Mungkin karena penghematan biaya, tetapi akibatnya iklan yang dulu cuma menjengkelkan sekarang menjadi tidak nyaman dan canggung untuk ditonton
  Saat membahas bahaya AI, orang hanya bicara soal superintelligence, padahal masalah nyatanya adalah percepatan persaingan konten berkualitas rendah

  • Saya melihat iklan perusahaan tirai lokal yang jelas dibuat dengan AI. Manusia palsunya memang masalah, tetapi saya juga tidak bisa percaya apakah tirai di videonya sama dengan produk aslinya
  • Saya juga bukan pembenci AI, tetapi 95% iklan online kualitasnya memang sangat rendah. Terutama pada iklan buku sejarah, banyak ilustrasi ngawur buatan AI
    Proyek seperti The Codex Book juga terasa tidak meyakinkan karena tampak menjual gambar AI seolah-olah buatan tangan
  • Saya sengaja menonton sampai selesai iklan yang diberi tulisan “gambar ini dihasilkan oleh AI”. Isinya berbagai hewan mengendarai mobil, dan rasa uncanny valley-nya sangat kuat sampai saya hampir merasa mual sepanjang menontonnya
  • Sepertinya orang yang bisa membedakan video palsu seperti ini akan makin sedikit. Terutama jika generasi muda terbiasa dengan hasil AI, ada kekhawatiran batas antara yang nyata dan yang palsu akan makin kabur
  • Riset keselamatan AI sering dibingkai seolah-olah seperti mencegah Skynet, padahal efeknya justru mengalihkan perhatian dari masalah yang realistis dan sedang terjadi

• Banyak orang mengklaim AI video memberi ‘kebebasan kreatif’, tetapi kenyataannya sebagian besar keputusan kreatif justru dibuat oleh AI
  Tone, cut, warna, dan sebagainya pada akhirnya adalah hasil belajar dari karya orang lain. Dengan kata lain, AI video adalah proses menghilangkan kreativitas

  • Ada yang bilang “menggunakan AI itu seperti memakai aimbot dalam musik”, dan itu analogi yang sangat tepat. Keduanya adalah bentuk cheat karena melewati inti dari proses kreatif
  • Namun, di komunitas kecil masih ada orang-orang yang secara kreatif membuat video parodi atau meme. AI hanya meningkatkan level pekerjaan semacam ini, bukan menghapus kreativitasnya
    Dulu musik sampling juga dicela, tetapi sekarang artis seperti Fatboy Slim diakui; teknologi hanyalah sarana ekspresi baru
  • Saya juga menganggap sebagian besar video AI buruk, tetapi video “Star Wars: Beggar’s Canyon” adalah pengecualian. Sintesis suara, komposisi cut, dan sequence-nya semuanya sangat bagus, dan terasa dibuat dengan ketulusan
  • Jika yang kamu katakan benar, maka orang yang benar-benar kreatif tetap akan menonjol. Dunia ini sudah kelebihan kreativitas, dan justru kekurangan orang yang mau melakukan pekerjaan membosankan
  • Di ranah model difusi terbuka seperti Stable Diffusion atau Wan, justru muncul bentuk seni baru. Workflow yang rumit seperti LoRA dan fine-tuning itu sendiri merupakan tindakan kreatif

• Saya punya ide film, dan berkat AI saya jadi bisa memvisualisasikan gambar di kepala saya secara langsung
  Klaim “AI video itu berbahaya” pada akhirnya akan terdengar ketinggalan zaman seperti dulu orang berkata “semua video itu berbahaya”

  • Pengalamanmu menarik, tetapi AI tidak tiba-tiba menjadikanmu sutradara film. Menulis prompt pada akhirnya juga sejenis menulis. Kamu perlu bertanya pada diri sendiri apakah hasilnya benar-benar visimu
  • Saya juga tidak setuju dengan pandangan sepesimistis itu. Orang tampaknya hanya bersikap negatif karena kecemasan soal pekerjaan atau rasa penolakan. Dampak sosial teknologi ini baru akan jelas seiring waktu
  • Namun, AI punya keterbatasan besar untuk mewujudkan gambar di kepalamu persis seperti itu. Pada akhirnya, ia hanya remix dari hal-hal yang sudah ada
  • Ini pendekatan yang mirip dengan produser musik yang tidak mensintesis suara yang diinginkan secara langsung, melainkan memutar preset acak sampai menemukan yang cocok
  • Ceritanya menarik, tetapi saya penasaran bagaimana pendapatmu tentang masalah penipuan yang disebut dalam artikelnya

• Saya setuju dengan kekhawatiran penulis bahwa “AI video membuat orang memanipulasi, menipu, dan mengeksploitasi”, tetapi klaim dikotomis seperti “semua video AI itu berbahaya” justru melemahkan pesannya

• Tentu ada banyak video yang berbahaya, tetapi pada saat yang sama juga ada seni yang menyentuh
  Kanal seperti kellyeld2323 dan alffx123 adalah contohnya

  • Namun, nilai artistiknya tidak cukup besar untuk menutupi efek sampingnya

• Bahkan sebelum AI muncul, sebagian besar video internet sudah berupa propaganda, pemicu kemarahan, dan manipulasi konsumsi. Dengan standar yang sama, video lama pun sudah cukup berbahaya

• Penulis tepat dalam menunjuk masalahnya, tetapi akar teknisnya adalah ketidakmampuan untuk dikendalikan
  Model seperti Sora, Veo, dan Runway saat ini adalah generator probabilistik, sehingga tidak bisa membuat adegan spesifik yang diinginkan sutradara
  Bagi spammer, cukup ada ‘wajah yang berbicara’ atau ‘kota yang terbakar’, tetapi seniman membutuhkan sudut, pencahayaan, dan konsistensi karakter yang presisi
  Sampai teknologi kontrol ruang laten seperti ini berkembang lebih jauh (misalnya versi video dari ControlNet), AI video akan tetap lebih mirip generator noise digital daripada alat seni

• Saya setuju bahwa “AI tidak akan menjadikan seseorang sutradara film”, tetapi secara realistis masalahnya adalah bahkan orang berbakat pun sering tidak mendapat kesempatan
  Banyak kreator tidak bisa memperlihatkan karyanya ke dunia karena pendanaan, jaringan, dan struktur industri. AI bisa menjadi peluang ekspresi baru bagi orang-orang seperti itu