YouTube memodifikasi video dengan AI dan menambahkan ringkasan yang berpotensi menyesatkan tanpa persetujuan kreator

• Terungkap bahwa YouTube menerapkan teknologi koreksi berbasis AI pada video dari beberapa kanal populer tanpa memberi tahu kreator maupun penonton
• YouTuber musik Rick Beato dan Rhett Shull mempertanyakan hal ini setelah menemukan perubahan halus pada kulit, rambut, lipatan pakaian, dan bagian lain dalam video mereka
• YouTube menjelaskan bahwa ini adalah “eksperimen terbatas hanya pada sebagian video Shorts”, dan menyebut peningkatan kejernihan serta pengurangan noise video dilakukan dengan machine learning tradisional
• Namun para ahli mengkritik penghindaran istilah dan kurangnya transparansi, dengan menegaskan bahwa “machine learning juga merupakan bagian dari AI”, serta mengangkat kekhawatiran tentang rusaknya kepercayaan terhadap konten
• Kasus perubahan konten tanpa persetujuan kreator ini dinilai menyoroti persoalan keaslian dan kepercayaan dalam media digital

---

Eksperimen rahasia YouTube dalam peningkatan video dengan AI

• YouTube diam-diam menerapkan teknologi peningkatan video berbasis AI pada video milik beberapa kreator populer
  • Elemen visual dalam video diubah tanpa pemberitahuan sebelumnya kepada kreator maupun penonton
  • Rick Beato dan Rhett Shull menemukan bahwa tekstur kulit, rambut, lipatan pakaian, dan bentuk telinga dalam video mereka tampak berubah
• Beato mengatakan bahwa “rambut terlihat aneh dan terasa seperti memakai riasan”
• Shull menyatakan bahwa “terlihat seperti dihasilkan AI”, dan menyoroti bahwa kepercayaan dengan penonton bisa dirusak

Konfirmasi eksperimen dan penjelasan YouTube

• YouTube mengakui bahwa mereka sedang menjalankan eksperimen kecil pada sebagian video Shorts
  • Creator Liaison Rene Ritchie menjelaskan melalui X (dulu Twitter) bahwa ini adalah “eksperimen untuk meningkatkan kejernihan dan noise video dengan machine learning tradisional”
  • YouTube mengklaim tingkatnya mirip dengan fitur koreksi otomatis pada smartphone
• Namun, Profesor Samuel Woolley dari University of Pittsburgh mengkritik penjelasan YouTube sebagai ungkapan yang menyesatkan, dengan menyatakan bahwa “machine learning adalah subkonsep dari AI”

Meluasnya prapemrosesan AI dan masalah kepercayaan

• Para ahli menilai kasus ini sebagai bagian dari tren luas AI yang melakukan prapemrosesan konten
  • Samsung pernah memakai fitur yang mempertajam foto bulan dengan AI, dan “Best Take” di Google Pixel menggabungkan berbagai ekspresi wajah untuk menghasilkan satu foto yang sempurna
• Woolley memperingatkan bahwa ini adalah “tindakan memodifikasi dan mendistribusikan konten tanpa persetujuan kreator”, yang menciptakan lapisan manipulasi tak terlihat antara penonton dan media
  • Hal ini memicu kekhawatiran terkait keaslian konten dan transparansi

Reaksi kreator dan para ahli

• Beato menunjukkan sikap positif terhadap upaya YouTube, dengan menyebutnya sebagai “platform yang selalu bereksperimen dengan alat baru”
  • Ia menahan kritik dengan mengatakan bahwa “YouTube mengubah hidup saya”
• Sebaliknya, para pengkritik menilai modifikasi tanpa pemberitahuan sebelumnya menciptakan preseden berbahaya
  • Karena YouTube bukan hanya platform hiburan, tetapi juga wadah utama untuk berita, pendidikan, dan konten informasi, maka akurasi dan keaslian menjadi sangat penting

Arah masa depan media digital

• Kasus ini mengisyaratkan masa depan ketika AI membentuk ulang konten sebelum pengguna sempat menyadarinya
• Ini menunjukkan bahwa bahkan sebelum penonton menekan tombol putar, mereka bisa saja sudah menerima video yang telah diintervensi AI
• Kebutuhan akan pemberitahuan transparan tentang penggunaan AI dan prosedur persetujuan kreator pun semakin menonjol

[GN⁺]

Pendapat Hacker News

• Seorang influencer makeup yang saya ikuti mengatakan bahwa YouTube dan Instagram menerapkan filter otomatis ke wajahnya tanpa persetujuannya
  Pada video makeup bibir, bibir terlihat membesar, dan pada video makeup mata, mata terlihat membesar; tampaknya AI mendeteksi jenis konten lalu otomatis menerapkan filter
  Video terkait bisa dilihat di sini. Cukup mengejutkan bahwa unggahan kreator dimodifikasi tanpa persetujuan
  • Kualitas videonya terlalu rendah, jadi itu terlihat seperti artefak kompresi
    Influencer itu bukan orang teknis sehingga mungkin keliru mengira itu filter AI. Blok-blok gerakan yang tampak melayang di layar adalah gejala khas kompresi tinggi
    Aneh rasanya klaim seperti ini diterima begitu saja di forum teknis. Seluruh videonya kekurangan detail dan jelas menunjukkan jejak kompresi
  • Ini berpotensi berkembang menjadi sengketa hukum besar
    Dalam syarat layanan biasanya ada klausul bahwa platform bisa “melakukan apa pun yang mereka mau”, jadi nanti bisa saja dibenarkan sebagai “pengaturan pengguna”
  • Salah satu komentar di Instagram menjelaskannya dengan baik
    “Saat Meta melakukan terjemahan suara otomatis, AI menambahkan filter agar gerakan bibir cocok dengan audio, dan dalam proses itu kadang seluruh wajah tertutup filter aneh”
    Anggapan bahwa filter diterapkan berbeda menurut jenis konten terdengar seperti spekulasi berlebihan setingkat teori konspirasi
  • Masalahnya, bahkan tidak ada opsi untuk mematikannya. Juga tidak pernah ada pengumuman resmi
  • Ini benar-benar situasi yang absurd
• Filter AI yang diterapkan di sisi server pada YouTube Shorts terlalu parah
  Kulit menjadi terlalu mulus, rambut terlihat seperti lilin, dan muncul lingkaran aneh di sekitar objek yang bergerak
  Awalnya saya kira itu upscaling di sisi klien, tetapi ternyata diproses di server sehingga juga tidak bisa dimatikan
  Jika orang mulai terbiasa dengan kualitas seperti ini, nanti akan makin sulit menyadari ketika konten buatan AI ikut tercampur
  • Saat melihat video yang sama di UI YouTube biasa, tampilannya bisa berbeda. Disarankan menyalin ID unik dari URL lalu menempelkannya ke alamat video biasa
  • Saya belum pernah memikirkan niat seperti itu, tetapi setelah mendengarnya jadi terasa mungkin saja itu strategi yang disengaja
  • Pada akhirnya ini akan sepenuhnya digantikan oleh feed video pendek buatan AI
    Orang-orang hanya akan terus menggulir tanpa henti sambil menonton iklan dan konten yang melemahkan otak
  • Bisa juga filter dipakai untuk menutupi kompresi ekstrem pada Shorts
• Saat memeriksa kehilangan kualitas setelah video di-encode ulang, saya memakai perintah ffmpeg -i source.mkv -i suspect.mkv -filter_complex "blend=all_mode=difference" diff_output.mkv
  Klaim seperti ini banyak, tetapi saya belum pernah melihat orang benar-benar mengunggah video perbandingan (diff). Kalau ada yang melakukannya, pasti menarik
  • Jill Bearup pernah mengunggah video yang membandingkan ini
    Di video YouTube pada 0:31, Shorts dan versi asli ditampilkan berdampingan
    Pada versi kualitas tinggi yang diunggah ke Patreon, perbedaannya jauh lebih jelas
  • Saya juga kadang melakukan pengujian regresi visual dengan cara serupa. Tulisannya ada di sini
  • Terima kasih untuk ide bagus dan one-liner ini
• Sejak pertama kali melihat ringkasan AI YouTube dan mendapati isinya menjelaskan hal yang sepenuhnya terbalik, saya memutuskan untuk mengabaikannya
  • Saya berharap ini bisa mengurangi clickbait
    Belakangan ini saya mengambil tangkapan layar thumbnail lalu bertanya ke ChatGPT, atau memasukkan URL video ke ekstraktor transkrip untuk dianalisis dengan Gemini
    Pembuat clickbait sekarang seolah turun derajat menjadi sekadar “pemberi usulan topik untuk ditanyakan ke ChatGPT”
  • Saya tidak suka nada ringkasan AI itu karena terasa terlalu artifisial. Strukturnya juga selalu sama, dan selalu ditutup dengan sesuatu seperti “bersiaplah untuk perjalanan ini”
• Saya tidak mengerti mengapa YouTube melakukan penerapan filter tanpa izin seperti ini
  Melakukan “peningkatan” seperti ini tanpa memberi tahu kreator bukan langkah yang bijak
  Harus ada lebih banyak orang yang bereksperimen dengan platform yang lebih baik. Terutama demi kreator kecil dan menengah yang menderita akibat klaim hak cipta palsu
  • Pada akhirnya, orang yang mendorong perubahan seperti ini mungkin hanya satu orang ambisius
  • Mungkin ini upaya untuk meningkatkan engagement, atau untuk membenarkan dana investasi AI
    Sebagai alternatif, ada platform seperti PeerTube di Fediverse
  • Platform seharusnya hanya berfungsi sebagai platform
    Meningkatkan engagement adalah tugas kreator; jika platform ikut campur, pada akhirnya pengguna akan pergi
  • Bisa juga ini strategi untuk menormalkan konten AI dengan membuat semua konten terlihat seperti AI
• Saya penasaran apakah ini benar-benar filter AI, atau hanya kehilangan detail akibat algoritma kompresi tinggi
  Contoh terkait ada di artikel ini
  Kompresi lossy dan kuantisasi adaptif bisa membuat kulit tampak lebih halus
  • Dalam praktiknya ini memang kasus penerapan filter. Contohnya bisa dilihat di video Instagram ini
  • Tetapi ada juga yang tetap menganggapnya artefak kompresi. Bisa jadi ini proses di sisi klien yang mencoba memulihkan detail
• Akhir-akhir ini YouTube dipenuhi video tokoh palsu
  Ilmuwan, politikus, ekonom, dan pakar teknologi semuanya dimunculkan kembali sebagai replika AI utuh
  • Di Kanada, iklan deepfake politikus tampil terang-terangan di YouTube. Terlihat seperti YouTube sudah menyerah menyaring iklan
  • Saya juga pernah melihat kasus ketika video dokter sungguhan diambil lalu AI dibuat seolah mempromosikan produk
    Artikel terkait: laporan The Guardian
• YouTube pada dasarnya adalah dataset untuk pelatihan AI
  Saya rasa Google tidak punya alasan untuk menyediakan data yang bersih kepada pihak luar
• Saya sering melihat thumbnail buatan AI di YouTube
  Misalnya, channel ini memakai gambar ringkasan yang tampaknya dibuat dengan Stable Diffusion, bukan frame video asli
  • Itu adalah fitur pembuatan thumbnail AI yang bisa dipilih oleh pengunggah
    Saya pernah melihatnya sekali di channel saya, tetapi sekarang opsinya sudah hilang. Sebagian besar channel yang saya ikuti memakai fitur ini
    Secara pribadi saya tidak menyukainya
• Daripada YouTube yang langsung ikut campur, saya berharap pengguna diberi hak untuk mengedit dengan AI
  Misalnya, akan bagus kalau ada kolom prompt di bawah video untuk hal-hal seperti “ubah bahasa Inggris menjadi Gaelik”, “ganti lelucon bapak-bapak dengan lorem ipsum”, atau “ubah anjing menjadi makhluk luar angkasa”
  • Saya penasaran kapan fitur seperti ini akan memungkinkan
    Akan keren jika bisa dijalankan secara lokal di browser, tetapi pada saat itu mungkin malah sudah dilarang secara hukum