YouTube Mewajibkan Pelabelan untuk Video Realistis yang Dibuat dengan AI

• YouTube memperkenalkan alat baru yang mewajibkan kreator mengungkapkan kepada penonton jika konten dibuat dengan kecerdasan buatan (AI) dan dapat disalahartikan sebagai sesuatu yang nyata
• Alat ini akan ditambahkan ke Creator Studio, dan kreator harus memberi tahu penonton jika konten yang mudah disalahartikan sebagai orang, tempat, atau peristiwa nyata telah diubah atau dibuat secara artifisial
• Pengungkapan ini akan ditampilkan dalam bentuk label saat deskripsi video diperluas atau di bagian depan pemutar video

Contoh konten yang wajib diungkapkan

• Menggunakan rupa orang sungguhan: konten yang dimanipulasi secara digital seperti mengganti wajah dengan wajah orang lain atau menarasikan video dengan suara buatan
• Mengubah video peristiwa atau tempat nyata: misalnya membuat bangunan sungguhan tampak terbakar atau mengubah pemandangan kota nyata sehingga terlihat berbeda dari kenyataan
• Membuat adegan realistis: misalnya menggambarkan secara realistis peristiwa besar fiktif seperti tornado yang bergerak menuju desa nyata

Contoh konten yang tidak memerlukan pengungkapan

• Konten yang jelas-jelas tidak realistis, penyesuaian warna atau filter pencahayaan, efek khusus, serta peningkatan visual seperti filter kecantikan
• AI yang digunakan untuk produktivitas dalam proses kreatif, misalnya pembuatan skrip, pemberian ide konten, atau pembuatan subtitle otomatis, tidak termasuk dalam kewajiban pengungkapan

Cara label ditampilkan

• Untuk sebagian besar video, label akan muncul saat deskripsi diperluas, tetapi untuk video yang membahas topik sensitif seperti kesehatan, berita, pemilu, dan keuangan, label yang lebih mencolok akan ditampilkan langsung pada video
• Label akan mulai hadir di aplikasi YouTube di ponsel, lalu segera tersedia juga di desktop dan TV
• YouTube menyatakan akan mempertimbangkan tindakan penegakan di masa mendatang jika kreator terus-menerus memilih untuk tidak mengungkapkan informasi ini

YouTube dan kerja sama industri

• YouTube terus bekerja sama dengan berbagai pihak di industri untuk meningkatkan transparansi seputar konten digital, dan berperan sebagai anggota penggerak C2PA.
• Selain itu, YouTube sedang mengembangkan proses privasi yang diperbarui agar individu yang dapat diidentifikasi (termasuk wajah atau suara) dapat meminta penghapusan konten jika privasinya dilanggar oleh konten yang dibuat atau diubah dengan AI.

Opini GN⁺

• Kebijakan baru YouTube tampaknya akan membantu meningkatkan transparansi konten digital dan membangun kepercayaan antara penonton dan kreator.
• Seiring AI memainkan peran yang semakin penting dalam proses kreatif, alat seperti ini dapat membantu pengguna mengenali dan memahami konten yang dihasilkan AI.
• Namun, ada juga kekhawatiran bahwa kebijakan semacam ini dapat membebani kreator atau membatasi kebebasan berkarya.
• Penerapan teknologi ini meningkatkan kemampuan untuk menilai keaslian konten, tetapi pada saat yang sama menuntut tanggung jawab tambahan dari kreator, sehingga ada sisi positif dan negatifnya.
• Platform atau alat lain yang menawarkan fungsi serupa antara lain Adobe Content Authenticity Initiative, yang berfokus pada pelacakan asal-usul dan keaslian konten digital.

[GN⁺]

Opini Hacker News

• Ringkasan komentar pertama:

  • Dari sudut pandang bisnis dan pembelajaran, pendekatan Google merupakan langkah awal ke arah yang benar dengan menetapkan aturan tentang bagaimana AI akan didefinisikan dan diberi label.
  • Aturan ini mencakup hal-hal yang membuat seseorang tampak mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah mereka katakan atau lakukan, mengubah rekaman peristiwa atau tempat nyata, atau menghasilkan adegan realistis yang sebenarnya tidak pernah terjadi.
  • Komentar ini mempertanyakan bagaimana hipotesis-hipotesis tersebut akan diuji dan kemungkinan munculnya perdebatan hukum. Misalnya, koreksi warna atau filter kecantikan, serta penggunaan AI untuk menghasilkan adegan tambahan dari berbagai sudut video, dapat menjadi bahan diskusi.

• Ringkasan komentar kedua:

  • Menurut halaman bantuan Google, ada contoh yang secara jelas disebutkan sebagai konten yang tidak wajib diungkapkan dan contoh yang wajib diungkapkan oleh kreator.
  • Contoh yang tidak wajib diungkapkan mencakup seseorang yang menunggangi unicorn, seseorang yang digambarkan melayang di luar angkasa dengan green screen, penyesuaian warna atau filter pencahayaan, filter efek khusus seperti blur latar belakang atau efek vintage, pembuatan atau peningkatan outline video, skrip, thumbnail, judul, dan infografik dengan alat AI, pembuatan subtitle, peningkatan ketajaman video, upscaling atau perbaikan, perbaikan suara atau audio, serta pembuatan ide.
  • Contoh yang wajib diungkapkan mencakup musik yang dibuat secara artifisial, menyalin suara orang lain untuk dipakai sebagai narasi, menghasilkan rekaman tambahan secara artifisial dari lokasi nyata, video yang dibuat agar pertandingan antara atlet tenis profesional sungguhan tampak realistis, membuat seseorang tampak memberikan nasihat yang sebenarnya tidak pernah mereka berikan, mengubah audio secara digital agar penyanyi populer terdengar seperti fals saat pertunjukan langsung, membuat tornado atau fenomena cuaca lain yang tidak pernah terjadi tampak bergerak menuju kota nyata, membuat staf rumah sakit tampak memulangkan pasien sakit atau terluka, membuat figur publik tampak mencuri atau mengakui pencurian, atau tampak benar-benar ditangkap atau dipenjara.

• Ringkasan komentar ketiga:

  • Aturan ini dibuat untuk mematuhi Undang-Undang AI baru di Uni Eropa.
  • Konten yang dihasilkan AI harus dapat diidentifikasi, dan teks buatan AI yang dipublikasikan untuk memberikan informasi tentang kepentingan publik harus diberi label sebagai hasil buatan artifisial. Ini juga berlaku untuk konten audio dan video yang tergolong deepfake.

• Ringkasan komentar keempat:

  • Contoh tentang mengubah audio secara digital agar penyanyi terdengar seperti fals saat tampil langsung disebut sebagai contoh yang menarik.
  • Ini merupakan kebalikan dari situasi dalam penampilan Alicia Keys di Super Bowl baru-baru ini, yang terkait dengan NFL yang diam-diam mengedit dan memperbaiki "nada serak" miliknya.

• Ringkasan komentar kelima:

  • Penggambaran realistis atas peristiwa besar yang sebenarnya tidak pernah terjadi, misalnya menampilkan tornado bergerak ke kota nyata, adalah contoh konten yang memerlukan pengungkapan.
  • Ini mirip dengan situasi umum thumbnail YouTube saat ini, bukan terbatas pada AI saja, dan berarti pengawasannya akan sulit.

• Ringkasan komentar keenam:

  • Seperti bank yang tetap meminta pengisian dokumen formal meskipun mengharapkan penjahat akan berbohong, tidak ada konsekuensi yang jelas karena berbohong kepada Google, tetapi itu bisa dipakai sebagai sinyal yang membuat akun pembohong terlihat lebih mencurigakan.

• Ringkasan komentar ketujuh:

  • Mengubah rekaman peristiwa atau tempat nyata, misalnya membuat bangunan sungguhan tampak terbakar atau lanskap kota nyata tampak berbeda dari aslinya, termasuk konten yang wajib diungkapkan.
  • Terlepas dari artikel yang membahas isi video sebenarnya, ada juga sorotan terhadap masalah gambar pratinjau berlebihan yang dibuat untuk memancing klik.

• Ringkasan komentar kedelapan:

  • Komentar ini mempertanyakan apakah YouTube sadar bahwa tim Google Photos justru secara aktif mendorong perubahan pada video dan foto untuk menggambarkan adegan yang sebenarnya tidak pernah terjadi.

• Ringkasan komentar kesembilan:

  • Dulu Google mungkin akan menyediakan filter pencarian lanjutan untuk konten "non-AI", tetapi sekarang Google terlalu sibuk menjual alat AI demi menenangkan keluhan Wall Street, tanpa memikirkan bagaimana video AI akan memperburuk masalah pencarian yang sudah seperti "mencari jarum dalam tumpukan jerami".

• Ringkasan komentar kesepuluh:

  • Komentar ini menyoroti bahwa para penanggung jawab kebijakan YouTube menghadapi tugas yang nyaris mustahil untuk menafsirkan kasus-kasus ambigu selama beberapa tahun ke depan.