Suaraku Dicuri oleh AI

Tautan video yang diterima lewat email

• Isi video: Video promosi Elecrow yang menggunakan suara Jeff Geerling
• Masalah yang diajukan: Jeff Geerling menyatakan bahwa ia tidak pernah menggunakan suaranya sendiri dalam video tersebut

Kecurigaan kloning suara AI

• Kecurigaan: Elecrow diduga memasukkan video YouTube Jeff Geerling ke alat kloning suara AI untuk menggunakan suaranya
• Kasus sebelumnya: Disebutkan kasus OpenAI yang meniru suara Scarlett Johanssen
• Masalah hukum: Masih minim preseden hukum terkait kloning suara AI tanpa persetujuan

Langkah penanganan

• Situasi saat ini: Hubungan masa lalu dengan Elecrow tidak buruk
• Tindakan hukum: Upaya hukum mahal, dan juga belum jelas apakah ini melanggar ketentuan layanan YouTube
• Permintaan: Mengirim email ke Elecrow untuk meminta video tersebut dihapus

Pembaruan

• Email terkirim: Mengirim email ke Elecrow mengenai maksud penggunaan suara AI dan permintaan penghapusan video
• Riwayat email sebelumnya: Ada lebih dari 43 riwayat email dengan Elecrow, dan di masa lalu ia juga pernah menerima tawaran kemitraan berbayar

Reaksi komentar

• Jimmy: Jelas menggunakan AI, dan ini tindakan yang sangat tidak pantas
• Gary Hayman: Ia menyukai video asli Jeff, dan kejadian ini sangat buruk
• Kayla: Dari beberapa kesalahan pengucapan dalam video, ia bisa tahu bahwa itu suara AI
• BC: Mengemukakan kemungkinan bahwa alat kloning suara AI yang digunakan adalah eleven labs
• Mike Robinson: Merekomendasikan episode podcast Tech Life dari BBC
• George: Menyatakan bahwa suara dalam video itu tidak terlalu mirip dengan Jeff
• mam: Situasinya belum jelas dan menyarankan untuk menghubungi langsung sebelum mengambil tindakan hukum
• John: Menyarankan untuk berkonsultasi dengan pengacara hiburan
• Derek: Menyatakan tidak akan lagi membeli produk Elecrow
• Oh No: Situasi ironis ketika orang yang mengklaim kebebasan informasi justru kontennya sendiri disalahgunakan

# Ringkasan GN⁺

• Masalah kloning suara AI: Perkembangan teknologi AI memungkinkan kloning suara tanpa persetujuan, dan ini dapat menimbulkan persoalan etika
• Sulitnya respons hukum: Minimnya preseden hukum terkait kloning suara AI tanpa persetujuan membuat penanganannya sulit
• Perlindungan hak kreator konten: Menggunakan suara atau gambar kreator konten tanpa izin dapat menimbulkan masalah etika maupun hukum
• Alternatif yang disarankan: Daripada memakai kloning suara AI, lebih baik mempekerjakan pengisi suara sungguhan atau bekerja sama dengan kreator konten
• Kasus serupa: Disebutkan kasus kloning suara Scarlett Johanssen oleh OpenAI serta rekomendasi episode podcast Tech Life dari BBC

[GN⁺]

Pendapat Hacker News

• Jika AI meniru suara seseorang untuk mengucapkan pernyataan yang menghujat agama, hal itu bisa memicu kekerasan

  • Di beberapa negara, tuduhan penghujatan agama telah memicu aksi main hakim sendiri yang brutal
  • Seiring kemajuan teknologi AI, ada kemungkinan masalah ini akan makin meluas
  • Terlepas dari reputasi, keamanan, atau hak cipta, hal ini dapat mengancam nyawa orang
  • Kita kekurangan alat untuk mengendalikannya

• Menggunakan AI untuk menyalin suara tampaknya tidak akan lolos dari preseden kasus Midler vs. Ford

  • Menggunakan AI untuk menyalin suara lebih sulit dibela dibanding sekadar memakai pengisi suara lain

• Preseden itu penting, tetapi perkembangan teknologi menuntut prinsip-prinsip baru

  • Saat teknologi menghadirkan kemampuan baru, kita perlu menetapkan batas agar kemampuan itu bisa digunakan demi kebaikan manusia
  • Jika tidak, dunia bisa menjadi tempat di mana yang kuat berbuat sesuka hati dan yang lemah menderita

• Jika LLM adalah mesin remix pamungkas, maka orang yang punya RAG bisa menjadi DJ digital

  • Muncul pertanyaan tentang apa arti pencurian informasi digital sebenarnya
  • Di tengah minimnya preseden hukum, hukum kekayaan intelektual dan hak cipta terasa seperti era Wild West
  • Jika bahkan Scarlett Johansson pun hanya bisa menulis surat penuh kepedihan soal peniruan oleh OpenAI, bagaimana orang biasa bisa merespons?
  • Seperti Geerling, saya juga merasa sedih dan marah, tetapi pada akhirnya hanya bisa berkata, "demi semua hal yang baik, bersikaplah baik dan patuhi kode kehormatan"

• Bahkan kalau bagian AI-nya dikesampingkan, memelintir pendapat Jeff atau memakai citranya tanpa izin tetap salah

  • Menggunakan suaranya untuk menciptakan dukungan tersirat (yang direkayasa) terhadap produk itu sangat keliru
  • Seharusnya sudah ada hukum yang menangani kasus seperti ini

• Saya adalah YouTuber teknologi kecil dan pernah berhubungan dengan Elecrow

  • Bukan hanya Elecrow, para karyawan juga mendapat imbalan, promosi, dan komisi jika berhasil mengamankan kemitraan jangka panjang dan kolaborasi video
  • Mungkin seseorang mengira menyalin suara Jeff adalah ide yang cerdas
  • Ini bukan PR yang baik untuk Elecrow
  • Saya penasaran apakah mereka akan mengakui bahwa ini dilakukan dengan sengaja

• Saya tidak merasa itu terlalu mirip

  • Agak mirip, tetapi tetap berbeda
  • Nadanya sedikit lebih tinggi, lebih sengau, dan intonasinya juga agak berbeda

• Kita punya ratusan alat penyalin suara

  • Tentu saja akan muncul konten dengan suara hasil tiruan
  • Seperti halnya gambar yang dipakai tanpa izin, platform dan tim moderasinya memiliki prosedur untuk melaporkan dan menghapusnya
  • Kita juga membutuhkan hal serupa untuk suara

• Saat orang bilang pengacara selalu mahal: saya akan menangani ini sepenuhnya gratis

  • Tetapi kemungkinan besar Anda tidak berada di negara bagian tempat saya memiliki lisensi
  • Jika masalah Anda cukup menarik, Anda bisa menemukan pengacara pro bono
  • Ini adalah <i>masalah paling menarik di zaman kita</i>

• Elecrow tampaknya adalah perusahaan Tiongkok

  • Kalau begitu, saya tidak berharap ada tanggapan apa pun