FCC menetapkan suara hasil AI dalam robocall sebagai ilegal

• Ketika panggilan otomatis dengan suara AI yang terdengar seperti manusia makin meluas, FCC memasukkannya ke dalam regulasi perlindungan konsumen telepon yang ada dengan menganggapnya sebagai panggilan “artificial” di bawah TCPA
• Declaratory Ruling ini menegaskan bahwa Telephone Consumer Protection Act (TCPA) juga berlaku untuk panggilan yang menggunakan suara manusia yang dihasilkan AI
• Keputusan FCC diadopsi secara bulat dan secara langsung menargetkan penggunaan suara hasil AI dalam robocall
• News Release dan naskah asli Declaratory Ruling tersedia dalam format docx, pdf, dan txt sehingga isi keputusan dapat langsung diperiksa
• Tautan audio dan video deepfake membuat robocall dan pesan teks penipuan semakin sulit dibedakan, sehingga kebutuhan praktis akan regulasi suara AI makin besar

---

Penerapan TCPA pada robocall dengan suara hasil AI

• FCC secara bulat mengadopsi Declaratory Ruling yang mengakui bahwa panggilan yang dibuat dengan suara hasil AI termasuk panggilan “artificial” menurut Telephone Consumer Protection Act (TCPA)
• Cakupan penerapan adalah panggilan yang dibuat dengan AI-generated voices
• Keputusan ini secara langsung menargetkan penggunaan suara hasil AI dalam robocall, serta menegaskan bahwa TCPA juga berlaku untuk teknologi AI yang menghasilkan suara manusia

Dokumen FCC yang dipublikasikan

• Naskah asli News Release
  • docx
  • pdf
  • txt
• Declaratory Ruling memuat isi bahwa TCPA berlaku untuk teknologi AI yang menghasilkan suara manusia
  • docx
  • pdf
  • txt

Panduan konsumen terkait deepfake

• Deep-Fake Audio and Video Links Make Robocalls and Scam Texts Harder to Spot menjelaskan bahwa audio deepfake dan tautan video membuat robocall serta pesan teks penipuan lebih sulit diidentifikasi

[GN⁺]

Opini Hacker News

• Pernah suatu kali ada telepon dari nomor tak dikenal, lalu saat saya angkat, rekaman suara istri saya berkata “Hello?”
  Sejak itu, kalau saya tidak mengenal peneleponnya, saya tidak lagi lebih dulu mengatakan Hello saat mengangkat telepon

  • Saya melangkah lebih jauh dengan cara yang mengurangi kecanggungan dan false positive: semua orang yang saya kenal saya masukkan ke kontak ponsel
    Kalau panggilan muncul sebagai nomor, bukan nama, saya tidak mengangkat; kalau bukan spam, saya anggap mereka akan meninggalkan pesan suara atau SMS
    Kalau keduanya tidak dilakukan, besar kemungkinan itu spam/penipuan atau urusannya memang tidak terlalu penting sejak awal; sudah saya lakukan lebih dari 10 tahun dan sejauh ini tidak ada masalah
  • Meski hampir tidak pernah ada telepon yang perlu saya angkat, saya tidak memberikan informasi apa pun
    Kalau saya angkat, saya diam sekitar 3–5 detik, memberi kesempatan orangnya berbicara dulu kalau itu bukan bot
  • Saya sering menerima telepon yang tidak ada siapa pun berbicara selama kira-kira 3 menit, lalu seseorang mengatakan Hello
    Secara paranoid, saya merasa mungkin mereka ingin merekam suara saya untuk dipakai dalam penyamaran AI
  • Saya merasa tidak enak karena melanggar etiket telepon, tapi saya berpikiran sama
    Penelepon harus berbicara dulu agar saya tahu apakah itu orang sungguhan, dan kalau itu sistem otomatis, saya cenderung diam dengan harapan mereka tidak menyadari bahwa nomor saya bukan sistem otomatis lain

• Prinsip hukum yang memungkinkan FCC membuat keputusan seperti ini disebut Chevron Deference, dan tampaknya penting bahwa prinsip ini sedang diserang sekarang
  https://www.scotusblog.com/2024/01/supreme-court-likely-to-d...

  • Thread ini sangat salah memahami Chevron Deference
    Menghapusnya tidak berarti lembaga-lembaga pemerintah jadi tidak bisa melakukan apa pun dalam anarki ala Mad Max; selalu ada standar yang mengizinkan pembuatan aturan administratif
    Seberapa luas ruang diskresinya adalah persoalan lain, tetapi memperjelas bahwa suara yang dihasilkan AI termasuk “buatan” menurut undang-undang hampir tidak memerlukan aturan, sama seperti mengatakan “memukul kepala seseorang dengan komputer” termasuk “penyerangan”
  • Saya hanya membaca tautannya, tapi penjelasan itu tampaknya agak keliru
    Doktrin Chevron bukanlah prinsip yang memungkinkan lembaga seperti FCC membuat keputusan seperti ini, melainkan prinsip yang melindungi keputusan tersebut agar tidak dibatalkan oleh pengadilan
    Artinya, meski para hakim agung secara pribadi semuanya menganggap interpretasi lembaga itu bermasalah, mereka tetap harus menghormatinya; tetapi tanpa Chevron, dalam kasus seperti itu mereka bisa membatalkannya
    Dalam kasus ini, menganggap suara yang dihasilkan AI sebagai “buatan” untuk penerapan hukum terlalu jelas, sehingga menurut saya pribadi doktrin Chevron bahkan tidak perlu diterapkan
  • Saya setuju soal pentingnya Chevron Deference, tetapi dalam keputusan ini saya rasa pengadilan mana pun tidak akan sampai ke tahap kedua Chevron
    Undang-undang melarang “suara buatan atau yang direkam sebelumnya”, dan agen AI pada definisinya adalah buatan, jadi tampaknya tidak perlu deferensi khusus
  • Chevron tampak konyol bahkan dari permukaannya
    Sebuah lembaga mengatakan kamu melanggar hukum, lalu ketika kamu menggugat lembaga itu, pengadilan mengikuti lembaga tersebut
    Pada akhirnya, itu sama saja merampas kesempatanmu untuk memperdebatkannya di pengadilan
  • Saya khawatir di era perubahan cepat seperti sekarang, kita akan berada dalam situasi harus menunggu legislasi eksplisit untuk setiap hal kecil

• Lebih tepatnya, FCC secara resmi menafsirkan hukum yang berlaku saat ini, yaitu Telephone Consumer Protection Act, dan memperjelas bahwa suara yang dihasilkan AI dalam robocall melanggar hukum tersebut; ini tampak masuk akal

  • Judulnya seharusnya “FCC menilai suara yang dihasilkan AI dalam robocall ilegal”
  • Keputusan ini akan mengakhiri berbagai bisnis dan startup, termasuk startup yang dibuat para pendiri Stanford
  • Saya tidak tahu dari mana FCC mendapatkan kewenangan untuk menetapkan preseden hukum

• Seharusnya mereka mewajibkan label identifikasi caller ID untuk robocall
  Misalnya ditampilkan seperti “Police Officers Benevolent Association [Robocall]”

  • Untuk itu, secara harfiah harus dilakukan upgrade terhadap infrastruktur telekomunikasi berusia 50–70 tahun yang tersebar di seluruh negeri, dan itu tidak akan terjadi
  • Yang seharusnya dilakukan benar-benar berbeda
    Apple dan Google harus menyediakan robot telepon pribadi sebagai bagian dari software bawaan
    Saat membeli ponsel baru, pengguna merekam berbagai kalimat selama sekitar 15 menit, lalu setelah itu robot yang mengangkat telepon menggantikan mereka
    Robot ini akan berusaha menahan spammer atau telemarketer di telepon selama mungkin
    1 menit pun bagus, 10 menit lebih bagus lagi
    Jika para spammer mencoba menghindarinya, Apple dan Google bisa meningkatkan robot untuk menanggapinya
    Dalam beberapa bulan, industri itu akan mati
    Mereka tidak akan sanggup menghabiskan 30 menit untuk setiap panggilan hanya untuk memilah apakah yang dihubungi adalah korban mudah yang benar-benar akan mengirim uang tunai ke pangeran Nigeria, atau software jahat yang menipu agen call center yang bahasa ibunya bukan bahasa Inggris
    Margin akan turun, kebutuhan akan AI yang lebih canggih untuk menentukan apakah itu manusia sungguhan akan melonjak, dan secara ekonomi ini akan menjadi tidak berkelanjutan
  • Siapa yang dimaksud dengan “mereka”, dan bagaimana kita tahu panggilan mana yang legal atau tidak?

• Artinya FCC dengan suara bulat mengadopsi declaratory ruling bahwa panggilan telepon dengan suara yang dihasilkan AI termasuk “buatan” menurut TCPA
  Jadi, dalam arti bahwa robocall buatan memang sudah ilegal, panggilan semacam itu ilegal

  • Panggilan penipuan juga sudah ilegal, tapi mirip saja: tidak ada tindakan berarti
  • Saya tidak berpikir FCC bisa membuat sesuatu menjadi ilegal
    Judul seperti ini tidak akan membantu perkara pengadilan nyata yang sedang berjalan
  • “FCC mengumumkan bahwa suara buatan memang suara buatan”

• Tampaknya ini menargetkan gejalanya, bukan masalahnya sendiri
  Salah satu masalah besar robocall adalah pada dasarnya mustahil mengetahui siapa yang menelepon, dan alat pelaporan spam tidak terlalu efektif
  Saat ada panggilan masuk, harus terlihat siapa pihak yang bertanggung jawab atas panggilan itu
  Misalnya ditampilkan seperti “[nomor telepon] terdaftar atas nama [individu atau badan hukum]”, dan jika laporan spam menumpuk, kemampuan pihak tersebut untuk menggunakan jaringan telepon harus dibatasi

  • Selama lebih dari 1% pemilih Pennsylvania terus memilih berdasarkan orang terakhir yang berbicara kepada mereka, dan Super PAC terus bisa menerima dana anonim tanpa batas, tidak ada kanal media mana pun yang akan dibatasi secara hukum untuk mengirim spam kepada orang-orang
    Spam telepon terlalu efektif secara politik
  • Aku juga berpikiran sama
    Menargetkan penipuan semacam ini adalah langkah awal yang baik, tetapi sepertinya operator luar negeri tidak akan jadi lebih jarang menggunakannya
    Sebagian besar panggilan spam yang kuterima bahkan tidak mematuhi daftar Do Not Call, jadi mengapa mereka akan mematuhi aturan ini?
    FCC harus menetapkan tenggat yang tegas untuk STIR/SHAKEN, dan mengenakan denda kepada operator yang tidak mematuhinya
    Dengan begitu penyedia VoIP akan menanggapinya dengan serius
  • Dalam jangka panjang, setahuku SHAKEN/STIR memang dimaksudkan untuk menyelesaikan masalah ini
    Aku tidak tahu mengapa prosesnya memakan waktu begitu lama, tetapi ponsel seharusnya sudah bisa menampilkan apakah caller ID suatu panggilan telah diverifikasi
    Langkah berikutnya sepertinya tinggal memblokir pengirim yang tidak terverifikasi
    Menurutku masih banyak pekerjaan migrasi yang tersisa
    https://www.fcc.gov/call-authentication
  • Mengecek operator dari sebuah nomor sudah memungkinkan, dan akan bagus jika operator itu ditampilkan di bawah lokasi pada layar penerimaan panggilan
    Sangat berbeda apakah panggilan itu berasal dari T-Mobile atau dari perusahaan yang baru pertama kali kita dengar
  • Ini sepertinya benar-benar berlawanan dengan sudut pandang privasi yang dimiliki banyak orang di platform ini

• Dengan keputusan ini, apakah sistem IVR juga menjadi ilegal?
  Aku menghargai upayanya karena sepertinya bisa mengurangi banyak spam, tetapi suara buatan AI dalam panggilan telepon sudah ada di mana-mana selama puluhan tahun, jadi aku penasaran
  Apakah mereka menarik garis tertentu soal kualitas suara?

  • Keputusan ini secara spesifik hanya berlaku untuk pihak yang melakukan panggilan
    IVR tidak termasuk
    Panggilan otomatis juga diperbolehkan jika ada persetujuan
    Misalnya jika seseorang mendaftar untuk pemberitahuan obat yang sudah selesai diracik atau buku reservasi perpustakaan yang sudah tersedia
    Ini tidak terkait dengan kualitas suara, dan suara yang direkam sebelumnya juga termasuk yang dilarang

• Kurang akal sehat seperti apa yang membuat penggunaan suara robot dibuat ilegal sementara panggilan robot tetap dibiarkan?
  Tidak masuk akal

  • Keputusan ini dimaksudkan untuk memperlakukan panggilan yang berisi suara buatan AI sama seperti robocall lain yang sudah ilegal

• Suara “buatan” dalam panggilan telepon sudah ada sejak 1971
  Saat itu perusahaan bernama Federal Screw Works pertama kali mengembangkan perangkat sintesis suara Votrax, dengan rekayasanya dikerjakan oleh Richard Gagnon

• Bagaimana ini bisa ditegakkan?
  Apakah semua pesan suara otomatis dilarang?
  Bagaimana “AI” didefinisikan di sini?

  • Penegakannya sulit, tetapi biasanya dilakukan dengan menelusuri laporan hingga ke operator asal atau pelanggan pengirim, lalu membawanya ke pengadilan
    Pesan suara otomatis sebelumnya sudah dibatasi, dan keputusan ini hanya mengonfirmasi bahwa suara buatan AI termasuk dalam klasifikasi pesan suara otomatis
    Berikut sebagian dari dokumen keputusan terkait

    II. BACKGROUND
    3. The TCPA protects consumers from unwanted calls made using an artificial or prerecorded voice. See 47 U.S.C. § 227(b)(1).
    In relevant part, the TCPA prohibits initiating “any telephone call to any residential telephone line using an artificial or prerecorded voice to deliver a message without the prior express consent of the called party” unless a statutory exception applies or the call is “exempted by rule or order by the Commission under [section 227(b)(2)(B)].” 47 U.S.C. § 227(b)(1)(B). The TCPA does not define the terms “artificial” or “prerecorded voice.”

    Lalu di bagian berikutnya tertulis seperti ini

    III. DISCUSSION
    5. Consistent with our statements in the AI NOI, we confirm that the TCPA’s restrictions on the use of “artificial or prerecorded voice” encompass current AI technologies that resemble human voices and/or generate call content using a prerecorded voice.

  • PDF-nya ada di sini: https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf

  • Sebagian orang merekam panggilan
    Perusahaan sering kali harus merekam dalam situasi penjualan langsung kepada konsumen demi kepatuhan regulasi
    Jika ada rekaman, sekalipun tanpa algoritme, pengadilan kemungkinan bisa dengan mudah menilai per kasus apakah itu suara AI atau bukan