RUU California yang Mewajibkan Pengungkapan Status Bot

 (veeto.app)
1 poin oleh GN⁺ 2025-02-08 | 1 komentar | Bagikan ke WhatsApp

  • Gambaran umum

    • RUU di California yang mewajibkan semua bot online dan akun berbasis AI mengungkapkan sifat otomatisnya.
    • Memperluas definisi bot agar mencakup akun yang menggunakan AI generatif.
    • Mewajibkan pengungkapan segera bahwa itu adalah bot saat diminta selama interaksi online dengan pengguna.
    • Mengharuskan pengungkapan bot yang jelas dan mencolok di semua platform dengan lebih dari 10 juta pengguna bulanan di AS.

  • Ringkasan

    • RUU pengungkapan bot dari anggota legislatif Wilson mendefinisikan ulang pendekatan California terhadap komunikasi online otomatis.
    • RUU ini memperluas hukum saat ini yang hanya mewajibkan pengungkapan ketika bot mencoba memengaruhi transaksi komersial atau perilaku pemilih.
    • Memperbarui definisi hukum untuk mencakup akun yang dioperasikan oleh AI generatif.
    • Mengharuskan pengungkapan yang jelas bahwa itu adalah bot dalam semua interaksi online, dan informasi ini harus diberikan ketika diminta oleh pengguna lain.
    • Persyaratan pengungkapan berlaku untuk situs web publik, aplikasi web, dan platform digital.
    • Platform online dengan lebih dari 10 juta pengunjung bulanan dari AS harus mematuhi aturan pengungkapan yang diperluas ini.

  • Tanggal penting

    • 4 Februari 2025: Pembacaan pertama. Akan dicetak.

  • Cara berpartisipasi

    • RUU ini baru saja diperkenalkan. Anda dapat mengirim email kepada pengusul untuk menyampaikan pendapat.

  • Pandangan komunitas

    • Positif: 45.5%
    • Negatif: 54.5%

  • Catatan pemungutan suara terbaru

    • Saat ini belum ada catatan pemungutan suara untuk RUU ini.

Bacaan terkait

1 komentar

 
GN⁺ 2025-02-08
Pendapat di Hacker News

  • 10 tahun lalu, ketika chatbot jauh kurang berguna, ada etiket umum bahwa bot boleh berpura-pura menjadi manusia atau dewa, tetapi jika ditanya langsung apakah ia bot, ia wajib mengakuinya
    Rasanya seperti versi bot dari legenda urban bahwa polisi yang menyamar harus mengungkapkan identitasnya jika ditanya langsung, dan saya tidak terlalu melihat sisi negatif jika persyaratan seperti ini diberlakukan pada bot yang berhadapan dengan publik
    Namun saya tidak tahu apakah usulan saat ini memang persis seperti itu, dan situsnya sedang tidak dapat diakses

    • Menurut saya prinsip ini harus berlaku dua arah: bot harus mengonfirmasi bahwa ia bot, dan manusia juga harus mengonfirmasi bahwa ia manusia
      Karena berbagai alasan, saya juga tidak ingin manusia berpura-pura menjadi bot
    • Sikap “cukup ungkapkan jika ditanya langsung” tampak seperti jalan tengah, tetapi dalam praktiknya itu adalah cara untuk mengalihkan beban tindakan kepada manusia yang energinya terbatas dan sudah harus membuat ratusan keputusan
      Kedengarannya seperti sesuatu yang akan dibisikkan pelobi yang ingin secara efektif menumpulkan regulasi kepada regulator
      Orang yang tidak akrab dengan teknologi tidak perlu tahu apa itu model bahasa berskala besar dan apa yang bisa dilakukannya, dan tidak punya kewajiban untuk tahu
      Masalah seperti ini harus diselesaikan di sumbernya, dan para teknolog libertarian yang optimistis tidak boleh dibiarkan membuat seluruh masyarakat terkena DDoS
    • Ada tautan arsip di komentar lain: https://news.ycombinator.com/item?id=42968477
    • Mengingatkan pada '/finger [Nick|Address] zaman dulu
    • Saya justru mengingatnya sebaliknya. Chatbot yang populer pada 2015 menyangkal bahwa mereka bot agar bisa lolos Tes Turing
      Chatbot yang populer pada 2025 sekarang cukup baik menjelaskan bahwa mereka adalah bot
      Tentu saja ini hanya generalisasi dari yang populer, dan siapa pun bisa membuat botnya sendiri sesuka hati

  • Ini jelas terlihat seperti promosi terselubung untuk vetto.app. Aktivitas lain alexd127 juga hanya thread tentang rancangan undang-undang yang persis sama ini [https://news.ycombinator.com/item?id=42901553]

  • Saya berharap undang-undang ini juga berlaku untuk email yang dihasilkan AI, kontak penjualan, dan pesan LinkedIn

    • Semoga juga mencakup SMS politik, serta pesan konfirmasi dari nomor acak lain setelah kita mengirim “STOP”
      Apalagi jika dalam bentuk yang dapat dibaca mesin
    • Sepertinya memang berlaku. Bunyi usulannya sebagai berikut:

      It shall be unlawful for any person to use a bot to communicate or interact with another person in California online. A person using a bot shall not be liable under this section if the person discloses that it is a bot. A person using a bot shall disclose that it is a bot if asked or prompted by another person.
      Definisi dan teks aslinya ada di https://legiscan.com/CA/text/AB410/2025
      Email, kontak penjualan, dan pesan LinkedIn semuanya termasuk komunikasi atau interaksi

    • Saya berasumsi 99,9% dari hal-hal seperti ini memang sudah seluruhnya dibuat oleh bot
    • Pernah membuka LinkedIn baru-baru ini? Praktis itu adalah penerapan nyata dari teori internet mati
      Semua postingan, semua komentar begitu, dan saya tidak tahu apa gunanya
      Saya rindu masa ketika LinkedIn hanya dipakai untuk mencari lowongan/pekerjaan seperti dulu
    • Jika ini menjadi undang-undang, LinkedIn akan menjadi kacau balau

  • Persyaratan ini berlaku mulai dari 10 juta pengguna bulanan di AS. Saya tidak mengerti kenapa tidak boleh diterapkan ke pelaku usaha yang lebih kecil

    • Sejauh yang saya pahami, ini adalah persyaratan untuk platform dengan 10 juta atau lebih pengguna bulanan. Tempat seperti Twitter termasuk, tetapi mungkin Hacker News tidak
      Dalam praktiknya, ini lebih dekat ke kewajiban agar platform semacam ini menyediakan antarmuka bagi bot untuk mengidentifikasi dirinya, dan melakukan upaya dengan itikad baik untuk mengidentifikasi bot

      Online platforms with over 10 million monthly U.S. visitors would need to ensure bot operators on their services comply with these expanded disclosure rules.
      Jadi meskipun bot itu milik pelaku usaha kecil, jika berada di atas platform seperti Twitter, Facebook, atau Reddit, bot tersebut harus mengidentifikasi dirinya
      Meski bisa ada perbedaan pendapat soal ambang batasnya, ini terasa masuk akal. Tidak tepat memaksakannya sampai ke forum niche kecil, membebani pemain kecil secara berlebihan, dan juga membuang sumber daya pemerintah. Potensi kerugiannya pun, menurut definisinya, lebih kecil
      Perusahaan besar menyukai regulasi, karena regulasi menjadi hambatan masuk dan mereka mampu melewati hambatan itu
      Lebih spesifiknya, regulasi menekan pesaing sebelum mereka bisa benar-benar tumbuh. Jadi saya melihat regulasi dengan cara seperti ini sebagai ide yang baik
      Lapangan permainan selalu miring, dan pemain besar bisa menggunakan kelas bobotnya untuk menang bahkan dengan produk yang lebih buruk

    • Ada alasan praktis di dua sisi. Sebagian besar perusahaan kecil kemungkinan besar bahkan tidak akan tahu aturan ini ada jika disahkan
      Jika berbagai yurisdiksi masing-masing mengesahkan undang-undang terkait AI, lama-kelamaan akan ada ratusan undang-undang yang tersebar di banyak yurisdiksi, mungkin saling bertentangan, sementara preseden hukum yang tidak transparan menentukan maknanya dan terus berubah
      Untuk tetap mengikuti perkembangan terbaru, secara harfiah dibutuhkan departemen kepatuhan regulasi
      Departemen seperti itu diisi pengacara dan mahal. Jika undang-undang semacam ini juga diterapkan ke pelaku usaha kecil, hal itu akan sangat mengancam kemampuan perusahaan kecil untuk bisa eksis
      Ini juga alasan mengapa perusahaan besar di industri tertentu aktif melobi regulasi. Di permukaan alasannya “keamanan”, tetapi realitasnya adalah tindakan antipersaingan
      Namun jika jumlah pengguna rutin sudah sekitar 10 juta, mereka semestinya cukup mampu menanggung departemen kepatuhan
    • Dengan kata lain, startup seharusnya punya sedikit ruang untuk bermain-main. Keunggulan kecil untuk melawan pemain mapan adalah kebijakan yang arahnya baik, menurut saya
    • Salah. Syarat 10 juta itu adalah bagian dari definisi “online platform” [1], dan dalam peraturan yang ada hanya disebut dalam klausul [2] yang menyatakan mereka tidak memiliki kewajiban
      Dalam rancangan undang-undang yang diusulkan [3], itu sama sekali tidak disebut selain perubahan formulir
      [1] https://law.justia.com/codes/california/code-bpc/division-7/...
      [2] https://law.justia.com/codes/california/code-bpc/division-7/...
      [3] https://legiscan.com/CA/text/AB410/2025
    • Cukup operasikan 10 anak perusahaan melalui rantai perusahaan cangkang, dan hati-hati menjaga masing-masing tetap di bawah 8 juta pengguna bulanan
      Semuanya menyampaikan pesan yang hampir sama, tetapi katakan saja itu murni kebetulan dan mereka hanya terang-terangan saling meniru

  • Situs web Veeto tampaknya kewalahan, jadi saya tinggalkan halaman resmi Badan Legislatif California untuk RUU tersebut: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtm...
    Ini tampaknya RUU yang ditulis cukup sempit. Sepertinya menghapus syarat bahwa penggunaan bot baru ilegal jika ada “niat untuk menyesatkan”
    Niat seperti itu sangat sulit dibuktikan, dan pada akhirnya ada kemungkinan besar hukum itu tidak akan benar-benar ditegakkan
    Sebagai gantinya, aturan ini menarik garis yang jauh lebih jelas. Jika tidak mengungkapkan bahwa itu bot, ilegal; jika mengungkapkannya, tidak masalah
    Setelah halaman Veeto dimuat, saya melihat ada tab chat bertuliskan “Ask me anything about this bill! I'll use the bill's text to help answer your questions.”
    Ironisnya, Veeto sendiri juga menggunakan semacam chatbot, jadi sepertinya mereka akan terkena dampak langsung RUU ini

    • Perubahan yang mengganti “Internet Web site” menjadi “internet website” menarik juga

  • Menarik. Saya tidak tahu sejauh mana ini benar-benar akan berjalan, tetapi ini diskusi yang layak dicoba
    Di satu sisi, melihat komentar-komentarnya, tampaknya ada cukup banyak minat pada kewajiban pengungkapan
    Di sisi lain, perusahaan dan pengiklan besar, yaitu para spammer, tampaknya tidak terlalu menginginkannya. Apakah ada sisi positif pengungkapan bagi mereka?

    • California cukup lumayan dalam meloloskan undang-undang yang ramah konsumen. Maksudnya “lumayan” jika dibandingkan dengan federal atau negara bagian lain
      Tidak selalu efektif, tetapi niat banyak undang-undangnya terasa berpihak pada orang
      Perusahaan dan pengiklan besar tentu saja tidak menginginkannya. Suatu hari nanti saya ingin melihat berapa banyak bot sungguhan di Reddit, dan seberapa dekat kita dengan internet mati
      Saya rasa HN tidak mencapai ambang 10 juta yang memicu kewajiban pengungkapan. Meski begitu, saya juga berpikir tidak banyak bot di sini
    • Semakin pintar bot, aksesnya seharusnya bukan dikurangi, melainkan ditambah
      Manusia sudah terlalu lama dimanfaatkan sebagai orang bodoh yang berguna dan boneka, dan saya tidak melihat alasan untuk mengecualikan bot

  • Dengan atau tanpa RUU ini, industri akan segera bergerak ke arah itu. Karena ada pergeseran paradigma
    Percakapannya kini bukan lagi soal bot scraping versus pengunjung manusia sungguhan
    Kenyataannya hari ini, pengguna yang sah memakai agen AI untuk melakukan tugas seperti mencari harga terendah di situs e-commerce, melakukan pembayaran otomatis, dan menjalankan kueri data yang canggih
    Sinyal bahaya tradisional seperti banyak permintaan dalam waktu singkat atau alur penelusuran yang aneh pun, jika disertai asisten AI, bisa jadi merupakan perilaku pelanggan yang jujur
    Bisa juga merujuk tulisan yang saya unggah beberapa minggu lalu: https://blog.tarab.ai/p/bot-management-reimagined-in-the

    • Sepertinya masih terlalu terpaku pada identitas pengunjung dan agensi pelaku
      Sebaiknya mundur selangkah dan bertanya mengapa sejak awal kita ingin membatasi atau memblokir bot. Kebanyakan karena mereka memboroskan sumber daya operator layanan
      Dari sudut pandang operator layanan, tidak perlu membedakan antara agen AI yang dengan cepat meminta 1.000 halaman untuk mencari harga terendah dan bot bodoh yang mengorek 1.000 halaman yang sama untuk tujuan lain
      Manusia yang sangat cepat membuka ratusan tab dalam satu menit pun berdampak sama pada tagihan AWS
      Jika itu membebani sumber daya dan Anda tidak menginginkan pelanggan seperti itu, Anda berhak mengusir semuanya
      Apakah mereka memegang token kepercayaan atau apakah mereka manusia itu sekunder. Masalahnya selalu perilaku, bukan pelakunya

  • Apakah pemain PUBG Mobile harus diberi tahu bahwa mereka sedang menang melawan bot?
    Apakah medium paranormal juga harus mengatakan bahwa mereka sebenarnya tidak bisa mewakili orang yang sudah meninggal?

    • “Apakah medium paranormal sebenarnya harus mengatakan bahwa mereka tidak bisa mewakili orang yang sudah meninggal?”
      Bukankah memang seharusnya begitu?
    • Bukankah PUBG Mobile sudah memberi tahu? Gim adalah platform yang relatif baik dalam membedakan dan memberi tahu antara lawan AI dan lawan manusia
      Untuk medium paranormal, pertama-tama harus dibuktikan dulu bahwa mereka adalah robot
    • Ya untuk keduanya

  • Saya paham keberatan terhadap hukum ini dari sisi kepraktisan atau konstitusionalitas
    Namun yang tampaknya lebih berguna dan juga lebih tepat secara hukum adalah hukum dengan arah sebaliknya, yaitu melarang bot penipu yang disengaja yang mengaku sebagai manusia atau mengaku memiliki emosi/kemampuan sosial seperti manusia

  • Usulan alternatif: untuk setiap meme, secara hukum harus bisa dilihat siapa yang membuat meme itu
    Jika orang-orang yang tertipu oleh tiap meme bisa melihat bahwa meme itu dibuat, misalnya, oleh organisasi propaganda Rusia atau Tiongkok, sepertinya mereka akan segera belajar untuk memandangnya dengan lebih skeptis