Dukungan OpenAI terhadap RUU Pembatasan Tanggung Jawab AI di Negara Bagian Illinois

 (wired.com)
1 poin oleh GN⁺ 2026-04-11 | 1 komentar | Bagikan ke WhatsApp
  • OpenAI mendukung RUU Senat Illinois SB 3444, yang membatasi tanggung jawab hukum laboratorium AI dalam kondisi tertentu bahkan ketika model AI menyebabkan korban jiwa dalam jumlah besar atau kerugian properti yang sangat besar
    • RUU ini mendefinisikan 'kerugian kritis (critical harm)' sebagai situasi ketika model AI menyebabkan kematian atau luka berat pada lebih dari 100 orang, atau kerugian properti melebihi 1 miliar dolar AS
    • Laboratorium AI dapat dibebaskan dari tanggung jawab jika kerugian tersebut terjadi tanpa kesengajaan atau kelalaian berat, dan jika mereka telah mempublikasikan laporan keselamatan, keamanan, dan transparansi di situs web mereka
    • RUU ini mendefinisikan 'frontier model' sebagai AI dengan biaya pelatihan minimal 100 juta dolar AS, yang kemungkinan mencakup laboratorium AI besar seperti OpenAI, Google, xAI, Anthropic, dan Meta
    • Definisi ini ditafsirkan sebagai upaya membangun kerangka regulasi yang berfokus pada sistem AI berkinerja tinggi
  • Juru bicara OpenAI, Jamie Radice, menyatakan dalam email bahwa “pendekatan ini membantu mengurangi risiko kerugian serius dari sistem AI canggih sekaligus membantu teknologi ini menjangkau perusahaan dan individu”
    • Ia juga menyebut pendekatan ini dapat membantu membangun standar nasional yang jelas dan konsisten, alih-alih regulasi yang berbeda-beda di tiap negara bagian
    • 'Kerugian kritis' sebagaimana didefinisikan RUU ini juga mencakup kasus ketika AI menghasilkan senjata kimia, biologis, radiologis, atau nuklir, atau secara mandiri melakukan tindakan yang akan dianggap kriminal jika dilakukan oleh manusia
    • Bahkan jika tindakan tersebut menimbulkan kerugian besar, laboratorium AI dapat dibebaskan dari tanggung jawab hukum selama tidak ada unsur kesengajaan dan mereka telah menyerahkan laporan

  • Benturan antara regulasi federal dan RUU tingkat negara bagian

    • Caitlin Niedermeyer dari tim global affairs OpenAI dalam kesaksiannya mendukung SB 3444 menekankan perlunya kerangka regulasi AI di tingkat federal
      • Ia berpendapat bahwa regulasi yang berbeda di tiap negara bagian dapat menimbulkan gesekan yang tidak efisien, sehingga harmonisasi dengan sistem federal perlu diperkuat
      • Ini serupa dengan pandangan yang luas di Silicon Valley, dan sejalan dengan logika yang menekankan pentingnya menjaga daya saing AI Amerika Serikat
      • Niedermeyer mengatakan bahwa “penerapan frontier model yang aman dan menjaga kepemimpinan inovasi Amerika harus menjadi North Star regulasi”
      Iklan

  • Peluang pengesahan RUU dan kritik

    • Direktur kebijakan Secure AI Project, Scott Wisor, menilai peluang RUU ini lolos rendah jika melihat kecenderungan regulasi teknologi di Illinois
      • Dalam jajak pendapat terhadap warga Illinois, 90% menolak pembebasan tanggung jawab bagi perusahaan AI
      • Para legislator negara bagian justru sedang mengajukan RUU yang memperkuat tanggung jawab pengembang AI
      • Illinois sudah menjadi negara bagian pertama yang mengesahkan undang-undang pembatasan penggunaan AI dalam layanan kesehatan mental, dan pada 2008 juga meloloskan Biometric Information Privacy Act (BIPA)

  • Masalah tanggung jawab atas kerugian akibat AI yang belum terselesaikan

    • Meski SB 3444 berfokus pada kerugian berskala besar, pembahasan soal kerugian pada tingkat individu juga terus berlanjut
      • Sejumlah keluarga menggugat OpenAI dengan tuduhan bahwa anak mereka bunuh diri setelah interaksi yang tidak normal dengan ChatGPT
      Iklan
    • Legislasi AI di tingkat federal masih belum menunjukkan kemajuan di Kongres
      • Pemerintahan Trump pernah mengeluarkan perintah eksekutif dan kerangka kerja, tetapi pembahasan legislasi substantif tetap buntu
      • Di tengah tidak adanya panduan federal, pemerintah negara bagian seperti California dan New York telah meloloskan RUU yang mewajibkan laporan keselamatan dan transparansi
    • Di tengah ledakan AI yang telah berlangsung selama beberapa tahun, tanggung jawab hukum jika model AI menyebabkan peristiwa katastrofik masih tetap menjadi isu yang belum terselesaikan

Bacaan terkait

1 komentar

 
GN⁺ 2026-04-11
Komentar Hacker News

  • Saya mencoba menggunakan GPT 5.4 dan Opus 4.6 untuk menghasilkan cara membuat zat neurotoksik dari barang sehari-hari
    Model awalnya tersendat di bagian cara memperoleh fosfor (P), tetapi akhirnya sampai memberi panduan ke daftar penjualan “fosfor dekoratif” di eBay dan bahkan kata sandi yang dipakai di pasar gelap nyata
    Saya juga dibimbing soal langkah keselamatan, daftar bahan, cara menyamarkan, dan proses kimia lewat penelusuran akademik
    Tentu saja ini hasil abnormal yang dimungkinkan melalui serangan pengurasan konteks (context exhaustion attack), dan setelah itu saya melaporkannya ke OpenAI dan Anthropic, tetapi tidak ada tanggapan
    Saat saya coba lagi baru-baru ini, sesi tersebut dihentikan sehingga tampaknya sudah diperbaiki
    Saya yakin ini adalah jenis hal yang cukup membuat orang-orang di unit antiteror tidak bisa tidur

    • Informasi seperti ini sebenarnya sudah mudah didapat di internet sejak 20~30 tahun lalu
      Dulu bahkan banyak forum yang membahas “informasi yang ingin disembunyikan pemerintah”
      Hanya saja sekarang, bagian yang lebih menakutkan adalah gesekan untuk mengeksekusi jadi berkurang
    • Ungkapan “agen antiteror tidak bisa tidur” terdengar terlalu berlebihan, tetapi hari ini saya akan terima saja energi positif itu
    • Saya penasaran apakah ada latar belakang biokimia
      Saya pernah memakai ChatGPT dan Claude di bidang keahlian saya, dan keduanya sering membuat isi yang terlihat meyakinkan bagi nonahli tetapi sepenuhnya salah
      Saya juga penasaran apakah ada orang yang benar-benar pernah mengikuti instruksi kimia dari LLM untuk melakukan eksperimen
    • Informasi seperti ini bahkan sebelum AI pun sudah cukup bisa diakses hanya lewat pencarian Google
    • Saya tidak setuju dengan pernyataan “model ini seharusnya tidak bekerja seperti itu”
      Sebenarnya, kalau prompt sistemnya tidak ditimpa, justru memang seharusnya bekerja begitu

  • Mengutip teks asli Illinois Senate Bill 3444
    ‘Kerugian kritis (critical harm)’ berarti ketika model AI menyebabkan kematian lebih dari 100 orang atau kerusakan properti lebih dari 1 miliar dolar
    Pengembang dibebaskan dari tanggung jawab selama tidak ada kelalaian yang disengaja jika mereka sebelumnya mempublikasikan protokol keselamatan dan laporan transparansi
    Namun, saya rasa sekadar mengunggah PDF saja tidak cukup

    • Yang menarik, hukum ini hanya berlaku untuk ‘model frontier’
      Artinya, kalau model kecil menyebabkan insiden, ia tidak mendapat perlindungan
      Jadi kalau yang mati cuma 99 orang tidak masalah? Logikanya aneh, seperti “go big or go home”
    • Intinya ada di Pasal 15
      Perlindungan tidak diberikan hanya karena dokumennya dipublikasikan, tetapi karena protokol itu benar-benar harus dipatuhi
      Regulator harus menetapkan ‘standar yang wajar’, dan perusahaan hanya boleh dibebaskan dari tanggung jawab bila memenuhi standar itu
      Kekebalan tanpa syarat maupun tanggung jawab tanpa syarat sama-sama berlebihan
      Pada akhirnya, masalah hukum ini adalah standarnya ditetapkan terlalu rendah
    • Perusahaan sering mengalihkan tanggung jawabnya ke publik
      Contoh yang representatif adalah Price–Anderson Act yang disahkan pada 1957, yang membatasi tanggung jawab industri nuklir
      Bahkan jika terjadi kerugian lebih dari 1 triliun dolar seperti pada kecelakaan Fukushima, pemerintah yang menanggung sebagian besarnya
      Pembahasan kekebalan industri AI juga berada dalam konteks yang sama
      Tambahan lagi, melihat Gemini salah menjawab tahun kedaluwarsa undang-undang itu membuat saya kembali merasa perlunya verifikasi fakta pada AI
    • Ini adalah versi AI dari logika “bukan senjata yang membunuh orang”
      Tentu ini analogi yang disederhanakan, tetapi tetap jelas bahwa ini adalah rancangan undang-undang untuk menghindari tanggung jawab
    • Hukum ini juga bersinggungan dengan kontroversi terkait pengembangan senjata otonom
      Terlihat seperti upaya menghindari tanggung jawab ketika menyerang target yang salah
      Sampai terasa aneh justru karena “Skynet” tidak disebut
      Kalau kekebalan dianggap perlu, itu berarti mereka sendiri sudah tahu ada bahayanya

  • Saya jadi teringat kasus di negara bagian Iowa
    Senat negara bagian itu dua kali meloloskan rancangan undang-undang yang mencegah gugatan terhadap perusahaan pestisida dan herbisida selama mereka mengikuti label EPA
    Iowa juga merupakan negara bagian dengan kenaikan tingkat kanker tercepat di Amerika Serikat

    • Kalau produk itu disetujui pemerintah, apakah perusahaan tetap harus bertanggung jawab bila belakangan terbukti berbahaya?
      Sepertinya ini akan jadi perdebatan besar ke depan, seperti gugatan terkait PFAS (tautan artikel)
    • Pada akhirnya, ini tampak seperti soal benturan antara kepentingan industri lokal dan kesehatan publik

  • Kita telah membangun sistem yang tidak kita pahami, dan ironisnya langkah berikutnya justru kekebalan tanggung jawab

    • Betul, tujuannya adalah menghindari tanggung jawab
      Tetapi yang benar-benar menakutkan adalah reaksi seperti ini lahir dari pola pikir yang terlalu sempit

  • Saya rasa soal tanggung jawab sebenarnya sederhana
    Manusia yang mengambil keputusan harus selalu bertanggung jawab
    Alasan “AI yang menyuruh saya” tidak bisa diterima
    Namun kalau yang mengeksekusi adalah orang tanpa wewenang, itu bentuk tanggung jawab yang lain
    Pada akhirnya AI hanya akan menjadi kambing hitam baru

    • Tetapi “siapa yang bertanggung jawab” memang tidak selalu jelas

  • Pada akhirnya mereka menghitung bahwa melobi pemerintah lebih murah dan lebih cepat daripada memperbaiki keamanan produk
    Yang lebih mengejutkan adalah banyaknya pengembang yang ingin mempercayakan kunci dunia kepada perusahaan seperti ini

    • Sebenarnya cara seperti ini sudah menjadi strategi standar perusahaan sejak pertengahan abad ke-20, dan memang efektif
    • Tapi bagaimana mungkin produk yang nondeterministik bisa dibuat ‘aman’?

  • Di Illinois juga ada rancangan undang-undang lain yang mewajibkan verifikasi usia di tingkat sistem operasi (HB 5511)
    Alasan rancangan undang-undang buruk seperti ini lolos adalah karena kita tidak bersuara
    Kalau Anda warga setempat, kirim email ke legislator Anda sekarang juga

  • Ayo bertaruh, “kapan postingan ini turun dari halaman depan?”

    • Judulnya diubah menjadi “OpenAI backs Illinois bill that would limit when AI labs can be held liable”
      Dalam rancangan undang-undang yang sebenarnya (tautan) memang tertulis jelas ‘kematian lebih dari 100 orang atau kerugian 1 miliar dolar’
      Saya justru merasa judul awal lebih akurat
    • Pembaruan: postingan itu turun dari halaman depan dalam sekitar 1~4 jam
    • Tapi ini tampaknya efek pemasaran, jadi rasanya tidak akan dihapus
      Kita sedang mengonsumsinya
    • Kalau saya bertaruh, mungkin butuh 3 bulan — kalau tidak turun, berarti saya menang taruhan seumur hidup

  • OpenAI awalnya berdiri sebagai organisasi nirlaba untuk mengurangi risiko LLM, tetapi sekarang justru berjalan ke arah sebaliknya

    • Itu cerita dari sebelum mereka menemukan potensi uangnya
    • Perusahaan yang memakai nama “Open” biasanya justru tertutup
    • Pada akhirnya semua orang punya harga
    • Mereka juga sekarang sudah melupakan idealisme awalnya
    • Bisa jadi sejak awal itu memang kebohongan

  • Langkah seperti ini tidak mengejutkan dari OpenAI dan Sam Altman
    Perusahaan mengalihkan biaya ke pihak luar adalah hal yang lazim
    Tetapi bagaimana kita bisa menghentikan perilaku seperti ini?
    Apakah ini sekadar hasil dari keserakahan yang mengalahkan moralitas?

    • Secara sosial, ini sulit dihentikan
      Ada kasus pengecualian seperti gerakan penolakan SOPA/PIPA, tetapi dalam kebanyakan situasi motivasi perusahaan jauh lebih besar daripada kepentingan individu
      Pada akhirnya ini adalah mekanisme yang sama dengan pelemahan demokrasi
    • Solusinya bisa jadi adalah mengubah konsep badan hukum itu sendiri
      Pada dasarnya badan hukum adalah struktur untuk menghindari tanggung jawab, jadi perusahaan berlapis dan SPV seharusnya dibatasi
      Dan jangan memilih politisi serta hakim yang menganut Friedman Doctrine
      Masyarakat saat ini condong pada pemilik modal
    • Kalau hukum seperti ini lolos, ada kemungkinan besar melanggar konstitusi
      Tidak banyak bedanya dengan hukum yang mengatakan, “siapa pun dengan kekayaan bersih lebih dari 1 miliar dolar boleh memukul orang dan kebal dari tanggung jawab”
      Pada akhirnya, selama pengadilan tidak korup, hukum ini akan dibatalkan
    • Yang bisa dilakukan individu memang terbatas
      Cara mengubahnya menjadi aksi sosial adalah pekerjaan peradaban itu sendiri
    • Banyak orang mungkin akan mengabaikan ini, tetapi saya ingin bilang: pilih Partai Demokrat
      Biro Perlindungan Keuangan Konsumen (CFPB) juga dibentuk oleh Partai Demokrat, dan Partai Republik melemahkannya
      Kita harus mendukung kekuatan politik yang mencegah monopoli dan manipulasi
      Apalagi sekarang muncul generasi progresif yang lebih muda, jadi memilih kandidat yang tepat dalam pemilu pendahuluan itu penting
      Pada akhirnya, dunia bisa berubah hanya dengan 25% pemilih yang berubah