Ilegal sejak Desain: Mengungkap Biaya HAM dari AI Generatif

• Sistem AI generatif mandiri bertentangan dengan hukum hak asasi manusia internasional (IHRL) dan standar terkait di seluruh proses perancangan, pengembangan, dan penerapan ketika didasarkan pada web scraping ilegal
• Teknologi ini menjanjikan otomatisasi dan efisiensi yang canggih, tetapi praktik pengumpulan data dan pelatihan model bergantung pada struktur yang menyalahgunakan hak atas privasi
• Praktik yang sama juga memungkinkan diskriminasi dan menimbulkan biaya HAM yang mengancam kebebasan berekspresi serta kebebasan berpikir
• Amnesty International menyimpulkan bahwa sistem yang berbasis web scraping ilegal bergantung, sejak desainnya, pada pelanggaran privasi skala besar
• Sistem semacam ini pada dasarnya tidak kompatibel dengan hukum hak asasi manusia internasional, dan Amnesty International menyerukan pelarangan sistem tersebut

---

Penilaian utama

• Sistem AI generatif mandiri yang didasarkan pada web scraping ilegal bertentangan dengan hukum hak asasi manusia internasional (IHRL) dan standar terkait pada tahap perancangan, pengembangan, dan penerapan
• Amnesty International menilai bahwa sistem ini, sejak desainnya, bergantung pada pelanggaran privasi skala besar dan pada dasarnya tidak kompatibel dengan hukum hak asasi manusia internasional

Mekanisme pelanggaran HAM

• Teknologi AI generatif menjanjikan otomatisasi dan efisiensi yang canggih
• Namun, praktik pengumpulan data dan pelatihan model bergantung pada penyalahgunaan hak atas privasi
• Praktik ini memungkinkan diskriminasi dan mengancam kebebasan berekspresi serta kebebasan berpikir

Kesimpulan dan tuntutan

• Amnesty International menyerukan pelarangan sistem AI generatif mandiri berbasis web scraping ilegal
• Laporan berbahasa Inggris dapat diunduh di Download PDF

[GN⁺]

Komentar Lobste.rs

• Semoga frasa scraping web ilegal tidak memicu arus lain yang pada akhirnya ingin melarang scraping web itu sendiri sebagai efek samping

  • Sepertinya ini bukan dorongan untuk memaksakan larangan scraping; kalau membaca bagian itu, kekhawatirannya cukup spesifik dan masuk akal
    Masalahnya adalah perusahaan mengumpulkan data pribadi dalam jumlah besar tanpa persetujuan, lalu mengomersialkan data tersebut dengan cara yang berisiko mengeksposnya
  • Disayangkan Amnesty tampak terlalu mengikuti logika para penerbit

• Amnesty International sampai menuntut pelarangan sistem semacam itu, jadi nadanya cukup keras

  • Rasanya akan lebih baik jika tidak dinyatakan seperti itu. Sebagian pembaca bisa saja menganggapnya sebagai idealisme yang tidak realistis, semacam “apa mau menutup kembali kotak Pandora yang sudah terbuka?”
    Meski begitu, poin soal perlunya upaya pemulihan dalam pengambilan keputusan berbasis AI, bias yang terlihat pada model, serta masalah scraping tanpa persetujuan, atribusi penulis, dan kompensasi tetap disorot dengan valid

• Saya belum selesai membaca semuanya, tetapi ada bagian yang menonjol di kesimpulan 5.6 p.35
  Amnesty International meminta DeepSeek, Google, OpenAI, Meta, Stability AI, Intel, VMware, Midjourney, Microsoft, dan Amazon menanggapi temuan investigasi serta kekhawatiran soal sistem AI generatif mandiri dan risiko HAM, tetapi Anthropic justru terlihat tidak ada dalam daftar
  Saat saya cari penyebutan Anthropic di laporan itu, yang muncul hanya isi bahwa pada Februari 2026 militer AS menggunakan Claude milik Anthropic saat menyerang Iran bersama Israel, dan ada bagian yang menyebut pemerintah AS mengabaikan syarat kontrak Anthropic yang membatasi penggunaan untuk “pengawasan domestik skala besar” dan “senjata otonom penuh tanpa pengawasan”
  Disebut juga bahwa produk Anthropic telah digunakan oleh pemerintah dan militer AS sejak 2024, dikenal sebagai “perusahaan AI maju” pertama yang produknya didistribusikan di berbagai lembaga pemerintah yang menangani pekerjaan rahasia, dan setelah Anthropic tidak mengubah pembatasan tersebut, Pentagon mengklasifikasikannya sebagai “Supply Chain Risk” pada 6 Maret 2026
  Bukan berarti saya ingin mengatakan Amnesty bias pro-Anthropic, tetapi tetap membingungkan kenapa tidak dimasukkan ke daftar itu. Mungkin daftar itu dibuat karena laporan tersebut beberapa kali menyebut OpenAI, Google, Meta, dan lainnya dengan sumber kasus kerugian yang spesifik, sementara untuk Anthropic mungkin tidak ada sumber serupa, tetapi tetap terasa aneh

• Amnesty rasanya sudah bukan Amnesty yang dulu

• Briefing ini menyatakan bahwa fokusnya ada pada pipeline data dalam rantai pasok produk AI generatif, terutama pada tahap pengumpulan, analisis, dan pemrosesan data
  Amnesty International juga mendefinisikan alat AI generatif mandiri sebagai produk yang dikembangkan, disebarkan, dan dipasarkan khusus untuk fungsi AI generatif seperti chatbot AI serta pembuat gambar, video, audio, dan teks, dan mengecualikan fitur yang ditambahkan ke rangkaian produk yang lebih besar, seperti fitur AI generatif opsional pada pengolah kata