- Penggunaan sistem AI yang diklasifikasikan sebagai “risiko yang tidak dapat diterima (unacceptable risk)” di UE kini dilarang sepenuhnya
- 2 Februari adalah tenggat kepatuhan pertama untuk EU AI Act, dan aturan ini berlaku untuk semua teknologi AI yang disediakan atau digunakan di dalam wilayah UE
- Pelanggaran dapat dikenai denda sebesar 7% dari pendapatan tahunan atau maksimal 35 juta euro (sekitar 36 juta dolar AS), mana yang lebih besar
Gambaran umum EU AI Act
- Regulasi membagi risiko AI ke dalam 4 tingkat
- Risiko minimal: misalnya filter spam
- Risiko terbatas: misalnya chatbot layanan pelanggan
- Risiko tinggi: misalnya sistem pendukung keputusan medis
- Risiko yang tidak dapat diterima: AI yang berisiko menimbulkan kerugian fisik, mental, atau diskriminasi terhadap manusia
- AI yang ditetapkan sebagai berisiko tidak dapat diterima menjadi objek larangan penggunaan total
- Contoh yang mewakili
- Skor sosial: AI yang membuat profil risiko berdasarkan perilaku individu
- Manipulasi bawah sadar: AI yang secara diam-diam atau menipu memanipulasi keputusan orang
- Eksploitasi kelompok rentan: AI yang menyalahgunakan usia, disabilitas, status ekonomi, dan sebagainya
- Prediksi kriminal berbasis penampilan: AI yang memprediksi kemungkinan tindak kriminal berdasarkan penampilan seseorang
- Analisis karakteristik berbasis biometrik: AI yang menyimpulkan karakteristik pribadi seperti orientasi seksual
- Pengumpulan data biometrik real-time di ruang publik: AI untuk pengumpulan data biometrik secara real-time demi tujuan penegakan hukum
- AI inferensi emosi: AI yang menganalisis emosi orang di tempat kerja atau sekolah
- Pembangunan basis data pengenalan wajah: AI yang mengumpulkan gambar dari internet atau kamera keamanan untuk membuat atau memperluas basis data pengenalan wajah
Janji pra-komitmen
- Sebelum tenggat 2 Februari, sekitar 100 perusahaan pada sekitar September 2024 menandatangani ‘EU AI Pact’ dan berjanji untuk secara sukarela mematuhi norma sebelum AI Act diberlakukan penuh
- Amazon, Google, OpenAI ikut serta, tetapi Meta, Apple, Mistral, dan lainnya tidak menandatanganinya
- Bahkan bagi perusahaan yang tidak ikut Pact, penggunaan AI berisiko tidak sesuai tetap pada prinsipnya dilarang
Klausul pengecualian yang berpotensi berlaku
- Ada pengecualian terbatas yang memungkinkan aparat penegak hukum menggunakan informasi biometrik dalam situasi tertentu (misalnya pencarian korban penculikan, ancaman mendesak)
- Bahkan dalam kasus ini, aturan menetapkan bahwa keputusan yang merugikan seseorang tidak boleh diambil hanya berdasarkan hasil dari satu sistem AI
- AI pendeteksi emosi di sekolah atau tempat kerja juga dapat diizinkan secara terbatas jika ada alasan yang sah seperti tujuan medis atau keselamatan
- Pedoman tambahan dijadwalkan terbit pada awal 2025, tetapi rincian konkretnya belum diungkap
Tantangan ke depan
- Penerapan sanksi nyata dan pelaksanaan penuh diperkirakan dimulai setelah Agustus
- Pada saat itu, “competent authorities” di tiap negara akan ditetapkan, dan denda serta tindakan penegakan diperkirakan mulai berlaku efektif
- Ada kemungkinan tumpang tindih dengan regulasi lain (GDPR, NIS2, DORA, dll.), yang dapat menimbulkan kebingungan bagi perusahaan
- Perlu perhatian agar kewajiban pelaporan atau cara pengelolaan data yang dituntut berbagai regulasi secara bersamaan tidak saling bertentangan
- Perusahaan perlu melakukan persiapan secara sistematis dengan merujuk pada standar, pedoman, dan kode etik yang akan diumumkan ke depan
2 komentar
Sepertinya belakangan saya cukup sering melihat tulisan bahwa regulasi menghambat pertumbuhan UE, dan sekali lagi rasanya belum terlihat hasil yang jelas, tetapi regulasinya sudah muncul lebih dulu.
Mungkin sampai tingkat ini memang pantas dibatasi oleh hukum.
Menurut saya, ini cukup kontras dengan berita ini.
Akhir-akhir ini rasanya makin banyak hal yang perlu dipikirkan.