- Baru-baru ini saya menemukan makalah berjudul "How to think about end-to-end encryption and AI" yang dipublikasikan oleh peneliti NYU dan Cornell. Makalah ini membahas pertanyaan-pertanyaan penting tentang AI dan enkripsi ujung-ke-ujung, dan meskipun saya tidak setuju dengan beberapa kesimpulannya, topik yang diangkat sangat penting.
Apa itu enkripsi ujung-ke-ujung dan apa kaitannya dengan AI?
- Selama 10 tahun terakhir, salah satu kisah paling penting terkait privasi adalah kebangkitan platform komunikasi dengan enkripsi ujung-ke-ujung. Sebelum 2011, sebagian besar perangkat yang terhubung ke cloud mengunggah data dalam bentuk teks biasa.
- Enkripsi ujung-ke-ujung adalah teknologi yang membuat server tidak dapat melihat isi pesan dalam bentuk teks biasa. Namun, teknologi ini juga dapat membuat server lebih sulit memproses data.
- Seiring perkembangan AI, semakin besar kemungkinan banyak pemrosesan data akan dialihkan ke server jarak jauh. Hal ini dapat menimbulkan masalah privasi.
Dampak AI terhadap pesan dengan enkripsi ujung-ke-ujung
- Sistem enkripsi ujung-ke-ujung dirancang agar isi pesan tidak dapat diakses selama pengiriman oleh siapa pun selain perangkat para peserta. Namun, sistem ini tidak menjamin bagaimana pengguna akan memproses data.
- Cara AI memproses data dapat menimbulkan persoalan rumit terkait persetujuan pengguna. Beberapa perusahaan mungkin dapat memberi panduan yang baik kepada pengguna, tetapi perusahaan lain belum tentu demikian.
Perangkat keras tepercaya dan "Private Cloud Compute" milik Apple
- Apple memperkenalkan pendekatan bernama "Private Cloud Compute" untuk mengatasi masalah privasi pada AI. Ini adalah cara melindungi data dengan menggunakan perangkat keras tepercaya.
- Sistem ini membuat penyerang maupun karyawan Apple sama-sama sulit membocorkan data. Namun, sistem ini tetap memberikan jaminan keamanan yang lebih lemah dibandingkan enkripsi.
Untuk siapa agen AI bekerja?
- Cara agen AI memproses data pengguna dapat membuka kemungkinan bagi pemerintah untuk menuntut akses. Ini menimbulkan pertanyaan penting terkait privasi.
- Pilihan teknis mungkin tidak mampu menjamin privasi, dan tidak ada keyakinan kuat bahwa masyarakat akan membuat pilihan politik yang tepat.
1 komentar
Komentar Hacker News
Seiring meningkatnya sistem deteksi otomatis, jumlah orang yang menangani kasus individual berkurang dan para manajer menjadi lebih bergantung pada deteksi otomatis. Ini dapat menimbulkan frustrasi besar karena ketika terjadi false positive, penyelesaiannya menjadi sulit. Terutama jika digunakan untuk penegakan hukum, hal ini bisa berdampak fatal pada kehidupan seseorang
Misalnya, ada pengalaman ditandai keliru di Amazon karena ulasan ilegal, lalu gagal menghubungi manusia untuk menyelesaikan masalahnya. Jika situasi seperti ini terjadi pada masalah kriminal yang serius, hidup seseorang bisa hancur
Sistem deteksi otomatis seharusnya bukan menggantikan manusia, melainkan melengkapinya agar lebih banyak pekerjaan bisa ditangani dengan lebih sedikit orang. Namun saat ini insentifnya kurang, dan para pengambil keputusan tidak menangani kasus nyata sehingga mereka tidak menyadari masalahnya
Ancaman yang sesungguhnya bisa muncul ketika AI meluas dari mempercepat pekerjaan individu menjadi alat kontrol bagi organisasi. Ini dapat membuat organisasi lebih efektif, tetapi juga dapat melemahkan keyakinan bahwa para karyawan adalah manusia nyata
Bahaya sebenarnya dari pengawasan massal adalah mengumpulkan informasi tentang orang-orang yang dianggap merepotkan agar mereka tidak lagi bisa menjadi gangguan. Belum semua konsekuensi dari pengawasan massal terlihat
OpenAI secara terbuka menyatakan bahwa data disimpan selama 30 hari, dan karyawan serta kontraktor pihak ketiga dapat meninjaunya
Muncul pertanyaan sulit tentang apakah sistem AI benar-benar bekerja untuk kita. Tren saat ini memberi harapan yang terbatas untuk masa depan yang netral dan mengutamakan privasi
Apple mengumumkan akan merilis image perangkat lunak agar peneliti keamanan dapat memverifikasi bug, tetapi tidak merilis source code. Apple mengklaim tidak menyimpan data pengguna dan engineer dukungan tidak dapat melihat data pengguna
Masalah tentang untuk siapa AI bekerja kemungkinan besar akan membuat perusahaan ad tech menjalankan AI bertentangan dengan kepentingan pengguna. Hal ini disebabkan ekspektasi terhadap layanan "gratis" yang didukung iklan
Konsep hukum tentang untuk siapa AI agent sebenarnya bekerja itu penting. Isi yang saat ini diusulkan mencakup pengawasan terhadap berbagai ancaman
Akibat pengawasan massal, data yang disimpan di cloud menjadi dapat dipindai, sehingga risiko diawasi hanya karena pendapat yang berbeda pun meningkat
Jaminan teknis berbeda dari janji kepada pengguna. PCC Apple memang meningkatkan keamanan, tetapi tidak menjamin transparansi atau akuntabilitas. Transparansi adalah masalah yang lebih besar daripada keamanan
Agar AI dapat melayani masyarakat, ketimpangan informasi harus diatasi. Jika kita menginginkan perilaku perusahaan yang baik, mereka harus beroperasi secara transparan
Pilihan teknis mungkin tidak dapat menyelesaikan masalah privasi. Yang penting adalah siapa yang diberi hak akses ke AI agent. Secara teknis, agent dapat dijalankan secara lokal dan percakapan dengan pihak yang tidak boleh mengakses sistem dapat diblokir