Skandal Pemindaian AI Microsoft: Privasi Perlu Ditinjau Ulang

• Microsoft baru-baru ini menemukan bahwa peretas yang didukung negara memanfaatkan alat AI generatif miliknya untuk serangan. Di komunitas keamanan, muncul pertanyaan tentang bagaimana Microsoft bisa mengetahuinya.
• Sebagian pihak menolak tindakan Microsoft ini dicirikan sebagai "memata-matai". Mereka berpendapat bahwa wajar bagi penyedia layanan cloud untuk memantau aktivitas pengguna, dan tidak adil menyebutnya sebagai tindakan memata-matai.
• Ini dapat dilihat sebagai salah satu contoh dari berubahnya ekspektasi kolektif kita terhadap privasi. Untuk memahaminya, ada pelajaran yang bisa dipetik dari perikanan.
• Pada pertengahan abad ke-20, jumlah ikan laut mulai menurun tajam akibat penangkapan berlebihan. Tren penurunan serupa juga muncul dalam industri perburuan paus.
• Daniel Pauly menyadari bahwa para peneliti membuat kesalahan besar saat menentukan jumlah tangkapan yang dapat diterima. Masalahnya adalah para peneliti tidak menyadari seberapa parah penurunan populasi ikan.
• Pauly menunjukkan bahwa setiap generasi peneliti memiliki titik acuan (baseline) yang berbeda saat membandingkan statistik saat ini, dan titik acuan tiap generasi lebih rendah daripada generasi sebelumnya. Ia menamai ini sebagai "shifting baseline syndrome".
• Pengawasan internet dan pelanggaran privasi yang menyertainya juga mengikuti lintasan yang sama. Karena sifat teknologi modern yang sangat luas, pengawasan menjadi lebih mudah daripada sebelumnya, dan setiap generasi terbiasa dengan kondisi privasi pada masa mudanya.
• Chatbot AI adalah contoh terbaru dari fenomena ini. Chatbot menghasilkan output sebagai respons atas input pengguna, tetapi di baliknya ada sistem berbasis cloud yang kompleks yang melacak input tersebut.
• Pergeseran titik acuan adalah inti dari hilangnya privasi kolektif kita. Mahkamah Agung AS telah lama memutuskan bahwa hak kita atas privasi bergantung pada ekspektasi yang wajar terhadap privasi. Namun, ekspektasi mudah berubah dan dipengaruhi oleh shifting baseline.
• Lalu apa yang harus dilakukan sekarang? Para ilmuwan perikanan kini melihat gambaran besarnya. Mereka tidak lagi mempertimbangkan ukuran relatif seperti membandingkan dengan dekade sebelumnya. Sebaliknya, mereka melihat secara menyeluruh seperti apa ekosistem laut yang sehat dan hasil tangkapan yang berkelanjutan seharusnya.
• Pendekatan yang sama diperlukan di bidang privasi dan keamanan. Alih-alih membandingkan dengan shifting baseline, kita perlu mundur sejenak dan melihat seperti apa ekosistem teknologi yang sehat seharusnya.

[GN⁺]

Opini Hacker News

Ringkasan komentar Hacker News

• Memahami perilaku privasi konsumen: Konsumen membuat pilihan dengan asumsi yang disederhanakan dalam dunia yang kompleks. Dalam ekonomi digital, masalahnya bukan standar konsumen, melainkan perubahan standar regulasi.
• Kegagalan naluri privasi: Orang hanya bereaksi sensitif terhadap pelanggaran privasi yang melibatkan orang yang mereka kenal secara pribadi. Mereka cenderung tidak peduli ketika organisasi anonim mengumpulkan data.
• Google dan privasi: Google telah lama mengumpulkan email, riwayat pencarian, dan lainnya milik kita. Kebanyakan orang menganggap masuk akal untuk mengorbankan privasi demi menggunakan alat yang nyaman.
• Big Tech dan privasi: Big Tech, seperti perusahaan tembakau, meyakinkan orang bahwa mereka bermanfaat. Kita harus menempatkan manusia dan privasi sebagai prioritas utama.
• Snowden dan Big Tech: Snowden mengungkap bahwa Big Tech memberikan data kepada NSA. Layanan AI seperti OpenAI juga bukan pengecualian.
• Sulitnya melindungi privasi: Sangat sulit membuat orang peduli pada masalah privasi. Diperlukan edukasi dan dukungan.
• Transparansi Microsoft: Microsoft secara terbuka menyatakan bahwa layanan AI dipantau. Di UE, penyimpanan log diwajibkan secara hukum.
• Apple dan spionase korporat: Ada tuduhan bahwa Apple menyelidiki perangkat secara ilegal. Ini menimbulkan pertanyaan tentang aktivitas spionase korporat.
• Masalah Windows: Windows menjadi semakin bermasalah, dan ada alternatif yang tersedia.
• Privasi dan biaya: Sebagian orang memilih mengorbankan privasi demi biaya yang lebih rendah atau fitur tambahan. Produk yang mengutamakan privasi juga bisa ada di pasar.