Kecerdasan Buatan dan Pengawasan Massal

Kecerdasan Buatan dan Pengawasan Massal

• Pengawasan dan kegiatan mata-mata adalah konsep yang berbeda tetapi saling berkaitan. Dulu, pengawasan adalah pekerjaan manual yang memakan banyak biaya dan waktu, tetapi sekarang lokasi, pembelian, dan lawan bicara dapat dilacak secara otomatis melalui smartphone, kartu kredit, aplikasi, dan sebagainya.
• Dalam pengawasan massal yang telah menjadi model bisnis internet, kita berada dalam situasi di mana kita nyaris tidak bisa memilih untuk tidak ikut serta. Kegiatan mata-mata masih bergantung pada tenaga manusia, tetapi kecerdasan buatan (AI) siap mengubah hal itu.

Perubahan yang Dibawa AI

• Sistem AI generatif modern sangat baik dalam membuat ringkasan, dapat mengelompokkan jutaan percakapan berdasarkan topik atau memberi tahu siapa yang menyebut topik tertentu.
• Teknologi ini memang belum sempurna, tetapi manusia juga membuat kesalahan, dan AI direplikasi serta ditingkatkan dengan cepat, sehingga akan menjadi lebih baik setiap tahun. Era mata-mata berskala massal sedang mendekat.

Masa Depan Pengawasan dan Mata-Mata Massal

• Pengawasan massal memberikan kemampuan untuk menelusuri kembali ke masa lalu dan melakukan pemantauan bahkan tanpa mengetahui target tertentu.
• Kegiatan mata-mata massal akan menyimpan semua data, serta memungkinkan pencarian dan pemahaman dalam skala besar. Ini dapat menemukan percakapan tentang topik tertentu, rencana kejahatan, penyebaran rumor, hingga rencana untuk ikut serta dalam demonstrasi politik.
• Analisis yang kompleks seperti mengungkap struktur organisasi atau menemukan orang-orang yang berbagi rahasia akan menjadi mungkin. Bukan hanya percakapan, tetapi kegiatan mata-mata akan dimungkinkan di mana pun ada mikrofon.

Dampak Sosial dari Pengawasan dan Kegiatan Mata-Mata

• Kondisi diawasi secara terus-menerus memengaruhi perilaku manusia serta mendorong sensor diri dan kontrol sosial.
• Pemerintah sudah menggunakan pengawasan massal, dan akan mulai menggunakan kegiatan mata-mata massal juga.
• Perusahaan akan memantau orang untuk tujuan pemasaran, dan semakin memperkuat industri iklan yang dipersonalisasi.

Privasi Data dan Pembatasan

• Google pernah mencoba menggunakan isi Gmail untuk menyediakan iklan yang dipersonalisasi, tetapi menghentikannya karena kegunaan data kata kunci rendah. Namun, seiring teknologi ini membaik, ada kemungkinan hal itu dimulai lagi.
• Fungsi mata-mata massal bisa dibatasi atau aturan privasi data yang kuat bisa diterapkan, tetapi seperti halnya pengawasan massal yang tidak dibatasi, kegiatan mata-mata kemungkinan tidak akan berbeda.

Pendapat GN⁺

Hal terpenting dari tulisan ini adalah bahwa tulisan ini memberikan wawasan tentang bagaimana perkembangan teknologi kecerdasan buatan (AI) mengubah privasi individu dan hakikat pengawasan. Dengan memahami dampak pengawasan massal dan kegiatan mata-mata terhadap perilaku sosial serta kontrol, pembaca dapat memiliki landasan untuk terlibat dalam diskusi penting terkait privasi data. Tulisan ini juga menawarkan topik yang menarik khususnya bagi para profesional teknologi seperti software engineer, mengingat pesatnya perkembangan AI dan luasnya dampak yang dapat ditimbulkannya pada kehidupan sehari-hari kita.

[GN⁺]

Opini Hacker News

• Hakikat persoalan politik

  • Masalah ini bukan persoalan teknis, melainkan persoalan politik. Misalnya, bekas Uni Soviet dapat melakukan pengawasan massal yang efektif hanya dengan teknologi dasar. Hal seperti ini tidak terjadi di AS bukan karena kurangnya kemampuan teknis, tetapi karena tidak ada minat politik.
  • Dulu, hukum dibuat untuk melarang hal-hal yang sebelumnya bahkan tak terbayangkan. Menjadikan pengumpulan data sebagai tindakan ilegal juga tidak akan menjadi lompatan hukum yang besar, tetapi saat ini sama sekali tidak ada perhatian politik ke arah sana.

• Risiko pengawasan oleh kecerdasan buatan

  • Dalam realitas negara pengawas, jumlah data begitu besar sehingga secara praktis mustahil dipantau, tetapi AI dapat merangkumnya dan menyelesaikan masalah itu. Inilah bahaya nyata AI dalam jangka pendek: AI bisa menjadi alat untuk menargetkan segala sesuatu yang menyimpang dari standar.

• Bot asisten pribadi milik perusahaan

  • Bot dari Google, Meta, Microsoft, dan lainnya akan melacak bukan hanya web atau jejaring sosial, tetapi juga topik dan orang tertentu. Bot asisten pribadi ini berpura-pura membantu pengguna, tetapi sebenarnya mengumpulkan informasi demi tujuan perusahaan dan memberikan informasi yang telah dimanipulasi.

• Penegakan hukum kriminal massal oleh AI

  • Hukum pidana ditulis dengan asumsi bahwa penyelidikan dan penuntutan memerlukan sumber daya, tetapi AI dapat menghapus batasan itu. AI dapat memantau aktivitas publik dan mengotomatisasi prosedur hukum, sehingga pelanggaran sepele pun bisa dituntut.

• Dampak sensor

  • Kemungkinan sensor dan model bisnis yang lahir darinya lebih mengkhawatirkan daripada pengawasan. Misalnya, aplikasi kencan bisa membuat pengguna harus membayar untuk bertukar kontak, atau media sosial bisa langsung menghapus pandangan tertentu.

• Perkembangan teknologi yang tak terelakkan

  • Seiring perkembangan teknologi, pengawasan dan sensor pada akhirnya akan terjadi. Kita perlu menerima ini sebagai kenyataan dan membahas cara untuk beradaptasi. Risiko pengawasan ilegal dapat dikurangi melalui regulasi hukum dan teknologi anti-pengawasan.

• Pengenalan wajah demi keamanan

  • Dengan dalih "keamanan", pemindaian wajah akan segera sering dilakukan, dan ini akan diwajibkan di banyak bagian kehidupan kita.

• Upaya Google dalam melindungi privasi

  • Google tidak selalu mendengarkan saat "Hey Google" diucapkan; audio hanya dikirim ketika kata tertentu dikenali. Tim privasi Google sedang berupaya melakukan hal yang benar.

• Realitas pengawasan massal oleh AI

  • Pengawasan massal sudah ada, dan AI dapat digunakan untuk mengekstrak data perilaku setiap orang selama puluhan tahun. Jika data ini hanya digunakan untuk penuntutan pidana, maka akan tercipta masyarakat di mana tak seorang pun berada di atas hukum, tetapi manusia yang mengendalikan sistem menginginkan posisi yang menguntungkan bagi diri mereka sendiri.

• Kebebasan perangkat lunak AI

  • Perangkat lunak AI tidak boleh dibatasi, dan masyarakat umum serta orang-orang yang memiliki kesadaran sipil harus dapat mengembangkan sistem AI pribadi dan publik untuk melawan AI korporat. Masa depan AI akan bersifat konfrontatif, dan kebebasan untuk mengembangkan perangkat lunak AI harus dijaga, sementara penggunaannya perlu diatur.