Buku baru yang menunjukkan bagaimana kekuasaan perusahaan membuat tata kelola tidak stabil

• Kudeta Teknologi: Cara Menyelamatkan Demokrasi dari Silicon Valley

  • Peneliti kebijakan Stanford HAI, Marietje Schaake, memperingatkan bahwa kekuasaan tanpa batas perusahaan teknologi mengancam supremasi hukum dalam demokrasi.
  • Ia menjelaskan bahwa perusahaan teknologi mengganggu peran pemerintah dan memainkan peran yang berlebihan dalam keamanan siber, sistem kepolisian, pemilu, serta kebijakan pertahanan militer.

• Cara perusahaan swasta semakin mengambil alih peran negara

  • Perusahaan yang memiliki kendali atas informasi dan kewenangan bertindak tanpa batas sedang menggantikan peran pemerintah.
  • Perusahaan seperti NSO Group Technologies menjual kemampuan untuk meretas perangkat pribadi melalui spyware Pegasus.
  • Teknologi ini memberi kemampuan untuk meretas informasi sensitif milik lawan politik, hakim, jurnalis, dan lainnya.

• Cara agar institusi demokratis kembali memegang kendali

  • Diperlukan kesadaran dan pemahaman atas dampak perusahaan terhadap pemerintah, demokrasi, dan hukum internasional.
  • Kejelasan hukum, mekanisme akuntabilitas, dan langkah-langkah transparansi juga dibutuhkan di ranah digital.
  • Hukum dan regulasi tradisional harus diterapkan ke ranah digital, dan hukum serta regulasi internasional perlu diperkuat seiring perkembangan teknologi.

• Penemuan ulang pemerintah demokratis baru untuk menghadapi tantangan digitalisasi

  • Para legislator perlu dibantu ahli teknologi independen agar dapat memahami dampak teknologi.
  • Akuntabilitas harus diperkuat melalui perluasan tanggung jawab publik ketika pemerintah melakukan outsourcing ke perusahaan teknologi.

• Ketegangan terkait penggunaan energi oleh perusahaan teknologi

  • Transparansi atas penggunaan energi pusat data masih kurang, dan ini menghambat transparansi penggunaan sumber daya serta tata kelola yang baik.
  • Diperlukan persyaratan transparansi dan pelaporan yang terstandarisasi untuk menilai dampak proyek pusat data berskala besar terhadap komunitas lokal.

• Prinsip kehati-hatian dan AI

  • Prinsip kehati-hatian menuntut jeda sementara untuk menilai dampak inovasi terhadap masyarakat.
  • Prinsip kehati-hatian perlu diterapkan pada inovasi teknologi seperti AI untuk mencegah masalah yang tidak terduga.

• Mengapa warga Amerika lambat memahami ancaman perusahaan teknologi

  • Di seluruh dunia, kerugian akibat penyalahgunaan kekuasaan oleh perusahaan teknologi terus terjadi, tetapi warga Amerika menganggapnya sebagai masalah yang jauh.
  • Kasus seperti Cambridge Analytica juga terjadi di Amerika Serikat, dan penyalahgunaan kekuasaan perusahaan teknologi memengaruhi demokrasi Amerika.

• Peran sebagai warga demokratis

  • Konsumen dapat membuat pilihan dalam penggunaan teknologi, tetapi itu tidak cukup.
  • Diperlukan pengawasan independen dan kekuatan penyeimbang terhadap penyalahgunaan kekuasaan oleh perusahaan teknologi.
  • Warga harus membentuk agenda politik dan menuntut lebih banyak dari para pemimpin.

Ringkasan GN⁺

• Buku Marietje Schaake memperingatkan dampak kekuasaan tanpa batas perusahaan teknologi terhadap demokrasi dan menawarkan berbagai cara untuk mengatasinya.
• Kendali informasi dan kewenangan bertindak tanpa batas yang dimiliki perusahaan teknologi sedang menggantikan peran pemerintah, dan ini mengancam supremasi hukum dalam demokrasi.
• Kejelasan hukum, mekanisme akuntabilitas, dan langkah-langkah transparansi juga dibutuhkan di ranah digital, dan dampak sosial inovasi teknologi perlu dinilai melalui prinsip kehati-hatian.
• Warga perlu menuntut pengawasan independen dan kekuatan penyeimbang terhadap penyalahgunaan kekuasaan perusahaan teknologi, serta membentuk agenda politik.

[GN⁺]

Komentar Hacker News

• Ada pendapat bahwa di AS, penting agar rakyat membuat undang-undang selain berada di bawah kendali pemerintah dan korporasi. Namun kenyataannya tidak demikian. Yang penting adalah menanyakan hukum itu menguntungkan siapa. Misalnya, perlu dipertimbangkan apakah undang-undang dibuat untuk menguntungkan perusahaan farmasi sehingga harga obat menjadi mahal, atau justru mengendalikan harga obat.

  • Dalam situasi ketika upah minimum federal adalah $7.25, yang diuntungkan bukanlah masyarakat umum.
  • Ada pendapat bahwa warga harus membuat undang-undang yang menguntungkan mereka, dan terutama penting untuk membatalkan putusan Citizens United v. Federal Election Commission.
  • Media bergantung pada pengiklan korporat sehingga sulit menentang ekses korporasi.

• Ada pendapat bahwa perangkat lunak sedang melanggar hak kepemilikan, dan ini disebut "techno feudalism". Korporasi memiliki perangkat lunak dan orang-orang hanya menyewanya.

• Internet menghubungkan semua orang dan memungkinkan arus informasi yang bebas, tetapi hal ini justru melemahkan kepercayaan antarmanusia.

  • Kebebasan berbicara itu penting, tetapi orang dapat memanfaatkannya untuk menipu atau memaksa.
  • Dalam "Reflections on Trusting Trust" karya Ken Thompson, disimpulkan bahwa kita tidak bisa membangun kepercayaan dengan bergantung pada komputer.
  • Masyarakat membutuhkan kepercayaan, tetapi di dunia online informasi palsu menyebar cepat sehingga orang kehilangan rasa percaya yang alami.

• Ada pendapat bahwa pemerintah dan korporasi sedang berhadapan dengan rakyat.

  • Pemerintah menekan korporasi agar melakukan hal-hal yang tidak bisa dilakukan pemerintah sendiri.
  • Jika korporasi tidak bekerja sama, mereka diancam akan dipecah.

• Dalam pembahasan tentang regulasi teknologi, kebutuhan akan pakar teknologi independen ditekankan.

  • Kongres AS pernah mengoperasikan Office of Technology Assessment, tetapi dibubarkan pada 1995.
  • Monopoli adalah masalahnya, dan ada pendapat bahwa penegakan Sherman Act yang kuat diperlukan.

• Ada diskusi tentang cara mengembalikan kendali kepada lembaga demokratis.

  • Muncul pertanyaan tentang perlunya pakar independen dan bagaimana menjamin independensi mereka.
  • Ada diskusi tentang apakah korporasi harus mengungkapkan penggunaan energi atau air mereka.

• Ada kekhawatiran bahwa jaringan listrik AS telah mencapai batasnya, dan peningkatan pusat data dapat memicu bencana.

• Ada pendapat bahwa model geografis pemerintahan tidak cocok untuk era internet.

  • Di masa lalu pemerintah bisa menegakkan hukum di dalam negerinya, tetapi di internet produk dan layanan yang melintasi batas negara menjadi masalah.

• Ada kekhawatiran bahwa smartphone mengambil alih kendali atas keamanan.

  • Akses ke layanan pemerintah telah diprivatisasi sepenuhnya, dan ini terjadi sebagai imbalan atas kenyamanan.
  • Ada pendapat bahwa karena orang menyerahkan keamanan demi memilih kenyamanan, korporasi sedang menggantikan pemerintah.