Membangun superkomputer untuk diktator belum tentu baik bagi demokrasi

• OpenAI baru-baru ini mengumumkan kemitraan untuk membangun pusat data AI berskala besar di UEA
• Kemitraan ini diklaim “berakar pada nilai-nilai demokratis”, tetapi UEA adalah negara yang jelas tidak demokratis
• Freedom House dan lembaga lain menyoroti penindasan kebebasan sipil dan hak politik di UEA
• OpenAI menonjolkan penyebaran AI demokratis dalam kerja sama ini, tetapi kontribusinya terhadap demokrasi yang nyata masih belum jelas
• Ada kekhawatiran bahwa pemindahan sumber daya superkomputasi dapat berujung pada penguatan kekuatan negara otoriter

---

Gambaran umum kemitraan superkomputer AI OpenAI di UEA

• Pada Mei 2024, OpenAI secara resmi mengumumkan program OpenAI for Countries dan proyek Stargate, yaitu pusat data AI berskala besar di AS
• OpenAI menyebut bahwa pemerintah menyadari akumulasi komputasi AI akan menjadi inti daya saing nasional, dan menyatakan tujuan untuk “menyediakan AI demokratis ke berbagai negara di dunia”
• Setelah pengumuman itu, OpenAI mengungkap kemitraan dengan UEA untuk membangun pusat data AI mutakhir. Disebutkan bahwa kemitraan tersebut “berlandaskan nilai-nilai demokratis”

Kondisi demokrasi di UEA

• Menurut penilaian Freedom House tahun 2024, UEA mendapat skor 18 dari 100, lebih rendah daripada Haiti, Zimbabwe, dan Irak
• UEA adalah monarki turun-temurun, dengan ciri seperti monopoli kekuasaan politik, pelarangan partai politik, hak pilih yang terbatas, dan dewan konsultatif tanpa kewenangan legislatif yang nyata
• Kandidat dan aktivis yang mengkritik pemerintah, membela HAM, atau menuntut reformasi politik dapat ditahan, dan keluarga mereka juga menjadi sasaran pengawasan dan hukuman
• Media mengalami sensor mandiri atau sensor langsung dari pemerintah, dan buku pelajaran serta kurikulum pendidikan juga disensor
• Pekerja migran, yang mencakup 90% populasi, tidak memiliki hak politik, dan masalah eksploitasi tenaga kerja juga sangat serius. Organisasi HAM internasional juga menyoroti maraknya perbudakan modern

Kritik terhadap logika ‘AI demokratis’ dari OpenAI

• OpenAI dan Chris Lehane (kepala kebijakan global) berpendapat bahwa memperluas teknologi AI AS berarti menyebarkan nilai-nilai demokratis
• Argumen utamanya sebagai berikut
  1. AI buatan AS mewujudkan nilai-nilai demokratis, sehingga penyebarannya ke luar negeri akan mendorong kemajuan demokrasi
  2. Dalam persaingan AI antara AS dan Tiongkok, kemenangan AS berkaitan langsung dengan perlindungan demokrasi
• Dalam praktiknya, meskipun akses ke ChatGPT di UEA mungkin meluas, hal itu sulit dianggap langsung menjamin kebebasan berekspresi yang nyata atau kemajuan demokrasi secara segera
• Bahkan belum jelas apakah layanan akan disediakan sesuai standar sensor lokal di UEA. Jawaban COO OpenAI bahwa mereka akan “mendiskusikannya bersama pemerintah” juga memperkuat poin ini

Dampak dukungan teknologi superkomputasi kepada pemerintah otoriter

• Infrastruktur superkomputer AI berskala besar kini muncul sebagai elemen yang sangat penting dalam kekuatan negara
• Melalui kemitraan ini, besar kemungkinan UEA akan memperoleh akses yang signifikan atau hak kepemilikan atas chip AI paling canggih
• Seperti yang disebut Lehane, kesepakatan ini menjadi pendorong utama yang dapat menempatkan UEA dalam jajaran negara kuat di bidang AI
• Mungkin ada keuntungan dari diplomasi AS yang berpusat pada kepentingan praktis, tetapi implikasi negatif berupa penguatan kekuatan negara rezim otoriter juga besar

Kesimpulan dan pokok persoalan

• Ini bukan berarti kerja sama semikonduktor dan AI itu sendiri pasti negatif
• Sebagian besar detail kontrak antara OpenAI dan UEA masih tidak dipublikasikan atau belum ditetapkan
• Namun, jelas bahwa kesepakatan ini hanya akan terwujud dengan syarat yang dapat diterima keluarga kerajaan UEA → daya dorongnya terhadap demokrasi terbatas
• Tujuan OpenAI bahwa teknologi AI adalah demi kepentingan seluruh umat manusia, dan persoalan governance nyata serta pembagian kendali, tetap merupakan hal yang sepenuhnya terpisah
• Kasus ini dapat ditafsirkan sebagai sinyal bahwa OpenAI mungkin tidak secara serius mempertimbangkan ketegangan antara narasi moral dan risiko nyata seperti konsentrasi kekuasaan serta kemunduran demokrasi

[GN⁺]

Komentar Hacker News

• Saya sangat tidak suka suasana yang selalu memberi pembenaran atau pengecualian khusus untuk perusahaan berprofil tinggi seperti OpenAI. Padahal ini pada dasarnya adalah hal yang sudah dilakukan selama puluhan tahun oleh raksasa industri yang lebih low-profile seperti Cisco atau Oracle. Saya rasa analisis tentang apa yang dilakukan OpenAI tidak seharusnya menjadi awal sekaligus akhir dari pembahasan
  • Cisco dan Oracle tidak pernah memulai sebagai organisasi nirlaba sambil mengusung slogan melayani masa depan umat manusia yang lebih baik. Ini tidak berbeda dengan Google yang dulu mengusung moto "don't be evil" lalu meninggalkannya dan karena itu dikritik. Hanya karena kesalahan satu perusahaan dibiarkan lewat begitu saja, bukan berarti tidak boleh menuntut standar yang lebih tinggi dari perusahaan lain ke depannya
  • Politik adalah seni dari hal yang mungkin. Meski agak menjengkelkan, kita tetap bisa menghargai adanya upaya untuk bergerak berdasarkan prinsip. Tentu saja motif sebenarnya bisa jadi cuma hiasan, tetapi dalam kasus ini, meskipun jelas penulis ingin secara khusus mengkritik OpenAI, menurut saya argumennya sendiri cukup meyakinkan
  • Industri teknologi sudah terus menjual sistem komputer besar dan teknologi canggih ke UAE selama puluhan tahun. Latar belakang awal AMD dipisah menjadi GloFo juga sebenarnya terkait tujuan membangun pabrik semikonduktor canggih di Abu Dhabi, tetapi pada praktiknya sulit diwujudkan karena masalah seperti rantai pasok dan ketersediaan air di gurun menjadi kenyataan
  • Ini bahkan jauh lebih tua daripada yang dilakukan Cisco dan Oracle selama puluhan tahun. IBM pernah benar-benar menyediakan komputer yang digunakan dalam operasi Holocaust
  • Saya rasa OpenAI sendiri yang membuka diri terhadap kritik semacam ini dengan mengusung "memajukan demokrasi". Padahal jelas tujuannya mencari uang, jadi klaim seperti itu justru berbalik menjadi bumerang
• Saya sempat luput bahwa kategori negara diktator yang disebut artikel ini merujuk pada monarki Teluk, bukan para otoritarian di dalam AS. Pertama, dari sudut pandang Nvidia, menjual GPU dalam jumlah besar kepada investor Saudi yang tepercaya adalah bisnis yang bagus. Kedua, negara-negara monarki Teluk bergantung pada hubungan dengan AS dan ingin mempertahankan sistem yang ada, kalau tidak demi alasan lain ya untuk menghindari revolusi Islam. Ketiga, pasokan listrik untuk data center juga bisa diselesaikan dengan tenaga surya. Apakah negara-negara ini mengawasi penggunanya? Tentu. Mereka juga sudah bisa dengan mudah mengakali hukum lokal melalui perjanjian berbagi intelijen dengan GCHQ dan NSA. Tidak ada yang benar-benar baru, dan pada akhirnya saya merasa pikiran maupun privasi saya memang tidak boleh dipercayakan ke SaaS mana pun
  • Sebenarnya realitasnya bahkan lebih licik dari itu. Riwayat pembelian saya, alamat, metadata panggilan, dan bahkan data federal berkat DOGE sudah ditangkap. Bahkan tanpa feed media sosial saya pun itu sudah cukup menjadi ancaman bagi saya. Lagi pula ini bukan cuma soal SaaS. Seluruh web sedang dikeruk dengan kecepatan luar biasa, jadi saya merasa batas-batas kehidupan saya sudah jauh lebih luas terekspos
  • Pada akhirnya komunitas HN hanyalah kelompok kecil, dan tampaknya sebagian besar orang di dunia bukan hanya kekurangan informasi tetapi pada akhirnya akan memilih menukar privasi dengan kenyamanan. Ada juga sudut pandang bahwa pilihan idealnya adalah membuat godaan semacam itu sejak awal tidak ada
• Menurut saya, pengembangan teknologi untuk para diktator dalam bentuk apa pun tidak berdampak positif bagi demokrasi. Inti dari kesehatan demokrasi adalah memaksimalkan kesejahteraan kelas pekerja. Hanya ketika orang punya cukup waktu luang dan pendidikan untuk merawat diri sendiri, keluarga, dan komunitasnya, partisipasi demokratis yang bermakna bisa terjadi. Lebih baik tidak mengembangkan sesuatu untuk para diktator di negara mana pun, baik AS, negara-negara Teluk, Rusia, maupun yang lain (meski tentu secara realistis itu tidak mudah)
  • Partisipasi demokratis dan kenyataan hidup di negara diktator tampak seperti dua pembahasan yang agak terpisah. Justru semakin cepat perkembangan teknologi, semakin kuat kecenderungan distopia di masyarakat Barat, terutama di AS. Sementara itu, negara-negara diktator di Timur Tengah sejak dulu memiliki sistem kesejahteraan yang kuat, dan karena populasinya kecil, mereka berada dalam posisi untuk mengambil keuntungan lebih efisien dari ledakan AI
• Saya pikir nilai esensial LLM adalah kemampuannya melipatgandakan kekuatan pesan yang tersebar ke seluruh masyarakat. Ke depan, semua orang akan dikelilingi oleh pesan-pesan semu yang dikirim oleh entitas non-manusia. Ini pada dasarnya membuktikan bahwa satu-satunya cara mengendalikan internet adalah dengan "menguburnya" di bawah banjir pesan yang sangat besar
  • Jika yang dimaksud hoi polloi di sini adalah massa umum, maka kenyataannya massa hanya akan memakai alat seperti itu untuk tujuan komersial, dan tetap kecanduan media sosial karena haus akan interaksi sosial. Sebaliknya jika yang dimaksud adalah kalangan elite, mereka sudah lama menggunakan cara ini dengan menjadikan manusia sebagai tameng, dan akan terus melakukannya selama mereka punya cukup uang
  • Saya rasa ungkapan "pelipatgandaan kekuatan" menangkap inti kekhawatiran saya dengan sangat baik
  • Saya justru sulit percaya pada sikap yang menganggap kegunaan esensial LLM begitu "jelas", seolah pengetahuan dan imajinasi yang dimiliki sekarang sudah cukup untuk memastikan itu. Ini mengingatkan saya pada sudut pandang orang-orang yang merasa bisa memastikan apa esensi mesin uap pada tahun 1780
  • Saya sering melihat pendapat bahwa LLM akan dipakai untuk amplifikasi pesan, tetapi saya sama sekali tidak menganggapnya sudah jelas. Saya introvert, hanya mengikuti sangat sedikit media, dan sengaja menghindari interaksi online. Sebelum munculnya media sosial, gaya seperti ini justru lebih umum. Jika LLM meluap di mana-mana, bukankah mungkin justru orang akan kembali ke bentuk penggunaan jaringan yang lebih primitif? Dan soal mengendalikan internet dengan menenggelamkannya dalam pesan, kenyataannya lebih rumit karena intervensi hukum juga terus digunakan tanpa banyak menghemat biaya
  • Saya sulit setuju dengan klaim itu. Pers dan media sudah dipenuhi sampah informasi secara berlebihan, dan rata-rata daya perhatian orang sudah di titik batas. Sekalipun ditambah lebih banyak konten acak buatan AI, dampaknya tidak akan besar. Cara mengendalikan internet pada akhirnya tetap struktur regulasi yang ditegakkan langsung oleh pemerintah
• Menurut saya, justru semakin canggih teknologinya, semakin besar pula kemungkinan pemerintah mana pun berubah ke bentuk yang lebih otoriter dan totaliter. Para penguasa sangat tergoda untuk mengendalikan segalanya, dan hasilnya cenderung berupa cara memerintah negara dan rakyat yang mengerikan
• Terlepas dari masalah standar moral Sam Altman, saya ragu ada perbedaan esensial antara negara demokrasi yang melakukan penindasan, kekerasan, dan pendudukan terhadap pihak lain (AS, Israel, India) dan negara diktator di sisi sebaliknya (Saudi, Tiongkok, Korea Utara)
  • Dalam situasi ketika mereka yang diperintah tidak punya hak bicara langsung, istilah "negara demokrasi" sendiri terasa aneh
  • Jika perbedaan diabaikan lalu semuanya dibandingkan begitu saja, pembedaan esensial memang jadi mustahil. Dan ketika orang berbicara seolah korban negara diktator hanya sedikit, itu mengabaikan fakta bahwa ada miliaran massa yang benar-benar hidup dalam penindasan
• Secara pribadi, daripada membiarkan Tiongkok yang diuntungkan, saya merasa jauh lebih realistis untuk mengambil keuntungan lewat kerja sama dengan UAE. Sudah terbukti bahwa menekan Timur Tengah selamanya tidak akan berhasil. Pada akhirnya langkah seperti ini adalah yang terbaik dari sudut pandang realpolitik, semacam pilihan seperti bermain Hearts of Iron di dunia nyata. Jika Saudi memang tetap negara diktator, maka untuk saat ini pendekatan ini lebih menguntungkan
• Demokrasi juga pada akhirnya adalah struktur yang bahkan tidak mampu menjaga demokrasi itu sendiri. Saya menganggapnya sebagai ide yang sudah gagal
• Saya ingat bahwa dalam 1984, gagasan kuncinya adalah TV dipasang di setiap rumah dan TV itu selalu mengawasi orang. Sampai sekarang itu hanya fantasi distopia sederhana karena mustahil ada seseorang yang memahami dan mengawasi semua orang secara real-time. Namun dengan kemunculan LLM/GenAI belakangan ini, kini deteksi dini atas hal-hal seperti pikiran berbahaya tampaknya sudah cukup mungkin hanya dengan satu GPU di tiap rumah. Justru mungkin lebih realistis merancang sistem yang secara sengaja hanya menyisakan sumber daya komputasi terbatas. Jika itu AGI, mungkin ia bisa mendengar kedua sisi dan menjaga netralitas, tetapi agen LLM satu arah tidak punya kemampuan seperti itu. Saat ini setidaknya ada 6 perusahaan termasuk OpenAI dan Apple yang sedang mengembangkan perangkat rumah tangga berbasis GenAI terbaru yang selalu aktif memantau. AI yang mengamati seluruh hidup untuk memahami konteks juga bisa mengetahui selera pengguna, kecenderungan politik, dan sebagainya. Jika salah langkah, ini bisa benar-benar disalahgunakan oleh pemerintah otoriter. Kasus TikTok yang mampu mengetahui preferensi seksual atau minat pengguna bahkan tanpa data pengguna juga sudah terlihat nyaris secara real-time. Perangkat berbasis LLM hanya dengan menganalisis pola menonton TV, isi percakapan, dan ekspresi emosi saja sudah bisa menyimpulkan kecenderungan memilih atau niat ikut demonstrasi. Helen Toner mengkhawatirkan demokrasi di benua lain yang jauh, tetapi saya justru lebih takut bahwa basis utama demokrasi sendiri sudah berada tepat di ambang masyarakat ala Orwell. Tahap 1: mendorong semua orang memasang perangkat semacam itu di rumah mereka (sedang berlangsung), Tahap 2: menekan perusahaan terkait agar memakai perangkat itu sesuai kehendak penguasa (yang masih tersisa)
  • Mengklasifikasikan perilaku ke dalam penilaian biner seperti "berbahaya/aman" pada dasarnya bukan ranah generative AI, dan sejak lama sudah bisa dilakukan dengan machine learning tradisional maupun model klasifikasi. Bahkan tanpa LLM, teknologinya sudah cukup, dan dalam praktiknya model ML tradisional lebih efisien
• Halaman Wikipedia Chris Lehane masih belum diperbarui sesuai rekam jejak nyatanya Chris Lehane - Wikipedia Kariernya sebagai fixer benar-benar kelas atas