1 poin oleh GN⁺ 2025-06-09 | 1 komentar | Bagikan ke WhatsApp
  • OpenAI membingkai OpenAI for Countries dan Stargate UAE sebagai upaya menyebarkan “AI demokratis”, tetapi dasar bahwa membangun pusat data AI berskala besar di UEA akan mendorong demokrasi masih lemah
  • UEA adalah negara yang mendapat 18/100 poin dalam penilaian Freedom House 2024, dan turut dikaitkan dengan monopoli kekuasaan oleh monarki turun-temurun, pelarangan partai politik, larangan mengkritik pemerintah, pemenjaraan aktivis, sensor media, serta eksploitasi pekerja migran
  • Argumen OpenAI terbagi menjadi “AI Amerika menyebarkan nilai-nilai demokratis” dan “jika Amerika menang dalam persaingan AI dengan Tiongkok, itu menguntungkan demokrasi”, tetapi tidak ada dasar bahwa Stargate UAE bertujuan menyediakan akses tanpa sensor atau alat pro-demokrasi
  • Infrastruktur komputasi AI berskala besar sedang menjadi aset inti kekuasaan negara, dan karena keluarga kerajaan UEA mengucurkan dana sangat besar, pengaruh pemerintah UEA kemungkinan akan meningkat melalui akses atau kepemilikan atas chip AI kelas atas
  • Transaksi semikonduktor dan infrastruktur AI tidak selalu buruk, tetapi mempromosikannya sebagai proyek demokrasi ketika jumlah chip, hak kepemilikan dan penggunaan, serta syarat pencegahan transfer teknologi ke Tiongkok belum diungkap adalah pembingkaian yang berbahaya

Dalih “AI demokratis” OpenAI dan Stargate UAE

  • Pada awal Mei, OpenAI mengumumkan OpenAI for Countries dan menyatakan akan mendukung pembangunan infrastruktur AI di berbagai negara dengan mengaitkannya pada Stargate yang sedang didorong di Texas, Amerika Serikat, dan tempat lain
  • Inti pengumuman itu adalah argumen bahwa infrastruktur AI berskala besar akan menjadi aset dasar bagi pertumbuhan ekonomi masa depan dan pembangunan nasional, serta bahwa negara-negara yang menginginkan “rel AI demokratis” perlu diberi alternatif dari AI otoriter
  • Setelah itu, OpenAI mengumumkan kemitraan untuk membangun pusat data AI berskala besar di UEA, dan menampilkannya sebagai proyek yang berakar pada “nilai-nilai demokratis
  • Fokus kritiknya adalah bahwa transaksi besar pertama yang diusung OpenAI atas nama demokrasi bukan dengan negara demokrasi sungguhan, melainkan dengan UEA

Sistem politik dan situasi hak asasi manusia di UEA

  • Dalam skor negara 2024 dari Freedom House, UEA mendapat 18/100 poin, lebih rendah daripada Haiti, Zimbabwe, dan Irak
  • Skor kebebasan: {p:18}
  • Sistem politik UEA adalah struktur di mana monarki turun-temurun memonopoli kekuasaan
    • Partai politik dilarang
    • Kandidat dapat maju sebagai independen, tetapi sulit menantang sistem secara berarti
    • Hanya separuh kursi dewan penasihat yang dipilih, sementara sisanya ditunjuk pemerintah
    • Dewan penasihat tersebut tidak memiliki kewenangan legislatif yang nyata
  • Kritik terhadap pemerintah dilarang, dan kandidat maupun aktivis yang menuntut hak asasi manusia atau reformasi politik dipenjara atau menghadapi pengadilan massal
  • Bahkan keluarga para pembangkang yang dipenjara pun secara sistematis menjadi sasaran pengawasan dan hukuman
  • Media melakukan swasensor atau mengalami sensor aktif oleh pemerintah, dan dalam beberapa kasus dapat ditutup
  • Sekitar 90% populasi UEA adalah pekerja migran tanpa hak politik, dan eksploitasi tenaga kerja seperti penyitaan paspor, tunggakan upah, serta kerja paksa di tengah panas ekstrem menjadi persoalan yang disorot
  • Sebuah organisasi hak asasi manusia menilai UEA sebagai negara dengan prevalensi perbudakan modern tertinggi ke-7 di dunia

Dua cabang argumen demokrasi dari pihak OpenAI

  • Chris Lehane, kepala urusan global OpenAI, dalam tulisan di The Hill berargumen bahwa nilai-nilai demokratis harus membentuk masa depan AI, dan jika Amerika Serikat tidak membantu negara-negara yang ingin membangun AI, para diktator akan mengisi kekosongan itu
  • Penjelasan pihak OpenAI secara garis besar terbagi menjadi dua argumen
    • AI Amerika memuat nilai-nilai demokratis, sehingga jika diberikan kepada lebih banyak orang, demokrasi akan menyebar
    • Amerika Serikat adalah negara demokrasi dan Tiongkok bukan, sehingga kemenangan Amerika Serikat dalam “persaingan” AI menguntungkan demokrasi
  • Argumen pertama bisa berlaku sampai batas tertentu dalam situasi ekstrem, tetapi tidak terlalu cocok dengan transaksi UEA
    • Jika suatu negara sebelumnya melarang akses ke chatbot AI tanpa sensor lalu mengizinkannya, hal itu dapat membantu nilai demokratis dari sisi kebebasan informasi
    • Penyediaan alat AI pro-demokrasi yang bertentangan dengan kehendak pemerintah non-demokratis juga dapat bermakna dalam cakupan terbatas
    • Namun tidak ada dasar bahwa Stargate UAE berupaya mewujudkan skenario seperti ini
  • OpenAI mempromosikan bahwa UEA akan menjadi negara pertama di dunia yang mengaktifkan ChatGPT secara nasional, tetapi tidak jelas apakah ChatGPT sebelumnya dibatasi di UEA, atau mengapa Amerika Serikat, Australia, Kanada, dan lainnya bukan disebut “aktif secara nasional”
  • Ada juga laporan bahwa ChatGPT Plus akan diberikan gratis kepada penduduk UEA, tetapi informasi tersebut adalah berita palsu

Operasi ChatGPT dan garis sensor UEA

  • Tidak ada sinyal bahwa ChatGPT di UEA akan dioperasikan secara lebih demokratis dibanding alat AI lainnya
  • Penduduk UEA tampaknya juga dapat mengakses produk AI Amerika lainnya seperti Gemini, Claude, dan Llama
  • COO OpenAI Brad Lightcap ditanya apakah ChatGPT di UEA akan mematuhi “red lines” untuk topik sensitif seperti kritik terhadap keluarga kerajaan, dan menjawab, “kami belum tahu. Kami harus mengerjakannya bersama negara dan kemitraan”
  • Jawaban ini tidak menyingkirkan kemungkinan bahwa ChatGPT akan disesuaikan agar tidak bertabrakan dengan garis sensor politik UEA yang ada

Infrastruktur komputasi AI dan kekuasaan negara

  • Argumen kedua, yaitu persaingan AI antara Amerika Serikat dan Tiongkok, relatif bisa lebih meyakinkan
    • Sumber daya komputasi memainkan peran besar dalam keberhasilan AI
    • Saat ini pembangunan pusat data berskala besar di Amerika Serikat dipandang sulit
    • Jika negara lain menyediakan dana, energi, dan perizinan, perusahaan Amerika dapat memperoleh lebih banyak sumber daya komputasi dan membuat AI yang lebih baik
  • Namun kerangka yang hanya melihat Amerika Serikat dan Tiongkok membuat implikasi yang lebih besar dari transaksi UEA terlewatkan
  • Infrastruktur komputasi berskala besar, terutama superkomputer AI kelas dunia yang terdiri dari ratusan ribu akselerator AI canggih, sedang menjadi pendorong penting kekuasaan negara
  • Dari sudut pandang ini, Stargate UAE menjadi transaksi yang sangat memperbesar kekuasaan pemerintah UEA dan pengaruhnya atas AI
  • Berdasarkan materi publik saja, kepemilikan dan hak penggunaan sumber daya komputasi itu sangat tidak jelas, tetapi mengingat UEA mengeluarkan dana sangat besar, sulit membayangkan situasi di mana mereka tidak memperoleh akses atau kepemilikan yang signifikan atas chip-chip tersebut

Syarat dan ketidakpastian transaksi AI dan semikonduktor Teluk

  • Bertransaksi semikonduktor dengan negara-negara Teluk pada dasarnya bukanlah hal yang buruk
  • Rincian beberapa transaksi yang mirip dengan transaksi OpenAI di UEA belum diungkap, dan sebagian belum difinalkan
  • Amerika Serikat telah lama bekerja sama dengan pemerintah diktator di kawasan Teluk atas alasan keamanan nasional, dan dari sudut pandang realpolitik yang dingin, ada juga kemungkinan bentuk transaksi yang manfaatnya lebih besar daripada biayanya
  • Untuk menilai setelahnya apakah Amerika Serikat mendapatkan transaksi yang baik, syarat-syarat berikut penting
    • Jumlah chip

      • Kepemilikan dan hak penggunaan sumber daya komputasi
      • Mekanisme pencegahan transfer teknologi ke Tiongkok
      • Namun bahkan bentuk terbaik dari transaksi Stargate UAE pun harus merupakan syarat yang dapat diterima keluarga kerajaan UEA, sehingga kemitraan ini sulit menjadi sarana kuat untuk mendorong demokrasi

Misi OpenAI dan masalah konsentrasi kekuasaan

  • Jika OpenAI adalah perusahaan komersial biasa, atau jika AI adalah teknologi yang kurang penting, pentingnya bahasa promosi seputar transaksi ini akan lebih kecil
  • Namun OpenAI menekankan dirinya sebagai organisasi nirlaba berbasis misi dan merupakan organisasi yang berupaya membuat teknologi yang sangat kuat
  • Misi “memastikan AI bermanfaat bagi seluruh umat manusia” sering disederhanakan menjadi membangun AGI yang aman, tetapi persoalan mengembangkan teknologi yang dapat mengubah dunia agar benar-benar bermanfaat bagi semua jauh lebih rumit daripada “membuatnya aman” atau “membuatnya di Amerika Serikat”
  • Siapa yang memiliki akses ke sistem AI kuat dan siapa yang memegang kendali adalah persoalan inti yang menentukan siapa yang akan mendapat manfaat
  • Tantangan mengembangkan AI dengan cara yang tidak memperlebar kesenjangan kekuasaan yang ada, tidak memperkuat rezim diktator, dan tidak melemahkan kekuatan orang biasa tetap menjadi persoalan terbuka berskala peradaban
  • Mempromosikan Stargate UAE sebagai proyek demokrasi lebih menyerupai sinyal bahwa OpenAI tidak menangani tantangan ini dengan cukup serius

1 komentar

 
GN⁺ 2025-06-09
Opini Hacker News
  • Saya secara umum setuju dengan arah ini, tetapi frustrasi karena terlalu banyak pembelaan khusus ketika membandingkan apa yang dilakukan perusahaan terkenal seperti OpenAI dengan apa yang telah dilakukan raksasa industri yang kurang mendapat sorotan seperti Cisco dan Oracle selama satu generasi
    Analisis yang dimulai dan berakhir hanya pada OpenAI jadi kurang meyakinkan

    • Cisco dan Oracle tidak bermula sebagai nirlaba yang mengklaim bertujuan memajukan umat manusia
      Ini tidak berbeda dari Google yang dikritik setelah meninggalkan “do no evil”. Dan fakta bahwa di masa lalu ada perusahaan yang lolos setelah bertindak buruk bukan berarti kita tidak boleh mengharapkan standar yang lebih baik dari perusahaan lain ke depannya
    • Industri teknologi canggih sudah selama puluhan tahun menjual sistem komputer raksasa dan teknologi tingkat tinggi ke UAE
      Spin-off GloFo dari AMD awalnya juga dimaksudkan untuk menempatkan fab mutakhir di Abu Dhabi, tetapi terbentur kenyataan melakukan sesuatu di gurun dengan rantai pasok yang buruk dan tanpa air tawar
    • Sepertinya benar bahwa politik adalah seni dari apa yang mungkin
      Memang menjengkelkan, tetapi setidaknya kita bisa menghargai bahwa orang-orang mencoba berorganisasi di sekitar prinsip. Sekalipun prinsip itu tampaknya bukan motivasi sebenarnya. Dalam kasus ini, penulis jelas banyak menulis karena sangat tidak menyukai OpenAI, tetapi argumennya sendiri tetap bagus
    • Katakanlah Joe dan Jane sama-sama parkir ilegal
      Menunjukkan bahwa Joe parkir ilegal bukanlah “pembelaan khusus”. Istilah itu bukan berarti demikian
    • Saya umumnya setuju, tetapi konteks penting di sini adalah bahwa penulis artikel ini dulu berada di dewan direksi OpenAI
      Dewan yang memecat Sam Altman itu
  • Artikel ini melewatkan bahwa yang dibahas bukan diktator Amerika, melainkan diktator monarki Teluk
    Sangat sederhana. Pertama, bagi Nvidia, menjual kartu grafis dalam jumlah besar kepada investor Saudi yang mereka percayai tampak seperti ide bagus. Kedua, monarki-monarki Teluk bergantung pada AS dan ingin menghindari revolusi Islam. Ketiga, mereka ingin memakai sel surya untuk daya pusat data.
    Apakah mereka akan melacak pengguna? Tentu saja. Dan GCHQ serta NSA bisa membuat perjanjian berbagi intelijen untuk mengakali hukum negara masing-masing. Tidak ada yang baru. Intinya, jangan percayakan pikiranmu kepada layanan SaaS apa pun

    • Saya rasa masalahnya lebih halus daripada sekadar “jangan percayakan pikiranmu”
      Mereka sudah punya riwayat pembelian saya, riwayat alamat, metadata panggilan, dan sekarang dengan DOGE juga sebagian besar data federal. Mereka tidak perlu feed Twitter saya untuk menjadi bertentangan dengan kepentingan saya.
      Web juga sedang discrape habis-habisan, jadi menurut saya batasnya jauh lebih luas daripada SaaS
    • Di negara-negara Teluk kecil, kini hampir tidak ada lagi pihak yang bisa memulai revolusi Islam
      Penduduk pribumi adalah minoritas, pasukan keamanan semuanya orang asing yang berada langsung di bawah penguasa, dan dalam beberapa kasus jumlahnya lebih banyak daripada seluruh penduduk pribumi. Penduduk pribumi sendiri juga hidup terlalu nyaman sehingga dorongan untuk mempertaruhkan segalanya dan bertarung kecil
    • “Mereka ingin memakai sel surya untuk daya pusat data” terdengar terlalu optimistis
      Saya justru memperkirakan ini berpotensi menjadi salah satu sumber polusi terburuk dalam perlombaan AI. Godaan untuk membakar minyak dan gas yang pasokannya nyaris tak terbatas terlalu kuat
    • Pada akhirnya HN adalah gelembung kecil, dan banyak orang di luar sana tidak cukup tahu; lebih banyak orang akan segera menukar kenyamanan dengan privasi
      Dari sudut pandang tertentu, lebih baik mencegah godaan semacam itu muncul sama sekali
  • Saya melihat jelas bahwa kegunaan utama LLM adalah sebagai pengganda kekuatan untuk memperkuat pesan yang dikirim ke masyarakat
    Setiap individu di khalayak luas akan terperangkap dalam selimut tebal komunikasi dan interaksi yang nyaris berupa duplikasi, dan sebagian besar darinya bukan manusia. Satu-satunya cara untuk mengendalikan internet pada akhirnya ternyata adalah menenggelamkannya dengan menutupinya

    • Saya sering melihat klaim bahwa kegunaan utama LLM adalah amplifikasi pesan sosial, tetapi sama sekali tidak terasa jelas bagi saya
      Saya cukup introvert, dan penasaran apakah Anda juga mirip atau justru sebaliknya. Biasanya saya membaca media tertentu, tidak mencari “interaksi” online, dan sepenuhnya menghindari media sosial. Sebelum era media sosial, ini hal yang umum. Saya penasaran apakah Anda melihat tidak ada kemungkinan penyalahgunaan LLM membuat orang kembali ke cara menggunakan jaringan yang lebih primitif.
      Selain itu, Anda mengatakan untuk mengendalikan internet cukup menutupinya, tetapi pada praktiknya kita juga melihat mereka tidak segan mengeluarkan biaya untuk memanipulasi hukum. Ada lebih banyak hal yang dipertaruhkan daripada sekadar merendahkan “khalayak luas”
    • Sulit membayangkan seberapa besar seseorang harus terlalu percaya pada pengetahuan dan imajinasinya sendiri sampai merasa jelas apa kegunaan utama LLM
      Pada tahun 1780, menurut orang-orang apa kegunaan utama mesin uap?
    • Jika “hoi polloi” berarti massa, menurut saya tidak
      Hal semacam itu mungkin bisa dipakai untuk pertukaran komersial, tetapi yang membuat orang bertahan di media sosial adalah kebutuhan interaksi sosial yang tidak terpenuhi dengan cara seperti itu. Kalaupun yang dimaksud adalah elite, juga tidak. Mereka sudah melakukan ini dengan memakai manusia sebagai peredam, dan jika cukup kaya, besar kemungkinan mereka akan terus begitu
    • Gagasan ini sulit saya terima
      Media sudah dibanjiri sampah lengket jauh melampaui tingkat yang bisa ditangani individu. Rentang perhatian rata-rata sudah jenuh, jadi menumpahkan lebih banyak sampah buatan AI tampaknya tidak akan banyak mengubah keadaan.
      Cara mengendalikan internet adalah benar-benar mengendalikannya. Seperti yang sudah dilakukan pemerintah-pemerintah
  • Membuat sesuatu untuk diktator, terus terang, kemungkinan besar tidak baik bagi demokrasi
    Jika ingin demokrasi sehat, lebih baik memaksimalkan kekayaan kelas pekerja. Orang yang punya kelonggaran untuk sedikit mengurus diri sendiri, keluarga, dan komunitasnya dapat memiliki waktu dan pendidikan untuk berpartisipasi secara bermakna dalam demokrasi.
    Baik membuatnya untuk diktator Amerika, diktator negara Teluk, atau diktator Rusia, rasanya lebih baik tidak melakukannya. Tentu saja itu tidak semudah kedengarannya

    • Pernyataan-pernyataan itu tampaknya tidak terlalu saling terkait
      Saya penasaran apa artinya berpartisipasi dalam demokrasi di negara diktator.
      Ironisnya, semakin teknologi berkembang menuju singularitas atau sesuatu yang mendekatinya dan semakin banyak pekerjaan berketerampilan rendah hingga menengah diautomasi, semakin banyak kecenderungan distopia terlihat di Barat, terutama AS. Sebaliknya, negara-negara diktator seperti ini sudah lama memiliki sistem kesejahteraan yang kuat bagi warga negaranya, dan kini juga bagi penduduknya; dengan populasi kecil, mereka berada pada posisi yang menguntungkan untuk memetik manfaat dari boom AI
  • Menurut saya implikasinya justru mengarah sebaliknya
    Teknologi yang cukup berpengaruh dapat mengubah pemerintahan mana pun menjadi diktatorial dan totaliter. Bagi penguasa, keinginan mengendalikan segalanya adalah godaan terbesar, dan dari situlah lahir negara yang mengerikan serta pemerintahan yang buruk atas rakyatnya

  • Cukup ingat bahwa dalam 1984 karya Orwell, gagasan intinya adalah TV di setiap rumah selalu mengawasi, dan seseorang di balik perangkat itu benar-benar memahami apa yang dilihatnya.
    Bagian terakhir itulah yang dianggap distopia. Tidak mungkin ada cukup orang untuk melihat dan memahami semua orang sepanjang hari, dan ada pula masalah siapa yang mengawasi para pengawas. 1984 lebih mirip fantasi menakutkan karena tidak ada cara praktis untuk mewujudkannya.
    Untuk pertama kalinya dalam sejarah, LLM/AI generatif baru membuat bagian dari 1984 itu menjadi realistis. Untuk memberi peringatan dini atas “pikiran berbahaya”, satu GPU per rumah tangga sudah cukup, dan ini sudah mungkin atau akan segera mungkin. Fakta bahwa jatah komputasi per rumah tangga kecil, sehingga hanya bisa menjalankan kecerdasan yang mendasar dan lemah, justru sempurna. AGI, setidaknya secara teori, bisa mendengarkan kedua pihak, meneliti gambaran besarnya, lalu berpihak pada pihak lawan; tetapi agen LLM yang berpikiran satu jalur tidak punya kemampuan seperti itu.
    Ada laporan bahwa setidaknya enam perusahaan, termasuk OpenAI dan Apple, sedang meneliti perangkat rumah tangga yang selalu mengawasi dengan AI generatif terbaru sebagai backend. Agar bisa membantu secara bermakna hanya dengan satu kalimat, perangkat itu membutuhkan konteks yang cukup, sehingga perlu melihat seluruh kehidupan terbaru Anda. Pada saat yang sama, itu saja sudah cukup untuk mengetahui Anda akan memilih siapa, akan pergi ke demonstrasi apa yang bahkan belum diumumkan, dan cara terbaik untuk menakut-nakuti Anda agar tidak pergi. Mirip perbedaan antara alat untuk memaku dan senjata pembunuh. Keduanya adalah palu yang sama.
    Saat kampanye TikTok–Tiongkok, ada banyak video orang LGBT yang bercerita betapa cepatnya TikTok mengetahui orientasi seksual mereka. Mereka tidak menyukai video apa pun, tidak mengikuti siapa pun, dan tidak memberikan informasi profil yang bisa dilacak, tetapi TikTok tetap mengetahuinya, kadang bahkan sebelum mereka sendiri mengakuinya. TikTok mengetahuinya hanya dengan melihat apa yang dipandangi pengguna dan berapa lama. Cukup dengan melihat bahwa seseorang bertahan jauh lebih lama pada video olahraga pria dibanding video perempuan, atau sebaliknya. Sepertinya itu dipakai untuk menakut-nakuti orang tentang seberapa banyak yang bisa diketahui Tiongkok tentang warga Amerika hanya dari penggunaan aplikasi.
    Kalau itu menakutkan, yang lebih menakutkan adalah ini. Perangkat dengan backend LLM sudah bisa melakukan jauh lebih banyak hanya dengan melihat acara TV apa yang Anda tonton, bagian mana yang membuat Anda tertawa, dan apa yang Anda katakan kepada orang di sebelah Anda. Bahkan mungkin tidak perlu multimodal. Sepertinya cukup dengan subtitle dan konversi suara ke teks. Ia bisa mengetahui keinginan Anda untuk menentang otoritarianisme yang akan datang bahkan sebelum Anda sendiri mengakuinya.
    Sementara Helen Toner mengkhawatirkan demokrasi di sisi lain bumi, benteng demokrasi mungkin sudah tinggal dua langkah terakhir menuju implementasi pertama masyarakat ala Orwell yang berfungsi. Langkah 1 adalah meyakinkan semua orang untuk memasukkan perangkat semacam itu ke rumah demi kepentingan mereka sendiri, dan ini sedang berlangsung. Langkah 2 adalah memeras atau mengambil alih perusahaan pemiliknya agar perangkat itu digunakan untuk tujuan yang bukan demi kepentingan kita, dan itu masih tersisa untuk dilakukan.

    • 1984 justru mengatakan bahwa agar pengawasan seperti itu efektif, tidak perlu mengawasi semua orang sepanjang waktu; cukup membuat kemungkinan diawasi pada momen tertentu begitu tinggi sehingga orang tidak berani menunjukkan tanda-tanda pembangkangan.
      “Tentu saja tidak ada cara untuk mengetahui apakah pada suatu saat Anda sedang diawasi. Seberapa sering, atau dengan sistem apa, Polisi Pikiran menyambungkan diri ke saluran individu hanyalah dugaan. Mungkin saja mereka mengawasi semua orang sepanjang waktu. Namun bagaimanapun, mereka bisa menyambungkan diri ke saluran Anda kapan pun mereka mau. Anda harus hidup—dan memang hidup, karena kebiasaan menjadi naluri—dengan asumsi bahwa setiap suara yang Anda keluarkan didengar, dan kecuali dalam kegelapan, setiap gerakan diawasi.”
      Namun memang benar bahwa untuk pertama kalinya dalam sejarah, banyak negara mendekati pengawasan komunikasi menyeluruh yang sesungguhnya.
    • Mengklasifikasikan suatu tindakan sebagai “berbahaya” atau “tidak berbahaya” adalah contoh sempurna AI yang bukan AI generatif, atau dengan istilah lama, machine learning.
      Output-nya bukan penjelasan teks, melainkan ya/tidak biner. Itu bisa dilakukan dengan LLM, tetapi model machine learning khusus yang dilatih dengan dataset yang sama kemungkinan besar akan lebih baik di hampir semua metrik kuantitatif, dan teknologi itu sudah ada jauh sebelum transformer muncul.
    • Untuk bagian “tidak mungkin ada cukup orang untuk melihat dan memahami semua orang sepanjang hari”, bukankah pemimpin senam pagi itu sedang melihat belasan monitor?
      Semacam Polisi Pikiran tingkat lingkungan.
  • Semua bisnis dengan diktator dan rezim diktator harus dilarang.
    Menurut saya bisnis boleh dilakukan dengan 100 negara teratas dalam daftar ini: https://en.wikipedia.org/wiki/The_Economist_Democracy_Index
    Berbisnis dengan sisanya hanya memperkuat rezim yang tidak manusiawi, dan sayangnya rezim seperti itu tidak hanya membunuh rakyatnya sendiri, tetapi juga menyerang negara tetangga. Lihat Ukraine, dan mungkin sebentar lagi Taiwan juga. Uang meninggalkan bau.

    • Saya penasaran, maksudnya melarang setelah 100 negara teratas dalam daftar itu menghasilkan uang dengan berdagang dengan negara-negara lainnya, atau melarang sebelum itu?
      Sebagian besar kekayaan negara maju dibangun dengan memanfaatkan korupsi di negara berkembang. Karena itu, selama mereka bekerja sama dengan kekuatan Barat dan menjual sumber daya serta tenaga kerja rakyatnya murah kepada perusahaan Barat, ada insentif bagi mereka untuk tetap korup.
  • Lebih baik memperoleh manfaat dari berbisnis dengan UAE daripada membiarkan manfaat itu pada akhirnya jatuh ke China.
    Upaya menekan Timur Tengah selamanya jelas tidak berhasil, jadi menurut saya apa yang dilakukan sekarang adalah realpolitik dan jawaban yang sudah jelas. Saudi bagaimanapun akan tetap otokratis, dan ini seperti memainkan Hearts of Iron versi dunia nyata dengan baik.

    • Saya tidak tahu apa manfaat itu.
      Kerugiannya jelas. Kita pada dasarnya memberi persenjataan kepada orang-orang yang pandangan dunianya tidak sejalan secara mendasar dengan kita, dan yang bahkan sekarang paling banter hanyalah sekutu karena kenyamanan. Tidak ada jaminan pula bahwa apa yang kita berikan tidak akan dijual kembali ke China. Mengingat rezim-rezim itu terkenal korup, saya rasa itu pada dasarnya hampir pasti terjadi.
  • Bagaimanapun, tidak jelas apakah siapa pun di antara “pihak yang bertanggung jawab” peduli.
    Sebenarnya mungkin justru itulah intinya.

  • Risiko terbesar AI bukanlah pemberontakan, melainkan bahwa AI memungkinkan diktator dan kaum totaliter untuk mengendalikan sepenuhnya seluruh populasi
    Algoritme yang cukup maju dapat menemukan semua hal yang pernah diunggah seseorang secara online melalui referensi silang, gaya penulisan, dan sebagainya, lalu menilai sudut pandang serta opini orang itu dengan akurasi tinggi. Algoritme juga dapat mengekstrapolasi bagaimana opini tersebut berubah dari waktu ke waktu.
    Pemerintah bisa menargetkan pembangkang bahkan sebelum mereka menyadari bahwa dirinya adalah pembangkang, apalagi sebelum mereka sempat berorganisasi

    • Ini terdengar seperti semacam “compiler yang cukup pintar”
      Analisis gaya penulisan adalah bidang yang sudah banyak diteliti. Kita bisa sedikit lega jika tahu bahwa ini hanya praktis ketika jumlah calon penulis suatu unggahan sedikit, dan ada cukup banyak teks sampel dari masing-masing penulis. Artinya, dalam situasi ketika semua orang adalah calon tersangka, menghubungkan kembali unggahan anonim ke penulisnya hampir selalu sama sekali mustahil. Bahkan dalam beberapa kasus yang praktis pun, paling banter itu hanya menghasilkan sinyal lemah untuk penyelidikan lanjutan.
      Makalah Greenstadt dkk., “Adversarial Stylometry: Circumventing Authorship Recognition to Preserve Privacy and Anonymity”, mungkin menarik untuk dibaca
    • Bagi kaum otoriter, kebenaran atau akurasi tidak penting
      Bagi Trump pun jelas tidak penting. Orang-orang dideportasi tanpa bukti, kadang bahkan tanpa dakwaan resmi. Itulah inti otoritarianisme. Pemimpin bertindak sesuka hatinya. Yang memungkinkan Trump bukanlah AI, melainkan sistem checks and balances yang tidak berdaya. Demikian pula, W berbohong tentang senjata pemusnah massal untuk memasuki perang tanpa akhir. Tidak masalah bahwa alasannya tidak benar. Ia lolos, dan membuat dirinya serta teman-temannya di industri pertahanan menjadi kaya dengan mengorbankan rakyat Amerika
    • Kalau begitu, yang dibutuhkan saat itu adalah database
      https://www.newsweek.com/donald-trump-database-palantir-dyst...
    • Ini hanya tuas baru yang mendorong orang-orang dan tindakan buruk yang sama untuk terus merusak masyarakat
      Hanya saja, ia bekerja dalam skala yang jauh lebih besar
    • Saya tidak yakin negara akan tetap memainkan peran sepenting yang secara historis pernah mereka mainkan dalam beberapa dekade mendatang
      Saat ini terlihat tren individu-individu kaya yang semakin memusatkan kekuasaan, dan ini makin jelas di ranah publik. Yang juga mencolok adalah bahwa mereka berada di garis depan kepemilikan dan kendali atas perkembangan kecerdasan buatan. Secara kebetulan, tren seperti ini sering disebut “fasisme teknologi”, yang pada akhirnya membawa kita kembali ke pola diktator