Google mencabut janji untuk tidak menggunakan AI dalam senjata dan pengawasan
(washingtonpost.com)- Pada hari Selasa, Google mengubah pedoman etika AI-nya dan menghapus janji publik untuk tidak menerapkan AI di bidang senjata dan pengawasan
- Prinsip AI tahun 2018 memiliki klausul pembatasan yang mengecualikan penerapan AI dengan cara yang “menyebabkan atau kemungkinan menyebabkan kerugian secara keseluruhan”
- Bagian “aplikasi yang tidak akan kami kejar” dalam dokumen lama menetapkan senjata, pengawasan, teknologi dengan kemungkinan besar menimbulkan kerugian, serta kasus penggunaan yang bertentangan dengan hukum internasional dan prinsip hak asasi manusia sebagai kategori yang dilarang
- Salinan per Kamis yang tersimpan di Internet Archive masih memuat bagian larangan tersebut beserta 4 kategorinya
- Dengan perubahan ini, prinsip AI publik Google tidak lagi memuat frasa yang secara eksplisit mengecualikan penggunaan berisiko tinggi tertentu
Janji larangan yang hilang dari prinsip AI
- Pada hari Selasa, Google memperbarui pedoman etika AI-nya
- Dalam pedoman baru, frasa lama yang menyatakan tidak akan menerapkan teknologi AI pada senjata atau pengawasan telah dihapus
Klausul pembatasan dalam kebijakan 2018
- Pada 2018, Google memperkenalkan kebijakan yang membatasi cakupan penerapan AI
- Kebijakan saat itu mencakup komitmen untuk tidak menerapkan AI dengan cara yang “menyebabkan atau kemungkinan menyebabkan kerugian secara keseluruhan”
Bagian “aplikasi yang tidak akan kami kejar” yang dihapus
- Prinsip AI lama memiliki bagian bernama “Applications we will not pursue”
- Salinan per Kamis yang tersimpan di Internet Archive masih memuat bagian ini
- Bagian tersebut berisi 4 kategori yang dinyatakan Google tidak akan dikejar
- Senjata
- Pengawasan
- Teknologi yang “menyebabkan atau kemungkinan menyebabkan kerugian secara keseluruhan”
- Kasus penggunaan yang bertentangan dengan hukum internasional dan prinsip hak asasi manusia
Apa yang berubah dalam prinsip publik
- Sebelum perubahan, prinsip AI secara eksplisit mengecualikan penggunaan tertentu
- Setelah perubahan, prinsip publik tidak lagi memuat frasa yang menyatakan tidak akan mengejar senjata, pengawasan, kerugian secara keseluruhan, serta kasus penggunaan yang melanggar hukum internasional dan prinsip hak asasi manusia
1 komentar
Komentar di Hacker News
https://archive.ph/hfrKY
Awalnya kukira ini pengumuman janji baru, jadi kupikir, “nanti juga langsung dilupakan begitu terasa nyaman,” tetapi setelah membaca artikelnya, rasanya, “oh, rupanya situasinya sudah nyaman.”
Google adalah perusahaan raksasa, dan perusahaan raksasa mungkin tidak secara inheren “jahat”, tetapi pada dasarnya mereka tidak peduli pada kebaikan atau moralitas.
Jika ada momen ketika mereka terlihat begitu, itu murni aktivitas pemasaran.
Mungkin ada perbedaan antara kejahatan ala polisi korup dan kejahatan ala pembunuh berantai, tetapi sikap bersedia melakukan apa saja demi uang secara historis telah digolongkan sebagai perilaku jahat.
Namun, apakah masyarakat tanpa perusahaan raksasa akan lebih baik atau lebih buruk adalah soal lain; dunia tempat perusahaan membayar pajak yang jauh lebih tinggi seiring makin besarnya mereka terdengar menarik.
Itu pun tetap dibagikan gratis seperti sebelumnya, dan kualitasnya juga lumayan.
Setelah negara bagian kemudian melarang yang itu juga, Walmart, seperti mesin jam, mulai membagikan kantong kertas secara gratis, dan itu juga cukup bagus.
Dari situ aku sadar bahwa perusahaan tidak akan melakukan hal yang sedikit pun lebih baik bagi lingkungan kecuali dipaksa.
Semua tindakan perusahaan, termasuk hal-hal jahat, pada dasarnya hanya mengikuti uang, dan menurutku tugas pemerintahlah menyediakan etika.
Kalau Google tidak melakukannya, orang lain akan melakukannya, jadi logikanya lebih baik Google yang menghasilkan uang demi para pemegang saham.
Secara teknis, para pemegang saham aktivis bisa saja berkumpul dan berargumen, “jika manajemen tidak menyasar pasar ini, mereka harus diganti.”
Pada akhirnya, seolah-olah harga saham adalah satu-satunya metrik yang penting.
Perintah turun dari atas, dan di bawah menerimanya.
Karena itu, mereka terlihat jahat secara inheren.
Menurutku intinya adalah anonimitas yang muncul dari angka dan kompleksitas.
Ribuan orang masing-masing ingin angkanya naik, dan keinginan itu pada akhirnya mengendalikan keputusan seperti ini.
Jika saham Google turun karena hal ini, Google tidak akan melakukannya.
Namun perilaku manusia secara kolektif menopang harga sahamnya.
Perusahaan raksasa hanyalah kambing hitam, dan sebenarnya lebih mirip serangkaian aturan demokratis.
Perusahaan adalah jendela untuk melihat rupa sejati sifat manusia.
Tentang hal ini, aku ingin marah dengan frustrasi yang agak naif, “kenapa kita semua tidak bisa akur saja?”
Aku tahu seperti apa dunia yang kuinginkan, tetapi sebagai spesies, termasuk diriku sendiri, kita terus saja mengecewakan ekspektasi di hadapan penghancuran diri yang nyaris pasti.
Aku ingin marah, tetapi sekaligus dengan sedih harus menerima kenyataan mengapa tak ada yang terkejut.
Di bidang itu sudah ada pesaing-pesaing yang akan melakukan hal tersebut, bahkan yang lebih buruk lagi.
Kita sudah melihat perkembangan yang cukup mengerikan dari sana, dan jika dipikir-pikir, itu adalah hal-hal yang dinilai boleh ditampilkan ke publik.
Hal-hal yang benar-benar menarik terjadi di luar media sosial, di balik pintu tertutup.
Jika ada senjata tertentu yang hanya bisa ditanggapi dengan senjata AI, mungkin pendapatku bisa berubah, tetapi saat ini aku tidak bisa membayangkan alasan mengapa robot harus menentukan siapa yang akan dibunuh.
Ketika orang mengatakan AI berbahaya atau bisa membawa kiamat dunia, aku umumnya tidak setuju, tetapi senjata AI jelas berbahaya dan dapat dengan mudah lepas kendali.
Sebab sejak awal tujuannya memang membuatnya berada di luar kendali.
Masalahnya bukan karena senjata AI itu “jahat”, melainkan karena penyelarasan nilai bukanlah masalah yang sudah terpecahkan, dan senjata AI bisa membunuh orang-orang yang tidak ingin kita bunuh.
Kebohonganlah yang menggerakkan bumi, dan itu menjijikkan.
Bagaimanapun dilihat, kita hidup di planet dengan sumber daya terbatas, dan itu berarti ada persaingan, sementara persaingan melahirkan inovasi senjata.
Meski begitu, selama puluhan tahun kita memiliki senjata nuklir dan secara kolektif memilih untuk tidak menggunakannya, jadi masih ada sedikit ruang untuk optimisme.
Tidak ada alasan untuk terlena, dan jalan itu hanya akan mempercepat kehancuran.
Ini tidak harus terjadi seperti ini.
Apakah ini lebih etis atau kurang etis dibanding OpenAI yang, kurang dari setahun setelah mengatakan “hal seperti itu tidak akan pernah terjadi”, mendapatkan kontrak DoD untuk menerapkan model di medan perang?
Alasannya kira-kira, “yang kami maksud hanya jenis perang atau tujuan militer tertentu.”
Pada akhirnya pertanyaannya adalah apakah membalik arah secara terbuka seperti Google tidak lebih jujur daripada mempertahankan fiksi bahwa mereka masih berusaha melakukan hal yang benar.
Itu mirip bertanya, “ya, memang terlihat seperti tunduk pada tiran asing, tetapi apakah itu lebih etis atau kurang etis dibanding masa ketika Vidkun Quisling memimpin Norwegia?”
Menurutku OpenAI itu suram dan licin, serta dipimpin oleh narsisis gila.
Sampai-sampai Pichai terlihat seperti orang suci.
Secara etika mungkin sama, tetapi jika seseorang menodongkan senjata, aku lebih memilih ada orang dengan sedikit empati di balik pelatuk daripada sosok personifikasi perusahaan yang para eksekutif seniornya keluar satu demi satu.
Salah satu hal yang paling mengkhawatirkan dari model bahasa berskala besar untuk badan intelijen adalah kemampuannya memperluas analisis teks.
Dulu setidaknya harus ada agen tertentu yang tertarik pada saya, tetapi sekarang secara teori LLM bisa membaca semua teks yang pernah saya temui dan menandai apa pun, mulai dari pelanggaran hukum hingga kecenderungan politik.
Untuk skala menyaring miliaran pesan, biayanya akan membengkak sangat cepat, jadi saya juga ragu apakah LLM adalah alat terbaik untuk pekerjaan itu.
Saat ini terasa seperti masa di Downton Abbey ketika semua orang menunggu Perang Dunia I dimulai.
Semua orang merasa itu akan datang, tetapi tak ada yang bisa mencegahnya.
Secara realistis, dalam perang antara Barat melawan Rusia/Iran/Korea Utara/Tiongkok, atau siapa pun yang pada akhirnya akan kita lawan, kita akan melakukan segala yang mungkin agar peradaban Barat dan tentaranya bertahan dan menang.
Pada akhirnya Google adalah perusahaan Barat, dan ketika perang pecah, sikap tidak mendukung peradaban dan militer kita akan sangat tidak populer serta membuat Google dikucilkan.
Kebalikannya sejak awal memang sulit terjadi.
Amerika Serikat mengisolasi dirinya sendiri dan menindas sekutunya.
Tidak pernah ada momen yang lebih baik bagi kekuatan alternatif yang ingin berekspansi daripada sekarang.
Perang tidak sedang mendekat antara Barat yang bersatu dan kekuatan besar lain.
Perang datang karena Barat tidak lagi ada.
Tidak ada pemisahan antara peradaban “kita” dan “mereka”; hanya ada satu peradaban.
Beberapa abad lalu, konsep semacam itu mungkin masih punya dasar tertentu, tetapi gagasan bahwa “kita” sekarang sangat berbeda dari “mereka” adalah fantasi berbahaya bagi kebanyakan orang.
Kalau sebuah negara sekarang mengancam mencaplok Greenland dan menyatakan bahwa semua warga Palestina harus sepenuhnya dipindahkan ke Jordan dan Egypt, maka jelas mereka akan membutuhkan senjata untuk pengendalian massa.
Senjata seperti ini juga bisa berguna di dalam negeri ketika orang-orang menyadari bahwa kedua partai selalu mengeksploitasi mereka.
Saya tidak mengerti mengapa China menjadi ancaman selain dari sisi ekonomi.
Apakah China pernah mencoba menginvasi Amerika Serikat? Apakah Russia pernah mencoba menginvasi EU? Jawabannya tidak.
Satu-satunya ancaman terhadap EU saat ini datang dari pria oranye itu.
Dia juga membatalkan Perjanjian INF.
Amerika Serikat kini menempatkan rudal nuklir jarak menengah di Eropa, dan Russia menempatkannya di Belarus.
Dengan begitu, kedua kekuatan besar punya kambing hitam yang nyaman untuk terkena nuklir lebih dulu, baru setelah itu mereka akan berpikir ulang.
Benar-benar tidak masuk akal bahwa Amerika Serikat dan Russia terus mengklaim diri mereka dalam bahaya, padahal semua krisis internasional selama 40 tahun terakhir bermula dari salah satu di antara keduanya.
Russia jelas menginvasi negara-negara di Eropa, terutama Ukraine.
Satu-satunya alasan mereka tidak menginvasi EU itu sendiri adalah karena hal itu akan memicu perang yang, akibat aliansi NATO, menimbulkan korban besar dan pada akhirnya akan mereka kalahkan.
Yang menjaga EU tetap aman adalah kekuatan militer, dan negara-negara yang tidak punya kekuatan militer memadai terus dipukuli karena diguncang ambisi kekuasaan.
Ukraine mengalami nasib itu setelah pada 1990-an secara naif menyerahkan senjata nuklirnya dengan janji bahwa Russia tidak akan menginvasi.
Sulit menyebut itu sebagai ancaman khayalan.
Kebijakan ekonominya juga sangat predatoris; alih-alih membantu negara lain, mereka mengambil hal-hal yang tidak bisa dibalik.
Untuk apa menginvasi kalau bisa begitu saja mengambil apa yang dibutuhkan?
Pria oranye itu benar-benar tidak berdaya di kedua front.
Dia tidak akan mengeluarkan uang untuk militer, dan juga tidak cukup kompeten untuk membuat kesepakatan yang tidak merugikan dalam jangka panjang.
Menarik melihat cara perusahaan-perusahaan seperti ini bergerak mengikuti arah angin politik.
Seperti Meta yang mengumumkan beberapa perubahan sekitar pelantikan, para eksekutif Google juga pasti memperhatikan berbagai pengumuman terkait AI, dan mereka berharap pemerintahan saat ini tidak memandang mereka dengan cara tertentu.
Menurut saya kebenarannya ada di tengah-tengah.
Di dalam perusahaan pasti ada perbedaan pendapat yang besar, tetapi mereka tentu peduli bagaimana mereka dipandang oleh pihak-pihak yang berkuasa.
Perusahaan secara teknis memiliki kekuasaan yang tidak seimbang.
Jadi lebih baik mereka bergerak sesuai kehendak rakyat.
Alternatifnya, yaitu perusahaan bertindak semaunya sendiri, bisa jauh lebih buruk.
Satu-satunya insentif perusahaan bukanlah sandiwara korporat kaku seperti “membuat dunia menjadi tempat yang lebih baik” yang mereka ucapkan, melainkan menghasilkan laba.
Perusahaan dibuat untuk tujuan itu, dan akan selalu mengikutinya.
Saya tidak tahu apa yang kita harapkan setelah Google menghapus semboyan Don’t be evil.
Sistem otonom yang dibuat dengan baik bisa sangat membantu meningkatkan akurasi penargetan dan mengurangi korban sipil.
Jika Anda marah pada keberadaan senjata itu sendiri, Anda perlu meninjau kembali dilema tahanan.
Anggaplah pengkhianatan berskala kecil dikelola oleh pemerintah, tetapi kekuatan-kekuatan besar dunia tidak akan menerima yurisdiksi satu pemerintahan dunia yang secara paksa mencegah pengkhianatan.
Terutama kekuatan yang kuat dan makmur seperti kita, yang umumnya punya banyak hal untuk hilang dalam sistem semacam itu, sehingga makin tidak akan menerimanya.
Mantan CEO Google, Schmidt, sedang mengembangkan drone AI untuk Ukraine di Estonia.
Jika ia membutuhkan pemasok AI dasar yang bagus, masuk akal untuk memperkirakan Google bisa menjadi salah satu pemasok pilihannya.
Tentu saja Ukraine hanyalah permulaan, dan pasar sasaran untuk barang yang telah terbukti di medan perang—terlebih yang terbukti melawan Russia dan, secara tidak langsung, teknologi Chinese—akan menjadi sangat besar.
Yang benar-benar ditempatkan di medan perang sejauh ini baru sebagian, tetapi minat terhadap platform darat yang dikendalikan jarak jauh maupun otonom juga sangat besar.
Google adalah pemimpin platform otonom untuk penggunaan sipil, dan jalur untuk mentransfer teknologi itu ke sistem militer tampaknya relatif mudah.