Google mencabut janji untuk tidak menggunakan AI bagi senjata dan pengawasan

• Latar belakang perubahan prinsip AI Google

  • Janji yang sebelumnya secara eksplisit menyatakan bahwa AI tidak akan digunakan untuk senjata atau pengawasan telah dihapus dari prinsip AI yang lama
  • Demis Hassabis dan James Manyika dari Google mengumumkan perubahan kebijakan dengan alasan meluasnya AI dan kebutuhan keamanan nasional
  • Mereka menekankan bahwa “negara-negara demokratis harus memimpin pengembangan AI, serta bekerja sama dengan pemerintah dan sektor keamanan”

• Poin utama kebijakan AI yang baru

  • Pernyataan untuk menggunakan teknologi sesuai hukum internasional dan prinsip hak asasi manusia tetap dipertahankan
  • Ditambahkan butir bahwa “pengujian dilakukan untuk mengurangi dampak tak terduga”
  • Secara spesifik, klausul pengecualian terkait penggunaan untuk senjata atau pengawasan telah dihapus
  • Juru bicara Google menolak menjawab pertanyaan rinci mengenai perubahan kebijakan senjata dan pengawasan

• Penolakan internal Google di masa lalu dan kontrak Maven

  • Pada 2018, saat menjalankan proyek Maven, yaitu proyek analisis video drone bersama Departemen Pertahanan AS, muncul penolakan keras dari para karyawan
  • Para karyawan berpendapat bahwa “Google tidak seharusnya terlibat dalam bisnis perang”
  • Perusahaan tidak memperpanjang kontrak Maven, lalu setelah itu mempublikasikan prinsip AI yang memuat janji melarang penggunaan untuk senjata dan pengawasan
  • Dengan pembaruan kebijakan kali ini, janji eksplisit tersebut dihapus sehingga gerakan penolakan karyawan di masa lalu kembali menjadi sorotan

• Dampak bagi industri

  • Kerja sama dengan bidang militer dan pertahanan di Silicon Valley sedang berkembang pesat
  • Ada penilaian bahwa penolakan karyawan Google terhadap Maven menjadi titik balik besar bagi industri
  • Perubahan kebijakan ini dinilai meningkatkan kemungkinan AI Google kembali diterapkan di bidang militer dan pengawasan

[GN⁺]

Opini Hacker News

• Membahas bahaya drone dan senjata AI. Ada berbagai kemungkinan penyalahgunaan seperti pembunuhan jarak jauh, kekacauan politik, dan penargetan selektif oleh diktator

  • Banyak negara akan memiliki teknologi ini, dan banyak model AI sudah dirilis secara terbuka
  • Komunitas teknologi perlu memikirkan cara untuk mengatasi masalah ini
  • Muncul pertanyaan-pertanyaan penting seperti langkah pertahanan, metode pemantauan, dan cara warga mengaudit penggunaan senjata pemerintah

• Perusahaan besar seperti Google pada dasarnya tidak baik atau bermoral; citra semacam itu hanyalah strategi pemasaran

• Ada kesadaran bahwa dunia sedang menuju kehancuran diri, dan ada perkembangan menakutkan yang berlangsung secara tertutup

• Sebagian besar perusahaan swasta akan menggunakan teknologi demi keuntungan dan akan melanggar janji sebelumnya

• Menarik melihat perusahaan berubah sesuai situasi politik

  • Google memperhatikan pengelolaan citra sebagai respons terhadap reaksi atas pengumuman AI

• Membandingkan kontrak DoD OpenAI dengan tindakan Google, dan berpendapat bahwa sikap yang terus terang lebih jujur

• Ada yang berpendapat bahwa negara tertentu membutuhkan senjata untuk mengendalikan massa

  • Mengkritik bahwa krisis internasional sebagian besar dipicu oleh Amerika Serikat dan Rusia

• Dalam situasi dunia yang kacau, ada yang menganggap positif bahwa perusahaan seperti Google, OpenAI, dan Microsoft ikut serta dalam proyek pertahanan

• Menyatakan kekhawatiran tentang kemampuan LLM untuk memperluas analisis teks di lembaga intelijen