OpenAI Menjalin Kemitraan dengan Pentagon setelah Mencabut Larangan atas Alat Militer

 (semafor.com)
1 poin oleh GN⁺ 2024-01-17 | 1 komentar | Bagikan ke WhatsApp

OpenAI mencabut larangan alat militer dan menjalin kemitraan dengan Pentagon

  • OpenAI mengumumkan bahwa mereka sedang bekerja sama dengan Pentagon, termasuk pada proyek perangkat lunak terkait keamanan siber.
  • Sebelumnya, perusahaan melarang penyediaan teknologi kecerdasan buatan untuk tujuan militer, tetapi baru-baru ini mencabut larangan itu melalui perubahan kebijakan.
  • Larangan pengembangan senjata tetap dipertahankan, tetapi klausul yang melarang penggunaan AI untuk keperluan militer dan perang telah dihapus.

Silicon Valley, perubahan sikap terhadap kerja sama dengan Pentagon

  • Dalam beberapa tahun terakhir, Silicon Valley melunakkan sikapnya terhadap kerja sama dengan militer AS.
  • Karyawan Google pernah menggelar protes menentang proyek Pentagon, tetapi setelah itu Google menghasilkan jutaan dolar dari kontrak pertahanan.
  • Ketegangan AS-Tiongkok dan perang di Ukraina mengurangi kekhawatiran para pengusaha terhadap kerja sama militer.

Masa depan AI dan militer, termasuk risikonya

  • Para ahli pertahanan optimistis terhadap dampak AI pada sektor militer.
  • Ada risiko bahwa AI dapat secara keliru menghasilkan informasi palsu, yang bisa menimbulkan bahaya lebih besar jika diintegrasikan ke dalam sistem komando dan kendali militer.

Cakupan kemungkinan transaksi militer OpenAI masih belum jelas

  • OpenAI mengecualikan pengembangan senjata, tetapi masih dapat menyediakan perangkat lunak AI kepada Departemen Pertahanan untuk tujuan seperti analisis data atau penulisan kode.
  • Perang di Ukraina menunjukkan bahwa perangkat lunak analisis data dapat memainkan peran penting dalam pelaksanaan perang.

Perubahan kebijakan OpenAI dapat memicu kembali perdebatan soal keamanan AI

  • Perubahan kebijakan OpenAI dapat kembali memunculkan perdebatan tentang keamanan AI yang sebelumnya turut berkontribusi pada pemecatan CEO Sam Altman.

Pendapat GN⁺:

  • Pencabutan larangan alat militer oleh OpenAI memperluas kemungkinan pemanfaatan teknologi AI untuk kepentingan militer, dan ini dapat menjadi titik balik penting bagi perkembangan teknologi dan keamanan nasional.
  • Perubahan sikap Silicon Valley dapat mempercepat integrasi teknologi dan pertahanan, yang akan memengaruhi bentuk perang di masa depan.
  • Integrasi AI ke ranah militer memiliki potensi besar, tetapi pada saat yang sama risiko akibat kesalahan AI seperti 'pembuatan informasi palsu' juga perlu dipertimbangkan.

Bacaan terkait

1 komentar

 
GN⁺ 2024-01-17
Opini Hacker News

  • Beberapa minggu lalu, karyawan OpenAI menandatangani surat yang menyatakan, "Kami akan mengundurkan diri jika Altman tidak dikembalikan."

    Muncul pertanyaan apakah karyawan OpenAI juga bersedia menandatangani surat yang menyatakan mereka tidak akan membiarkan OpenAI digunakan untuk tujuan perang, atau apakah mereka sejak awal sudah siap mengkhianati prinsip pendiriannya.

  • Kecerdasan buatan (AI) akan dipersenjatai, dan orang-orang yang bekerja di bidang ini harus menerima kenyataan itu.

    Persenjataan AI adalah sesuatu yang dapat diprediksi, dan klaim bahwa ini semua demi kemanusiaan kini tidak lagi meyakinkan.

  • OpenAI menghapus klausul larangan penggunaan ChatGPT untuk tujuan militer dan perang.

    Tautan artikel terkait: artikel Hacker News - Januari 2024 (260 komentar)

  • Karena OpenAI bukan lagi organisasi nirlaba, perusahaan itu kini terekspos pada tender kompleks industri militer.

    Sangat disayangkan bahwa motivasi struktur perusahaan yang awalnya dimaksudkan untuk mencegah OpenAI terekspos pada tender kompleks industri militer dan menjadi entitas yang harus mengikuti kata-kata perusahaan besar kini tidak lagi berlaku.

  • Pentagon menyambut kembalinya Sam Altman ke dewan direksi OpenAI.

    Disebutkan reaksi Pentagon.

  • Anna Makanju, VP urusan global OpenAI, menyatakan bahwa perusahaan akan tetap mempertahankan kebijakan larangan pengembangan senjata.

    Informasi mengenai dipertahankannya kebijakan OpenAI yang melarang pengembangan senjata.

  • Untuk mengintegrasikan lebih banyak teknologi OpenAI ke dalam produk Microsoft, kemungkinan besar mereka memang perlu bekerja sama dengan Departemen Pertahanan, yang mungkin merupakan pelanggan terbesar mereka.

    Disebutkan perlunya bekerja sama dengan Departemen Pertahanan terkait integrasi teknologi OpenAI ke dalam produk Microsoft.

  • Setelah membaca judulnya, orang-orang membayangkan robot pembunuh bertenaga GPT, tetapi pada kenyataannya kemungkinan besar teknologi ini akan lebih banyak dipakai untuk pemrosesan dokumen rutin seperti berkas pengadaan militer.

    Penjelasan tentang kesalahpahaman atas pemanfaatan militer teknologi OpenAI dan kemungkinan penggunaan nyatanya.

  • Ada kebingungan soal manfaat produk OpenAI bagi Departemen Pertahanan AS. Tidak jelas penggunaan skala besar apa yang bisa dimiliki produk utamanya, yaitu LLM dan generator gambar, di Departemen Pertahanan.

    Muncul pertanyaan mengenai pemanfaatan produk OpenAI oleh Departemen Pertahanan.

  • Orang-orang terlalu cepat menarik kesimpulan. Departemen Pertahanan menangani banyak hal, dan sebagian besar di antaranya membosankan. Kemungkinan produk OpenAI digunakan untuk keperluan yang terkait senjata fisik sangat rendah.

    Penjelasan tentang penilaian yang tergesa-gesa mengenai pemanfaatan produk OpenAI oleh Departemen Pertahanan dan kemungkinan penggunaan nyatanya.