OpenAI mencabut larangan penggunaan ChatGPT untuk tujuan "militer dan perang"

OpenAI menghapus klausul larangan penggunaan untuk tujuan militer dan perang

• OpenAI diam-diam menghapus dari kebijakan penggunaannya bahasa yang secara eksplisit melarang penggunaan teknologinya untuk tujuan militer minggu ini.
• Hingga 10 Januari, halaman kebijakan penggunaan OpenAI secara jelas menyatakan larangan atas aktivitas yang dapat meningkatkan bahaya fisik, termasuk 'pengembangan senjata' dan 'militer dan perang'.
• Kebijakan baru tetap mempertahankan pedoman untuk tidak menggunakan layanan agar tidak membahayakan diri sendiri atau orang lain, tetapi larangan menyeluruh atas penggunaan untuk 'militer dan perang' telah hilang.

Latar belakang perubahan kebijakan

• OpenAI melakukan revisi besar-besaran pada halaman kebijakannya agar "lebih jelas dan lebih mudah dibaca".
• Seorang juru bicara OpenAI menjelaskan bahwa kebijakan baru menekankan kepatuhan hukum, dan prinsip "tidak merugikan orang lain" dapat diterapkan secara luas.
• Para ahli menunjukkan bahwa kebijakan baru ini menghindari pertanyaan tentang kontrak militer dan operasi perang, serta secara khusus berfokus pada senjata.

Kekhawatiran tentang penggunaan untuk militer dan perang

• Para ahli menunjukkan bahwa bias dan kurangnya akurasi pada Large Language Models (LLMs) dapat membuat penggunaannya dalam perang militer berujung pada operasi yang tidak akurat dan bias.
• Kecil kemungkinan alat OpenAI digunakan untuk pembunuhan langsung oleh militer, tetapi alat tersebut dapat dimanfaatkan untuk berbagai tugas yang mendukung kekuatan militer.
• Karena tujuan utama lembaga militer adalah mempertahankan kemampuan untuk membunuh, membantu lembaga militer, meskipun tidak secara langsung bersifat kekerasan, tetap dapat menjadi masalah.
• Kemitraan erat antara OpenAI dan Microsoft membuka kemungkinan bagi OpenAI untuk memperluas bisnisnya ke tujuan militer.

Dampak nyata dari perubahan kebijakan

• Konsekuensi nyata dari perubahan kebijakan ini di dunia masih belum jelas.
• OpenAI tidak menyampaikan posisi yang jelas tentang bagaimana mereka akan menegakkan larangan penggunaan untuk militer dan perang.
• Para ahli menilai OpenAI sedang melunakkan posisinya terhadap bisnis dengan lembaga militer.

Pemanfaatan teknologi AI oleh lembaga militer

• Militer di berbagai negara berupaya memanfaatkan teknologi machine learning untuk meraih keunggulan, dan Pentagon masih mengeksplorasi penggunaan ChatGPT maupun LLMs lainnya.
• Large Language Models mempelajari buku, artikel, data web, dan lainnya dalam jumlah besar untuk meniru respons manusia terhadap prompt pengguna.

Opini GN⁺:

• Perubahan kebijakan OpenAI ini dapat meningkatkan kemungkinan teknologi kecerdasan buatan digunakan untuk tujuan militer, dan hal ini bisa memicu diskusi penting tentang etika teknologi dan keselamatan.
• Perubahan ini menunjukkan bagaimana perusahaan teknologi berusaha menyeimbangkan prinsip mereka dengan peluang pasar terkait kontrak pertahanan.
• Dihapusnya klausul larangan yang jelas atas penggunaan AI untuk tujuan militer dan perang dapat menjadi pemicu bagi diskusi sosial yang lebih luas tentang keselamatan teknologi dan penggunaan yang etis.

[GN⁺]

Komentar Hacker News

• Pertumbuhan OpenAI dan perubahan prinsip

  • Menarik melihat OpenAI meninggalkan prinsip pendiriannya dan mengikuti strategi Google.
  • Google butuh 17 tahun sebelum menghapus "Don't be Evil", tetapi OpenAI tumbuh cepat dan berubah secara mendadak.
  • OpenAI tampaknya akan menjadi perusahaan atau teknologi yang menggantikan Google, ironis seperti Google dulu menggantikan Microsoft.

• Kemungkinan pemanfaatan model GPT untuk militer

  • Model GPT punya peluang besar untuk dimanfaatkan secara umum dalam basis data militer dan pekerjaan riset.
  • Larangan penggunaan militer bisa saja melarang, misalnya, penggunaan oleh angkatan darat untuk meningkatkan kesiapsiagaan bencana.
  • Sebagian besar perusahaan besar pada akhirnya akan membuat konsesi seperti ini, karena Pentagon punya dana yang sangat besar.

• Pengembangan produk militer oleh perusahaan industri

  • Banyak perusahaan industri kemungkinan juga mengembangkan produk militer.
  • Misalnya, mereka mungkin menginginkan bantuan LLM dalam alat CAD untuk mengembangkan mesin kapal yang bisa digunakan untuk keperluan militer.
  • Infrastruktur dan perangkat lunak sering kali dibagikan atau dikembangkan agar bisa diterapkan di seluruh perusahaan.

• Pemahaman terhadap kebijakan baru

  • Ingin tahu apakah ada yang benar-benar membaca kebijakan baru itu.
  • Mereka memiliki kebijakan yang lebih luas tentang senjata dan tindakan yang menyebabkan bahaya.

• AI dan kekuatan militer

  • AI tingkat lanjut sangat penting bagi kekuatan militer tingkat lanjut.
  • Masalah-masalah ini bukan masalah teknis, melainkan masalah manusia.
  • Manusia adalah primata yang membentuk hierarki dan bersaing demi wilayah serta sumber daya.

• Perbedaan kebijakan terkait pengembangan senjata dan aktivitas militer

  • Ada perbedaan yang jelas antara dua kebijakan tersebut; yang lama melarang pengembangan senjata dan aktivitas militer, sedangkan yang baru menekankan kepatuhan hukum dan fleksibilitas.
  • Dampak potensialnya terhadap keselamatan AI itu penting.

• Keterbatasan LLM

  • Fakta bahwa ChatGPT belum bisa secara konsisten berhenti berhalusinasi pada tugas-tugas dasar dan sebenarnya tidak benar-benar memahami apa pun membuat ini menjadi ide yang buruk.
  • Bidang AI/ML sendiri bukan buang-buang waktu, tetapi LLM kebanyakan hanya tampak mencolok dengan nilai praktis yang sangat sedikit.

• Keniscayaan keputusan OpenAI

  • Rasanya tak terelakkan bahwa OpenAI tidak akan melepaskan uang sebesar itu.
  • Terasa aneh untuk mengkhawatirkan produk dipakai dengan cara yang berbeda.

• Silicon Valley dan kompleks industri militer

  • Silicon Valley adalah hasil dari kompleks industri militer.

• Perbedaan sudut pandang sipil dan militer tentang pengembangan senjata

  • Bagi warga sipil, pengembangan senjata dalam banyak kasus berbahaya, tetapi bagi militer, yang berbahaya adalah tidak mengembangkan senjata yang lebih baik lebih cepat daripada musuh.