Meta Membubarkan Tim Responsible AI

• Meta membubarkan tim Responsible AI (RAI) dan memindahkan para anggotanya ke tim produk AI generatif lain serta ke sisi infrastruktur AI
• Tim RAI sejak 2019 berperan mengidentifikasi masalah dalam metode pelatihan AI, serta mengawasi pelatihan model menggunakan beragam informasi.
• Tim ini sudah mengalami restrukturisasi pada awal tahun ini, dan saat itu ada laporan dari Business Insider yang menyebut bahwa mereka diberhentikan hingga hanya menyisakan "cangkang" tim tersebut.
• Sistem otomatis Meta telah menimbulkan berbagai masalah seperti penangkapan yang keliru akibat kesalahan terjemahan Facebook, pembuatan gambar yang bias saat membuat stiker AI di WhatsApp, serta algoritma Instagram yang membantu menemukan materi pelecehan seksual anak

Tren Regulasi AI Global

• Langkah Meta ini terjadi di tengah upaya pemerintah di seluruh dunia untuk menyiapkan regulasi atas pengembangan kecerdasan buatan, termasuk ketika pemerintah AS mengarahkan penyusunan aturan keselamatan AI dan membuat kesepakatan dengan perusahaan-perusahaan AI.
• Uni Eropa (EU) telah mengumumkan prinsip-prinsip AI dan masih terus berupaya meloloskan undang-undang AI.

Opini GN⁺

• Hal terpenting dari artikel ini adalah bahwa Meta membubarkan tim untuk pengembangan AI yang bertanggung jawab dan memindahkan para anggotanya ke departemen lain.
• Perubahan ini menjadi contoh menarik tentang bagaimana perusahaan mengelola etika dan keamanan AI, di tengah pesatnya perkembangan teknologi AI dan meningkatnya pentingnya penggunaan AI yang bertanggung jawab.
• Selain itu, artikel ini mencerminkan situasi saat ini ketika diskusi mengenai regulasi AI semakin aktif secara global, sehingga memuat hal-hal yang menarik bagi orang-orang yang tertarik pada persimpangan teknologi dan hukum.

[GN⁺]

Pendapat Hacker News

• Meta dianggap sebagai perusahaan AI skala besar yang paling etis karena merilis model AI secara terbuka.
  • Ada pendapat bahwa menjaga model AI tetap tertutup atas nama 'etika' justru tidak etis karena membuat orang semakin bergantung pada keputusan sepihak perusahaan besar.
• Semua tim AI seharusnya mempertimbangkan tanggung jawab etis, dan memusatkannya pada satu tim saja itu tidak efisien.
  • 'Tim AI yang bertanggung jawab' dapat menciptakan hambatan karena harus meninjau semua pekerjaan AI, atau membuat tim lain bebas mengembangkan AI secara tidak bertanggung jawab.
• Keamanan AI adalah kelompok yang menumpang pada pekerjaan orang lain, jadi ada pandangan bahwa langkah Meta membubarkannya justru diinginkan.
• Tim etika teknologi pada tahap awal lebih menekankan citra daripada kenyataan.
  • Hanya segelintir orang yang menentukan arah inti teknologi memikul tanggung jawab etis, dan bila mereka bertindak tidak bertanggung jawab, kerusakan besar bisa terjadi.
• Tidak ada contoh konkret bahwa tim etika Meta memberikan kontribusi positif.
  • Perlu meninjau rekam jejak Meta selama beberapa tahun terakhir untuk menilai seberapa efektif tim itu dalam menjaga kebenaran.
• Ketika dana menipis dan krisis datang (seperti di OpenAI), menutup departemen yang hanya untuk citra adalah pilihan terbaik.
• Karena biaya pelatihan model AI sangat mahal, seiring kemajuan teknologi akan ada pihak yang mencoba mengendalikannya demi keuntungan, tetapi ini bisa menjadi bumerang dalam jangka panjang.
• Perbandingan antara keselamatan AI dan tim hukum atau keamanan tidaklah valid.
  • Karena tidak ada yang benar-benar tahu apa arti membangun AI yang aman, tim semacam ini pada akhirnya hanya bisa memperlambat kemajuan.
• Cara terbaik untuk membuat AI bertanggung jawab adalah dengan menjadikannya open source.
  • Dengan begitu, satu perusahaan tidak memegang kendali penuh, dan para peneliti dapat lebih memahami potensi penyalahgunaan serta cara pemanfaatan yang baik.
• Tanggung jawab AI seharusnya ada pada pengguna, tetapi saat ini tidak ada perusahaan yang memberi pengguna kewenangan untuk membentuk produk secara bertanggung jawab.
  • Kerangka hukum sebenarnya sudah menangani dampak eksternal seperti ini, dan upaya perusahaan untuk menghindari tanggung jawab hanya akan menghasilkan sistem yang lebih tidak kompeten dan tidak berguna.