OpenAI Diam-diam Membatalkan Janji untuk Membuka Dokumen Penting kepada Publik

• Sejak didirikan, OpenAI berjanji akan membuka dokumen tata kelola, tetapi baru-baru ini menolak memberikannya saat diminta oleh WIRED
• OpenAI didirikan agar masyarakat dan publik dapat berpartisipasi dalam pengembangan AI yang kuat, tetapi kini mengadopsi kebijakan baru yang tidak membuka dokumen internal
• Pencabutan janji transparansi OpenAI mempersulit pemahaman atas kerentanan perusahaan dan krisis terbaru di perusahaan yang memiliki pengaruh penting terhadap masa depan AI

Krisis dan Tata Kelola OpenAI

• Dewan OpenAI memecat CEO Sam Altman, tetapi Altman kembali setelah mendapat penolakan dari karyawan dan investor, sementara sebagian besar anggota dewan diganti
• Campuran antara investasi pribadi Altman dan tugas jabatannya mungkin menjadi salah satu penyebab ketidakpercayaan dewan
• Publikasi dokumen tata kelola OpenAI dapat mengungkap kewenangan apa yang dimiliki dewan atas Altman dan aktivitas eksternalnya

Struktur Korporasi OpenAI dan Microsoft

• Anggaran dasar pendirian OpenAI menunjukkan bagaimana sebagian dewan dapat mengambil kendali dan menyingkirkan Altman
• CEO Microsoft Satya Nadella mengatakan ia secara terbuka terkejut atas pemecatan Altman
• OpenAI kemungkinan telah merevisi dokumen tata kelolanya untuk menstabilkan struktur dewan dan menenangkan sponsor seperti Microsoft

Menurunnya Transparansi OpenAI

• Di masa lalu, OpenAI mempublikasikan informasi rinci tentang penemuan AI, tetapi belakangan melindungi detail teknis dan data dari alat seperti ChatGPT
• Transparansi menurun sejak pada 2019 perusahaan membentuk anak usaha profit yang menjalankan sebagian besar pengembangan AI dari divisi nirlabanya
• Organisasi nirlaba OpenAI pada akhirnya mengendalikan aktivitas dan teknologi OpenAI

Organisasi Nirlaba OpenAI dan Pelaporan IRS

• Organisasi nirlaba di AS wajib mempublikasikan laporan tahunan IRS dan melaporkan apakah dokumen tambahan dapat dibuka untuk umum
• Hingga 2022, OpenAI menyatakan dalam laporan tahunan IRS bahwa berkas tambahan akan disediakan "atas permintaan", tetapi dalam praktiknya tidak memberikannya
• Organisasi nirlaba jarang membuka dokumen internal, dan akses terhadapnya sulit diperoleh

Kondisi Keuangan OpenAI

• Laporan keuangan yang dibuka OpenAI tidak mencakup hasil dari divisi profit, dan pada 2022 melaporkan pendapatan 44.000 dolar AS serta biaya 1,3 juta dolar AS
• Secara keseluruhan, OpenAI menghasilkan pendapatan ratusan juta dolar, tetapi hal ini tidak diungkapkan
• Divisi nirlaba OpenAI hampir tidak menerima dukungan publik, sehingga kurang memiliki insentif untuk meningkatkan transparansi

Opini GN⁺

• Pencabutan janji transparansi OpenAI mempersulit pemahaman atas operasional perusahaan yang memiliki pengaruh besar terhadap masa depan teknologi AI
• Perubahan ini dapat menurunkan partisipasi publik dan kepercayaan terhadap riset serta pengembangan AI
• Perubahan kebijakan OpenAI menjadi contoh penting yang dapat memicu diskusi tentang transparansi dan operasi yang etis di industri AI

[GN⁺]

Komentar Hacker News

• Mengecewakan, tapi tidak mengejutkan. Mari cari pelajaran dari kejadian ini.

  • Di bidang AI, mengusung altruisme dan keterbukaan itu populer, dan OpenAI, Anthropic, serta xAI baru milik Musk memiliki struktur tata kelola yang tidak biasa demi kepentingan publik. Masalahnya, ketika salah satu dari perusahaan ini mulai mendapat cukup sorotan hingga tampak berpeluang meraup keuntungan miliaran dolar, situasinya berubah.
  • Masalah ini tidak terbatas pada perusahaan AI saja, dan juga bukan hal baru. Ini adalah bagian dari sifat manusia dan akan selalu ada.
  • Kita perlu memberi lebih banyak penekanan dan perhatian pada model AI yang benar-benar terbuka agar manfaat AI kembali ke publik, bukan ke segelintir perusahaan saja (data pelatihan terbuka, source code pelatihan dan hyperparameter, source code model, bobot).

• Karena kita tahu OpenAI tidak membagikan apa pun sejak peluncuran ChatGPT dan menerima investasi miliaran dolar, tidak perlu heran bahwa OpenAI bersifat tertutup.

• OpenAI telah mengingkari semua janji yang mereka buat.

• Bagaimana dewan bisa membiarkan ini terjadi!

  • Jika dipikirkan lebih serius, ini adalah hasil yang jelas, tetapi terasa agak suram.
  • Memang benar OpenAI membutuhkan banyak dana dan modal, dan benar juga bahwa ini membuat mereka perlu pendanaan serta kemitraan.
  • Tetapi satu-satunya alasan mereka bisa ada sejak awal adalah karena mereka memosisikan diri sebagai perusahaan yang “terbuka”, nyaris seperti barang publik, lalu menerima donasi atas dasar itu.

• Berdasarkan semua yang kita dengar tentang potensi penggunaan berbahaya teknologi ini terhadap masyarakat, saya bertanya-tanya apakah situasinya cukup serius hingga memerlukan semacam penyelidikan untuk memahami apa yang sedang terjadi.

  • Situasi ini cukup serius sehingga kita tidak bisa membiarkan jenis pekerjaan seperti ini diprivatisasi begitu saja.
  • Tidak perlu peduli pada klaim bahwa “ini normal”. Itu hanya upaya untuk membuat orang menganggap perilaku seperti ini sebagai hal yang wajar.
  • Adakah yang tahu apakah ada pusat keselamatan AI yang bertindak demi kepentingan publik, dan apakah masalah ini masuk dalam radar mereka?

• Saya tidak ingin membela Musk, tetapi jika saya jadi dia, saya mungkin akan sedikit kesal bahwa artikelnya dimulai dengan “para pengusaha teknologi kaya berjanji soal transparansi tetapi sekarang tidak lagi”, lalu butuh delapan paragraf untuk menunjukkan bahwa satu-satunya pendiri yang disebut sudah disingkirkan beberapa tahun lalu dan kini menjadi pesaing yang menyebutnya sebagai “AI super closed-source demi keuntungan maksimal”.

  • Media kecanduan pada tudingan, dan semua nuansa yang berada di antara tudingan dan judul ditempatkan di bagian paling bawah artikel, tersembunyi di balik paywall. Mungkin beberapa tahun lagi taktik seperti ini juga akan diterapkan pada Altman.
  • Keadaannya sudah begitu buruk sampai-sampai ketika saya membaca judul yang menyiratkan kemunafikan, saya justru cenderung lebih percaya pada kebalikannya, dan ini sama buruknya dengan menganggap judul itu akurat!

• Sejak awal organisasi ini seharusnya ada aturan untuk mencegah hal seperti ini terjadi. Perkembangan peristiwa ini menunjukkan bahwa bentuk tata kelola mereka tidak efektif.

• Tinggal menunggu waktu sampai mereka mengganti nama perusahaan itu menjadi “Microsoft AI”.

• Walau OpenAI ingin terlihat seperti perusahaan nirlaba untuk kepentingan publik, yang terbaik adalah menganggapnya seperti perusahaan teknologi swasta lainnya.