Mantan Karyawan OpenAI: Mengapa Para Eks Karyawan Tidak Bisa Bersuara

• ChatGPT bisa berbicara, tetapi karyawan OpenAI tidak
  • Mereka menandatangani perjanjian larangan mengkritik, dan jika melanggarnya mereka harus melepaskan saham mereka

Peluncuran ChatGPT 4o baru dari OpenAI

• OpenAI meluncurkan ChatGPT 4o yang baru
• Suaranya mirip dengan asisten AI yang diisi suaranya oleh Scarlett Johansson dalam film "Her" karya sutradara Spike Jonze pada 2013
• CEO OpenAI Sam Altman mengunggah cuitan yang menyinggung film tersebut

Pengunduran diri tokoh-tokoh penting OpenAI

• Kabar peluncuran ChatGPT 4o tertutupi oleh berita pengunduran diri co-founder dan kepala ilmuwan OpenAI, Ilya Sutskever, serta Jan Leike yang memimpin tim superalignment
• Jan Leike, yang tahun lalu masuk dalam daftar Future Perfect 50, juga ikut mengundurkan diri
• Pengunduran diri ini tidak terlalu mengejutkan
  • Sutskever terlibat dalam pemberontakan dewan yang menyebabkan pemecatan sementara CEO Sam Altman tahun lalu
  • Setelah Altman cepat kembali ke kursi CEO, Sutskever secara terbuka menyesali tindakannya dan mendukung kembalinya Altman
  • Namun setelah itu, ketika anggota lain dari tim kebijakan, alignment, dan keselamatan OpenAI pergi, Sutskever sebagian besar tidak terlihat di perusahaan

Spekulasi tentang kebungkaman para mantan karyawan

• Kebungkaman para mantan karyawan memicu berbagai spekulasi
• Sutskever meninggalkan pesan pengunduran diri yang biasa saja
  • "Saya yakin OpenAI akan membangun AGI yang aman dan bermanfaat. Saya menantikan apa yang akan datang," katanya
• Leike hanya mengatakan "mengundurkan diri"
  • Beberapa hari kemudian ia menjelaskan bahwa ia mundur karena khawatir OpenAI menjauh dari budaya yang berpusat pada keselamatan
• Ada berbagai spekulasi tentang alasan para mantan karyawan bungkam
  • Apakah mereka dipaksa keluar, apakah ini buntut dari pemecatan sementara Altman musim gugur lalu, atau apakah mereka mundur sebagai protes terhadap proyek baru yang rahasia dan berbahaya, dan sebagainya

Alasan di balik kebungkaman mantan karyawan

• Ada alasan yang jelas mengapa para mantan karyawan bungkam
  • Perjanjian saat keluar yang sangat membatasi mencakup klausul untuk tidak mengkritik mantan pemberi kerja seumur hidup
  • Bahkan mengakui keberadaan NDA itu sendiri merupakan pelanggaran
• Jika karyawan yang keluar tidak menandatangani dokumen tersebut atau melanggarnya, mereka bisa kehilangan seluruh ekuitas yang diterima selama bekerja di perusahaan
  • Nilainya kemungkinan mencapai jutaan dolar
• Daniel Kokotajlo, seorang mantan karyawan, secara terbuka mengonfirmasi bahwa ia keluar tanpa menandatangani NDA dan melepaskan ekuitas bernilai besar sebagai akibatnya
  • Ia mengatakan itu karena "kehilangan keyakinan bahwa OpenAI akan bertindak secara bertanggung jawab di era AGI"

Praktik NDA di Silicon Valley yang sangat kompetitif

• NDA sendiri bukan hal yang aneh di Silicon Valley yang sangat kompetitif
• Namun, mempertaruhkan ekuitas yang sudah diberikan jika menolak atau melanggar perjanjian itu adalah hal yang tidak biasa
  • Bagi karyawan startup seperti OpenAI, ekuitas adalah kompensasi penting yang jauh lebih besar daripada gaji
  • Mengancam uang yang berpotensi mengubah hidup ini adalah cara yang sangat efektif untuk membungkam mantan karyawan

Kontradiksi dalam keterbukaan dan transparansi OpenAI

• OpenAI pada awalnya mempromosikan diri sebagai pihak yang berkomitmen membangun sistem kuat secara transparan dan bertanggung jawab
  • Namun kini mereka meninggalkan gagasan menjadikan model mereka open source dengan alasan isu keselamatan
• Mereka juga telah kehilangan anggota tim keselamatan yang paling berpengalaman dan paling dihormati
  • Ini memunculkan keraguan apakah keselamatan benar-benar alasan OpenAI menjadi tertutup
• Juru bicara OpenAI mengatakan, "Kami tidak pernah membatalkan ekuitas karyawan saat ini maupun mantan karyawan, dan tidak akan melakukannya meskipun mereka tidak menandatangani saat keluar"
  • Ini disebut menunjukkan perubahan dari kebijakan yang sebelumnya dipahami

Posisi unik OpenAI di dunia teknologi dan kebijakan

• OpenAI telah lama menempati posisi yang unik di dunia teknologi dan kebijakan
  • Hal-hal yang mereka rilis, dari DALL-E hingga ChatGPT, memang keren, tetapi dengan sendirinya sulit membangkitkan semangat yang nyaris religius
• Yang membuat OpenAI istimewa adalah tujuan besarnya untuk mengembangkan artificial general intelligence (AGI) demi memberi manfaat bagi umat manusia
  • Banyak karyawan percaya bahwa dengan waktu sekitar 10 tahun (atau kurang) dan triliunan dolar, tujuan ini dapat dicapai
• Seperti yang sudah lama dikatakan OpenAI sendiri, ini menarik tetapi juga bisa berbahaya

OpenAI sebagai aktor yang bertanggung jawab

• Secara historis, OpenAI memosisikan dirinya sebagai aktor yang bertanggung jawab yang ingin melampaui insentif komersial dan menghadirkan AGI demi kepentingan semua orang
  • Mereka mengatakan bersedia memperlambat laju pengembangan, melewatkan peluang pendapatan, atau mengizinkan pengawasan eksternal bila perlu
• Struktur perusahaan OpenAI yang unik (perusahaan dengan keuntungan terbatas yang pada akhirnya dikendalikan organisasi nirlaba) dimaksudkan untuk meningkatkan akuntabilitas
• Tidak ada sinyal komitmen terhadap misi OpenAI yang lebih kuat daripada peran menonjol orang-orang seperti Sutskever dan Leike
  • Mereka adalah teknolog dengan sejarah panjang komitmen terhadap keselamatan, dan tampak bersedia menuntut OpenAI mengubah arah bila diperlukan

Perubahan perhatian OpenAI terhadap pekerjaan keselamatan

• Kepergian mereka tidak menandakan perubahan pada tujuan OpenAI membangun artificial general intelligence
  • Itu masih tetap menjadi tujuan
• Namun, ini hampir pasti menandakan perubahan dalam perhatian OpenAI terhadap pekerjaan keselamatan
  • Perusahaan belum mengumumkan siapa yang akan memimpin tim superalignment
• Jelas bahwa kekhawatiran OpenAI terhadap pengawasan eksternal dan transparansi tidak sedalam itu
  • Jika Anda benar-benar ingin pengawasan eksternal dan dunia memiliki peran dalam apa yang Anda lakukan, memaksa mantan karyawan menandatangani NDA yang sangat membatasi jelas bukan cara untuk mewujudkannya

Kekecewaan terhadap OpenAI

• Di sinilah letak alasan OpenAI pada dasarnya mengecewakan bagi orang-orang yang sangat peduli agar AI benar-benar berjalan baik dan bermanfaat bagi umat manusia
  • Pimpinan perusahaan mengatakan mereka ingin mengubah dunia, ingin bertanggung jawab saat melakukannya, dan menyambut masukan dunia tentang bagaimana melakukannya secara adil dan bijaksana
• Namun ketika uang sungguhan dipertaruhkan (dan ada uang yang sangat besar dipertaruhkan dalam perlombaan dominasi AI), menjadi jelas bahwa mereka mungkin tidak pernah benar-benar berniat memberi dunia banyak suara
  • Proses mereka membuat mantan karyawan, yakni orang-orang yang paling tahu apa yang terjadi di dalam OpenAI, tidak dapat berbicara kepada dunia
• Mungkin ada idealisme yang luhur di situs web mereka, tetapi dokumen pemutusan kerja dipenuhi bahasa hukum yang dingin
  • Sulit meminta pertanggungjawaban perusahaan yang membatasi mantan karyawannya hanya untuk mengatakan "mengundurkan diri"

Suara baru ChatGPT yang lucu mungkin menarik, tetapi saya tidak terlalu jatuh hati padanya.

[GN⁺]

Opini Hacker News

Ringkasan komentar Hacker News

• Cara mengakali perjanjian kerahasiaan

  • Untuk mengakali perjanjian kerahasiaan, para karyawan terkait dapat berkumpul, menuliskan semua hal yang ingin mereka sampaikan, lalu melatihnya ke LLM (large language model) dan merilisnya. Ini memanfaatkan logika hukum saat ini yang mengalihkan tanggung jawab kepada pengguna model.

• Perjanjian kerahasiaan OpenAI

  • Mantan karyawan OpenAI harus menandatangani kontrak yang mencakup klausul kerahasiaan dan larangan menjelekkan yang sangat ketat. Jika melanggarnya, mereka bisa kehilangan saham senilai jutaan dolar.

• Tingkat keseriusan situasi

  • Situasinya sangat serius, dan sebagian orang menganggapnya sebagai tindakan kriminal. Ada juga pendapat yang menyamakan tindakan OpenAI dengan kasus Enron.

• Perlu nasihat hukum

  • Diperlukan nasihat hukum terkait California SB 331 (Silenced No More Act). Undang-undang ini dapat berlaku tidak hanya untuk pelecehan seksual, tetapi juga untuk bentuk kontrak tidak adil lainnya.

• Kontrak yang tidak masuk akal

  • Memaksa karyawan menandatangani perjanjian larangan menjelekkan seumur hidup adalah hal yang tidak adil. Ini bisa bermasalah secara hukum, dan untuk menyelesaikannya diperlukan seseorang yang cukup berani untuk mengajukan gugatan.

• Keterbatasan AI

  • Ada pendapat bahwa AI tidak bisa menggantikan seluruh tenaga kerja manusia. Misalnya, mengecat rumah atau memperbaiki boiler adalah pekerjaan yang dianggap tidak bisa dilakukan AI.

• Kompensasi saham di startup

  • Di startup, saham adalah sarana kompensasi yang penting. Karyawan OpenAI menerima gaji tinggi dan saham, sambil diminta menyetujui NDA. Ada contoh serupa juga di Apple.

• Rasa hormat terhadap Jan Leike

  • Ada ungkapan rasa hormat tambahan untuk Jan Leike.

• Keabsahan kontrak

  • Agar kontrak sah, kompensasi saham baru harus diberikan. Memaksakan kontrak baru dengan kompensasi yang sudah ada adalah hal yang tidak adil.

• Sifat privat kontrak

  • Kontrak adalah urusan antar pihak, dan jika ada masalah hukum, itu harus diselesaikan di pengadilan. Sebaiknya tidak semua persoalan ditangani di ruang publik.