Mantan Anggota Dewan OpenAI Ungkap Penyebab Pencopotan Sementara Sam Altman

• Mantan anggota dewan OpenAI Helen Toner mengklaim bahwa Sam Altman beberapa kali berbohong kepada dewan, dan runtuhnya kepercayaan itu berujung pada pemecatan sementaranya pada November 2023
• Menurut Toner, dewan mengetahui peluncuran ChatGPT dari Twitter, dan selama bertahun-tahun Altman menyembunyikan atau keliru menyampaikan situasi internal perusahaan
• Fakta bahwa Altman tidak memberitahukan kepemilikannya atas OpenAI startup fund diajukan sebagai contoh utama yang bertentangan dengan klaimnya selama ini bahwa ia adalah anggota dewan independen
• Toner menilai Altman juga memberikan informasi yang tidak akurat tentang jumlah proses keselamatan resmi OpenAI, sehingga dewan sulit menilai kecukupan langkah-langkah keselamatan
• Dewan mulai serius membahas pemecatan sejak Oktober 2023, tetapi mengembalikannya sebagai CEO kurang dari seminggu setelah muncul ancaman eksodus karyawan dan kemungkinan Microsoft merekrut tim Altman

---

Latar belakang pemecatan menurut Helen Toner

• Mantan anggota dewan OpenAI Helen Toner mengungkap latar belakang pemecatan sementara Sam Altman pada November 2023 dalam wawancara dengan Bilawal Sidhu di “The TED AI Show”
• Menurut Toner, Altman “berkali-kali” berbohong kepada dewan, dan dewan bahkan mengetahui peluncuran ChatGPT melalui Twitter
• Altman disebut telah menyembunyikan informasi selama bertahun-tahun dan keliru menyampaikan hal-hal yang terjadi di perusahaan
• Ia juga tidak memberi tahu dewan bahwa dirinya memiliki OpenAI startup fund, sambil terus mengklaim sebagai anggota dewan independen yang tidak memiliki kepentingan finansial di perusahaan
• Hal ini sangat merusak kepercayaan dewan terhadap Altman, dan pada Oktober 2023 kebutuhan untuk memecatnya sudah dibahas dengan cukup serius
• OpenAI tidak segera menanggapi permintaan komentar dari Business Insider

Proses keselamatan dan masalah kepercayaan terhadap kepemimpinan

• Altman disebut juga memberikan informasi yang tidak akurat kepada dewan tentang sejumlah kecil proses keselamatan resmi yang ada di OpenAI
  • Karena itu, hampir mustahil bagi dewan untuk memahami apakah langkah-langkah keselamatan sudah memadai atau perlu diubah
• Toner menilai ada kasus-kasus individual lain, tetapi pada akhirnya dewan berada pada titik tidak bisa lagi memercayai ucapan Altman
• Ditekankan pula bahwa peran dewan adalah melakukan pengawasan independen atas OpenAI, bukan sekadar membantu CEO menggalang lebih banyak pendanaan
• Pada Oktober 2023, dua eksekutif beberapa kali berbicara dengan dewan dan menjelaskan pengalaman mereka dengan Altman, menggunakan istilah “psychological abuse”
  • Para eksekutif ini menilai Altman bukan orang yang tepat untuk memimpin perusahaan menuju AGI
  • Mereka juga menyampaikan bahwa mereka tidak percaya ia bisa atau akan berubah, dan bahwa memberikan umpan balik atau mencoba menyelesaikan masalah bersama tidak ada gunanya
• Ketika dewan menyadari perlunya mengganti Altman, Toner menilai sudah jelas bahwa jika Altman mengetahuinya, ia akan “menggunakan segala cara” untuk menghalangi langkah dewan
  • Menurut Toner, Altman mulai berbohong kepada anggota dewan lain untuk menyingkirkan Toner dari dewan
  • Dewan menjalankan proses hingga 17 November 2023 dengan hampir tidak memberi tahu siapa pun sebelumnya selain tim hukum
• Pemecatan Altman tidak berlangsung lama; setelah muncul ancaman pengunduran diri dari karyawan dan spekulasi bahwa Microsoft bisa mengambil tim Altman dari OpenAI lalu mempekerjakan mereka secara langsung, dewan mengembalikannya sebagai CEO kurang dari seminggu kemudian
• Toner mengundurkan diri dari dewan OpenAI kurang dari dua minggu setelah Altman kembali sebagai CEO

[GN⁺]

Komentar Hacker News

• https://archive.is/LpDuJ

• Seluruh kejadian ini adalah studi kasus yang menarik tentang otoritas nominal dan kekuasaan nyata
  Di atas kertas, dewan memiliki wewenang untuk mengawasi manajemen serta merekrut dan memecat eksekutif, tetapi dalam praktiknya mereka bergantung pada manajemen dari sisi informasi
  Kekuasaan nyata ada pada titik ketika satu investor memegang setengahnya, para pendiri memimpin roadmap, dan mereka juga punya pengaruh atas apakah talenta inti akan pergi atau tidak

  • Dalam kasus ini, posisi dewan OpenAI bahkan jauh lebih buruk
    Perusahaan ini pada dasarnya adalah gabungan peneliti, engineer, dan kredit Microsoft Azure, jadi meskipun CEO bisa diganti, jika mereka tidak suka, seluruh nilai perusahaan bisa keluar dengan berjalan kaki
  • Dewan pada akhirnya menyerah begitu saja
    Mereka bukan orang yang tepat untuk tugas itu, dan jika mereka bertahan sedikit lebih lama serta menyusun strategi humas dengan baik, mereka mungkin akan menang
  • Lebih tepatnya, ini adalah perbedaan antara kekuasaan berbasis jabatan dan kekuasaan berbasis relasi
  • Ini mengingatkan pada kutipan dari A Song of Ice and Fire

    Varys smiled. “Here, then. Power resides where men believe it resides. No more and no less.”
    
    “So power is a mummer’s trick?”
    
    “A shadow on the wall,” Varys murmured, “yet shadows can kill. And ofttimes a very small man can cast a very large shadow.”  
    

• Ini tampaknya sangat mungkin benar, tetapi sekaligus membuat dewan terlihat sebagai kelompok yang tidak kompeten dan tidak mampu menghadapi konflik
  Mereka punya pilihan seperti mengajukan keberatan resmi, memperkuat pengawasan, mengalihkan tanggung jawab Sam ke orang lain, atau memperingatkan soal tindakan hukum, tetapi yang mereka lakukan justru mencoba kudeta diam-diam, dan akibatnya Sam terlihat seperti pihak yang lemah

  • Tampaknya ada kesalahpahaman mendasar tentang peran dewan
    Sering dikatakan bahwa dewan perusahaan pada dasarnya hanya punya satu tugas, yaitu mengangkat dan memberhentikan CEO
    Mungkin ini agak berlebihan, tetapi inti dari pernyataan itu adalah bahwa ketika dewan ikut campur dalam pengambilan keputusan manajemen, keadaan justru memburuk
    Jika tidak suka dengan keputusannya, maka CEO harus diganti, dan di situlah wewenangnya berada
    Saya tidak paham “mengajukan keberatan resmi” itu kepada siapa
    Dewan adalah otoritas final, jadi tidak jelas kepada siapa mereka bisa mengadu
    “Mengalihkan tanggung jawab Sam ke orang lain” juga akan dilihat sebagai resep bencana oleh ahli tata kelola perusahaan, dan dalam hierarki perusahaan pun hal itu tidak memungkinkan
    Saya sudah berkali-kali mengatakan bahwa cara pemecatan Altman ditangani sangat naif dan komunikasinya saat itu juga buruk sekali, tetapi saya juga tidak melihatnya sebagai sejenis “kudeta”, dan respons yang diusulkan itu pun tidak masuk akal
  • Saya sering melihat istilah “kudeta”, tetapi itu sulit dibenarkan
    Mereka adalah dewan, dan merekrut serta memecat CEO adalah tugas inti mereka
    Dalam organisasi nirlaba, menjaga keselarasan dengan misi juga sama pentingnya
  • “Mengajukan keberatan resmi” itu kepada siapa?
    Dewan sendiri adalah otoritas final yang punya wewenang untuk menyelidiki dan bertindak
    Jika para anggotanya punya kekhawatiran, mereka tinggal bertindak atau tidak, dan tidak ada pihak lain tempat tanggung jawab itu bisa dialihkan
  • Jika seseorang sudah sebegitu tidak dipercaya sampai harus dipasangi semacam jaket pengekang metaforis agar bisa bertindak dengan benar, saya tidak mengerti apa gunanya tetap menjadikannya CEO
    Lagipula, jika dia memang cenderung membalas dendam, dia bisa menimbulkan kerugian jauh lebih mudah dari dalam sambil tetap memegang kekuasaan
  • Menurut saya, nasihat standar saat berhadapan dengan orang yang abusif dalam hubungan pribadi adalah pergi menjauh
    Karena pada umumnya tidak realistis berharap mereka bisa berubah
    Mengapa logika yang sama tidak berlaku dalam hubungan bisnis yang mensyaratkan adanya kepercayaan?

• Fakta bahwa hampir tidak ada siapa pun yang diberi tahu sebelumnya dimaksudkan untuk melindungi dewan dari sabotase Altman, tetapi pada akhirnya justru menempatkan mereka dalam posisi yang mustahil dipertahankan
  Mereka seperti harus bertarung sendirian melawan orang-orang yang sangat kaya dan punya koneksi luas, tanpa punya narasi yang bisa dijual

  • Rasanya satu siaran pers saja mungkin bisa sepenuhnya mengubah hasil akhirnya
    Bukankah sebagai dewan mereka setidaknya seharusnya bisa menyepakati siaran pers di antara mereka sendiri?
  • Intinya, setelah melakukan ini mereka bahkan tidak bisa menjelaskan di depan publik mengapa mereka melakukannya
    Kalau mau melakukan hal seperti ini, semua persiapan harus sudah selesai dan posisi pertahanan harus sudah siap

• Dikatakan bahwa mereka “memilih dengan sangat hati-hati dan penuh pertimbangan siapa yang akan diberi tahu, dan selain tim hukum, praktis hampir tidak memberi tahu siapa pun sebelumnya”, tetapi jika mereka begitu khawatir soal kebocoran, bukankah setidaknya mereka seharusnya menyiapkan materi briefing untuk investor utama seperti Microsoft pada hari yang sama?
  Jika mereka tidak bisa meyakinkan investor utama mereka sebelumnya, yang pada praktiknya adalah atasan mereka, itu justru membuat kebutuhan itu makin besar

  • Dalam kasus ini, investor utama bukan atasan dewan
    Karena OpenAI adalah organisasi nirlaba
    Microsoft punya insentif untuk bertindak berlawanan dengan tujuan piagam nirlaba itu, dan dalam kasus ini memang melakukan hal tersebut

• Semua bukti mengarah pada bahwa Altman berbohong dan bersikap mendua
  Saya juga akan memecatnya

  • Maksudmu orang yang diusir dari dua negara karena menolak mematuhi perintah pemerintah dan tidak berhenti memindai bola mata orang untuk ditukar dengan coin abal-abal?
    Orang itu yang dibilang berbohong dan mendua?

• Yang masih aneh adalah bagaimana dewan membawanya kembali
  Dari sudut mana pun, itu tidak masuk akal
  Sudah sangat jelas bahwa dia berbohong dan bersekongkol, jadi saya tidak paham kenapa itu seolah bukan masalah
  Setelah dipecat, dia tidak punya wewenang
  Kalau perusahaan lain mau mempekerjakannya, biarkan saja, dan kalau dia cuma ngoceh masuk akal di Twitter, tidak perlu dipedulikan
  Kalau para karyawan mengancam akan pergi, biarkan mereka pergi
  Kemungkinan besar banyak yang sebenarnya tidak akan pergi, dan sekalipun pergi, mereka bisa direkrut lagi lalu dicari CEO yang benar
  Orang-orang yang tetap tinggal justru kemungkinan adalah orang yang perlu dipertahankan
  Tapi kenapa mereka mempekerjakannya kembali lalu mengundurkan diri? Kenapa tidak mengundurkan diri saja sambil tetap membiarkannya dipecat?
  Saya juga tidak paham kenapa Microsoft begitu peduli pada Altman
  Mereka juga tidak punya kursi dewan, jadi itu memang di luar kendali mereka dan seharusnya tidak punya pengaruh
  Kalau Microsoft menginginkan OpenAI, tinggal dibeli saja
  Saya juga tidak paham nilai apa yang didapat Microsoft dengan membawa Altman ke perusahaan mereka
  Semuanya tidak masuk akal
  Justru yang paling jelas adalah pola perilaku buruk Altman
  Saya ingat dia dengan lantang mengumumkan seolah-olah polos bahwa dia tidak punya saham OpenAI
  Ya, jadi kita disuruh percaya bahwa seorang venture capitalist berpengalaman membangun struktur perusahaan baru tanpa keuntungan finansial sama sekali untuk dirinya?
  Di linimasa lain, OpenAI bisa saja memecatnya, menunjuk CEO sementara, mengabaikan semua kegaduhan lain, lalu memilih CEO baru dan tetap berjalan baik
  Saya tidak paham kenapa Microsoft dan pihak lain membuat keributan sebesar itu, dan saya juga tidak paham kenapa dewan, yang sebenarnya bisa memberi detail, malah mengeluarkan siaran pers yang begitu misterius
  Bahkan kalau membuka kemungkinan teori konspirasi pun tetap tidak masuk akal
  Rasanya tidak ada satu pun pihak terkait, termasuk Satya Nadella, yang tahu apa yang mereka lakukan

  • Anda sebenarnya sudah menyebutkan jawabannya lalu mengabaikannya
    Dewan setuju mengembalikan Sam Altman karena lebih dari 90% karyawan mengancam akan mengundurkan diri, dan Microsoft, yang memegang kekayaan intelektual OpenAI, menawarkan untuk langsung mempekerjakan mereka semua; ini adalah tekanan besar-besaran
    Ini juga mencakup kepemimpinan inti perusahaan
    Organisasi itu sedang terurai dalam semalam, jauh melewati titik "beberapa karyawan yang tidak puas mungkin akan pergi"
    Tidak akan ada lagi OpenAI yang tersisa untuk dikelola
  • Lalu dewan saat ini berada dalam kondisi seperti apa?
    CEO tidak meminta maaf atau mengakui tanggung jawab, dan sekalipun melakukannya, secara aktif menghalangi pengawasan dewan jelas merupakan garis yang tidak boleh dilanggar
    Bagaimana dewan bisa menjalankan perannya bersama CEO yang menunjukkan sikap tidak mau memberikan bahkan informasi yang dibutuhkan untuk menjalankan tugas?
    Selama CEO ini tetap berada pada posisi yang bisa memblokir akses informasi, dewan tidak punya kredibilitas
  • Sangat setuju
    Saya sama sekali tidak peduli pada OpenAI atau anggota dewannya, tetapi saya melihat terlalu banyak ketidakmampuan dalam satu hal yang setidaknya harus bisa dilakukan dengan layak oleh dewan, yaitu merekrut dan memecat
    Hanya dari itu saja saya rasa perombakan dewan adalah hal yang baik
    Tidak peduli Anda memihak siapa dalam kejadian ini
  • Microsoft membutuhkan versi OpenAI yang sudah dijual
    Dengan begitu mereka bisa menghasilkan uang sebanyak mungkin tanpa orang-orang yang mengomel soal etika dan keselamatan
  • Menurut Helen Toner, pengacara OpenAI mengatakan bahwa jika mereka terus menyingkirkannya lalu perusahaan kehilangan banyak uang, Toner dan anggota dewan lainnya bisa bertanggung jawab secara pribadi

• Menarik bahwa CEO dari perusahaan yang paling dekat dengan AGI itu sangat cerdas tetapi punya masalah alignment yang jelas

• Penjelasan Toner kali ini terdengar masuk akal sebagai alasan Sam disingkirkan
  Konsisten dari awal sampai akhir
  Terlepas dari apa pun pendapat saya tentang Sam secara pribadi, kalau saya ada di posisi itu saya mungkin juga akan mengambil keputusan yang sama
  CEO yang berulang kali berbohong dan menipu dewan adalah garis merah yang cukup serius

  • Ini juga mirip dengan alasan Sam dipecat dari Y Combinator
    Ini bukan hal baru; hanya saja ketika uang dipertaruhkan, ingatan orang jadi kabur sama seperti moralitas mereka

• Ironis melihat orang-orang berbondong-bondong membela Sam Altman di forum Y Combinator
  YC juga mencopotnya dari peran kepemimpinan eksekutif karena alasan yang mirip

  • Pandangan saya tentang Altman sama seperti saat GPT-2 dirilis pelan-pelan karena alasan keselamatan
    Apa pun kenyataannya, yang terbaik adalah memiliki sistem dan prosedur yang berasumsi skenario terburuk dan tetap mampu menanggung kemungkinan itu benar
  • Bagi orang-orang yang sudah cukup lama untuk menyaksikan awal dan akhir Loopt, ini sepenuhnya akal sehat biasa
    Altman adalah sosiopat dark triad dengan hanya satu keterampilan yang bisa dijual, dan keterampilan itu, meminjam kata-kata pg, adalah “menjadi powerful”
    Dia tidak bisa ngoding, tidak bisa merancang, tidak bisa menerbitkan makalah, tidak bisa menaiki tangga perusahaan tradisional yang punya sedikit saja pengaman antipenipuan, dan bahkan tidak bisa menarik tangannya dari toples kue
    Sebaliknya, dia bisa berbohong, mengancam, membujuk, memanipulasi, dan menyuap tanpa ragu atau penyesalan
    Saya sudah 10 tahun bertaruh negatif pada omong kosong ini, dan itu memang tidak membantu saya bertahan tanpa bangkrut, tetapi ketika pasar mulai menjadi rasional, biasanya perubahan itu datang sekaligus
    Karpathy, Ilya, Yoon langsung terlintas, dan masih banyak lagi
    LeCun belum lama ini sengaja tampil agresif di X
    Rasanya seperti para orang dalam mengambil posisi short seperti saat Goldman melawan Burry
    Dia punya sembilan nyawa; dia sudah dipecat tiga kali atau lebih karena masalah mirip penipuan tetapi masih terus hidup seperti itu, jadi mungkin dia akan bertahan cukup lama untuk akhirnya menuangkan Ice Nine ke gelas saya
    Tapi hal seperti ini tidak bisa berulang tanpa batas
  • Itu tidak benar: https://twitter.com/paulg/status/1796107666265108940
  • Soal yang terkait adik perempuannya, apakah itu sudah selesai?
  • Anda menulis “dipecat”, jadi saya mencoba mencari sumber yang spesifik dan sangat tepercaya di Google, tetapi tidak menemukannya
    Yang terbaik yang saya temukan hanya sebatas “Altman dilaporkan dicopot dari jabatan presiden YCombinator karena mendahulukan kepentingannya sendiri”
    Kata kuncinya di sini adalah ungkapan “allegedly”
    Apakah ada siaran pers YC atau penjelasan pemecatan dari orang dalam? Kalau tidak ada, itu cuma rumor
    Biar jelas, ini bukan tulisan untuk membela Altman atau YC