Jika OpenAI tetap menjadi badan amal 501(c)(3), karyawan Microsoft yang masuk ke dewan memiliki kewajiban fidusia untuk mendahulukan misi badan amal, bukan kebutuhan bisnis Microsoft. Konflik kepentingannya terlalu jelas sehingga sepertinya IRS tidak akan menyukai struktur ini
Di dewan perusahaan besar, konflik kepentingan “di atas kertas” itu umum. Jika ingin orang yang punya pengalaman manajemen nyata duduk di dewan dan bertindak secara bertanggung jawab, hal seperti ini terjadi di industri mana pun, dan bukan masalah khusus industri teknologi atau OpenAI
Dalam praktiknya, ini berjalan dengan cara mengundurkan diri dari pembahasan saat perlu dan tidak melakukan hal bodoh, sesuai aturan dewan dan akal sehat
Organisasi nirlaba mungkin belum pernah mendapat sorotan sebesar ini, dan para direktur baru kemungkinan akan melibatkan pengacara untuk melindungi diri. Bayangkan saja posisi mereka jika Sam Altman benar-benar melakukan sesuatu yang layak membuatnya dipecat
Menjadikan OpenAI sebagai badan amal kepentingan publik adalah kesalahan besar, dan masuk ke dalam kekacauan seperti itu terasa tidak menarik. Nanti kalau statusnya condong menjadi yayasan privat, ini akan makin menarik
OpenAI bukan badan amal. Investasi Microsoft masuk ke OpenAI Global, LLC, yaitu perusahaan berorientasi laba
Menurut https://openai.com/our-structure, anak usaha berorientasi laba sepenuhnya dikendalikan oleh OpenAI Nonprofit, dan anggota dewan harus menjalankan kewajiban fidusia demi misi “AGI yang aman dan bermanfaat secara luas”. Ada batas atas untuk pembagian keuntungan investor, karyawan, dan Microsoft, dan sisa nilai di atas batas itu kembali ke organisasi nirlaba demi kepentingan umat manusia. Selain itu, dewanlah yang menentukan apakah AGI sudah tercapai, dan AGI dikecualikan dari lisensi kekayaan intelektual serta ketentuan komersial Microsoft
Tidak ada tanda bahwa direktur yang ditunjuk Microsoft harus karyawan Microsoft. Tentu saja bisa saja begitu, tetapi di organisasi nirlaba besar, direktur yang berasal dari perusahaan berorientasi laba cukup umum
Rasanya IRS tidak akan terlalu mempermasalahkan hal semacam ini. Jika argumennya adalah OpenAI mengarahkan keuntungan ke Microsoft, perusahaan berorientasi laba yang membayar pajak, bahkan dengan asumsi intervensi jahat terburuk sekalipun, ini lebih tampak seperti urusan SEC daripada IRS
Pemerintah sepertinya tidak akan mengatur ini dengan keras. AI terlalu penting bagi pemerintah dan militer, sehingga mereka tidak akan mau memperlambat keunggulan kompetitif hanya karena konflik kepentingan kecil
Dengan Sam kembali sebagai CEO, bukankah ini membuktikan bahwa dewan OpenAI sudah kehilangan fungsinya? Siapa pun yang duduk di dewan, mereka tidak lagi bisa menjalankan kewenangan paling mendasar yaitu memecat CEO, dan Sam telah menunjukkan bahwa ia pada dasarnya tidak bisa dipecat
Bukan berarti saya menuduh Sam berbohong atau akan berbohong ke depannya
Sama sekali tidak. Dewan hanya bertindak dengan cara paling tidak kompeten di antara kelompok yang memegang tanggung jawab itu
Jika mereka menempuh prosedur yang semestinya, memberi tahu karyawan dan investor, serta mengumumkan alasan pemecatan CEO, tidak akan ada situasi di mana semuanya dilakukan lewat Google Meet 15 menit lalu bungkam total, dan kemarahan seperti ini tidak akan terjadi
Bayangkan jika dewan Apple tiba-tiba memecat Tim Cook tanpa peringatan tepat setelah ia di panggung mengumumkan pembaruan platform developer tahun itu serta rekor pertumbuhan dan penjualan, lalu selama beberapa hari menolak memberi alasan atau komunikasi berguna kepada investor, dan pada akhir pekan yang sama mengganti CEO sementara pertama dengan CEO sementara lain dari industri yang benar-benar berbeda
Jika Anda berpikir tidak akan ada pemberontakan pemegang saham terhadap dewan hanya karena mereka menjalankan kewenangan dasar untuk memecat CEO, Anda melewatkan sebagian situasinya
Ini sebenarnya kesepakatan yang lebih baik bagi dewan daripada yang orang kira, dan lebih buruk bagi Sam. Sam, Greg, dan Ilya semuanya keluar dari dewan, sementara D'Angelo tetap bertahan meski bertindak absurd, serta mendapatkan hak veto dan suara besar dalam penunjukan direktur baru
Ke depannya semua orang akan waspada terhadap Sam. Ia akan punya leverage jauh lebih kecil daripada yang ia miliki di dewan sebelumnya. Pada akhirnya ia mungkin bisa menang dengan membujuk para direktur independen lain lewat pesona dan kemampuan sosialnya, tetapi untuk membuat mereka tetap di pihaknya, bukan di pihak D'Angelo, ia harus banyak mengendalikan perilakunya sendiri
Benar, tetapi sebaliknya, kejadian ini menunjukkan bahwa OpenAI tidak lagi berjalan mulus, dan mungkin sulit untuk kembali seperti itu. Anda tidak bisa memenggal kepala ular, memasangnya kembali, lalu berharap ia merayap seperti sebelumnya
Sekalipun Sam bertahan, organisasi serumit OpenAI memiliki ribuan aturan implisit, hubungan, dan prosedur tersembunyi yang harus berjalan baik tanpa keterlibatan langsung CEO. Perekrutan kembali Sam tampaknya berarti OpenAI ke depan hanya akan menjadi bayangan samar dari masa lalunya. Jika ia benar-benar kembali mapan, itu akan terasa aneh, apalagi mengingat orang-orang lain yang keluar. Ini bukan berarti OpenAI akan mati, tetapi jelas ia sudah memperlihatkan kelemahannya
Dewan masih bisa memecat Sam jika terlebih dahulu meyakinkan para pemangku kepentingan utama. Memecat orang yang sedang berkinerja baik tanpa pembenaran apa pun memang tidak masuk akal, dan tampaknya itulah masalah intinya
Pada akhirnya semua orang tahu struktur nirlaba ini hanya untuk tampilan dan tidak akan berjalan dengan baik
Entah kenapa ini mengingatkan pada fiasco Coke/New Coke. Pada akhirnya, peristiwa itu justru membuat Coke Classic lebih terkenal daripada sebelumnya
Konsumen marah dan menuntut agar rasa yang mereka kenal sejak kecil dikembalikan, dan tuntutan untuk menghidupkan kembali produk lama begitu besar sampai para wartawan bahkan bertanya apakah seluruh proyek itu rekayasa. Presiden Coca-Cola Don Keough menjawab pada 10 Juli 1985: “Kami tidak sebodoh itu, dan kami juga tidak sepintar itu.” https://en.wikipedia.org/wiki/New_Coke
Saya pernah mencobanya ketika New Coke dirilis ulang karena Stranger Things, dan rasanya jauh lebih enak daripada Coca Cola Classic. Sayang sekali produk itu gagal
Saya sempat menduga adegan itu mungkin untuk menutupi peralihan dari gula ke sirup jagung fruktosa tinggi
Ilya sudah keluar dari dewan, tetapi Adam masih tetap di sana. Ini memang membuat orang mengernyit, tetapi begitulah adanya
Masalah ini tidak akan hilang begitu saja hanya karena Sam kembali. Karena Sam sudah terlihat seperti orang yang tak tergantikan, OAI akan mengalami perubahan besar. Dalam jangka panjang, saya ragu OAI akan menjadi salah satu raksasa korporasi seperti Facebook atau Uber; mereka sudah kehilangan kepercayaan
Bukan karena dia benar-benar tak tergantikan, lebih tepatnya karena kalau seseorang tiba-tiba disingkirkan tanpa alasan jelas, itu akan menimbulkan masalah
Sejarah berulang kali menunjukkan bahwa produk yang bagus jauh lebih penting daripada kepercayaan, dan Facebook serta Uber adalah buktinya. Tepat setelah skandal, semua orang lantang mengatakan mereka kehilangan kepercayaan, tetapi ketika waktunya tiba, mereka diam-diam memperbarui kontrak
Perusahaan iklan besar seperti Google, Amazon, dan Facebook hampir setiap bulan punya skandal, tetapi pendapatan iklan tetap mengalir. Meltdown adalah skandal besar, tetapi Intel tetap terus memproduksi chip
Facebook sudah kehilangan kepercayaan begitu banyak sampai tak terhitung, tetapi bukankah mereka masih sebuah Megacorp?
Sam Altman adalah CEO pendiri yang sangat karismatik, dan meski sebagian orang melihatnya manipulatif, ia dicintai banyak karyawan. Ia disingkirkan oleh dewan, lalu kembali ketika dewan menyadari kesalahannya
Ini memang tidak persis cocok dengan narasi pendiri perusahaan raksasa sukses seperti Facebook, Amazon, Microsoft, atau Google, tetapi saya tetap melihat orang seperti ini punya peluang membangun perusahaan besar. Tentu saja, yang lebih penting daripada membangun perusahaan besar adalah membuat produk yang luar biasa bagus
Pada akhirnya kita masih belum tahu persis apa yang terjadi, dan mungkin tidak akan pernah tahu. Namun tampaknya jelas ada retakan antara Team Sam yang condong ke komersialisasi cepat dan Team Helen/Ilya yang ingin mempertahankan prinsip awal
Artikel yang terbit sebelum GPT-3 pun mengatakan bahwa ideal pendirian berupa transparansi, keterbukaan, dan kolaborasi sedang terkikis oleh persaingan sengit dan tekanan pendanaan yang lebih besar. Team Helen mungkin bergerak dalam keadaan panik, tetapi mereka tampaknya mengira akan menang karena percaya sedang menjaga prinsip pendirian organisasi. Namun sejak awal mereka memang tidak punya peluang menang. Dari masyarakat luas, hanya sedikit yang benar-benar peduli pada AI Safety, sementara sisanya suka karena ChatGPT membantu mengerjakan PR. Dewan memang pantas diejek karena bertindak luar biasa bodoh, tetapi kita juga perlu mempertimbangkan sisi lain: kalau mereka benar-benar percaya AI superhuman sudah dekat dan bisa bertindak jahat, bukankah wajar jika mereka mencoba memperlambatnya?
Sejujurnya sulit bagi saya untuk menganggap ancaman itu serius, tetapi saya jadi ingin memahaminya lebih dalam daripada sebelumnya. Mungkin ancaman itu tidak sedasar yang saya kira. Saya berharap tidak akan datang hari ketika Team Helen berkata, “Inilah yang dulu kami coba cegah” https://www.technologyreview.com/2020/02/17/844721/ai-openai...
Di sini, apa yang dipikirkan publik umum tidak penting. Faktor penentunya adalah pemberontakan karyawan, dan tanpa karyawan organisasi hanyalah cangkang kosong
Para karyawan berpihak pada dampak cepat di dunia nyata, dan itu juga berdampak langsung pada karier serta opsi saham mereka. Menganggap ini pertarungan prinsip juga naif. Slogan komersialisasi cepat versus prinsip adalah sesuatu yang dikedepankan masing-masing kubu untuk mengumpulkan pendukung, sedangkan kenyataannya kemungkinan besar ini adalah perebutan kekuasaan terang-terangan yang memanfaatkan struktur organisasi yang lemah dan kacau. Cara yang “benar” untuk menyingkirkan Altman adalah secara perlahan membatasi wewenangnya di dewan, lalu mendorongnya ke peran yang makin seremonial sampai ia mundur sendiri
Jika OpenAI sedang mendekati singularitas, maka Google, Meta, Baidu, dan lain-lain juga demikian. Kalau begitu, yang tepat adalah melibatkan NSA atau Gedung Putih, lalu mulai menerapkan langkah mitigasi termasuk bersama Google, Meta, dan Microsoft
Memperlambat OpenAI saja akan merugikan perusahaan jika asumsi itu salah, dan tidak membantu jika asumsi itu benar. Ini tampak lebih seperti pertarungan ego dan kekuasaan daripada pertarungan prinsip dan arah
Narasi ini masuk akal, tetapi tidak menjelaskan pilihan kata yang aneh dan agresif dalam siaran pers pertama
Situasinya bisa berbeda jika mereka menunjuk prinsip pendirian atau piagam, mengatakan bahwa dewan memiliki perbedaan pandangan yang tak dapat dijembatani dengan Sam terkait penafsirannya, dan pada saat yang sama menyampaikan rasa terima kasih mendalam atas kontribusinya selama ini. Tentu saja, CEO pengganti yang tepat dan jaminan bahwa PPU karyawan akan menjadi likuid mungkin jauh lebih penting. Pada awalnya, pernyataan itu begitu buruk sampai saya mengira Sam mungkin melakukan tindak kriminal
Ironis bahwa organisasi yang berbicara tentang kemajuan bertanggung jawab bahkan tidak mampu melakukan alignment struktur insentif di dalam organisasinya sendiri; hal itu memang layak diejek. Ini pukulan besar terhadap kredibilitas mereka, dan membuat kekhawatiran etis yang mereka kemukakan pun ikut diragukan
Jika ancaman itu memang nyata, bukankah semuanya sudah kacau? OpenAI hanyalah salah satu dari beberapa tim yang meneliti masalah ini, dan semuanya didukung dana serta talenta besar dari perusahaan publik raksasa
Memang benar OpenAI memberi kontribusi unik, tetapi mereka juga tidak unggul secara mutlak. Jika OpenAI goyah, besar kemungkinan pihak lain akan mengambil posisi terdepan, dan kita juga tidak tahu dari mana inovasi besar berikutnya akan muncul. Jika benar-benar melihat ancaman itu nyata, saya tidak mengerti mengapa harus berasumsi OpenAI adalah pemimpin absolut. Jika membuat perusahaan melambat, hasil yang paling mungkin adalah menyerahkan posisi terdepan kepada pihak lain
Kita bisa melihat konfigurasinya seperti ini. Dalam pertarungan Ilya, satu pengembang, melawan Sam, satu pebisnis, Sam menang. Ketika ratusan pengembang mengancam mundur dan dewan mencoba bertahan, para pengembang menang
Dari luar, tampaknya para pengembang memang sejak awal memegang kekuatan, dan memang seharusnya begitu
Hampir tidak pernah ada preseden 95% orang di perusahaan mana pun mengambil posisi yang sama, tetapi ada beberapa alasannya
Mereka bisa mendapat jabatan dan kompensasi serupa di startup Microsoft yang baru, jadi pekerjaan mereka tidak terancam; Sam sejak awal menyetujui tiap perekrutan; dan OpenAI selama ini merekrut orang-orang yang lebih ingin bekerja di organisasi nirlaba yang punya misi daripada di perusahaan lain yang bisa memberi kompensasi lebih tinggi. Bagaimanapun, berkumpul bersama untuk mengancam keluar adalah strategi yang bagus, dan berhasil. “OpenAI is nothing without its people” adalah mekanisme penyeimbang kekuasaan terhadap dewan yang buruk
Ada tiga naga: karyawan, pelanggan, pemerintah. Jika termotivasi dan selaras, siapa pun dari ketiganya bisa mengakhiri sebuah perusahaan jika mereka mau
Jangan membangunkan naga
Ini lebih mendekati kemenangan uang. Tampak jelas bahwa sebagian besar karyawan tidak terlalu peduli dengan misi OpenAI. Saya tidak menyalahkan mereka, karena mereka dipekerjakan oleh perusahaan OpenAI yang berorientasi laba dan diberi kompensasi dalam bentuk ekuitas sesuai tujuan itu
Menurut saya, dewan direksi benar ketika mencoba menjaga misi awal OpenAI. Meski sekarang misi itu sudah tidak berarti apa-apa. Argumen bahwa Google, Meta, dan Microsoft toh akan mengembangkannya adalah logika yang nyaman. Dalam perlombaan senjata nuklir juga dipakai alasan seperti “kalau kita tidak membuatnya, orang lain akan membuatnya”, dan hasilnya adalah situasi kita hari ini
Bisakah kita yakin bahwa Ilya adalah sumber dari kejadian ini? Awalnya ia mendukung, tetapi kemudian ia juga ikut menandatangani pernyataan bahwa ia akan keluar jika keputusan itu tidak dibatalkan
Saya penasaran apa bukti bahwa dalangnya Ilya, bukan D'Angelo
Persatuan para developer tampak lebih kuat daripada perusahaan itu sendiri. Itulah sebabnya para eksekutif Big Tech sangat membenci serikat pekerja
Ada harapan terhadap pendekatan keamanan AI yang dipimpin industri swasta, tetapi sekarang tampaknya sulit, dan karena investasi negara untuk litbang AI publik lambat, semua pendekatan keamanan AI tampak tidak pasti
Riset keamanan pada model mainan akan terus membuat kemajuan, tetapi perkiraan industri tampaknya mengarah pada pandangan bahwa karena sifat emergen, ada batas rendah pada apa yang bisa dipelajari tentang keamanan tanpa meneliti model mutakhir. Altman mempromosikan struktur tata kelola OpenAI sebagai mekanisme yang membuat keamanan menjadi prioritas, tetapi laporan bahwa staf keamanan dialihkan untuk menangani beban ChatGPT mengkhawatirkan. Kini dewan menunjukkan bahwa secara teknis mereka memang punya kemampuan, tetapi tidak cukup kuat untuk mengendalikan kepentingan semacam ini, dan menjadi tidak jelas bagaimana organisasi yang berorientasi pada keamanan, termasuk Anthropic, bisa lepas dari pengaruh akselerasionis para penyandang dana
Tidak ada yang namanya sifat emergen; yang ada hanya pengetahuan yang dapat dicari bertambah secara linear
Tidak bisa membuat rencana, tidak bisa aritmetika, tidak bisa bernalar. Ia bisa mencari pengetahuan secara kasar lewat kueri bahasa alami, dan bagian ini cukup bagus, serta bisa mengodekan data ke dalam bahasa alami dan modalitas lain. Hal ini sendiri tidak saya khawatirkan, tetapi saya khawatir orang-orang akan sangat salah memahami apa yang bisa dilakukan model ini lalu mencoba menggunakannya untuk hal-hal penting
Jika lebih banyak upaya dipakai untuk komersialisasi awal seperti terus menjalankan ChatGPT secara stabil, justru mungkin lebih sedikit upaya yang masuk ke pengembangan kemampuan mutakhir. Altman sejak awal bukan orang keamanan AI, jadi secara pribadi saya berharap Anthropic bisa menghindari masalah ini dengan kepemimpinan yang lebih baik
Cukup jangan tidak kompeten dan jangan menyalahgunakan kekuasaan demi kepentingan pribadi. Orang-orang tidak sebodoh yang dikira, mereka akan melihat tembus omong kosong seperti itu, dan akan memilih berhenti daripada mengikuti tiran bodoh
Saya ingin tahu model yang bukan “model mainan” itu seperti apa
Saya benar-benar tidak menyangka hal seperti ini akan terjadi. Pertanyaan berikutnya tentu saja apa yang akan terjadi pada Ilya. Dari pengumuman ini, sepertinya ia keluar dari dewan, tetapi apakah ia masih kepala ilmuwan? Sulit dipercaya ia dan Sam bisa memperbaiki hubungan dan bekerja sedekat itu lagi
Menarik juga bahwa Adam tetap berada di dewan, dan itu tampaknya membantah berbagai hipotesis yang beredar di sini bahwa dialah penggerak utama karena konflik kepentingan
Dari sudut pandang Ilya, sepertinya tidak banyak yang berubah. Sam telah menyingkirkannya sebulan lalu karena perbedaan pendapat yang berkelanjutan tentang seberapa cepat komersialisasi harus didorong
Jika Ilya masih dalam posisi tersisih, mungkin ia akan berhenti, dan perusahaan yang memberinya kendali paling besar akan merekrutnya. Sama juga jika ia dipecat. Jika sebagai bagian dari kesepakatan ia kembali ditempatkan di pusat, mungkin ia akan tetap menjadi kepala ilmuwan. Saya berharap permusuhan Sam sekarang agak berkurang
Anehnya, menurut saya Ilya keluar dari kejadian ini dengan cukup baik. Ia mengambil keputusan berdasarkan nilai-nilainya dan apa yang ia yakini terbaik untuk keamanan AI, lalu setelah melihat hasilnya, ia berubah pikiran dan bertanggung jawab
Ia pasti tahu akan diejek di internet karena berbalik arah, tetapi ia tetap bergerak ke arah yang ia anggap terbaik bagi para karyawan yang menandatangani. Tindakannya bisa dikritik, tetapi menurut saya karakter moral-nya terlihat. Anggota dewan lainnya tampak mengambil keputusan karena alasan yang lebih pribadi, dan itu juga cocok dengan konflik kepentingan Adam. Sejujurnya, dari 4 orang itu, satu-satunya yang ingin saya pertahankan di dewan adalah Ilya. Di posisi kepemimpinan, kita membutuhkan orang yang bisa mengubah arah berdasarkan informasi baru
Bisa dilihat dengan lebih optimistis. Keduanya saling mengenal cukup baik, dan tahu cara menyelesaikan hal-hal besar bersama. Kadang-kadang sesuatu meledak atau seseorang bisa membuat kesalahan, dan permintaan maaf singkat yang tulus bisa membawa dampak cukup jauh
Sam tahu bagaimana hubungan bisnis bekerja, jadi tidak akan ada masalah untuk memperbaiki hubungan. Selain itu, seperti terlihat di tweet-nya, Ilya sudah mencium cincin
Dewan baru tampaknya terdiri dari Adam D'Angelo yang pro-dewan, Brett Taylor yang pro-Sam, dan Larry Summers yang mendekati netral. Brett sudah mendorong kembalinya Sam sejak Minggu, jadi saya menduga Sam dan pimpinan OpenAI menyukainya. Larry belum pernah bekerja di bidang AI, tetapi secara umum adalah nama yang dihormati, dan kedua pihak kemungkinan sudah melakukan wawancara luas serta pengecekan reputasi sebelum berkompromi
Menarik melihat bagaimana dewan akan berubah ke depan. Secara garis besar ada dua faksi. Faksi yang menilai Sam terlalu cepat memecatnya, sementara faksi yang menilai lintasan Sam baik-baik saja mencakup Sam dan Greg. Kini dewan menjadi seimbang, dan penunjukan berikutnya bisa membuatnya condong ke salah satu sisi. Sayangnya, dewan yang terpecah sulit bertahan lama dan pada akhirnya kemungkinan salah satu pihak akan menang. Saya kira pihak Sam pada akhirnya akan menang, tetapi kita lihat saja nanti
Salah satu hasil paling menyedihkan dari drama ini adalah Greg tersingkir dari OpenAI. Greg bukan hanya orang yang luar biasa, ia juga secara konsisten mencurahkan 80–90 jam per minggu untuk OpenAI, dan bisa dibilang mengabdikan sebagian besar hidupnya untuk membangun organisasi ini. Jika orang seperti itu harus mundur karena dewan yang hampir tidak berkontribusi dalam membangun OpenAI, apalagi bekerja 90 jam, itu sebuah penghinaan. Ilya adalah pengecualian, dan patut dicatat bahwa ia juga membalik sikap setelah melihat tindakannya membunuh OpenAI
Pilihan yang menakutkan di sini adalah Larry Summers. Pandangannya tentang deregulasi perbankan berujung pada krisis keuangan global, dan ia juga pernah terlibat berbagai kontroversi karena posisi yang rasis dan seksis. Selain itu, ia adalah teman lama Epstein dan beberapa kali pergi ke pulaunya
Greg hanya harus mundur dari kursi dewan, bukan dari pekerjaannya
1 komentar
Pendapat di Hacker News
Thread ini berisi lebih dari 1.800 komentar. Jika ingin membaca semuanya, klik More di bagian bawah tiap halaman, atau buka halaman secara langsung seperti di bawah ini
https://news.ycombinator.com/item?id=38375239&p=2
https://news.ycombinator.com/item?id=38375239&p=3
https://news.ycombinator.com/item?id=38375239&p=4
Jika OpenAI tetap menjadi badan amal 501(c)(3), karyawan Microsoft yang masuk ke dewan memiliki kewajiban fidusia untuk mendahulukan misi badan amal, bukan kebutuhan bisnis Microsoft. Konflik kepentingannya terlalu jelas sehingga sepertinya IRS tidak akan menyukai struktur ini
Dalam praktiknya, ini berjalan dengan cara mengundurkan diri dari pembahasan saat perlu dan tidak melakukan hal bodoh, sesuai aturan dewan dan akal sehat
Menjadikan OpenAI sebagai badan amal kepentingan publik adalah kesalahan besar, dan masuk ke dalam kekacauan seperti itu terasa tidak menarik. Nanti kalau statusnya condong menjadi yayasan privat, ini akan makin menarik
Menurut https://openai.com/our-structure, anak usaha berorientasi laba sepenuhnya dikendalikan oleh OpenAI Nonprofit, dan anggota dewan harus menjalankan kewajiban fidusia demi misi “AGI yang aman dan bermanfaat secara luas”. Ada batas atas untuk pembagian keuntungan investor, karyawan, dan Microsoft, dan sisa nilai di atas batas itu kembali ke organisasi nirlaba demi kepentingan umat manusia. Selain itu, dewanlah yang menentukan apakah AGI sudah tercapai, dan AGI dikecualikan dari lisensi kekayaan intelektual serta ketentuan komersial Microsoft
Rasanya IRS tidak akan terlalu mempermasalahkan hal semacam ini. Jika argumennya adalah OpenAI mengarahkan keuntungan ke Microsoft, perusahaan berorientasi laba yang membayar pajak, bahkan dengan asumsi intervensi jahat terburuk sekalipun, ini lebih tampak seperti urusan SEC daripada IRS
Dengan Sam kembali sebagai CEO, bukankah ini membuktikan bahwa dewan OpenAI sudah kehilangan fungsinya? Siapa pun yang duduk di dewan, mereka tidak lagi bisa menjalankan kewenangan paling mendasar yaitu memecat CEO, dan Sam telah menunjukkan bahwa ia pada dasarnya tidak bisa dipecat
Bukan berarti saya menuduh Sam berbohong atau akan berbohong ke depannya
Jika mereka menempuh prosedur yang semestinya, memberi tahu karyawan dan investor, serta mengumumkan alasan pemecatan CEO, tidak akan ada situasi di mana semuanya dilakukan lewat Google Meet 15 menit lalu bungkam total, dan kemarahan seperti ini tidak akan terjadi
Jika Anda berpikir tidak akan ada pemberontakan pemegang saham terhadap dewan hanya karena mereka menjalankan kewenangan dasar untuk memecat CEO, Anda melewatkan sebagian situasinya
Ke depannya semua orang akan waspada terhadap Sam. Ia akan punya leverage jauh lebih kecil daripada yang ia miliki di dewan sebelumnya. Pada akhirnya ia mungkin bisa menang dengan membujuk para direktur independen lain lewat pesona dan kemampuan sosialnya, tetapi untuk membuat mereka tetap di pihaknya, bukan di pihak D'Angelo, ia harus banyak mengendalikan perilakunya sendiri
Sekalipun Sam bertahan, organisasi serumit OpenAI memiliki ribuan aturan implisit, hubungan, dan prosedur tersembunyi yang harus berjalan baik tanpa keterlibatan langsung CEO. Perekrutan kembali Sam tampaknya berarti OpenAI ke depan hanya akan menjadi bayangan samar dari masa lalunya. Jika ia benar-benar kembali mapan, itu akan terasa aneh, apalagi mengingat orang-orang lain yang keluar. Ini bukan berarti OpenAI akan mati, tetapi jelas ia sudah memperlihatkan kelemahannya
Pada akhirnya semua orang tahu struktur nirlaba ini hanya untuk tampilan dan tidak akan berjalan dengan baik
Entah kenapa ini mengingatkan pada fiasco Coke/New Coke. Pada akhirnya, peristiwa itu justru membuat Coke Classic lebih terkenal daripada sebelumnya
Konsumen marah dan menuntut agar rasa yang mereka kenal sejak kecil dikembalikan, dan tuntutan untuk menghidupkan kembali produk lama begitu besar sampai para wartawan bahkan bertanya apakah seluruh proyek itu rekayasa. Presiden Coca-Cola Don Keough menjawab pada 10 Juli 1985: “Kami tidak sebodoh itu, dan kami juga tidak sepintar itu.”
https://en.wikipedia.org/wiki/New_Coke
Saya pernah mencobanya ketika New Coke dirilis ulang karena Stranger Things, dan rasanya jauh lebih enak daripada Coca Cola Classic. Sayang sekali produk itu gagal
Ilya sudah keluar dari dewan, tetapi Adam masih tetap di sana. Ini memang membuat orang mengernyit, tetapi begitulah adanya
Masalah ini tidak akan hilang begitu saja hanya karena Sam kembali. Karena Sam sudah terlihat seperti orang yang tak tergantikan, OAI akan mengalami perubahan besar. Dalam jangka panjang, saya ragu OAI akan menjadi salah satu raksasa korporasi seperti Facebook atau Uber; mereka sudah kehilangan kepercayaan
Perusahaan iklan besar seperti Google, Amazon, dan Facebook hampir setiap bulan punya skandal, tetapi pendapatan iklan tetap mengalir. Meltdown adalah skandal besar, tetapi Intel tetap terus memproduksi chip
Ini memang tidak persis cocok dengan narasi pendiri perusahaan raksasa sukses seperti Facebook, Amazon, Microsoft, atau Google, tetapi saya tetap melihat orang seperti ini punya peluang membangun perusahaan besar. Tentu saja, yang lebih penting daripada membangun perusahaan besar adalah membuat produk yang luar biasa bagus
Pada akhirnya kita masih belum tahu persis apa yang terjadi, dan mungkin tidak akan pernah tahu. Namun tampaknya jelas ada retakan antara Team Sam yang condong ke komersialisasi cepat dan Team Helen/Ilya yang ingin mempertahankan prinsip awal
Artikel yang terbit sebelum GPT-3 pun mengatakan bahwa ideal pendirian berupa transparansi, keterbukaan, dan kolaborasi sedang terkikis oleh persaingan sengit dan tekanan pendanaan yang lebih besar. Team Helen mungkin bergerak dalam keadaan panik, tetapi mereka tampaknya mengira akan menang karena percaya sedang menjaga prinsip pendirian organisasi. Namun sejak awal mereka memang tidak punya peluang menang. Dari masyarakat luas, hanya sedikit yang benar-benar peduli pada AI Safety, sementara sisanya suka karena ChatGPT membantu mengerjakan PR. Dewan memang pantas diejek karena bertindak luar biasa bodoh, tetapi kita juga perlu mempertimbangkan sisi lain: kalau mereka benar-benar percaya AI superhuman sudah dekat dan bisa bertindak jahat, bukankah wajar jika mereka mencoba memperlambatnya?
Sejujurnya sulit bagi saya untuk menganggap ancaman itu serius, tetapi saya jadi ingin memahaminya lebih dalam daripada sebelumnya. Mungkin ancaman itu tidak sedasar yang saya kira. Saya berharap tidak akan datang hari ketika Team Helen berkata, “Inilah yang dulu kami coba cegah”
https://www.technologyreview.com/2020/02/17/844721/ai-openai...
Para karyawan berpihak pada dampak cepat di dunia nyata, dan itu juga berdampak langsung pada karier serta opsi saham mereka. Menganggap ini pertarungan prinsip juga naif. Slogan komersialisasi cepat versus prinsip adalah sesuatu yang dikedepankan masing-masing kubu untuk mengumpulkan pendukung, sedangkan kenyataannya kemungkinan besar ini adalah perebutan kekuasaan terang-terangan yang memanfaatkan struktur organisasi yang lemah dan kacau. Cara yang “benar” untuk menyingkirkan Altman adalah secara perlahan membatasi wewenangnya di dewan, lalu mendorongnya ke peran yang makin seremonial sampai ia mundur sendiri
Memperlambat OpenAI saja akan merugikan perusahaan jika asumsi itu salah, dan tidak membantu jika asumsi itu benar. Ini tampak lebih seperti pertarungan ego dan kekuasaan daripada pertarungan prinsip dan arah
Situasinya bisa berbeda jika mereka menunjuk prinsip pendirian atau piagam, mengatakan bahwa dewan memiliki perbedaan pandangan yang tak dapat dijembatani dengan Sam terkait penafsirannya, dan pada saat yang sama menyampaikan rasa terima kasih mendalam atas kontribusinya selama ini. Tentu saja, CEO pengganti yang tepat dan jaminan bahwa PPU karyawan akan menjadi likuid mungkin jauh lebih penting. Pada awalnya, pernyataan itu begitu buruk sampai saya mengira Sam mungkin melakukan tindak kriminal
Memang benar OpenAI memberi kontribusi unik, tetapi mereka juga tidak unggul secara mutlak. Jika OpenAI goyah, besar kemungkinan pihak lain akan mengambil posisi terdepan, dan kita juga tidak tahu dari mana inovasi besar berikutnya akan muncul. Jika benar-benar melihat ancaman itu nyata, saya tidak mengerti mengapa harus berasumsi OpenAI adalah pemimpin absolut. Jika membuat perusahaan melambat, hasil yang paling mungkin adalah menyerahkan posisi terdepan kepada pihak lain
Kita bisa melihat konfigurasinya seperti ini. Dalam pertarungan Ilya, satu pengembang, melawan Sam, satu pebisnis, Sam menang. Ketika ratusan pengembang mengancam mundur dan dewan mencoba bertahan, para pengembang menang
Dari luar, tampaknya para pengembang memang sejak awal memegang kekuatan, dan memang seharusnya begitu
Mereka bisa mendapat jabatan dan kompensasi serupa di startup Microsoft yang baru, jadi pekerjaan mereka tidak terancam; Sam sejak awal menyetujui tiap perekrutan; dan OpenAI selama ini merekrut orang-orang yang lebih ingin bekerja di organisasi nirlaba yang punya misi daripada di perusahaan lain yang bisa memberi kompensasi lebih tinggi. Bagaimanapun, berkumpul bersama untuk mengancam keluar adalah strategi yang bagus, dan berhasil. “OpenAI is nothing without its people” adalah mekanisme penyeimbang kekuasaan terhadap dewan yang buruk
Jangan membangunkan naga
Ini lebih mendekati kemenangan uang. Tampak jelas bahwa sebagian besar karyawan tidak terlalu peduli dengan misi OpenAI. Saya tidak menyalahkan mereka, karena mereka dipekerjakan oleh perusahaan OpenAI yang berorientasi laba dan diberi kompensasi dalam bentuk ekuitas sesuai tujuan itu
Menurut saya, dewan direksi benar ketika mencoba menjaga misi awal OpenAI. Meski sekarang misi itu sudah tidak berarti apa-apa. Argumen bahwa Google, Meta, dan Microsoft toh akan mengembangkannya adalah logika yang nyaman. Dalam perlombaan senjata nuklir juga dipakai alasan seperti “kalau kita tidak membuatnya, orang lain akan membuatnya”, dan hasilnya adalah situasi kita hari ini
Saya penasaran apa bukti bahwa dalangnya Ilya, bukan D'Angelo
Ada harapan terhadap pendekatan keamanan AI yang dipimpin industri swasta, tetapi sekarang tampaknya sulit, dan karena investasi negara untuk litbang AI publik lambat, semua pendekatan keamanan AI tampak tidak pasti
Riset keamanan pada model mainan akan terus membuat kemajuan, tetapi perkiraan industri tampaknya mengarah pada pandangan bahwa karena sifat emergen, ada batas rendah pada apa yang bisa dipelajari tentang keamanan tanpa meneliti model mutakhir. Altman mempromosikan struktur tata kelola OpenAI sebagai mekanisme yang membuat keamanan menjadi prioritas, tetapi laporan bahwa staf keamanan dialihkan untuk menangani beban ChatGPT mengkhawatirkan. Kini dewan menunjukkan bahwa secara teknis mereka memang punya kemampuan, tetapi tidak cukup kuat untuk mengendalikan kepentingan semacam ini, dan menjadi tidak jelas bagaimana organisasi yang berorientasi pada keamanan, termasuk Anthropic, bisa lepas dari pengaruh akselerasionis para penyandang dana
Tidak bisa membuat rencana, tidak bisa aritmetika, tidak bisa bernalar. Ia bisa mencari pengetahuan secara kasar lewat kueri bahasa alami, dan bagian ini cukup bagus, serta bisa mengodekan data ke dalam bahasa alami dan modalitas lain. Hal ini sendiri tidak saya khawatirkan, tetapi saya khawatir orang-orang akan sangat salah memahami apa yang bisa dilakukan model ini lalu mencoba menggunakannya untuk hal-hal penting
Saya benar-benar tidak menyangka hal seperti ini akan terjadi. Pertanyaan berikutnya tentu saja apa yang akan terjadi pada Ilya. Dari pengumuman ini, sepertinya ia keluar dari dewan, tetapi apakah ia masih kepala ilmuwan? Sulit dipercaya ia dan Sam bisa memperbaiki hubungan dan bekerja sedekat itu lagi
Menarik juga bahwa Adam tetap berada di dewan, dan itu tampaknya membantah berbagai hipotesis yang beredar di sini bahwa dialah penggerak utama karena konflik kepentingan
Jika Ilya masih dalam posisi tersisih, mungkin ia akan berhenti, dan perusahaan yang memberinya kendali paling besar akan merekrutnya. Sama juga jika ia dipecat. Jika sebagai bagian dari kesepakatan ia kembali ditempatkan di pusat, mungkin ia akan tetap menjadi kepala ilmuwan. Saya berharap permusuhan Sam sekarang agak berkurang
Ia pasti tahu akan diejek di internet karena berbalik arah, tetapi ia tetap bergerak ke arah yang ia anggap terbaik bagi para karyawan yang menandatangani. Tindakannya bisa dikritik, tetapi menurut saya karakter moral-nya terlihat. Anggota dewan lainnya tampak mengambil keputusan karena alasan yang lebih pribadi, dan itu juga cocok dengan konflik kepentingan Adam. Sejujurnya, dari 4 orang itu, satu-satunya yang ingin saya pertahankan di dewan adalah Ilya. Di posisi kepemimpinan, kita membutuhkan orang yang bisa mengubah arah berdasarkan informasi baru
Dewan baru tampaknya terdiri dari Adam D'Angelo yang pro-dewan, Brett Taylor yang pro-Sam, dan Larry Summers yang mendekati netral. Brett sudah mendorong kembalinya Sam sejak Minggu, jadi saya menduga Sam dan pimpinan OpenAI menyukainya. Larry belum pernah bekerja di bidang AI, tetapi secara umum adalah nama yang dihormati, dan kedua pihak kemungkinan sudah melakukan wawancara luas serta pengecekan reputasi sebelum berkompromi
Menarik melihat bagaimana dewan akan berubah ke depan. Secara garis besar ada dua faksi. Faksi yang menilai Sam terlalu cepat memecatnya, sementara faksi yang menilai lintasan Sam baik-baik saja mencakup Sam dan Greg. Kini dewan menjadi seimbang, dan penunjukan berikutnya bisa membuatnya condong ke salah satu sisi. Sayangnya, dewan yang terpecah sulit bertahan lama dan pada akhirnya kemungkinan salah satu pihak akan menang. Saya kira pihak Sam pada akhirnya akan menang, tetapi kita lihat saja nanti
Salah satu hasil paling menyedihkan dari drama ini adalah Greg tersingkir dari OpenAI. Greg bukan hanya orang yang luar biasa, ia juga secara konsisten mencurahkan 80–90 jam per minggu untuk OpenAI, dan bisa dibilang mengabdikan sebagian besar hidupnya untuk membangun organisasi ini. Jika orang seperti itu harus mundur karena dewan yang hampir tidak berkontribusi dalam membangun OpenAI, apalagi bekerja 90 jam, itu sebuah penghinaan. Ilya adalah pengecualian, dan patut dicatat bahwa ia juga membalik sikap setelah melihat tindakannya membunuh OpenAI