Kudeta dewan yang tak terduga di balik pemecatan CEO OpenAI Sam Altman
(arstechnica.com)- Dewan OpenAI secara mendadak memecat CEO Sam Altman pada Jumat, yang memicu keluarnya President Greg Brockman dan tiga peneliti senior dari perusahaan, sementara investor utama Microsoft juga terguncang karena tidak diberi tahu sebelumnya
- Di pusat konflik ada Chief Scientist Ilya Sutskever, dengan strategi komersialisasi dan pertumbuhan cepat Altman berbenturan langsung dengan tanggung jawab keselamatan berbasis misi nirlaba
- Karena struktur tata kelola yang tidak biasa di mana organisasi nirlaba memiliki dan mengendalikan anak usaha for-profit, setelah Altman dan Brockman keluar, hanya Sutskever, Adam D’Angelo, Tasha McCauley, dan Helen Toner yang tersisa di dewan
- Dewan menyebut alasan pemecatan sebagai “komunikasi yang tidak konsisten jujur”, tetapi memo internal dari COO Brad Lightcap menyatakan keputusan ini bukan karena pelanggaran, maupun praktik keuangan, bisnis, keselamatan, keamanan, atau privasi
- Insiden ini memperlihatkan ketegangan antara kecepatan pengembangan yang aman dan tekanan monetisasi, sementara menstabilkan operasi di bawah interim CEO Mira Murati menjadi tugas mendesak bagi karyawan, mitra, pengguna, dan pelanggan
Kekacauan langsung setelah pemecatan Altman
- OpenAI secara mendadak memecat CEO Sam Altman pada Jumat, dan keputusan ini berujung pada pengunduran diri President Greg Brockman serta keluarnya tiga ilmuwan senior
- Microsoft, investor utama sekaligus pemegang saham minoritas, juga tidak diberi pemberitahuan sebelumnya, dan menurut Bloomberg, CEO Satya Nadella marah besar
- Penyingkiran Altman kemungkinan dipimpin oleh Chief Scientist Ilya Sutskever berdasarkan kekhawatiran tentang keselamatan dan kecepatan distribusi teknologi OpenAI
- Dalam rapat darurat seluruh karyawan pada Jumat sore, Sutskever mengatakan dewan telah menjalankan kewajibannya terhadap misi nirlaba untuk “memastikan OpenAI membangun AGI yang bermanfaat bagi seluruh umat manusia”
- AGI yang dikejar OpenAI merujuk pada teknologi hipotetis yang mampu melakukan pekerjaan intelektual yang dapat dilakukan manusia
Retakan soal kecepatan komersialisasi dan keselamatan
- Konflik internal membesar seputar komersialisasi dan laju pertumbuhan perusahaan yang didorong Altman, sementara Sutskever berpendapat bahwa kecepatannya harus diperlambat
- Menurut pernyataan sumber yang disampaikan kepada Kara Swisher, OpenAI Dev Day pada 6 November dianggap sebagai titik balik ketika Altman mendorong terlalu jauh dan terlalu cepat dengan menempatkan produk konsumen di garis depan
- Altman dan Brockman dalam pernyataan bersama pada Jumat malam mengatakan mereka “terkejut dan sedih” atas tindakan dewan
- Angel investor Ron Conway mengkritik kejadian ini sebagai kudeta dewan yang jarang terlihat sejak dewan Apple menyingkirkan Steve Jobs pada 1985, dan mengatakan ini tidak benar bagi Sam, Greg, dan para builder OpenAI
Struktur nirlaba dan dewan yang tersisa
- OpenAI memiliki struktur yang tidak biasa di mana badan amal kepentingan publik nirlaba 501(c)(3) memiliki dan mengendalikan unit for-profit
- Sebelum pemecatan, dewan organisasi nirlaba mencakup Altman, Brockman, Ilya Sutskever, dan tiga anggota non-karyawan OpenAI
- Adam D’Angelo: CEO Quora
- Tasha McCauley: adjunct senior management scientist di RAND corporation
- Helen Toner: strategy and foundational research grants director di Georgetown Center for Security and Emerging Technology
- Setelah Altman dipecat dan Brockman disingkirkan dari dewan, yang tersisa di dewan hanya Sutskever, D’Angelo, McCauley, dan Toner
Proses pemecatan dan pemberitahuan internal
- Menurut pernyataan bersama Brockman dan Altman, pemecatan Altman adalah sergapan total bagi keduanya
- Altman diminta pada Kamis malam untuk menghadiri rapat dewan jarak jauh pada Jumat siang, dan di rapat itulah ia dipecat keesokan harinya
- Brockman, yang saat itu menjabat sebagai ketua dewan OpenAI, tidak diundang ke rapat tersebut
- Sekitar 30 menit kemudian, Sutskever memberi tahu Brockman bahwa ia akan dicopot dari perannya di dewan tetapi bisa tetap di perusahaan, dan juga menyampaikan bahwa Altman telah dipecat
- Brockman menolak tetap di perusahaan dan mengundurkan diri pada Jumat malam
- Menurut Brockman, jajaran eksekutif OpenAI baru mengetahui keputusan itu setelahnya, tetapi Mira Murati, yang saat itu menjabat CTO dan kemudian menjadi interim CEO, telah diberi tahu pada Kamis malam
“Komunikasi yang tidak jujur” dan bantahan adanya pelanggaran
- Pengumuman OpenAI tentang keluarnya Altman menyatakan bahwa Altman “tidak secara konsisten jujur” dalam komunikasinya dengan dewan, sehingga dewan terhambat dalam menjalankan tanggung jawabnya
- Perusahaan belum menjelaskan secara spesifik apa yang dimaksud dengan ungkapan tersebut
- Orang dalam menilai langkah ini terutama berasal dari perebutan kekuasaan dan retakan budaya antara Altman dan Sutskever
- Faktor konflik mencakup gaya manajemen Altman dan dorongan promosi eksternal yang makin intens
- Pada 29 September, Sutskever menulis di X, “Ego is the enemy of growth”
- Memo internal COO Brad Lightcap yang diperoleh Axios menyatakan keputusan dewan tidak terkait dengan pelanggaran maupun praktik keuangan, bisnis, keselamatan, keamanan, atau privasi
- Lightcap merangkum kejadian ini sebagai “keruntuhan komunikasi antara Sam dan dewan”
Kepergian peneliti dan gejolak internal
- Tiga peneliti AI yang berpihak pada Altman juga meninggalkan perusahaan sebagai respons atas kabar pada Jumat
- Jakub Pachocki: lead GPT-4 sekaligus director of research OpenAI
- Aleksander Madry: kepala tim evaluasi risiko AI
- Szymon Sidor: peneliti open source baselines
- Pengunduran diri mereka menunjukkan bahwa kekacauan internal akibat pemecatan Altman telah meluas hingga ke organisasi riset
Superalignment, GPT-5, dan perdebatan soal kecepatan
- Sutskever adalah salah satu pemimpin tim Superalignment yang meneliti cara mengendalikan AI supercerdas hipotetis
- Karena peran ini, beredar rumor bahwa retakan internal OpenAI antara kubu pengembangan lambat dan cepat mungkin terkait dengan terobosan internal baru-baru ini
- Dalam APEC CEO Summit pada Kamis, Altman mengatakan ia telah berada di empat momen dalam sejarah OpenAI ketika perusahaan “mendorong tirai ketidaktahuan ke belakang dan memajukan garis depan penemuan”, dan yang terbaru terjadi “dalam beberapa minggu terakhir”
- Kekhawatiran ini tidak berarti OpenAI telah mengembangkan superintelligence, dan para ahli menilai kemungkinan itu rendah
- Terobosan baru yang disebut Altman mungkin telah meningkatkan tekanan antara tuntutan kemajuan yang aman dari organisasi nirlaba dan tuntutan monetisasi dari anak usaha for-profit
- Altman baru-baru ini mengatakan bahwa GPT-5, yang diperkirakan menjadi model penerus kuat bagi GPT-4, sedang dikembangkan
Pesan kepada karyawan dan tugas penanganan krisis
- Engineering manager OpenAI Evan Morikawa mengatakan di X bahwa perusahaan akan terus merilis produk, dan Sam serta Greg bukan micromanager
- Ia mengatakan banyak talenta di riset, produk, engineering, dan desain yang menghasilkan capaian, dan di antara para pemimpin ada keselarasan internal menuju misi yang lebih besar
- Dalam memo internal, Lightcap mengakui bahwa karyawan mungkin merasakan kebingungan, kesedihan, dan ketakutan
- Perusahaan berfokus pada penanganan situasi, penyelesaian dan kejelasan, serta kembali bekerja, sambil menekankan tanggung jawab kepada karyawan, mitra, pengguna, pelanggan, dan dunia yang lebih luas
- Ia menilai posisi perusahaan tetap kuat dan mendukung interim CEO Mira Murati, serta menambahkan bahwa ia berbagi kekhawatiran tentang cara proses ini ditangani dan sedang bekerja untuk menyelesaikan situasi
1 komentar
Pendapat Hacker News
Sayang sekali bagi Sam dan Greg, tetapi tugas dewan bukanlah bersikap baik kepada Sam & Greg, melainkan mengambil keputusan yang tepat untuk OpenAI
Ketika manajemen memecat 10 ribu karyawan, investor bertepuk tangan sambil berkata “ini bisnis”, tetapi ketika CEO yang dekat dengan mereka dipecat lalu mereka membawa-bawa moral, menurut saya itu keliru
Tentu dampaknya terhadap karyawan juga harus dipertimbangkan, tetapi CEO lebih seperti komandan yang punya tanggung jawab dan wewenang besar atas hasil perusahaan, sedangkan karyawan biasa lebih seperti warga sipil yang jauh lebih sulit menanggung pemecatan
Mereka menusuk mitra seperti Satya dari belakang, membelah perusahaan menjadi dua kubu, dan membuat Sam serta Greg marah lalu mencari pembalasan
Akibatnya, bahkan muncul risiko versi OpenAI yang berorientasi profit tanpa tujuan lebih tinggi akan mendominasi pasar, dan cara proses ini berjalan tampaknya tidak punya ruang untuk dibenarkan
Para investor OpenAI Global LLC, entitas profit di bawahnya, secara eksplisit diberi tahu bahwa mereka harus memperlakukan investasinya seperti donasi, dan bahwa tujuan perusahaan bukan mengembalikan keuntungan kepada investor, melainkan menjalankan fungsi kepentingan publik dari badan nirlaba tersebut
Ia tampaknya sama sekali tidak sadar bagaimana ucapan itu terdengar di hadapan audiens yang ingin membangun perusahaan bermakna dan berdampak
Punya banyak uang tidak berarti penilaiannya berguna
Ia jelas ramah terhadap pendiri, tetapi tidak terlihat seperti tipe investor dingin yang mendorong pemangkasan biaya atau PHK
Jika hanya bisa dilakukan ketika mayoritas besar mendukung, mungkin itu akan lebih adil, atau setidaknya menjadi struktur yang menarik
Semua orang heboh, tetapi berdasarkan pengalaman pribadi bekerja dengan para CEO yang “penting” di beberapa perusahaan, saya rasa saya sama sekali tidak akan peduli kalau CEO itu pergi
CEO sering mendapat kredit berlebihan dari luar atas kinerja perusahaan, dan itu tidak berarti CEO memang sepenting itu dalam kenyataan
OpenAI mungkin berbeda, tetapi saya tidak akan menganggapnya sebagai pengecualian total
Namun jika organisasi nirlaba bermisi kepentingan publik memiliki perusahaan profit, lintasan itu bisa mengarah ke arah yang salah
Pengumuman Dev Day, terutama marketplace, bisa dilihat sebagai indikasi bahwa hal seperti itu memang sedang terjadi di OpenAI
Tidak semua orang ingin menjual mainan LLM keren dengan gaya bergerak cepat dan merusak banyak hal, dan mereka tampaknya ingin memimpin AGI yang bertanggung jawab sebelum orang lain melakukannya secara tidak bertanggung jawab
Karena kelompoknya sangat kecil, selama seseorang tidak benar-benar merusak semuanya, ia langsung diperlakukan seperti jenius
Jika diberi miliaran dolar serta ratusan insinyur dan peneliti hebat, banyak orang bisa membuatnya berjalan dengan satu atau lain cara, tetapi hanya sedikit orang mendapat kesempatan seperti itu, sehingga hal seperti ini terjadi
Sering kali mereka tidak melakukan pekerjaan sebenarnya, hanya mengambil kreditnya
Bisa saja terungkap bahwa Sam dan yang lain sebenarnya lebih dekat dengan penginjil teknologi atau pedagang yang kompeten, dan tampaknya itu sebabnya orang-orang di industri teknologi sekarang gelisah
Arah sebelumnya cukup berfokus pada membuat orang membangun sesuatu di atas teknologinya
Sekarang saya khawatir mereka akan beralih ke model mengendalikan akses hanya kepada peneliti yang dipercaya “aman”
Jika orang tidak sangat memahami suatu proses produksi, mereka terpaku pada aspek yang paling terlihat secara publik dan pada orang yang tampaknya punya otoritas tertinggi
Padahal sutradara atau CEO pun sering harus bertanggung jawab kepada pihak lain; tentu pengaruh individu bisa besar, tetapi kebesaran itu jarang muncul sendirian
Sulit dipercaya bahwa dewan direksi yang bahkan tidak mampu mengendalikan diri sendiri atau para karyawannya bisa mengelola AI secara bertanggung jawab, dan patut dipertanyakan apakah siapa pun bisa mengelola AGI
Organisasi nirlaba punya masalah tata kelola yang sudah lama, dan tujuan yang kabur memicu politik internal
Kelebihan dewan direksi perusahaan profit adalah tujuannya dipersempit menjadi pertukaran risiko yang dipahami dengan baik, seperti apakah akan tumbuh sekarang atau nanti, dan anggota dewan juga dipilih dari orang-orang yang punya kepentingan nyata terhadap tujuan itu
Alasan organisasi keagamaan atau pemerintahan ideologis sulit dipercaya juga karena mereka terperangkap dalam politik internal
Menurut saya, lebih masuk akal jika AI/AGI dijadikan bisnis profit sepenuhnya, tetapi default tanggung jawabnya dibalik sehingga pengembang menanggung semua biaya eksternal yang ditimbulkan produk
Perangkat lunak dan internet adalah ranah di mana konsumen pada dasarnya hampir tidak mendapat pemulihan apa pun atas biaya yang dialihkan kepada mereka, dan berkat itu keduanya tumbuh luar biasa dan menghasilkan inovasi disruptif
Jika ingin mengendalikan AI/AGI, jadikan ia profit tetapi bebankan tanggung jawab biaya eksternal kepada pengembang; dengan begitu penerapannya akan sangat menyempit dan terbatas pada kasus yang punya manfaat sosial bersih
Mengikuti logika ekonomi secara membabi buta bisa menimbulkan masalah, dan ini juga menjadi salah satu alasan besar budaya perusahaan Amerika bergeser dari membuat produk yang baik terlebih dahulu menjadi memaksimalkan nilai pemegang saham
Namun jika hanya melihat keputusan kali ini, dewan OpenAI tampak berubah-ubah dan impulsif
Karena itu, dalam organisasi nirlaba, politik pada level manusia mau tidak mau akan lebih banyak terlibat
Jika ingin hidup dalam perilaku nirlaba, kita harus menerima hal itu
Mengatakan bahwa ia tidak bisa dipercaya karena politik mirip dengan mengatakan bahwa ketika urusan manusia terlibat, ia kurang bisa dipercaya daripada komputer
Jika kita tidak bisa membayangkan politik yang efektif, kita juga tidak bisa membayangkan urusan manusia yang efektif, dan yang tersisa hanyalah kerja mekanis dari sistem optimasi sederhana seperti pasar kapitalis
Semua itu terjadi demi recehan
Tinggal mencari cara untuk mencerminkan data saat ini ke dalam model secara real time, dan sepertinya hal ini juga sedang aktif dibahas di OpenAI: https://www.workbyjacob.com/thoughts/from-llm-to-rqm-real-ti...
Risiko sebenarnya bukanlah anak-anak bertanya cara membuat narkoba ilegal, melainkan pemerintah tertentu memasukkan hasilnya ke dalam sistem pertahanan nasional seperti Skynet
Melihat keheningan yang aneh soal penerapan LLM dalam kompleks industri militer, saya jadi curiga ini mungkin bagian dari kisah OpenAI
Saya melihat di HN ada yang mengatakan bahwa bahkan engineer yang sangat penting pun tidak terlalu penting dan Ilya juga bisa digantikan, dengan contoh Apple yang tumbuh setelah Woz pergi, tetapi menurut saya perbandingan yang lebih tepat adalah ketika John Carmack mengeluarkan Romero dari id Software setelah rilis Quake
Carmack mendorong teknologi mutakhir selama hampir 10 tahun, dari side-scrolling mulus Commander Keen, 3D semu Doom, hingga 3D penuh Quake, dan menghasilkan kemajuan grafis yang besar; pada 1991–1996, engine baru id praktis menciptakan genre baru
Di dalam id saat itu mereka juga menyadari hal ini, dan berkat itu Carmack punya kekuatan sampai bisa memecat salah satu pendiri, John Romero
Romero adalah wajah publik id yang flamboyan dan ada di mana-mana, tetapi setelah dipecat, meski mendapat banyak uang dan promosi besar-besaran, ia tidak bisa membuat sesuatu sebesar Doom atau Quake, dan perusahaan barunya juga tutup
Sebaliknya, di bawah Carmack, id terus mencetak hit
Dalam situasi ketika setiap sedikit performa tambahan yang diperas dari teknologi mutakhir langsung menaikkan pendapatan secara besar, keahlian engineering benar-benar penting; sama seperti grafis PC era 90-an, hal itu juga berlaku pada kualitas output LLM saat ini
Jadi, sebagaimana Carmack adalah motor utama pertumbuhan id, menurut saya cukup mungkin Ilya memainkan peran yang sama di OpenAI
Setelah Quake 1, keluaran id jelas turun satu tingkat; teknologinya luar biasa, tetapi gamenya membosankan dan kurang inspirasi, paling banter “bagus”, bukan “hebat”
Selama 20 tahun hingga Doom 2016 keluar, mereka tidak mampu membuat sesuatu yang kembali menarik
Kesuksesan terbesar id setelah Romero bukan sebagai pengembang game, melainkan sebagai perusahaan lisensi teknologi yang menjalankan game seperti Half Life, Medal of Honor, dan Call of Duty
Sebaliknya, Ion Storm milik Romero memang akhirnya gagal, tetapi menghasilkan game menarik seperti Deus Ex dan Anachronox, dan bahkan Daikatana menurut saya lebih menarik daripada Quake 2 atau Quake III
Dibutuhkan orang yang terus menarik modal melalui pendapatan, investor, dan mitra, serta membuat perusahaan bisa mengakses GPU dan dataset proprietary
Carmack bisa menghasilkan kemajuan grafis hanya dengan satu komputer dan kepalanya sendiri, tetapi agar Ilya bisa terus mendorong OpenAI maju, dibutuhkan jauh lebih banyak hal
Otak raksasa saja tidak cukup
Itu trik yang sudah ada lebih dari 10 tahun sebelum ia menggunakannya, dan saya ingat pernah membaca trik-trik kotor serupa di kolom Jim Blinn di majalah IEEE jauh sebelum Carmack “menemukannya”
https://en.wikipedia.org/wiki/Fast_inverse_square_root
Dalam kasus ini Ilya tidak sama dengan Carmack, dan ia selama ini lebih berfokus pada riset keselamatan dan alignment daripada membuat GPT-[n]
Dari berbagai penjelasan, dalam beberapa tahun terakhir Greg Brockman, yang muak dengan langkah ini lalu berhenti, serta para peneliti senior yang kemarin keluar, punya pengaruh lebih besar daripada Ilya
id juga tidak boleh diremehkan. Memang tidak meledak secara spektakuler seperti Ion Storm, tetapi keberadaan id perlahan mengecil, dan meski grafisnya unggul, itu bukan lagi puncak inovasi seperti masa awal Carmack+Romero, hingga akhirnya dijual ke Zenimax
Carmack sendirian jauh lebih baik daripada Romero sendirian, tetapi tampaknya tidak sebaik ketika keduanya bersama
Sam Altman juga tidak sama dengan John Romero. Masalah Ion Storm-nya Romero adalah berputar tanpa henti mengejar kesempurnaan sehingga gagal merilis, sedangkan masalah Ilya terhadap Altman justru di sisi terlalu cepat merilis
Saya berharap Sam dan Greg memulai perusahaan AI fondasi baru, dan jika itu terjadi, saya akan jauh lebih antusias dibanding OpenAI yang tampaknya diinginkan Ilya dan Helen, yang berpusat pada alignment dan regulasi
Setelah itu, seperti terlihat di https://en.wikipedia.org/wiki/List_of_id_Software_games, daftarnya kira-kira Quake 2, Quake 3, dan Doom 3, sementara hampir tidak ada yang lain yang memiliki nilai atau dampak budaya berarti
Ada banyak pencapaian teknis, tetapi game yang membekas membutuhkan lebih dari sekadar teknologi menarik
Bagi orang yang mengenal game-game ini sekarang, Quake hanyalah Quake, dan mereka tidak mengingat perbedaan 1, 2, dan 3
Benar bahwa id adalah perusahaan software yang sukses, tetapi hanya dengan keluaran setelah Romero, rasanya mereka tidak akan menjadi raksasa industri yang membentuk masa depan video game
Bisa saja dikatakan Carmack mencapai lebih banyak hal sendirian daripada Romero, tetapi untuk mencapai keagungan sejati di ranah video game, keduanya saling membutuhkan
Apa yang akan dikatakan sejarah tentang Altman dan Sutskever masih harus kita lihat
Pemecatan ini tampak sangat personal
Kecuali ada tindakan yang benar-benar serius yang kemudian terungkap, dewan yang bertanggung jawab tidak akan memecat CEO dengan begitu sembrono hingga merusak reputasi perusahaan dan para mitranya seperti ini, kecuali karena dendam pribadi yang terkait perebutan kekuasaan internal
Ini memalukan bagi semua pihak yang terlibat, dan sama punya alasan nyata untuk mengajukan keluhan
Dampak hukum juga tampaknya mungkin terjadi
Tentu saja, kalau mereka benar-benar telah menciptakan AGI dan sama mencoba memonetisasinya, dewan yang berpandangan kiamat AGI bisa saja bertindak tanpa kehati-hatian
Meski begitu, bahkan dalam kasus seperti itu pun, perdebatan tersebut seharusnya diselesaikan di balik pintu tertutup
Semua orang akan teringat Jobs, tetapi Gary Gygax dari TSR pada era 80-an juga bisa menjadi contoh lain
Sementara itu TSR mengalami defisit besar, dan pada awal 80-an, meski nyaris menghasilkan pendapatan tahunan 30 juta dolar, utangnya mencapai 1,5 miliar dolar
Selain itu, kejatuhan Gygax adalah hasil dari kudetanya sendiri
Ia menyingkirkan Kevin Blume dan membawa masuk Lorraine Williams; setelah Williams membeli seluruh saham Blume, sekitar setahun kemudian ia menghapus kendali Gygax atas perusahaan dan membatalkan sebagian besar proyek, lalu Gygax mengundurkan diri setahun setelahnya
Saat ini ia berada di posisi unggul secara moral, sementara dewan terlihat picik dan tidak matang, jadi akan bodoh jika ia melakukan sesuatu yang membalikkan framing ini
Besar kemungkinan ia akan mengumumkan usaha baru dalam beberapa minggu ke depan, dan apakah itu AI atau bukan akan menunjukkan bagaimana ia sebenarnya melihat prospek bidang ini
Brockman dan yang lain kemungkinan besar akan mengerjakan hal baru di AI
Ia punya kepribadian yang kasar dan sulit dihadapi, Macintosh saat itu gagal dalam penjualan, dan ia menggunakan tim internal serta politik perusahaan—seperti Lisa melawan Mac—untuk mengadu tim satu sama lain, merusak integrasi dan keberhasilan
Setelah kembali pun kepribadiannya masih sulit, tetapi masalah-masalah lain seperti itu tidak lagi terjadi
Setelah ia kembali, Apple menjadi perusahaan yang sangat piawai mengeksekusi satu visi kolaboratif
Dimulai dari ia membuat AD&D agar tidak perlu membayar royalti kepada Arneson
Itu benar-benar pengalaman yang membentuk dirinya
Jelas ada ketegangan antara kubu pertumbuhan berorientasi laba dan kubu pertumbuhan nirlaba, tetapi saya tidak mengerti mengapa Dev Day disebut sebagai pukulan terakhir
Itu adalah acara peluncuran produk
Ilya dan dewan semestinya sudah tahu berbulan-bulan sebelumnya apa yang akan diumumkan hari itu, dan setidaknya mungkin sudah melihat rencananya atau bahkan menyetujuinya
Kalau mau menarik garis, waktunya adalah sebelum peluncuran; jadi apakah setelah pengumuman mereka melihat ke cermin lalu tersadar?
Pernyataannya sendiri mengatakan Sam dengan satu atau lain cara tidak jujur, dan Greg juga terdampak
Ilya mungkin satu-satunya anggota dewan yang secara alami tahu lewat pekerjaan sehari-harinya, tetapi karena sejak sekitar Juli ia bekerja di area superalignment, bisa saja itu sudah menjadi divisi lain
Bisa saja dewan mengetahui proyek itu lewat pihak ketiga atau Ilya, mengatakan kepada Sam bahwa itu terlalu cepat, tetapi Sam mengabaikannya dan tetap meluncurkannya
Kenyataannya, tidak ada yang tahu
Justru ini bisa selaras dengan bagian dalam pengumuman dewan yang mengatakan Sam tidak jujur
Ini buruk bagi OpenAI, tetapi karena ada begitu banyak pesaing lapar yang ingin menggantikan OpenAI, sepertinya tidak akan ada konsekuensi jangka panjang besar bagi keseluruhan bidang ini
Saya penasaran hak pengawasan dan upaya pemulihan apa yang dimiliki para investor, atau para donor
Banyak orang yang hari ini telah memasukkan uang dalam jumlah cukup besar pasti sangat marah
Itu bisa saja menjadi momen bercermin
Ilya Sutskever adalah orang yang memiliki keyakinan sungguh-sungguh bahwa LLM adalah AGI, dan dalam hal ini ia sejalan dengan Geoff Hinton, pembimbingnya di University of Toronto
Hinton pernah berkata, “Jika Anda melatihnya agar benar-benar piawai memprediksi kata berikutnya, Anda sebenarnya memaksanya untuk memahami. Ya, itu autocomplete, tetapi orang belum memikirkan apa arti autocomplete yang benar-benar bagus”[1]
Sebaliknya, Altman menilai LLM bukanlah jalan menuju hal itu[2]
Karena itu Altman mencoba menjadikan LLM sebagai produk komersial untuk mengekstraksi nilai, sementara kubu Sutskever tampaknya memandangnya sebagai AGI dan ingin mempertahankannya sebagai nirlaba
Ada juga perbedaan soal apakah AGI merupakan risiko eksistensial, atau apakah risiko AI saat ini lebih terkait bias algoritmik, ketimpangan sosial-ekonomi, misinformasi dan disinformasi, serta solutionism teknologi
Ada hipotesis lain
Katanya pemecatan ini kemungkinan besar dipimpin oleh Chief Scientist Ilya Sutskever karena kekhawatiran soal keamanan dan kecepatan deployment teknologi OpenAI, tetapi yang lebih dulu meluncurkan marketplace GPT/agen bukan OpenAI, melainkan Poe milik Quora
Namun di dewan nirlaba OpenAI ada CEO Quora
Setidaknya kita bisa tahu di mana kepentingannya saat ia memberikan suara menentang Altman dan Greg
ChatGPT adalah produk terbesar dalam sejarah perusahaan sekaligus langkah paling berbasis pasar konsumen
Jadi sulit melihat ini sekadar situasi garis pemisah seperti “Sam menginginkan profit, sementara Ilya/dewan menginginkan riset murni”
Kalau organisasi nirlaba tempat Anda duduk di dewan merilis produk yang bersaing dengan produk perusahaan yang Anda jalankan, bagaimana Anda mengelola konflik kepentingan itu?
Sepertinya ia semestinya mundur
Ini bukan kudeta
Kudeta adalah istilah ketika kekuasaan direbut secara paksa, bukan ketika para anggota menilai bahwa Anda tidak lagi mewakili kepentingan mereka dengan baik
Ini seperti menyebut politisi yang kalah dalam pemilu sebagai kudeta
Menyebutnya kudeta memberi kesan keliru bahwa dalam arti tertentu OpenAI adalah milik Sam Altman
Justru yang lebih mirip kudeta adalah gagasan bahwa pendiri yang membangun perusahaan dan menjual sahamnya tetap dianggap memilikinya seolah-olah masih miliknya
Itu sama saja merampas kontrol dari pemilik sebenarnya dan memberikannya kepada eksekutif yang menjadi wajah publik
Kudeta secara harfiah memang pengambilalihan paksa negara dengan dukungan militer, tetapi dalam bisnis dan dunia yang lebih luas, kudeta secara metaforis berarti perebutan kekuasaan yang direncanakan diam-diam dan dieksekusi secara mendadak
Sama seperti ketika perusahaan “menyatakan perang”, itu bukan berarti menembakkan rudal dan membunuh orang, melainkan memusatkan sumber daya pada satu tujuan untuk bersaing
Peristiwa ini jelas kudeta
Sebagian dewan merencanakannya diam-diam, mengeksekusinya dalam rapat dewan rahasia tanpa dua orang termasuk ketua, dan bahkan Microsoft yang berinvestasi 49% di entitas berorientasi laba tidak punya pengetahuan maupun hak bicara sama sekali
Ini bukan soal benar atau salah, tetapi ini salah satu kudeta dewan direksi yang akan tercatat dalam buku sejarah
Ada alasan mengapa ini menjadi berita halaman depan setingkat NYT dan WSJ, bukan hanya HN
Dalam Revolusi Prancis pun peristiwa seperti jatuhnya Robespierre dan pembatalan pemilu oleh Directoire sering digambarkan sebagai kudeta
Yang terakhir bahkan terbilang relatif tanpa pertumpahan darah
Ini lebih dekat dengan pembelaan tatanan konstitusional OpenAI
Perusahaan ini, seperti Mozilla, berpusat pada organisasi nirlaba, dan bagian berorientasi laba dirancang dengan sengaja untuk menyediakan modal guna menjalankan misi tersebut
Perlu melihat tulisan mereka sendiri tentang strukturnya: https://openai.com/our-structure
Terutama bagian ini: https://images.openai.com/blob/142770fb-3df2-45d9-9ee3-7aa06...
Rasanya sisi komersial dari brand OpenAI sudah hilang
Kalau dewan nirlaba memperlambat pengembangan dan memberi produk yang lebih inferior sehingga bertentangan dengan kepentingan pelanggan, bagaimana pelanggan bisa bergantung pada OpenAI?
Sementara itu, sisi AGI OpenAI mungkin akan baik-baik saja
Pengembangan AGI yang bertanggung jawab di bawah Ilya Sutskever akan terus berjalan, dan saya berharap berhasil
Microsoft tampaknya akan mengajukan beberapa gugatan dan menghambat OpenAI dari dalam
Mereka perusahaan hampir 3 triliun dolar dan punya pasukan pengacara, jadi mereka bisa menimbulkan kerusakan besar, terutama jika pihak VC Silicon Valley tidak banyak bersimpati kepada OpenAI
Layanan itu bisa saja bangkrut, runtuh karena gugatan, atau diakuisisi Microsoft
Hanya karena CEO dipecat, perlu dilihat apakah keberhasilannya berkat GPT atau berkat CEO
Yang pertama masih tetap ada dan juga belum menjadi inferior
Perlambatan pertumbuhan tidak serta-merta berarti penyusutan
Di area itu para pesaing mengejar dengan cepat
Kalau benar ini karena hal-hal seperti Dev Day, mungkin ada masuk akalnya sampai batas tertentu, tetapi kalau AI berguna yang membantu orang diperlakukan sebagai sesuatu yang tidak bermartabat, saya bertanya-tanya apakah OpenAI akan makin menjadi kultus tertutup
Jadinya ClosedAI yang tidak bisa dipakai meski sudah membayar
Tulisan Jeremy Howard dari fast.ai: https://x.com/jeremyphoward/status/1725712220955586899
Ia memang bukan orang dalam persis, tetapi tampaknya cukup bersinggungan atau bersimpati dengan Ilya dan kubu peneliti, dan juga punya koneksi
Twit dan sudut pandangnya adalah indikator pengganti yang berguna untuk memperkirakan seperti apa rasa perpecahan di dalam
Para developer, termasuk saya sebagai developer, menyukai Dev Day