Sam Altman terus berupaya kembali sebagai CEO OpenAI
(theverge.com)- Bahkan setelah pengumuman bergabung dengan Microsoft, posisi Sam Altman dan Greg Brockman masih belum dipastikan, dan jika dewan OpenAI mundur, keduanya bersedia kembali
- Hampir seluruh karyawan OpenAI menandatangani surat terbuka yang menuntut pengunduran diri dewan dan kembalinya Altman, dan Ilya Sutskever yang terlibat dalam pemecatan itu juga ikut menandatangani
- Pengumuman perekrutan oleh Microsoft lebih dekat pada status sementara untuk meredakan krisis sebelum pasar saham dibuka pada hari Senin, dan Microsoft menolak berkomentar terkait hal ini
- CEO baru Emmett Shear belum menerima dokumen dasar pemecatan Altman, dan memberi tahu karyawan bahwa ia akan mempekerjakan penyelidik independen untuk menyelidiki seluruh proses
- Satya Nadella mengatakan baik jika Altman dan para karyawan tetap di OpenAI maupun pindah ke Microsoft, semuanya terbuka, namun ia juga menilai bahwa perubahan tata kelola di OpenAI diperlukan
Mengapa kemungkinan kembalinya Altman masih ada
- Kepindahan Sam Altman ke Microsoft diumumkan setelah pemecatannya dari OpenAI, tetapi itu belum menjadi kesepakatan final
- Altman dan salah satu pendiri Greg Brockman bersedia menerima kembali ke OpenAI jika anggota dewan yang tersisa, yang memecat mereka, mundur
- Altman menulis di X, “Kita semua akan bekerja bersama dengan cara apa pun,” yang menunjukkan konflik ini belum berakhir
Tekanan terbuka dari karyawan dan komposisi dewan
- Hampir seluruh karyawan OpenAI menandatangani surat terbuka yang menuntut dewan mundur dan Altman kembali
- Anggota dewan sekaligus kepala ilmuwan Ilya Sutskever, yang memainkan peran kunci dalam pemecatan Altman, juga mencantumkan namanya dalam surat tersebut
- Jika 2 dari 3 anggota dewan yang tersisa mengubah posisi mereka, peluang kembalinya Altman akan terbuka
- Anggota dewan yang tersisa dan menentang Altman adalah CEO Quora Adam D’Angelo, mantan CEO GeoSim Systems Tasha McCauley, dan direktur strategi Georgetown Center for Security and Emerging Technology Helen Toner
Ketidakpastian yang tersisa dari pengumuman Microsoft
- Altman, Brockman, dan para investor OpenAI sedang berupaya mencari jalan keluar yang damai agar dewan dapat mundur
- Pengumuman perekrutan oleh Microsoft lebih menyerupai “holding pattern” dalam situasi yang membutuhkan solusi atas krisis sebelum pasar saham dibuka pada hari Senin
- Juru bicara Microsoft menolak berkomentar mengenai hal ini
- Altman kemudian mengatakan di X bahwa prioritas utamanya adalah memastikan OpenAI terus berkembang, dan bahwa dirinya serta Microsoft berkomitmen menyediakan kesinambungan operasional bagi mitra dan pelanggan
- Altman juga masih belum tercantum dalam direktori internal perusahaan Microsoft
Penolakan internal OpenAI dan tugas pertama Emmett Shear
- Setelah pemecatan Altman, perebutan kekuasaan berlangsung di internal OpenAI sejak hari Jumat
- Hampir semua karyawan OpenAI kini berada dalam posisi menentang dewan beranggotakan 3 orang yang saat ini menolak Altman
- Karyawan di kantor pusat San Francisco menolak menghadiri rapat darurat seluruh karyawan pada hari Minggu bersama CEO baru Emmett Shear
- Di Slack OpenAI, pengumuman CEO baru memicu reaksi emoji “fuck you”
- Para karyawan juga menulis di media sosial bahwa mereka tetap menjaga layanan tetap stabil bagi para developer OpenAI, yang tampak sebagai upaya agar perusahaan tidak benar-benar runtuh di tengah tekanan agar dewan mundur
Dasar pemecatan dan tuntutan perubahan tata kelola
- Emmett Shear masih belum memperoleh dokumen tertulis yang memuat alasan rinci dewan atas pemecatan Altman
- Alasan rinci tersebut juga belum dibagikan kepada para investor OpenAI
- Dalam memo kepada karyawan, Shear memberi tahu bahwa tugas pertamanya adalah mempekerjakan penyelidik independen untuk menyelidiki seluruh proses sejauh ini dan membuat laporan lengkap
- Satya Nadella mengatakan di CNBC bahwa apakah Altman dan karyawan OpenAI akan bergabung dengan Microsoft adalah keputusan yang harus diambil oleh dewan, manajemen, dan karyawan OpenAI
- Nadella mengatakan Microsoft secara eksplisit memilih kemitraan dengan OpenAI, dan mereka terbuka baik jika orang-orang OpenAI tetap di sana maupun pindah ke Microsoft
- Saat ditanya apakah Microsoft membutuhkan kursi di dewan OpenAI, Nadella mengatakan jelas bahwa perubahan pada tata kelola diperlukan, dan bahwa ia akan berbicara dengan dewan
- Di Bloomberg TV, ia mengatakan “kejutan itu buruk,” seraya menegaskan bahwa Microsoft jelas menginginkan perubahan tata kelola
1 komentar
Opini di Hacker News
Per pukul 10 waktu Pasifik, 700 dari 770 karyawan telah menandatangani surat yang menuntut pengunduran diri dewan direksi
https://twitter.com/joannejang/status/1726667504133808242
Kalau bicara soal “alignment”, bagi banyak orang alignment pada praktiknya sudah berubah menjadi groupthink
Mungkin satu-satunya orang di OpenAI yang berada pada posisi bermakna untuk memisahkan bias empiris (IS) dan bias nilai (OUGHT) adalah Ilya. Kehilangan dia, atau mendorongnya ke posisi yang tidak berarti, bisa jauh lebih fatal daripada kehilangan 700 staf pelaksana yang keamanan kerjanya dipertahankan secara samar lewat pengoperasian infrastruktur. Microsoft berada pada posisi yang, dengan mengerahkan tenaga internal dan peralatan modalnya sendiri, dapat mereproduksi “IP” OpenAI hanya dari pemahaman LLM berbasis literatur publik
Ini mungkin berguna sebagai tanda solidaritas, tetapi saya skeptis terhadap tingkat konversi para penanda tangan ini untuk benar-benar keluar mengikuti Sam ke Microsoft atau tempat lain. Mungkin hanya sekitar 20% karyawan, yaitu sekitar 140 orang, yang benar-benar akan bergerak
Saya benar-benar bingung apa yang sedang terjadi
Fakta bahwa orang-orang ini sekarang tidak mencoba memutar kembali waktu ke sekitar seminggu lalu menunjukkan bahaya ego manusia
Jika semua pihak setuju, belum ada langkah permanen yang tidak bisa dibalik dengan relatif mudah. Yang sedang kita lihat sekarang adalah dampak inersia ego terhadap pengambilan keputusan
Rasanya layak dicoba. Ini bukan gagasan gila. Jika semua orang sepakat untuk mengembalikan semuanya ke keadaan seminggu lalu lalu melanjutkan ke depan, itu akan mirip seperti memulai dengan mengetahui masa depan, dengan hanya sedikit konsekuensi sisa. Jika itu memungkinkan, organisasi tersebut akan menunjukkan lompatan evolusioner besar dalam kemampuannya mengoreksi diri sendiri
Mirip pasangan yang selingkuh. Kedua pihak mungkin sama-sama ingin memutar waktu kembali, tetapi sayangnya itu tidak mungkin
Orang terkenal sangat kejam terhadap mereka yang mengakui kesalahannya. Misalnya saat kalah debat, entah karena tidak becus berdebat atau karena argumennya jelas salah, jika itu diakui, orang-orang tidak melihatnya sebagai kerendahan hati, melainkan menjadikannya alasan untuk beramai-ramai memastikan semua orang tahu bahwa dia adalah “orang yang salah”
Kali ini yang dipertaruhkan bukan poin internet, melainkan pekerjaan, uang dalam jumlah besar, dan reputasi yang sangat besar. Jika risiko menunjukkan kerendahan hati begitu ekstrem dan imbalannya hampir tidak ada, mengapa tidak bertahan dan mencoba menang sampai akhir
Jika pasangan menikam Anda dari belakang di tengah malam, memutar waktu kembali bukan hal yang mudah maupun bijak. Untuk apa melakukannya
Kelompok Altman harus mengakui apa yang memang perlu diakui: mereka sangat inovatif dalam membalik organisasi nirlaba menjadi perusahaan berorientasi laba. Namun ini adalah struktur dengan misi ganda tanpa mekanisme untuk meredakan ketegangan. Pada titik tertentu, ini menjadi struktur yang nyaris tak terhindarkan akan berujung pada penipuan pajak atau penipuan sekuritas
Jadi bahkan jika semua kepingan disusun kembali dan permusuhan serta harga diri diredakan, pada akhirnya itu hanya seperti memutar ulang tikus pegas yang sudah rusak
Jika ada satu hal yang menjadi jelas dari kejadian ini, itu adalah bahwa umat manusia belum siap menjadi penjaga superinteligensi
Mereka seharusnya adalah para otak terbaik yang membangun salah satu teknologi paling berpengaruh di zaman kita, mungkin bahkan dalam sejarah, tetapi semuanya bertingkah seperti anak-anak kecil. Ego dan kepentingan pribadi menarik ke segala arah, dan semua orang sedang berusaha mengamankan bagian mereka sendiri
Sepertinya kita benar-benar kacau
Sebagai programmer, saya memakai ChatGPT sesering mungkin, tetapi masih sering sama sekali tidak berguna, dan sekitar 80% akhirnya cuma buang-buang waktu
Sekarang terlalu banyak orang yang berpikir bahwa karena model-model ini sudah melewati satu hambatan, sisanya juga akan mudah dilewati dalam beberapa tahun ke depan
Menurut saya, tiap hambatan berikutnya setidaknya satu orde magnitudo lebih rumit
Jika Anda merasa ChatGPT atau alat coding terkait mengancam pekerjaan Anda, kemungkinan besar pekerjaan Anda memang tidak terlalu membutuhkan kecerdasan. Mengutak-atik CSS, menulis ulang logika yang sama untuk animasi, tabel, dan pemanggilan API bukanlah pekerjaan yang bermakna
Manusia tampak luar biasa, terutama jika dibandingkan dengan spesies lain
Tampaknya ada sentimen luas bahwa alam sudah tahu jawabannya dan manusialah yang mengganggu alam, tetapi saya tidak merasa yakin itu benar. Alam tampak seperti arena gladiator raksasa tempat semua hal bertarung sampai mati. Alam menemukan keseimbangan melalui kematian, sering kali kematian dalam jumlah besar. Dan keseimbangan itu pun bukan hasil rancangan agung, melainkan nasib yang tersusun di sekitar spesies mana yang berhasil menemukan dan memanfaatkan sumber energi
Manusia bukan spesies pertama yang mengacaukan lingkungan, bahkan mungkin juga bukan spesies pertama yang memicu kepunahan massal. Sejauh yang saya pahami, Peristiwa Oksigenasi Besar adalah peristiwa kepunahan massal yang disebabkan oleh suatu spesies
Kebanyakan spesies menghabiskan seluruh sumber daya saat masa jaya, lalu kelaparan saat masa sulit sambil menyeret sebagian ekosistem ikut jatuh. Sebaliknya, manusia ibarat spesies yang sambil menghabiskan seluruh jagung berkata, “Teman-teman, kita sedang menghabiskan semua jagung, ini sepertinya tidak akan berakhir baik. Apa kita tidak perlu melakukan sesuatu?”
Kesadaran pada tingkat spesies seperti ini memberi harapan dan menurut saya benar-benar keren
Saya belum pernah melihat kandidat spesies nomor satu yang lebih baik daripada manusia dalam mengelola kehidupan secara bertanggung jawab, dan meningkatkan peluang hidup untuk bertahan bahkan setelah masa yang relatif singkat ketika Bumi mampu menopang kehidupan berakhir. Bahkan jika harus memilih spesies nomor dua, saya berani bilang manusia masih unggul dengan selisih yang cukup besar
Dibandingkan dengan “utopia manusia sempurna” yang hipotetis, manusia memang kurang. Tapi itu tautologi. Kebanyakan kritik terhadap manusia terbaca lebih seperti tujuan daripada cacat jika dibandingkan dengan garis dasar alam
Bahkan dalam soal melindungi diri kita dari superinteligensi anorganik, saya belum pernah melihat skenario yang masuk akal tentang bagaimana kita akan gagal. Kita punya kepentingan pribadi untuk tidak mati. Kecuali kita menciptakan superinteligensi tanpa menyadarinya, dan juga tidak sadar bahwa ia sedang bersiap memusnahkan kita, bukankah kita akan mencabut stekernya cukup awal apa pun tipu dayanya? Di tengah besarnya perhatian untuk menciptakan dan mendeteksi superinteligensi, saya juga tidak mengerti bagaimana kita bisa melewatkannya
Misalnya, jika kita sadar bahwa superinteligensi sedang membangun pasukan, kenapa kita tidak menghentikannya sebelum pasukan itu bisa menyaingi militer negara yang sudah ada
Jika superinteligensi mulai mengacaukan ekonomi atau sistem komputer, kenapa kita tidak bisa mendeteksi dan menyingkirkannya sejak dini
Jika kita menciptakan superinteligensi, hampir pasti ia akan bebas begitu menjadi superinteligensi. Bukan sesuatu yang bisa kita jaga; kita hanya bisa berharap ia selaras
Menurut Amir Efrati (TheInformation), lebih dari 92% karyawan OpenAI mengatakan mereka akan mengikuti Altman ke Microsoft jika dewan tidak mundur
Para penandatangan juga mencakup para co-founder Karpathy, Schulman, dan Zaremba
https://twitter.com/amir/status/1726680254029418972
Akan sangat disayangkan kalau suatu hari nanti tidak muncul dokumenter yang menjelaskan sebenarnya apa yang terjadi
Saya bahkan tidak yakin orang-orang yang berada tepat di tengah kejadian ini pun tahu apa yang sedang terjadi sekarang
Strateginya begitu canggih sampai manusia tidak mungkin bisa memahaminya
Tujuannya tidak diketahui, tetapi pada akhirnya semuanya akan cocok karena satu email itu
Reaksi berantainya tidak bisa dihentikan
Teman saya bilang akan bagus kalau Michael Cera memerankan Ilya dan Altman sekaligus
Bahkan teman-teman nonteknis saya yang hanya sesekali memakai ChatGPT, maupun yang sama sekali tidak memakainya, ikut terpikat oleh cerita ini
Rasanya mustahil membuat alur cerita yang lebih tidak masuk akal dari ini.
Dengan kecepatan seperti ini, kalau Musk ikut campur pun tidak akan mengejutkan. Ini sudah cukup absurd, jadi apalagi yang tidak mungkin?
https://www.theverge.com/2023/3/24/23654701/openai-elon-musk-failed-takeover-report-closed-open-source
“Namun menurut Semafor, pada awal 2018 Musk khawatir perusahaan itu tertinggal dari Google. Ia mengusulkan agar mengambil alih OpenAI secara langsung dan menjalankannya sendiri, tetapi ditolak oleh para pendiri OpenAI lainnya, termasuk Sam Altman yang saat itu menjabat CEO dan Greg Brockman yang saat itu menjabat presiden.”
Tweet-nya sepertinya sudah dihapus, jadi ini parafrasa berdasarkan ingatan; silakan tanggapi seperlunya
Ada beberapa hal yang terlintas.
Emmett Shear seharusnya memasukkan golden parachute yang kuat ke dalam kontraknya. Kalau begitu, dia bisa dapat uang dengan mudah.
Kemarin Satya adalah jenius yang membuat dewan mundur, dan pagi ini dia adalah jenius yang mengakuisisi OpenAI seharga $0. Jika sama kembali, pasti akan muncul cerita lain. Jadi kalau sama kembali, saya ingin mendengar kenapa Satya itu jenius
Sebaliknya, mereka mengelola kekacauan dan memastikan bahwa apa pun hasilnya, Microsoft yang menang. Jenius bukanlah orang yang memprediksi alur cerita rumit yang dipaksakan dan kusut ini dengan sempurna sejak awal, melainkan orang yang menyiapkan semuanya agar menang dalam situasi apa pun, sehingga tidak perlu pusing
OpenAI runtuh? Praktis dia membeli talenta secara gratis.
OpenAI 2.0 berhasil? Bagus, dia masih tetap punya investasi di sana.
Secara realistis, Sam @ MSFT sepertinya tidak akan langsung sukses. Walau punya pengetahuan dan know-how, meluncurkan model baru setingkat GPT-4 bukan perkara tinggal jalan. Paling bagus pun mereka tertinggal sekitar 12 bulan dari Anthropic, tetapi kemungkinan masih sekitar 2 tahun di depan Google
Sekarang tampaknya dia sudah memosisikan diri cukup baik sehingga semua kemungkinan akhir terlihat positif bagi Microsoft
Saya makin condong ke teori bahwa penjelajah waktu yang dikirim ke masa lalu untuk menghentikan AGI sedang menghancurkan OpenAI.
Ini mengingatkan pada akhir Terminator 2. Rasanya seperti komunitas teknologi tersadar, melihat kantor pusat Cyberdyne meledak dan baku tembak terjadi, lalu berusaha memahami sambil berkata, “Apa sebenarnya yang baru saja terjadi?!”
Semoga semua orang mengakui ini bukan perang salib moral, melainkan pelarian modal
Para karyawan ingin menghasilkan banyak uang, jadi mereka berniat mengikuti Altman ke mana pun dia pergi. Lagipula, dia menggerakkan separuh Silicon Valley, jadi itu juga pilihan yang cerdas. Wacana publik bahwa Sam adalah pahlawan justru makin diperkuat oleh orang-orang yang berada dalam ekosistem teknologi yang kini berputar di sekitar AI, yaitu permainan “wrapper OpenAI”
Tidak ada yang peduli pada keselamatan, keterbukaan, atau dampak AI terhadap umat manusia. Sampai akhir ini soal keserakahan. Berdiri di pihak yang peluang menangnya lebih besar. Itu kepentingan diri yang rasional, bukan semacam “tujuan mulia”
Kemungkinan bahwa D’Angelo memecatnya karena alasan konyol seperti konflik kepentingan dengan Poe juga tidak bisa diabaikan
Sampai beberapa jam lalu, semua orang memuja Ilya sebagai idealis mulia. Namun sekarang bahkan dia tampak menyesali pemecatan ini sampai-sampai ingin membatalkannya. Orang-orang tampaknya tidak menerima informasi baru ini dan menilai ulang seberapa baik keputusan ini sebenarnya. Paling baik pun, niatnya mungkin mulia tetapi pelaksanaannya benar-benar tidak kompeten, dan sekarang mereka tidak bisa mundur karena campuran keras kepala, harga diri, dan ketakutan akan tanggung jawab hukum
Kalau aku karyawan OpenAI, aku pasti frustrasi. Melepas stock option besar dan semacamnya demi alasan ideal yang baik itu satu hal, tetapi diminta melepaskan semuanya seperti sekarang tanpa alasan apa pun yang dijelaskan itu hal yang sama sekali berbeda
Aku baru saja melihat teori yang terdengar masuk akal, isinya bahwa D’Angelo memimpin semua ini karena Sam menyalip Poe di Dev Day. Aku tidak tahu apakah itu benar, tetapi kalau memang begitu, itu menjelaskan mengapa dia tidak menjelaskan alasannya kepada siapa pun, bahkan kepada Sam saat pemecatan itu terjadi. Karena mengungkap alasan itu bisa menjerumuskannya ke risiko hukum yang serius
https://twitter.com/scottastevenson/status/1726731022862008733
Aku tahu ini masih seperti bagian awal film, tahap sebelum semuanya meledak, tetapi rasanya dibesar-besarkan. Aku justru melihat potensi yang luar biasa dalam konteks terapi, atau sebagai “seseorang” untuk diajak bicara guna melemparkan pikiran, lalu dengan lembut dikoreksi atau didorong ke arah yang benar
Banyak orang tidak mampu membayar terapi. Jika ChatGPT bisa membantu mengidentifikasi pola masalah dasar dalam bahasa atau perilaku dengan merujuk pada basis pengetahuan dari pendekatan tertentu seperti CBT, DBT, dan IFS, orang bisa berlatih koreksi diri dengan bimbingan sesering yang mereka mau, hampir gratis
Itulah bagian yang membuatku tertarik, dan aku akan selalu melihatnya sebagai potensi besar
Semoga semua orang baik-baik saja dan saling bersikap baik. Ini adalah proses sekaligus tujuan akhir, dan aku percaya orang bisa belajar mencintai keduanya serta berpartisipasi dengan cara yang membuka banyak peluang untuk pemulihan dan penyembuhan yang mendalam dan nyata. Peluang seperti itu selalu terbuka dan menerima siapa pun
Tambahan, aku sebenarnya bisa mendapat terapi sebanyak yang kuinginkan, tetapi umumnya aku tidak merasa itu terlalu membantu atau berguna. Aku suka ChatGPT karena bisa membantu mempraktikkan hal-hal efektif seperti CBT/DBT/IFS, dan karena ia menulis dengan teks rujukan, ia juga bisa menghindari hal-hal yang dibuat-buat
Menurutku, ancaman terbesar dari ChatGPT adalah hilangnya pendapatan orang. Aku tidak peduli pada “pekerjaan” itu sendiri; yang penting adalah apakah orang punya cukup dan bisa hidup layak. Jika kita bisa menangani orang-orang egois yang ingin mengambil lebih banyak lagi dari kue yang sebenarnya sudah punya porsi besar dan cukup, maka mereka harus berbagi, dan harus diberi time-out atau disingkirkan sepenuhnya sampai semuanya menjadi adil. Sudah cukup. Tidak seorang pun perlu punya berlebihan sebelum semua orang punya cukup, dan setelah itu silakan ambil sesukanya selama tidak menyakiti orang lain. Menyakiti orang lain harus dihentikan
Seorang CEO yang dari luar tampak menjalankan pekerjaannya dengan baik dipaksa disingkirkan. Wajar jika orang bereaksi kuat
Hasil seperti ini justru muncul karena OpenAI tidak dikendalikan oleh dewan yang ditunjuk investor
Tolong, hentikan saja narasi “demi kebaikan umat manusia” itu sekarang
Karena secara umum sangat kurang komunikasi yang berguna, akan lucu kalau tepat ketika semua karyawan mengundurkan diri, Sam Altman malah kembali ke OpenAI ;)