Tidak ada hubungannya dengan ketidakjujuran; itu hanya alasan resmi
Tidak banyak orang membicarakan ini, tetapi jika melihat dua tokoh kunci di sini, pada akhirnya tampaknya ini mau tidak mau bermuara pada benturan antara Altman dan Sutskever
Tweet yang diunggah Sutskever satu setengah bulan lalu juga menarik
Siaran pers yang menyebut-nyebut percakapan jujur dengan dewan kemungkinan besar hanyalah bungkus untuk menutupi ketidaksepakatan filosofis yang sudah mengakar
Mereka mungkin menemukan alasan yang bisa dipakai sebagai dasar pemecatan, tetapi alasan itu belum tentu mencerminkan alasan sebenarnya di balik pemecatan tersebut
Sam dan Ilya sudah tidak lagi melihat ke arah yang sama, dan kemungkinan mencapai puncaknya dengan gpt 4 turbo
Pada akhirnya bisa diduga bahwa Sutskever memegang semua leverage karena kemampuan teknisnya
Sam adalah pebisnis tipikal, jadi keduanya mungkin bertabrakan hebat untuk terakhir kalinya, dan Sutskever mencapai batasnya lalu menggunakan leverage itu
Karena sudah lama berada di industri teknologi, saya sudah beberapa kali melihat alur seperti ini
Jangan membuat engineer yang tak tergantikan marah. Kalau itu terjadi, mereka bisa memecat Anda. Saya tidak bermaksud memihak siapa pun
P.S.: Sebagian besar engineer, termasuk saya, bisa digantikan. Ilya mungkin tidak
Ini tidak masuk akal. Kalau sekadar perbedaan pendapat, mereka bisa menanganinya lewat jalur tenang tanpa menyebut hal substantif dalam siaran pers
Namun mereka memasukkan tuduhan yang cukup spesifik dalam pernyataan resmi, sampai-sampai bisa menanggung tanggung jawab hukum jika salah
Kalau dasar buktinya tidak 100% pasti, itu sama saja seperti memberi Sam bahan gugatan yang hampir pasti akan ia menangkan
Ada informasi baru lain yang diunggah Swisher
"More scoopage: sources tell me chief scientist Ilya Sutskever was at the center of this. Increasing tensions with Sam Altman and Greg Brockman over role and influence and he got the board on his side."
"The developer day and how the store was introduced was in inflection moment of Altman pushing too far, too fast. My bet: He’ll have a new company up by Monday."
Kedengarannya hampir persis seperti prediksi yang tepat
Sepertinya Anda melihatnya benar-benar terbalik. Dewan tidak akan melakukan hal seperti ini kecuali benar-benar perlu
Coba ingat masa lalu. Misalnya di Uber, dewan baru bergerak setelah masalah besar meledak ke publik
Ini tidak mungkin sekadar perbedaan pendapat; untuk memprosesnya begitu tergesa-gesa sampai mempertaruhkan perusahaan bernilai puluhan miliar dolar, harus ada pelanggaran finansial, etis, atau sosial yang serius
Kalau benar-benar hanya soal tidak melihat ke arah yang sama, mengapa siaran pers menulis bahwa Sam “tidak secara konsisten jujur dalam komunikasinya”?
Kalau pada dasarnya ini ketidaksepakatan filosofis, ungkapan itu cukup tidak perlu. Lebih baik mereka menyebut perbedaan visi masa depan saja
Ini mitos lama tentang engineer tak tergantikan dan orang berjas bodoh. Tanyakan saja kepada Wozniak
Saya rasa ia tidak percaya Apple akan ada tanpa Steve Jobs
Sam dan Ilya belakangan ini membuat pernyataan publik tentang AGI, dan tampaknya memperlihatkan ketidaksepakatan mendasar di antara keduanya
Sam berpendapat bahwa model bahasa besar saja tidak cukup untuk AGI. Kelihatannya itu benar
Ilya berpendapat bahwa arsitektur transformer, dengan beberapa modifikasi dari sisi efisiensi, sebenarnya cukup untuk AGI
Tentu saja transformer saat ini adalah komponen inti model bahasa besar, dan detailnya penting
Model masa depan bisa saja mirip dengan transformer masa kini tetapi dinamis dari sisi data pelatihan atau pengalaman. Namun kesimpulannya belum ada
Apa pun itu, fakta bahwa mereka secara terbuka berbeda pendapat tentang arah OpenAI ke depan bisa menjadi sinyal adanya masalah yang lebih dalam di internal
Itu hanya ketidaksepakatan dari sisi teknis, dan di perusahaan yang berfungsi dengan baik, hal seperti itu seharusnya selalu ada pada tingkat yang sehat di dalam kepemimpinan
Siaran pers secara harfiah mengatakan bahwa ia dipecat karena berbohong. Sudah lama sekali saya tidak melihat dewan perusahaan besar berbicara seperti ini
Pertanyaan ini punya implikasi yang sangat besar karena piagam nirlaba OpenAI
Jika Altman menghilangkan fakta agar dewan tidak bisa menilai apakah OpenAI sudah mencapai tahap AGI, atau menghalangi evaluasi yang adil itu sendiri, maka jelas ia telah menyesatkan dewan secara serius dan menghalangi dewan menjalankan tugasnya
“Itu benar”?
Tidak ada yang tahu. Namun saya akan lebih percaya pada ilmuwan yang memimpin pekerjaan itu daripada pebisnis yang punya kepentingan untuk mengatakan sebaliknya demi menghindari regulasi langsung
Ilya claims the transformer architecture, with some modification for efficiency, is actually sufficient for AGI.
Bukankah orang ini seharusnya tahu apa yang ia bicarakan? Ada paper yang menyatakan bahwa model bahasa besar tidak bisa melakukan generalisasi[0]
Siapa pun yang pernah memakai ChatGPT bisa melihat bahwa ia punya cacat
Saya tidak mengerti bagaimana orang bisa seyakin itu
Padahal ia sendiri menjelaskan bahwa dua orang cerdas bisa secara wajar berbeda pendapat tentang topik yang kompleks
Bisakah orang bisnis yang sangat pintar menjelaskan kepada insinyur ini bagaimana hal seperti ini bisa terjadi?
Kalau anggota dewan ada 6 orang dan 2 di antaranya sedang “ingin dijatuhkan”, bukankah 2 orang itu tidak boleh ikut?
Atau setidaknya, bukankah mereka harus dikecualikan dalam pemungutan suara yang menyangkut diri mereka sendiri?
Apakah 4 orang sisanya harus mengorganisasi dan berkomunikasi “secara rahasia”?
Apakah ada alasan mengapa 3 orang tidak bisa mengadakan pemungutan suara untuk menyingkirkan 1 orang, membuat mayoritas 3/5, lalu dari sana menendang semua orang satu per satu lewat pemungutan suara?
Mungkin pertanyaan bodoh, tapi saya penasaran jadi bertanya
Detailnya bergantung pada apa yang tertulis dalam anggaran dasar dan dokumen pendirian organisasi nirlaba tersebut
Sebagai 501(c)3 ada persyaratan dan batasan tertentu, tetapi bagian lain diserahkan pada apa yang ditetapkan dewan pendiri dalam dokumen untuk membentuk dan mengendalikan badan hukum itu
Biasanya dokumen semacam ini memuat ketentuan tentang bagaimana menangani pemungutan suara, suksesi, pengecualian, kelayakan, dan sebagainya
Berdasarkan pengalaman bekerja di dewan perusahaan komersial maupun nirlaba, besar kemungkinan para direktur eksternal melibatkan penasihat hukum luar untuk memberi nasihat
Direktur memiliki kewajiban tertentu yang wajib dijalankan, dan jika tidak dipenuhi dengan cukup itikad baik, ada pula tanggung jawab hukum yang serius
Saya punya pertanyaan yang sama, dan sekarang jadi tahu bahwa tata kelola nirlaba memang pada dasarnya seperti ini
Karena itu, ini ide buruk untuk organisasi seperti OpenAI. Kalau perusahaan komersial, pemegang saham tinggal mengganti dewannya
Yang menjadi sasaran pemungutan suara hanya Sam, dan Greg mungkin memilih untuk mendukungnya lalu dipaksa mundur belakangan dalam proses seperti pemungutan suara kedua
Can a super smart business-y person educate this engineer on how this even happens.
Ini sama sekali tidak ada hubungannya dengan sisi bisnis. OpenAI adalah organisasi nirlaba, jadi bisa melakukan apa saja yang diinginkan
Lucunya, minggu lalu saya mulai menonton Succession
Ini terasa seperti Succession versi nyata sedang berlangsung. Semua anggota dewan sedang mencari cara mengoptimalkan posisi masing-masing
Melihat ini, sepertinya Greg Brockman tidak hadir dalam rapat dewan yang mengambil keputusan itu, dan ia juga mengetahui “kabar” bahwa dirinya mundur dari dewan dengan cara yang sama seperti kita
Saya memberi tanda kutip pada “mengetahui kabar”, tetapi ungkapan yang dipakai Greg Brockman adalah “berdasarkan kabar hari ini”
Itu bisa saja berarti ia sekadar tidak setuju dengan hasilnya dan menyatakan ketidaksetujuan itu lewat pengunduran diri
Edit: bodohnya, saya sedang membaca memo yang ditulis untuk karyawan OpenAI. Di tweet-nya sendiri tertulis “setelah mengetahui kabar hari ini”. Meski begitu, kapan dan di mana ia mengetahuinya tetap masih ambigu
Dewan tidak bisa mengadakan rapat atau bertindak tanpa memberi tahu para direktur dan memberi mereka kesempatan untuk berpartisipasi
Memang. Ia mungkin tidak bisa ikut dalam pembahasan tentang pemberhentian dirinya sendiri
Bukankah dia ketua dewan? Rasanya tentu saja dia ada di rapat itu?
Yang lebih masuk akal adalah ada semacam perpecahan dan dia berada di pihak Sam
Karena dia ketua dewan, saya penasaran bagaimana anggota dewan lainnya menjalankan ini
“Greg Brockman, salah satu pendiri sekaligus presiden OpenAI, bekerja 60–100 jam per minggu, dan menghabiskan sekitar 80% waktunya untuk coding. Mantan kolega menggambarkannya sebagai orang yang bekerja paling keras di OpenAI.”
Seberapa besar kemungkinan ini karena akuisisi oleh Microsoft? Murni spekulasi, tapi mungkin Sam adalah penghalangnya
Edit: Penjelasan ini mungkin lebih masuk akal: https://news.ycombinator.com/item?id=38312868
Hal lain yang belum dipertimbangkan adalah Microsoft benar-benar suka menempelkan mereknya di banyak tempat
Axios mengatakan MS tidak mengetahuinya sebelumnya
Ini tampaknya berarti benar-benar ada perpecahan yang terjadi di OpenAI
Rasanya kita akan mendengar bahwa ada dua filosofi berbeda yang sedang berjalan
Jika diasumsikan Altman dan Brockman menginginkan pengembangan yang dipercepat, akan menarik juga jika keduanya masuk ke posisi senior di Microsoft
OpenAI mengikuti arah baru, Microsoft dan Google cepat membangun hal baru, dan para pendukung model terbuka bisa terus melakukan pekerjaan bagus, jadi kelihatannya menguntungkan semua pihak
Selain siaran pers yang canggung dan terburu-buru, kejadian ini tidak harus berakhir buruk bagi siapa pun
Saya sudah menjadi penggemar sejak mencoba API publik OpenAI yang sangat awal, tetapi pada saat yang sama saya juga sangat senang ada ekosistem yang kaya
Ada pemain komersial lain seperti Anthropic, dukungan model terbuka dari Meta dan Hugging Face, serta model kecil yang makin bagus seperti Mistral yang mudah dijalankan di rumah
Sam dan orang-orang yang terus mencuri kekayaan intelektual lalu menghancurkan seluruh industri dalam prosesnya akan pergi, sementara ilmuwan machine learning yang etis akan tetap tinggal
Sebagai pemeriksaan akal sehat, ketika Hinton meninggalkan Google, kita menyambutnya dengan mengatakan bahwa organisasi korporat tanpa wajah tidak seharusnya memimpin laju pengembangan, dan bahwa para pionir AI yang memahami risikonya harus memimpin
Jika di OpenAI benar-benar ada ketidaksepakatan serupa dan kali ini sosok seperti Hinton, yaitu Ilya, yang menang, maka itu patut dirayakan
1 komentar
Pendapat di Hacker News
Edit: ternyata benar
https://twitter.com/karaswisher/status/1725682088639119857
Tidak ada hubungannya dengan ketidakjujuran; itu hanya alasan resmi
Tidak banyak orang membicarakan ini, tetapi jika melihat dua tokoh kunci di sini, pada akhirnya tampaknya ini mau tidak mau bermuara pada benturan antara Altman dan Sutskever
Tweet yang diunggah Sutskever satu setengah bulan lalu juga menarik
https://twitter.com/ilyasut/status/1707752576077176907
Siaran pers yang menyebut-nyebut percakapan jujur dengan dewan kemungkinan besar hanyalah bungkus untuk menutupi ketidaksepakatan filosofis yang sudah mengakar
Mereka mungkin menemukan alasan yang bisa dipakai sebagai dasar pemecatan, tetapi alasan itu belum tentu mencerminkan alasan sebenarnya di balik pemecatan tersebut
Sam dan Ilya sudah tidak lagi melihat ke arah yang sama, dan kemungkinan mencapai puncaknya dengan gpt 4 turbo
Pada akhirnya bisa diduga bahwa Sutskever memegang semua leverage karena kemampuan teknisnya
Sam adalah pebisnis tipikal, jadi keduanya mungkin bertabrakan hebat untuk terakhir kalinya, dan Sutskever mencapai batasnya lalu menggunakan leverage itu
Karena sudah lama berada di industri teknologi, saya sudah beberapa kali melihat alur seperti ini
Jangan membuat engineer yang tak tergantikan marah. Kalau itu terjadi, mereka bisa memecat Anda. Saya tidak bermaksud memihak siapa pun
P.S.: Sebagian besar engineer, termasuk saya, bisa digantikan. Ilya mungkin tidak
Ini tidak masuk akal. Kalau sekadar perbedaan pendapat, mereka bisa menanganinya lewat jalur tenang tanpa menyebut hal substantif dalam siaran pers
Namun mereka memasukkan tuduhan yang cukup spesifik dalam pernyataan resmi, sampai-sampai bisa menanggung tanggung jawab hukum jika salah
Kalau dasar buktinya tidak 100% pasti, itu sama saja seperti memberi Sam bahan gugatan yang hampir pasti akan ia menangkan
Ada informasi baru lain yang diunggah Swisher
[Sumber: https://twitter.com/karaswisher/status/1725702501435941294]
Kedengarannya hampir persis seperti prediksi yang tepat
Sepertinya Anda melihatnya benar-benar terbalik. Dewan tidak akan melakukan hal seperti ini kecuali benar-benar perlu
Coba ingat masa lalu. Misalnya di Uber, dewan baru bergerak setelah masalah besar meledak ke publik
Ini tidak mungkin sekadar perbedaan pendapat; untuk memprosesnya begitu tergesa-gesa sampai mempertaruhkan perusahaan bernilai puluhan miliar dolar, harus ada pelanggaran finansial, etis, atau sosial yang serius
Kalau benar-benar hanya soal tidak melihat ke arah yang sama, mengapa siaran pers menulis bahwa Sam “tidak secara konsisten jujur dalam komunikasinya”?
Kalau pada dasarnya ini ketidaksepakatan filosofis, ungkapan itu cukup tidak perlu. Lebih baik mereka menyebut perbedaan visi masa depan saja
Ini mitos lama tentang engineer tak tergantikan dan orang berjas bodoh. Tanyakan saja kepada Wozniak
Saya rasa ia tidak percaya Apple akan ada tanpa Steve Jobs
https://twitter.com/gdb/status/1725736242137182594
Ini pembaruan dari Greg
Sam dan Ilya belakangan ini membuat pernyataan publik tentang AGI, dan tampaknya memperlihatkan ketidaksepakatan mendasar di antara keduanya
Sam berpendapat bahwa model bahasa besar saja tidak cukup untuk AGI. Kelihatannya itu benar
Ilya berpendapat bahwa arsitektur transformer, dengan beberapa modifikasi dari sisi efisiensi, sebenarnya cukup untuk AGI
Tentu saja transformer saat ini adalah komponen inti model bahasa besar, dan detailnya penting
Model masa depan bisa saja mirip dengan transformer masa kini tetapi dinamis dari sisi data pelatihan atau pengalaman. Namun kesimpulannya belum ada
Apa pun itu, fakta bahwa mereka secara terbuka berbeda pendapat tentang arah OpenAI ke depan bisa menjadi sinyal adanya masalah yang lebih dalam di internal
Itu hanya ketidaksepakatan dari sisi teknis, dan di perusahaan yang berfungsi dengan baik, hal seperti itu seharusnya selalu ada pada tingkat yang sehat di dalam kepemimpinan
Siaran pers secara harfiah mengatakan bahwa ia dipecat karena berbohong. Sudah lama sekali saya tidak melihat dewan perusahaan besar berbicara seperti ini
Pertanyaan ini punya implikasi yang sangat besar karena piagam nirlaba OpenAI
Jika Altman menghilangkan fakta agar dewan tidak bisa menilai apakah OpenAI sudah mencapai tahap AGI, atau menghalangi evaluasi yang adil itu sendiri, maka jelas ia telah menyesatkan dewan secara serius dan menghalangi dewan menjalankan tugasnya
“Itu benar”?
Tidak ada yang tahu. Namun saya akan lebih percaya pada ilmuwan yang memimpin pekerjaan itu daripada pebisnis yang punya kepentingan untuk mengatakan sebaliknya demi menghindari regulasi langsung
Bukankah orang ini seharusnya tahu apa yang ia bicarakan? Ada paper yang menyatakan bahwa model bahasa besar tidak bisa melakukan generalisasi[0]
Siapa pun yang pernah memakai ChatGPT bisa melihat bahwa ia punya cacat
[0] https://arxiv.org/abs/2309.12288
Saya tidak mengerti bagaimana orang bisa seyakin itu
Padahal ia sendiri menjelaskan bahwa dua orang cerdas bisa secara wajar berbeda pendapat tentang topik yang kompleks
Bisakah orang bisnis yang sangat pintar menjelaskan kepada insinyur ini bagaimana hal seperti ini bisa terjadi?
Kalau anggota dewan ada 6 orang dan 2 di antaranya sedang “ingin dijatuhkan”, bukankah 2 orang itu tidak boleh ikut?
Atau setidaknya, bukankah mereka harus dikecualikan dalam pemungutan suara yang menyangkut diri mereka sendiri?
Apakah 4 orang sisanya harus mengorganisasi dan berkomunikasi “secara rahasia”?
Apakah ada alasan mengapa 3 orang tidak bisa mengadakan pemungutan suara untuk menyingkirkan 1 orang, membuat mayoritas 3/5, lalu dari sana menendang semua orang satu per satu lewat pemungutan suara?
Mungkin pertanyaan bodoh, tapi saya penasaran jadi bertanya
Detailnya bergantung pada apa yang tertulis dalam anggaran dasar dan dokumen pendirian organisasi nirlaba tersebut
Sebagai 501(c)3 ada persyaratan dan batasan tertentu, tetapi bagian lain diserahkan pada apa yang ditetapkan dewan pendiri dalam dokumen untuk membentuk dan mengendalikan badan hukum itu
Biasanya dokumen semacam ini memuat ketentuan tentang bagaimana menangani pemungutan suara, suksesi, pengecualian, kelayakan, dan sebagainya
Berdasarkan pengalaman bekerja di dewan perusahaan komersial maupun nirlaba, besar kemungkinan para direktur eksternal melibatkan penasihat hukum luar untuk memberi nasihat
Direktur memiliki kewajiban tertentu yang wajib dijalankan, dan jika tidak dipenuhi dengan cukup itikad baik, ada pula tanggung jawab hukum yang serius
Saya punya pertanyaan yang sama, dan sekarang jadi tahu bahwa tata kelola nirlaba memang pada dasarnya seperti ini
Karena itu, ini ide buruk untuk organisasi seperti OpenAI. Kalau perusahaan komersial, pemegang saham tinggal mengganti dewannya
Yang menjadi sasaran pemungutan suara hanya Sam, dan Greg mungkin memilih untuk mendukungnya lalu dipaksa mundur belakangan dalam proses seperti pemungutan suara kedua
Ini sama sekali tidak ada hubungannya dengan sisi bisnis. OpenAI adalah organisasi nirlaba, jadi bisa melakukan apa saja yang diinginkan
Lucunya, minggu lalu saya mulai menonton Succession
Ini terasa seperti Succession versi nyata sedang berlangsung. Semua anggota dewan sedang mencari cara mengoptimalkan posisi masing-masing
Melihat ini, sepertinya Greg Brockman tidak hadir dalam rapat dewan yang mengambil keputusan itu, dan ia juga mengetahui “kabar” bahwa dirinya mundur dari dewan dengan cara yang sama seperti kita
Saya memberi tanda kutip pada “mengetahui kabar”, tetapi ungkapan yang dipakai Greg Brockman adalah “berdasarkan kabar hari ini”
Itu bisa saja berarti ia sekadar tidak setuju dengan hasilnya dan menyatakan ketidaksetujuan itu lewat pengunduran diri
Edit: bodohnya, saya sedang membaca memo yang ditulis untuk karyawan OpenAI. Di tweet-nya sendiri tertulis “setelah mengetahui kabar hari ini”. Meski begitu, kapan dan di mana ia mengetahuinya tetap masih ambigu
Dewan tidak bisa mengadakan rapat atau bertindak tanpa memberi tahu para direktur dan memberi mereka kesempatan untuk berpartisipasi
Memang. Ia mungkin tidak bisa ikut dalam pembahasan tentang pemberhentian dirinya sendiri
Bukankah dia ketua dewan? Rasanya tentu saja dia ada di rapat itu?
Yang lebih masuk akal adalah ada semacam perpecahan dan dia berada di pihak Sam
Karena dia ketua dewan, saya penasaran bagaimana anggota dewan lainnya menjalankan ini
Apakah Greg sudah tahu keputusan itu sebelumnya? Sepertinya tidak
Satu jam sebelum tulisan OpenAI terbit, Greg Brockman mengunggah sesuatu yang sepenuhnya seperti pekerjaan biasa: https://x.com/gdb/status/1725595967045398920
https://x.com/openai/status/1725611900262588813
Saya tidak tahu seberapa gilanya situasi ini
“Greg Brockman, salah satu pendiri sekaligus presiden OpenAI, bekerja 60–100 jam per minggu, dan menghabiskan sekitar 80% waktunya untuk coding. Mantan kolega menggambarkannya sebagai orang yang bekerja paling keras di OpenAI.”
https://time.com/collection/time100-ai/6309033/greg-brockman...
Seberapa besar kemungkinan ini karena akuisisi oleh Microsoft? Murni spekulasi, tapi mungkin Sam adalah penghalangnya
Edit: Penjelasan ini mungkin lebih masuk akal: https://news.ycombinator.com/item?id=38312868
Hal lain yang belum dipertimbangkan adalah Microsoft benar-benar suka menempelkan mereknya di banyak tempat
Ini tampaknya berarti benar-benar ada perpecahan yang terjadi di OpenAI
Rasanya kita akan mendengar bahwa ada dua filosofi berbeda yang sedang berjalan
Jika diasumsikan Altman dan Brockman menginginkan pengembangan yang dipercepat, akan menarik juga jika keduanya masuk ke posisi senior di Microsoft
OpenAI mengikuti arah baru, Microsoft dan Google cepat membangun hal baru, dan para pendukung model terbuka bisa terus melakukan pekerjaan bagus, jadi kelihatannya menguntungkan semua pihak
Selain siaran pers yang canggung dan terburu-buru, kejadian ini tidak harus berakhir buruk bagi siapa pun
Saya sudah menjadi penggemar sejak mencoba API publik OpenAI yang sangat awal, tetapi pada saat yang sama saya juga sangat senang ada ekosistem yang kaya
Ada pemain komersial lain seperti Anthropic, dukungan model terbuka dari Meta dan Hugging Face, serta model kecil yang makin bagus seperti Mistral yang mudah dijalankan di rumah
Sam dan orang-orang yang terus mencuri kekayaan intelektual lalu menghancurkan seluruh industri dalam prosesnya akan pergi, sementara ilmuwan machine learning yang etis akan tetap tinggal
Sebagai pemeriksaan akal sehat, ketika Hinton meninggalkan Google, kita menyambutnya dengan mengatakan bahwa organisasi korporat tanpa wajah tidak seharusnya memimpin laju pengembangan, dan bahwa para pionir AI yang memahami risikonya harus memimpin
Jika di OpenAI benar-benar ada ketidaksepakatan serupa dan kali ini sosok seperti Hinton, yaitu Ilya, yang menang, maka itu patut dirayakan