Ilya Sutskever, di “pusat” pemecatan Altman?

• Muncul laporan dari sumber bahwa chief scientist OpenAI Ilya Sutskever adalah tokoh kunci dalam gejolak internal OpenAI
• Poros konflik disebut berkaitan dengan persoalan peran dan pengaruh antara Sam Altman·Greg Brockman dan Sutskever, serta dewan direksi berpihak pada Sutskever
• Developer Day dan cara pengenalan store disebut sebagai titik balik ketika Altman dianggap mendorong terlalu cepat dan terlalu jauh
• Informasi ini didasarkan pada posting singkat Kara Swisher yang mengutip sumber, dan tidak mencakup prosedur internal yang spesifik atau proses pengambilan keputusan dewan direksi
• Swisher menambahkan perkiraan pribadinya bahwa Altman tampaknya akan mendirikan perusahaan baru pada hari Senin

---

Konflik internal seputar Sutskever

• Muncul laporan dari sumber bahwa chief scientist OpenAI Ilya Sutskever berada di pusat gejolak kali ini
• Konflik dikabarkan membesar seputar peran dan pengaruh antara Sutskever dengan Sam Altman dan Greg Brockman
• Di dalam proses ini, disebutkan pula bahwa Sutskever berhasil membuat dewan direksi berada di pihaknya

Tekanan setelah Developer Day

• Developer Day dan cara pengenalan store disebut sebagai pemicu yang membuat Altman dianggap mendorong “terlalu jauh, terlalu cepat”
• Kara Swisher memperkirakan secara pribadi bahwa Altman akan mendirikan perusahaan baru pada hari Senin

[GN⁺]

Opini Hacker News

• Hipotesis yang saya sukai mirip dengan cerita lama. Sam Altman, seperti Icarus, terbang terlalu dekat ke sumber dana raksasa Microsoft, lalu membelok dari misi awal perusahaan dan melepaskan jin yang semula ingin mereka kendalikan.
  Ternyata di dalam OpenAI tampaknya ada orang-orang yang sungguh-sungguh percaya pada visi awal itu.

  • Atau bisa jadi karena Altman sedang mencoba menggalang dana untuk startup chip AI yang akan bersaing dengan Nvidia, atau menarik investasi miliaran dolar dari SoftBank untuk perusahaan baru yang membuat perangkat keras berorientasi AI bersama Jony Ive.
    Banyak aktivitas eksternalnya saat ini bisa membuat dewan direksi gelisah, dan kalau ia tidak berbagi rencana masa depannya secara jujur, menurut saya pemecatan itu bisa dibenarkan.
  • Kalau ini benar, saya rasa saya akan punya sedikit lebih banyak kepercayaan pada umat manusia dibanding sekarang.
  • Visi awalnya cukup jelas, dan menjadi alasan yang meyakinkan untuk tidak menyimpang, sekalipun ada keuntungan komersialisasi yang sangat besar.
    Untungnya M$ tidak berhasil menguasai dewan direksi.
  • Saya rasa gerakan PR sudah dimulai. Sepertinya regulatory capture akan dibenarkan dengan cara OpenAI mengenakan persona/identitas baru, dan saya tidak percaya.
    Yang menggerakkan gunung bukanlah posisi moral, melainkan uang dan kepentingan. Tafsir optimistis seperti ini sama sekali sulit dipercaya.
    Kalau mereka benar-benar bertindak seperti ini karena posisi moral, mereka tidak akan diam selama ini tanpa motif lain.
  • Dilihat dari sudut pandang ini, semuanya masuk akal, tidak seperti VC atau para tech bro yang membingkai kejadian ini sebagai kudeta.

• Saya bertanya-tanya apakah Sam tahu ia akan kalah dalam perebutan kekuasaan ini, lalu mulai menyusun rencana pelarian dengan orang-orang yang loyal kepadanya tanpa sepengetahuan dewan.
  Bisa jadi dewan mengetahuinya lalu mengusirnya secepat mungkin agar ia tidak bisa membangun pesaing dengan sumber daya perusahaan.

  • Tidak mungkin Sam tidak punya modal reputasi untuk menggalang dana dan menarik talenta bagi pesaing. Dewan pada dasarnya telah mengambil keputusan itu untuknya.
    Kalau saya, saya hanya orang biasa yang akan berinvestasi, tidak ada kaitan lain.
    [1] https://news.ycombinator.com/item?id=35306929
  • Terlepas dari benar atau tidaknya, hipotesis ini cukup cocok dengan fakta-fakta yang saat ini diketahui.
  • Jadi pada akhirnya, apakah mereka mencoba membakar CEO dengan tuduhan yang hampir seburuk mungkin untuk melemahkan penggalangan dana Sam yang jelas-jelas akan berhasil?

• Mengeluarkan sama dan gdb karena alasan sepele seperti sekadar perbedaan strategi benar-benar tidak profesional. Pada dasarnya sama dituduh melakukan pelanggaran serius.
  Sekalipun ia terlalu agresif dalam mengomersialkan teknologi OpenAI, itu tidak cukup untuk membenarkan sirkus seperti ini.

  • Ketidaksepakatan mendasar tentang apa arti misi fundamental yang tertulis dalam anggaran dasar badan amal 501(c)(3) dalam praktik bukanlah sekadar perbedaan strategi.
    Selain itu, adanya konflik faksi seputar tujuan juga bukan berarti tidak ada tindakan konkret serius dalam konteks itu.
  • Perbedaan strategi bisa menjadi alasan utama untuk memecat eksekutif.
  • Bukankah kemungkinan besar kita belum tahu keseluruhan ceritanya?
  • Ini bukan hal sepele, melainkan misi inti perusahaan, alasan pendiriannya, alasan investor masuk, dan alasan para ilmuwan kelas dunia bekerja di sana.
    Lagi pula, awalnya mereka memang dimulai sebagai organisasi nirlaba.

• Saya penasaran seberapa besar pengaruh Hinton terhadap mantan muridnya, Sutskever. Sutskever mungkin menghormati Hinton hampir lebih dari siapa pun, dan pasti menanggapi serius penolakan keras Hinton.
  Secara pribadi, saya merasa ini disayangkan. Arus ini sekarang tampaknya benar-benar tak terelakkan, dan jika AS kehilangan posisi terdepan karena sengaja menginjak rem seperti ini, saya sama sekali tidak berpikir dunia akan lebih aman jika teknologi AI terbaik dikendalikan oleh China.

  • Saya tidak mengerti mengapa satu perusahaan dianggap menentukan apakah AS mengalahkan China dalam AI.
    Sekitar 75% penulis makalah AI yang saya baca adalah orang China; kalau benar-benar takut China unggul, itu jauh lebih menyerupai sinyal peringatan.
  • Saya tidak tahu apakah ini buruk atau baik bagi kepentingan jangka panjang umat manusia, tetapi sekarang rasanya seperti momen Klaus Fuchs.
  • Saya menerima mentah-mentah ucapan Hinton. Mungkin saja ia tersisih dari Google karena bukan setengah tahun, melainkan 5 tahun tidak menghasilkan apa-apa dengan teknologi model bahasa besar.

• Beberapa minggu lalu saya mendengar wawancara Bloomberg yang menampilkan Altman bersama seseorang dari sisi pemrograman OpenAI, dan perbedaan pendapat di antara mereka jelas, sampai-sampai pembawa acaranya menjadikannya bahan lelucon.
  Mungkin Altman memang ditakdirkan menjadi SBF berikutnya. Rasanya ia sudah terlalu banyak memelintir sesuatu sambil mengatakan kepada publik apa yang ingin mereka dengar.

  • Bisa ingat wawancara itu dan membagikan tautannya? Saya ingin menontonnya.
  • Perbedaan pendapat seperti apa?

• Sutskever: “Anda bisa menyebutnya kudeta, dan saya mengerti mengapa kata itu dipilih, tetapi saya tidak setuju. Ini adalah dewan menjalankan kewajibannya demi misi nirlaba untuk memastikan OpenAI membangun AGI yang bermanfaat bagi seluruh umat manusia.”
  Scoop: theinformation.com
  https://twitter.com/GaryMarcus/status/1725707548106580255

  • Secara realistis, hal ini bisa membuat Sutskever terlihat lebih buruk. Tidak ada yang ingin bekerja dengan orang yang menusuk dari belakang.
    Kalau ceritanya “ada perbedaan pendapat, jadi kami sepakat berpisah jalan,” mungkin lain soal, tetapi dewan mengklaim Altman berbohong. Jika ternyata alasan pemecatannya adalah perbedaan arah strategi, tidak akan ada orang yang ingin bekerja lagi dengan Sutskever. Saya sendiri pasti tidak akan mau.
    Itu pernyataan yang sangat mencemarkan nama baik terhadap seseorang yang tidak melakukan kesalahan selain perbedaan pendapat profesional.
  • Pada dasarnya ini konfirmasi, hanya ada sedikit perbedaan pendapat soal pilihan istilah untuk menggambarkannya.
  • Ada detail dari orang dalam yang tampaknya cocok dengan ini.
    https://www.reddit.com/user/Anxious_Bandicoot126/
  • Cara menangani perbedaan pendapat seperti ini sangat tidak profesional.
  • Lucunya, sejauh ini OpenAI sama sekali belum menunjukkan kemajuan yang dapat dibuktikan menuju pembangunan AGI yang sungguhan.
    ChatGPT adalah pencapaian teknis yang hebat dan berguna dalam banyak hal, tetapi tidak ada bukti bahwa memperbesar pendekatan itu akan membawa kita ke AGI. Mungkin masih dibutuhkan beberapa terobosan besar lagi.

• Mungkin ini bukan tempat yang tepat untuk menyampaikan kesan seperti ini, tetapi mengejutkan bahwa seorang ilmuwan hebat yang berprinsip setidaknya untuk saat ini berhasil mencegah ciptaannya diambil alih bersama-sama.
  Jika mendengarkan wawancara Sutskever di No Priors, kontras antara dia dan Altman tidak bisa lebih jelas lagi, dan cukup jarang pihak yang pertama mengalahkan yang kedua.

• Kalau memakai suara George Senior: karena itulah hal-hal yang penting secara global tidak boleh dijalankan sebagai nirlaba. Di organisasi nirlaba, politik selalu mengalahkan nilai nyata.

  • Tergantung apa yang dianggap sebagai nilai nyata.
    Jika nilai nyata berarti nilai finansial, mungkin benar. Namun jika nilai nyata berarti nilai ilmiah atau nilai sosial, itu tidak selalu sejalan dengan mengejar keuntungan finansial.
    Sebagai catatan, saya saat ini bekerja di lembaga riset nirlaba, dan sama sekali tidak tertarik membuat para pemegang saham menjadi lebih kaya. Jika rumor itu benar, kembalinya OpenAI ke nilai-nilai nirlaba dan mengingat kata Open dalam namanya adalah perubahan yang baik.

• Saya tidak terlalu punya gambaran Ilya Sutskever itu orang seperti apa dan apa yang ia pikirkan, jadi saya mencari wawancara terbaru. Ada wawancara di podcast No Priors dari 2 minggu lalu.
  https://www.youtube.com/watch?v=Ft0gTO2K85A
  Setidaknya menurut saya tidak ada petunjuk jelas tentang kehebohan hari ini, tetapi tetap menarik untuk didengarkan.

  • Dilihat dari wawancara ini, sepertinya sulit berharap akan ada lebih banyak keterbukaan. Ilya tampaknya menentang menjadikan model open source dengan alasan model bisa terlalu kuat.
    Untungnya tidak ada yang memintanya menciptakan roda. Orang-orang bisa saja bergerak terlalu cepat sampai membahayakan keselamatan mereka sendiri.

• Hipotesis ini sulit dipercaya karena terlihat seperti tindakan yang dilakukan tanpa banyak pikir. Sam Altman mungkin tidak bertanggung jawab dan mengambil risiko, tetapi mereka punya situasi yang luar biasa bagus.
  Bukan berarti masa-masa baik itu berkat Sam Altman, tetapi jika Anda tiba-tiba memecat salah satu figur paling menonjol dalam kelompok, membuat loyalitas pribadi masing-masing orang tersingkap, dan tanpa peringatan mengguncang harga saham Microsoft hingga membuat mereka marah, situasi bagus itu kemungkinan besar berakhir.
  Semua ini mustahil tanpa modal sangat besar dan talenta kelas dunia, dan mereka mungkin telah membuat keduanya jauh lebih sulit didapat.
  Tapi apa yang saya tahu? Jika Anda bisa meyakinkan diri sendiri bahwa dengan membuat large language model yang luar biasa besar Anda sebenarnya sedang membuat AGI, Anda juga bisa meyakinkan diri tentang berbagai ide bodoh lainnya.

  • Orang pintar pun kadang membuat keputusan bodoh. Sesederhana itu.
    Ada seorang pemuda yang mendadak menjadi sangat kaya, mungkin juga berkuasa, dan berbicara dengan pemerintah paling kuat di dunia di televisi nasional. Apakah mengherankan jika orang seperti itu menjadi agak besar kepala, lupa apa sebenarnya pekerjaannya, dan mulai berpikir bahwa OpenAI adalah dirinya sendiri, bukan semua orang yang bekerja di sana? Lalu ia harus belajar kenyataan dengan cara yang keras.
    Apa yang perlu diherankan? Ini sangat khas manusia, sama sekali tidak mengejutkan, dan selalu terjadi.
    Banyak orang di sini sulit menerima gagasan bahwa orang pintar pada dasarnya tidak istimewa, dan bahwa menjadi pintar tidak secara ajaib menghilangkan kemungkinan mereka membuat kesalahan atau bersikap buruk.
  • Jika membaca yang tersirat, Sam mungkin sedang mendorong “situasi yang luar biasa bagus” ini ke arah menghasilkan banyak uang, sementara dewan nirlaba mungkin lebih memprioritaskan tujuan lain.
  • Jika terlihat bahwa mereka memihak karyawan ketimbang dorongan CEO untuk bergerak terlalu cepat dan merusak banyak hal, itu justru mungkin membantu menarik talenta kelas dunia.
    Akan lebih menarik jika mereka merasa bisa pulang pada malam hari karena CEO tidak mencoba menerapkan Cybernet besok, melainkan menundanya sampai minggu depan.
  • Jujur saja, ini terbaca seperti Ilya menganggap dirinya Tony Stark, dan keliru mengira model bahasa yang tetap mengesankan itu sebagai sesuatu seperti setelan Iron Man.
    Itu kesombongan yang mendekati ketidaktahuan, dan kenyataannya tidak seromantis itu.
    Saya hanya berharap hal ini tidak membuat OpenAI bergerak ke arah menjadi penjaga gerbang model multimodal, atau sebaliknya membuat semua pihak lain meninggalkan OpenAI jauh di belakang seperti debu.
  • Kapan harga saham Microsoft anjlok?
    https://finance.yahoo.com/quote/MSFT/