Ketidakselarasan OpenAI dan Keuntungan Microsoft
(stratechery.com)- Krisis akhir pekan OpenAI yang dimulai dengan pemecatan Sam Altman dan pengunduran diri Greg Brockman berubah menjadi peluang bagi Microsoft untuk memanfaatkan talenta inti dan IP OpenAI sekaligus
- Microsoft sudah memiliki lisensi permanen yang mencakup kode sumber dan bobot model, dan selain hak akses ke teknologi pra-AGI, kini juga mendapat kemungkinan merekrut talenta
- Struktur tata kelola nirlaba OpenAI dirancang untuk memprioritaskan “AI yang bermanfaat bagi seluruh umat manusia” dibanding laba, tetapi karena biaya komputasi skala besar, struktur ini memiliki ketidakstabilan struktural akibat ketergantungan pada pendanaan Microsoft dan Azure
- ChatGPT menunjukkan potensi sebagai platform konsumen besar dengan lebih dari 100 juta pengguna mingguan dan pendapatan lebih dari 1 miliar dolar AS, tetapi juga memperbesar konflik internal antara kecepatan produkisasi dan pengendalian risiko AI
- Kendali persaingan AI bergeser ke pihak Altman dan Microsoft, memengaruhi pilihan Azure API, posisi Google dan Anthropic, serta perkembangan AI yang berpusat pada perusahaan teknologi besar
Posisi OpenAI dan Microsoft yang Berubah dalam Satu Akhir Pekan
- Pada hari Jumat, dewan yang mengendalikan organisasi nirlaba OpenAI memecat CEO saat itu, Sam Altman, dan presiden saat itu, Greg Brockman, mengundurkan diri setelah dikeluarkan dari dewan
- Sepanjang akhir pekan, rumor negosiasi kembalinya Altman terus beredar, tetapi OpenAI menunjuk mantan CEO Twitch Emmett Shear sebagai CEO
- Pada Minggu malam, Satya Nadella mengumumkan bahwa Altman dan Brockman akan bergabung dengan Microsoft “bersama rekan-rekan mereka”
- Alur ini sangat menguntungkan Microsoft
- Microsoft sudah memiliki lisensi permanen atas IP OpenAI
- Lisensi ini mencakup kode sumber dan bobot model, tetapi dalam struktur OpenAI, AGI dikecualikan dari ketentuan komersial dan lisensi IP dengan Microsoft
- Setelah pemecatan Altman dan Brockman, kemungkinan eksodus talenta OpenAI yang sebelumnya dikhawatirkan kini makin besar mengarah ke Microsoft
- Karena OpenAI selama ini bergantung pada Microsoft untuk pendanaan dan komputasi, pilihannya menjadi terbatas
- Pekerjaan AI yang dilakukan karyawan yang tetap di OpenAI dapat masuk dalam cakupan hak Microsoft karena lisensi permanen tersebut
- Jika karyawan bergabung dengan tim Altman, pekerjaan itu dilakukan langsung di dalam Microsoft
Model Nirlaba OpenAI dan Perubahan Strukturnya
- OpenAI didirikan pada 2015 sebagai “perusahaan riset kecerdasan buatan nirlaba”
- Tujuan awalnya adalah memajukan kecerdasan digital agar bermanfaat bagi seluruh umat manusia, tanpa dibatasi kebutuhan untuk menghasilkan keuntungan finansial
- Rumusan saat itu juga mencakup janji untuk membagikan rencana dan kapabilitas secara terbuka
- OpenAI memang merupakan badan nirlaba 501(c)(3), dan dokumen pengajuan ke IRS juga mencantumkan misi nirlabanya
- Seiring waktu, rumusan misinya berubah
- Dokumen 2016 memuat frasa “membagikan rencana dan kapabilitas secara terbuka”
- Dua tahun kemudian, frasa itu hilang
- Tiga tahun kemudian, tujuan “memajukan kecerdasan digital” berubah menjadi tujuan “membangun kecerdasan buatan umum”
- Pada 2018, menurut laporan Semafor, Elon Musk berupaya mengambil alih perusahaan tetapi gagal, lalu meninggalkan dewan dan juga menghentikan pembayaran biaya operasional OpenAI
- Altman, yang harus menanggung biaya komputasi skala besar, membentuk OpenAI Global, LLC, sebuah perusahaan dengan laba terbatas tempat Microsoft memiliki saham minoritas
- OpenAI Global dapat menghimpun dana dan menghasilkan laba
- Namun perjanjian operasionalnya menyatakan bahwa misi OpenAI, Inc. dan prinsip OpenAI Charter didahulukan daripada kewajiban menghasilkan laba
- Perusahaan bisa saja tidak menghasilkan laba, dan juga tidak berkewajiban menghasilkan laba
- Di tengah batasan seperti ini, Microsoft tetap menjadi investor sekaligus pelanggan OpenAI, dan mengintegrasikan teknologi OpenAI ke berbagai produk
Potensi Platform Konsumen yang Dibesarkan ChatGPT dan Konflik Internal
- ChatGPT menyebar dengan cepat setelah dirilis pada akhir November 2022
- Saat ini jumlah pengguna mingguannya lebih dari 100 juta
- Pendapatannya lebih dari 1 miliar dolar AS
- ChatGPT mengubah secara mendasar diskusi AI di perusahaan-perusahaan besar dan pemerintahan
- ChatGPT menunjukkan kemungkinan menjadi fondasi perusahaan teknologi konsumen besar yang baru
- Akuisisi pelanggan yang efisien, hal penting dalam produk konsumen, dicapai lewat dari mulut ke mulut
- Efek jaringannya tidak besar, tetapi efek dari mulut ke mulutnya sangat kuat
- Produk ini dinilai sebagai produk yang, seperti Google, begitu unggul dibanding produk lain di pasar sehingga pengguna mencari sendiri cara menggunakannya
- OpenAI mencoba menjadikannya platform
- ChatGPT plugins memiliki konsep yang kuat, tetapi UI-nya tidak berpadu dengan baik
- Kemudian, pada acara pengembang pertamanya, OpenAI mengumumkan GPTs dan kembali menjalankan upaya platformisasi
- Altman diketahui menjajaki perusahaan chip dan perangkat keras di luar OpenAI, dan ada laporan bahwa dewan tidak mengetahui hal ini
- Menurut laporan The Atlantic, pemecatan Altman adalah hasil perebutan kekuasaan antara dua kutub ideologis di dalam OpenAI
- Satu pihak adalah kelompok optimisme teknologi Silicon Valley yang mendapat energi dari komersialisasi cepat
- Pihak lain adalah kelompok yang memandang AI dapat menimbulkan risiko eksistensial bagi umat manusia dan harus dikendalikan dengan sangat hati-hati
- Peluncuran ChatGPT merusak keseimbangan antara dua kubu tersebut
- Mempercepat perlombaan menuju monetisasi produk
- Memberikan tekanan yang belum pernah terjadi sebelumnya kepada staf yang bertanggung jawab atas infrastruktur serta evaluasi dan mitigasi risiko
- Dalam email kepada karyawan pada 2019, Altman menyebut kelompok-kelompok internal ini sebagai “tribes”
Benturan antara Keputusan Dewan dan Pelaksanaan Misi
- Ada reaksi bahwa dewan OpenAI telah menghancurkan nilai yang besar, tetapi OpenAI bukan perusahaan berorientasi laba yang memiliki kewajiban fidusia kepada pemegang saham
- Piagam OpenAI menyatakan bahwa organisasi ini tidak terikat oleh kebutuhan menghasilkan keuntungan finansial
- Jika dewan menilai bahwa Altman dan kelompoknya tidak sedang membuat “kecerdasan buatan umum yang bermanfaat bagi umat manusia”, dewan memiliki wewenang untuk memecatnya
- Ketidakstabilan struktur nirlaba tampak jelas dalam transaksi dengan Microsoft
- Microsoft mempertaruhkan sebagian besar masa depannya pada kemitraan OpenAI
- Teknologi OpenAI diintegrasikan ke berbagai produk Microsoft seperti Windows, Office, dan Dynamics CRM
- Microsoft berinvestasi besar pada infrastruktur yang disesuaikan untuk OpenAI, dan juga memperkenalkan chip kustom yang disesuaikan untuk menjalankan model OpenAI
- Ketergantungan Microsoft sebesar ini pada organisasi tanpa motif laba tampak sebagai keputusan yang tidak stabil, tetapi OpenAI juga tidak memiliki modal untuk mempertahankan independensinya
- Struktur OpenAI menghalangi transaksi modal ventura tradisional, dan karena kebutuhan komputasi skala besar, OpenAI harus menyerahkan IP kepada Microsoft sebagai imbalan atas kredit Azure
- Organisasi yang dalam piagamnya mengusung pengembangan AI yang aman pada akhirnya berada dalam struktur yang menyerahkan hasil kerja dan banyak talenta penting kepada raksasa perusahaan berorientasi laba
- Struktur ini memunculkan penilaian bahwa OpenAI memiliki struktur dengan penyelarasan insentif yang tidak cocok untuk menjalankan misi yang dinyatakannya
Pertanyaan yang Tersisa tentang Alasan Pemecatan Altman
- Masih ada kemungkinan bahwa tindakan dewan didasarkan pada alasan yang sah
- Dewan OpenAI mengumumkan bahwa Altman “tidak secara konsisten jujur” dalam komunikasinya dengan dewan
- Eric Newcomer menyampaikan bahwa sebagian anggota dewan merasa komunikasi Altman tidak jujur dan sulit dipercaya, serta menilai mereka tidak dapat mengawasi perusahaan karena tidak bisa mempercayai perkataan Altman
- Newcomer menilai ada beberapa hal yang perlu dipertimbangkan
- Piagam dewan OpenAI
- Fakta bahwa para pendiri Anthropic merasa perlu meninggalkan OpenAI
- Antipati Elon Musk terhadap Altman
- Fakta bahwa proses keluarnya Altman dari Y Combinator masih agak tidak jelas
- Pilihan Altman untuk pergi ke Microsoft adalah hal yang mengejutkan
- Microsoft adalah pihak yang mempertahankan akses ke IP OpenAI
- Microsoft pada dasarnya dapat menggabungkan pendanaan dan akses GPU yang nyaris tanpa batas
- Kombinasi ini memperkuat penafsiran bahwa kekuasaan atas AI adalah motivasi utama Altman
Lanskap Persaingan AI yang Berubah
- Altman dan Microsoft kini berada di kursi pengemudi AI
- Microsoft memegang IP
- Microsoft memiliki kas dan infrastruktur
- Masalah koordinasi yang muncul dari kemitraan sebelumnya dengan OpenAI juga dapat dikurangi
- Pada saat yang sama, Microsoft tetap menjadi mitra OpenAI
- Bagi perusahaan eksternal, pilihan untuk membangun di atas Azure API menjadi lebih jelas daripada OpenAI API
- Microsoft pada dasarnya memiliki karakter kuat sebagai platform pengembang
- OpenAI adalah perusahaan yang menarik, tetapi dinilai sebagai pihak yang mungkin mereplikasi fitur atau menghentikan API lama
- Bagi pelanggan perusahaan, alasan untuk menghindari Azure karena ketergantungan pada OpenAI menjadi lebih lemah
- Dari sudut pandang pelanggan perusahaan yang menilai risiko jangka panjang, fakta bahwa Microsoft kini memiliki seluruh stack menjadi penting
- Google mungkin perlu melakukan perubahan besar
- Model terbarunya, Gemini, tertunda
- Bisnis Cloud melambat ketika pengeluaran bergeser ke AI
- Ini adalah hasil yang berlawanan dengan yang diharapkan Google
- Posisi Anthropic sebagai perusahaan independen tampak lebih tidak stabil
- Anthropic memiliki kemitraan dengan Google dan Amazon
- Namun harus bersaing dengan Microsoft yang memiliki pendanaan dan akses GPU yang praktis tanpa batas
- B Corp dapat diakuisisi jauh lebih mudah daripada organisasi nirlaba
- Dalam jangka pendek dan menengah, pandangan bahwa AI lebih dekat dengan inovasi berkelanjutan daripada inovasi disruptif makin menguat
- Karena biayanya tinggi, perusahaan-perusahaan terbesar kemungkinan akan menjadi pihak yang paling diuntungkan dan paling banyak mendistribusikannya
- Jika masalah kanal dan akuisisi pelanggan juga dipertimbangkan, keunggulan perusahaan besar menjadi makin besar
- Berkat ChatGPT, OpenAI sempat berpeluang masuk jajaran Big Five, tetapi kemungkinan itu kini mengecil
- Wawasan Nadella terletak pada fakta bahwa perusahaan besar menang bukan dengan mencipta seperti startup, melainkan dengan memanfaatkan skala untuk mengakuisisi atau mengejar dengan cepat
1 komentar
Pendapat di Hacker News
Sulit dipercaya orang-orang mendukung langkah ini
Tigris pada dasarnya sudah tamat sejak awal. Bukan hanya karena itu bisa membuat dewan direksi MSFT marah, tetapi alasan yang lebih besar adalah jika Sam menjadi eksekutif MSFT, SEC kemungkinan besar akan menangkapnya. Mungkin ia bisa sekadar menjadi investor pasif, tetapi hanya sebatas itu
Apa benar kalian berpikir karyawan OpenAI akan menyerahkan kepemilikan mereka dan menerima kompensasi saham biasa dari Microsoft sesuai jenjang jabatan, kenaikan gaji 1%, beberapa tahun tanpa bonus, serta pengurangan karyawan yang dipaksakan dewan direksi?
Sam justru akan lebih tidak berdaya terhadap dewan direksi, dan dewan direksi perusahaan senilai 3 triliun dolar akan jauh lebih menghindari risiko daripada dewan direksi OpenAI
Kemarin internet dipenuhi fanfic bahwa Satya memaksa dewan mengambil langkah tertentu, padahal sejak awal bukan itu yang terjadi. Dari sudut pandang mendapatkan hak untuk memastikan uangnya dipakai dengan benar, ia melakukan salah satu investasi terburuk dalam sejarah Silicon Valley. Menaruh 10 miliar dolar tetapi mendapat 0 hak suara, dan tidak punya kekuatan untuk mengubah hasil pemungutan suara
Pilihan terbaik mereka adalah Sam membawa mereka ke perusahaan baru di dalam Microsoft. Mereka akan mendapat ketentuan yang sama atau lebih baik, dan kemungkinan besar dalam 6 bulan mereka bisa membangun apa yang OAI miliki sekarang serta sesuatu yang membuat Ilya cukup takut hingga melakukan kudeta
Ini adalah manuver kekuasaan yang brilian dari Satya. Setelah eksodus talenta seperti ini, saya tidak melihat masih ada harapan bagi OpenAI
Jika sekarang Sam ingin membuat produk dan menghasilkan uang, dan Microsoft juga menginginkan hal yang sama, kekuasaan atas dewan tidak terlalu penting. Microsoft juga memiliki semua hak kekayaan intelektual yang dibutuhkan. Melihat siapa yang saat ini mengendalikan OpenAI, ini kesepakatan yang lebih baik daripada kepemilikan saham. Mereka secara aktif tidak berfokus pada keuntungan
Terlepas dari apakah ini hasil yang baik untuk AI atau umat manusia, Microsoft jelas menang. Selain itu, makin banyak orang yang mereka ambil dari OpenAI, makin sedikit urusan mereka dengan OpenAI, dan semuanya terinternalisasi
Sunting: Ya ampun, bahkan orang yang menyingkirkan Sam mengumumkan bahwa ia ingin mengundurkan diri jika Sam tidak kembali; ini sebenarnya apa
MS menghindari risiko dalam segala hal kecuali satu. Satu hal itu adalah menghancurkan Google. Demi itu, mereka akan membakar dunia
Para investor menyukai investasi Satya di OAI, jadi saya tidak tahu bagaimana itu bisa disebut sebagai salah satu investasi terburuk dalam sejarah Silicon Valley
Bagaimana bisa membandingkan kekhawatiran risiko MSFT dan OpenAI? Kesan saya terhadap OpenAI adalah kekhawatiran risikonya terutama terkait pengejaran laba. Dari sudut pandang bisnis, model bahasa besar punya potensi besar untuk menurunkan biaya dan melipatgandakan keuntungan
Kekhawatiran Newcomer terhadap Altman masuk akal [1]. Sulit memahami reputasi yang ia bangun sebagai CEO OpenAI bersamaan dengan kenekatan tanpa aturan yang ia tunjukkan di startup kriptonya
Microsoft tahu cara bernegosiasi di panggung besar. Mereka juga tahu cara membatasi sosok dengan kepribadian kuat
[1] https://www.newcomer.co/p/give-openais-board-some-time-the
Tip untuk karyawan yang berencana meninggalkan OpenAI: sekarang kemungkinan adalah salah satu kesempatan terbaik untuk memulai perusahaan sendiri
Jika bergabung dengan startup baru, pastikan mendapat status pendiri dan porsi ekuitas yang cukup besar. Dalam beberapa bulan ke depan, investor akan mengantre di depan pintu untuk memberi uang dengan valuasi yang tidak masuk akal; ambil saja itu dan lakukan hal yang selama ini ingin kalian lakukan. Bahkan jika gagal, perusahaan besar akan berusaha mengakuisisi dengan membayar jauh lebih besar daripada jumlah yang tidak akan pernah bisa mereka berikan lewat gaji biasa
Analisis tulisannya secara umum sangat bagus, tetapi saya tidak setuju dengan pengamatan ini
The biggest loss of all, though, is a necessary one: the myth that anything but a for-profit corporation is the right way to organize a company.Saya tidak tahu bagaimana kesimpulan itu bisa muncul dari kejadian akhir pekan ini. Tentu saja, karena tindakan dewan, kemungkinan pendapatan dan daya tarik konsumen OpenAI menjadi jauh lebih kecil tampaknya meningkat. Namun alasan OpenAI dibuat sebagai organisasi nirlaba sejak awal justru agar tujuan-tujuan seperti itu tidak menguasai perusahaan
Kesimpulan yang bisa ditarik secara sah kira-kira adalah “mitos bahwa ada cara selain badan usaha berorientasi laba yang tepat untuk mengorganisasi perusahaan berorientasi laba”, dan itu terlalu jelas
Sekarang investor tidak akan pernah menyentuh nirlaba seperti ini. Dewan yang tidak bertanggung jawab, yang bisa mendorong mayoritas perusahaan dan investor menuju pemberontakan, bagi investor tidak ubahnya bahan radioaktif
Peristiwa ini membuktikan bahwa struktur korporasi standar saham=hak suara adalah satu-satunya cara untuk membangun organisasi raksasa
OpenAI akan mempertahankan tujuannya, tetapi tidak akan mencapai apa pun. Pada akhirnya kemungkinan besar akan merosot menjadi laboratorium riset ceruk tanpa sumber daya maupun GPU untuk melakukan hal yang berarti
Misalnya, dengan satu tangan Anda membuat nirlaba yang “baik” dan “bertanggung jawab sosial”, lalu dengan tangan lain membuat badan usaha berorientasi laba, kemudian menjadikan badan usaha itu sebagai satu-satunya pemasok nirlaba, sehingga semua uang yang masuk ke nirlaba dialirkan ke sana. Dengan begitu Anda bisa menghindari banyak pajak sambil menghasilkan laba yang kokoh. Struktur seperti ini ada tak terhitung jumlahnya, dan jika dicari ada ratusan contoh
Persoalan sesungguhnya pada model bahasa besar adalah open source vs proprietari
Apakah alasannya perbedaan pandangan soal pengumuman DevDay
Saya tidak mengerti mengapa begitu banyak orang menganggap dewan di sini bersikap altruistis. Kekuasaan tanpa pengawasan seperti itu terlihat gila
Drama ini menjadi lebih intens karena sampai sekarang pun tidak ada yang benar-benar tahu mengapa keputusan itu dibuat. Jika ini nirlaba, tampaknya sangat masuk akal untuk menuntut tingkat transparansi tertentu atas keputusan seperti ini
Jika tujuannya benar-benar pengembangan AI yang “aman”, maka sekalipun tindakan akhir pekan ini dibenarkan dari sisi lain, secara objektif kini mereka berada di posisi yang lebih lemah untuk mengejar tujuan itu
Saya ingin mengganti judulnya menjadi “Kesalahan OpenAI dan pengendalian kerugian Microsoft yang luar biasa”
Saya tidak melihat Microsoft pasti berada di posisi yang lebih baik dibanding Kamis. Jika dihitung skornya:
Bahkan Microsoft kabarnya menyewa GPU dari Oracle untuk memenuhi permintaan. Itu kesepakatan dengan iblis
Satu-satunya yang bisa menyerang dengan kombinasi kemampuan komputasi potensial dan naluri bisnis adalah Amazon, tetapi mereka sudah punya bisnis sendiri. Google juga mungkin, tetapi saya tidak tahu apakah Google bersedia menanggung kerusakan reputasi karena memakai model yang bukan buatan Google
“Akhirnya pada Minggu larut malam, Satya Nadella mengumumkan lewat tweet bahwa Altman dan Brockman akan bergabung dengan Microsoft ‘bersama rekan-rekan mereka’”
Seperti yang diduga, EEE telah selesai. Ini sihir Microsoft lama. Saya harap orang-orang muda yang baru memulai karier memperhatikan ini. Semua uang yang Gates sebar untuk membeli tiket ke surga juga berasal dari taktik yang sama
Menurut saya, Microsoft baru adalah platform dari berbagai platform. Keuntungan mengalir ke platform bawah seperti Windows dan Azure, tetapi dibuat di semua lapisan seperti Office, Xbox, LinkedIn, dan pada sebagian lapisan juga dibagi dengan karyawan/mitra
Satya sebenarnya membalik wawasan Bezos, yaitu gagasan memanfaatkan skala untuk membangun platform yang juga dijual ke luar. Caranya adalah memakai sebanyak mungkin platform untuk menciptakan dan mempertahankan skala. Ini bukan hal baru; konglomerat besar 100 tahun lalu pun akan melakukannya. Hanya saja ia melakukannya secara sistematis dengan lebih sedikit melanggar aturan dibanding Amazon atau Google. Saya sungguh menghormatinya
Menyedihkan ketika ini digambarkan sebagai kemenangan atau penyelesaian yang baik bagi mereka. Selain itu semua orang menyalahkan dewan atas semua masalah, tetapi semua pihak turut mengotori tangan hingga sampai ke titik ini. Benar-benar kacau total
Ini mungkin kerugian bagi OpenAI sekaligus keuntungan bagi Microsoft, tetapi dukungan apa pun terhadap AI adalah tragedi bagi umat manusia
Segala sesuatu baik jika secukupnya, dan lewat AI kita mendorong efisiensi melewati titik yang sehat itu. AI bukan hanya bisa merampas pekerjaan kreator seperti ilustrator dan dipakai untuk pencurian identitas, tetapi juga menghilangkan hubungan saling bergantung antarmanusia
Masyarakat bertahan karena orang-orang saling membutuhkan. Orang-orang bertemu karena mereka membutuhkan satu sama lain, dan itulah yang memperkuat komunitas lokal. AI merampas hal itu dan membuat satu-satunya pihak yang kita butuhkan menjadi Big Tech seperti Microsoft dan Google serta organisasi-organisasi tanpa jiwa
Ini adalah kemerosotan menuju feodalisme. Semua orang akan membayar Big Tech untuk kebutuhan dasar hidup. Awalnya menjadi pilihan, lalu kelak menjadi keharusan seperti smartphone
Bagi laki-laki dan perempuan yang ingin hidup mandiri dari Big Tech, hal itu kini akan makin sulit, dan melalui perilaku amoral perusahaan-perusahaan seperti ini kita kehilangan rasa tentang apa artinya menjadi manusia
Tidak masalah jika saya harus membayar perusahaan raksasa demi hak menikmati kenyamanan modern. Asalkan kenyamanan itu meluas ke semakin banyak orang. Kalau itu berarti tidak ada lagi orang yang mati kelaparan, Monsanto boleh mengambil semua uang saya. Kalau itu berarti saya tidak perlu lagi melakukan pekerjaan repetitif, Microsoft boleh mengambil semua data saya
Tampaknya tahap terakhir untuk menggantikan pekerjaan kerah biru bisa jauh lebih mahal dan lebih sulit, atau bahkan mungkin mustahil, dibanding menggantikan pekerja informasi dengan AI
Apakah gambar seorang anak yang diserang teroris itu nyata atau palsu? Bagi korban itu nyata, bagi kekuasaan politik itu palsu, dan bagi perusahaan raksasa itu uang
Alat AI tampaknya mengurangi pekerjaan repetitif dan memberi lebih banyak waktu untuk kreativitas
Jika arus itu berlanjut, kreativitas niscaya akan melahirkan lebih banyak kolaborasi. Sebab kreativitas tidak bisa tumbuh subur hanya di dalam sekat yang terisolasi
Selain industri game berkualitas rendah dan industri penipuan iklan Instagram, di mana sebenarnya AI saat ini mengancam akan mengambil pekerjaan
Siapa pun yang pernah bekerja di organisasi nirlaba akan mengenali momen ketika dewan yang terlepas dari motif laba yang kadang lebih mudah dipahami bergerak sendiri
Kini yang tersisa tampaknya tinggal siapa yang berada di sisi sejarah yang benar. Pecundang sebenarnya di sini mungkin adalah AI yang etis. Mungkin ini gagasan yang tidak populer di sini, tetapi dalam komputasi dan AI, rasanya kita berada di dalam gema Revolusi Industri. Seperti ketika motif laba abad ke-19 melahirkan ketidakadilan manusia yang mendalam seperti pekerja anak serta kondisi kerja yang tidak aman dan tidak manusiawi
Tentu saja AI, seperti media sosial, bisa berdampak jauh lebih besar baik secara positif maupun negatif
Hal-hal itu sudah ada jauh sebelum industrialisasi. Sepanjang sebagian besar sejarah manusia, pendidikan pada dasarnya adalah pekerja anak
“Kerugian terbesar, tetapi juga kerugian yang diperlukan, adalah mitos bahwa selain korporasi berorientasi laba, tidak ada cara yang benar untuk mengorganisasi perusahaan”?
https://en.wikipedia.org/wiki/Robert_Bosch_Stiftung
https://en.wikipedia.org/wiki/Tata_Sons
Pelajaran yang justru lebih masuk akal tampaknya adalah bahwa Altman telah mendorong OpenAI ke situasi yang tidak kompatibel dengan tujuan nirlaba
Strukturnya adalah “yayasan amal memiliki mayoritas besar saham untuk pendanaan, tetapi tidak memiliki hak suara dan terlibat dalam tujuan kesehatan serta sosial yang tidak terkait dengan bisnis Bosch”
Ada juga contoh struktur kepemilikan Ikea, tetapi itu hanyalah struktur penghindaran pajak raksasa
“Entah Anda setuju dengan kubu Sutskever/Shear atau tidak, piagam dan tanggung jawab dewan bukanlah menghasilkan uang. Ini bukan korporasi berorientasi laba dengan kewajiban fidusia kepada pemegang saham, dan sejauh dewan percaya bahwa Altman dan kubunya tidak sedang ‘membangun kecerdasan umum buatan yang bermanfaat bagi umat manusia’, mereka berwenang memecatnya. Mereka percaya demikian, jadi mereka melakukannya”
Saya agak berbeda pendapat pada bagian ini. Mereka memang berwenang memecatnya, tetapi jika caranya meruntuhkan nilai aset terbesarnya, yaitu unit berorientasi laba, sulit mengatakan bahwa mereka bekerja dengan baik demi kepentingan nirlaba. Terutama jika ada pilihan lain yang berpotensi tersedia, seperti pengunduran diri yang dinegosiasikan atau memberi peringatan awal yang layak kepada investor
Saya pernah bekerja di startup yang diakuisisi Microsoft, dan singkatnya MS adalah perusahaan pembunuh budaya. Dinamika kami yang terbuka dan diskusi yang bebas layu di bawah selimut manajemen ala MS
Saya tidak berpikir budaya OpenAI dan MS bisa dibuat kompatibel. MS itu suram. Sangat efektif dalam memproduksikan sesuatu. Namun budaya yang mendorong inovasi mendalam tidak akan bertahan lama
Setahu saya, banyak hal sudah cukup berubah