Sam Altman Kembali sebagai CEO OpenAI, Dewan Awal Baru Dibentuk

 (openai.com)
1 poin oleh GN⁺ 2023-12-01 | 1 komentar | Bagikan ke WhatsApp
  • OpenAI menata kembali kekosongan kepemimpinan dengan mengembalikan Sam Altman sebagai CEO, serta menempatkan kembali Mira Murati sebagai CTO dan Greg Brockman sebagai President
  • Dewan awal yang baru dimulai dengan Bret Taylor sebagai ketua, Larry Summers, dan Adam D’Angelo, sementara Ilya Sutskever keluar dari dewan
  • Tugas jangka pendek perusahaan berfokus pada memajukan roadmap riset, berinvestasi pada keamanan full-stack, meningkatkan dan meluncurkan produk, mendukung pelanggan, serta memperluas dewan dan memperbaiki tata kelola
  • Microsoft akan bergabung dengan dewan baru sebagai observer tanpa hak suara, dan komite independen juga dibentuk untuk meninjau kejadian terbaru
  • Dalam pembaruan 8 Desember 2023, Bret Taylor dan Larry Summers memimpin komite pengawas peninjauan dan memilih Anjan Sahni serta Hallie B. Levin dari WilmerHale

Kembalinya kepemimpinan dan dewan awal

  • Sam Altman kembali sebagai CEO OpenAI
  • Mira Murati kembali ke peran CTO
  • Greg Brockman kembali sebagai President
  • Dewan awal yang baru terdiri dari 3 orang
    • Bret Taylor, ketua
    • Larry Summers
    • Adam D’Angelo

Ringkasan dewan sebelumnya dan tokoh-tokoh utama

  • Ilya Sutskever tidak lagi aktif di dewan
    • Altman menyatakan ia berharap tetap melanjutkan hubungan kerja dengan Ilya, dan sedang membahas cara agar ia tetap bisa melanjutkan pekerjaannya di OpenAI
  • Adam D’Angelo masuk dalam dewan awal yang baru
  • Tasha McCauley dan Helen Toner disebut sebagai sosok yang telah mengerahkan upaya besar dalam proses menemukan solusi
  • Emmett Shear dinilai memainkan peran yang penting dan konstruktif dalam mencapai hasil akhir, serta menunjukkan komitmen yang jelas terhadap keamanan AI dan keseimbangan para pemangku kepentingan

Pesan untuk karyawan, mitra, dan pelanggan

  • Altman mengatakan tim OpenAI menunjukkan daya tahan dan semangat yang kuat bahkan dalam situasi yang tidak jelas dan belum pernah terjadi sebelumnya
  • Ia menyatakan bahwa selama periode ini tidak ada satu pun karyawan yang keluar
  • OpenAI juga menyatakan tidak kehilangan satu pun pelanggan
  • Satya, Kevin, Amy, dan Brad dari Microsoft disebut sebagai mitra yang bersama-sama menetapkan prioritas yang tepat
    • Altman mengatakan kemitraan dengan Microsoft adalah pilihan yang tepat
    • Dewan baru akan mencakup Microsoft sebagai observer tanpa hak suara

Prioritas langsung OpenAI

  • Prioritas pertama adalah memajukan rencana riset dan meningkatkan investasi pada upaya keamanan full-stack
    • Altman mengatakan roadmap riset sudah jelas
    • Pekerjaan ini dijalankan bersama Mira Murati
  • Prioritas kedua adalah terus meningkatkan dan meluncurkan produk serta mendukung pelanggan
    • Menurutnya, penting agar orang memiliki kesempatan untuk merasakan dan membentuk manfaat serta kemungkinan AI
    • Ia mengatakan akan memperjelas komitmen kepada pengguna, pelanggan, mitra, dan pemerintah di seluruh dunia bersama Brad, Jason, dan Anna
  • Prioritas ketiga adalah memperluas dewan, memperbaiki struktur tata kelola, dan melakukan peninjauan independen atas kejadian terbaru
    • Bret Taylor, Larry Summers, dan Adam D’Angelo ditugaskan membangun dewan dengan perspektif yang beragam
    • Ini merupakan langkah untuk memastikan kepercayaan terhadap stabilitas OpenAI

Rencana tata kelola dari ketua dewan Bret Taylor

  • Dewan OpenAI berfokus pada penguatan tata kelola perusahaan
  • Mereka berencana membangun jajaran direksi yang berkualitas dan beragam, dengan pengalaman yang mewakili luasnya misi
    • Cakupannya meliputi teknologi, keamanan, dan kebijakan
    • Observer tanpa hak suara dari Microsoft akan ikut disertakan
  • Menstabilkan organisasi juga termasuk dalam rencana
    • Dewan membentuk komite dewan independen untuk mengawasi peninjauan kejadian terbaru
  • Mereka berencana memperbaiki struktur tata kelola agar pengguna, pelanggan, karyawan, mitra, dan anggota komunitas dapat percaya pada pertumbuhan OpenAI yang berkelanjutan

Peran ChatGPT dan OpenAI

  • Bret Taylor mengatakan OpenAI kini menjadi institusi yang lebih penting daripada sebelumnya
  • ChatGPT berperan menghadirkan kecerdasan buatan ke dalam kehidupan sehari-hari ratusan juta orang
  • Popularitas ChatGPT menempatkan manfaat dan risiko AI di pusat diskusi tentang masa depan pemerintah, bisnis, dan masyarakat
  • Dewan OpenAI menyadari bobot dari diskusi ini serta peran sentral OpenAI dalam pengembangan dan keamanan teknologi baru

Pembaruan 8 Desember 2023

  • Dewan OpenAI membentuk komite yang terdiri dari Bret Taylor dan Larry Summers untuk mengawasi peninjauan kejadian terbaru
  • Komite tersebut mewawancarai beberapa firma hukum utama untuk melakukan peninjauan
  • Pada akhirnya, mereka memilih Anjan Sahni dan Hallie B. Levin dari WilmerHale
  • Selama peninjauan berlangsung, dewan tetap melanjutkan pekerjaan berikut
    • memperkuat tata kelola perusahaan OpenAI
    • membangun dewan yang berkualitas dan beragam
    • mengawasi misi OpenAI agar kecerdasan umum buatan memberikan manfaat bagi seluruh umat manusia

Bacaan terkait

1 komentar

 
GN⁺ 2023-12-01
Komentar Hacker News

  • Masih belum jelas apa sebenarnya yang dimaksud Sam, tetapi saya rasa apa yang dikatakan Sam pada malam sebelum pemecatannya bisa jadi penyebab ketegangan
    Ia mengatakan bahwa dalam sejarah OpenAI, ia beberapa kali berada pada posisi “menyingkap tirai ketidaktahuan dan mendorong garis depan penemuan ke depan”, dan berbicara seolah apa yang sedang mereka kerjakan sekarang akan menjadi lompatan teknis terbesar
    Ia juga menjawab pertanyaan tentang hal mengejutkan apa yang akan diumumkan perusahaan tahun depan dengan mengatakan bahwa “kemampuan model akan melonjak ke tingkat yang tak diduga siapa pun”, dan bahwa perkiraan orang tentang besarnya peningkatan model tahun depan akan sangat berbeda dari perubahan yang sebenarnya

    • Sulit dibayangkan. Misalnya, pendidikan tinggi tampaknya akan butuh beberapa tahun hanya untuk mengejar model tercanggih saat ini
      Di saat yang sama, masih bisa dibayangkan. Mungkin bentuknya mirip menggunakan ChatGPT sekarang, tetapi benar-benar mampu menuntaskan pekerjaan sampai akhir. Saat ini, hampir semua yang dikerjakan dengan ChatGPT masih harus diulang lagi, jadi penghematan waktunya tidak terlalu terasa, meski itu memperluas sudut pandang
    • Jika maksudnya dewan meminta rapat pada siang hari berikutnya tepat setelah pernyataan itu, berarti hampir tidak ada waktu pertimbangan. Rasanya kecil kemungkinan begitu
      Dewan juga pasti sudah mengetahui progres yang ada, jadi sulit pula mencocokkan pernyataan publik itu sendiri dengan penilaian bahwa ia “tidak konsisten jujur”
    • Kecuali maksudnya benar-benar bisa memahami, itu tetap hanya model prediksi yang lebih akurat. Bangunkan saya kalau singularitas sudah datang
    • Ucapannya cukup ambigu sehingga bisa juga dibaca sebagai berarti hasilnya akan di bawah ekspektasi. Detektor penipu saya berbunyi

  • https://www.theverge.com/2023/11/29/23982046/sam-altman-inte...
    Wawancaranya cukup menarik. Agak lucu melihat cara politisi menghindari menjawab pertanyaan dengan alasan investigasi, tetapi dewan mengatakan dia “tidak konsisten jujur”, dan bahkan untuk pertanyaan pertama “mengapa dia dipecat?” masih belum ada jawaban yang jelas, jadi saya tidak punya pilihan selain setuju dengan penilaian awal itu
    Secara pribadi, saya tidak yakin bisa mempercayai seseorang yang hendak membuat cryptocurrency dengan fitur memindai mata semua orang

    • Adakah alasan untuk berharap Sam tahu mengapa ia dipecat? Paling bagus, ia hanya tahu apa yang diberitahukan dewan kepadanya, dan itu pun mungkin tidak berkaitan dengan motif sebenarnya

  • Masih juga belum jelas apa tuduhan terhadap Altman. Apakah soal ia terlalu meremehkan isu keselamatan? Jika itu tuduhannya dan memang ada dasarnya, saya tidak paham mengapa pemecatan itu dianggap salah, atau mengapa para karyawan ingin dia dibawa kembali

    • Kesalahan besar dewan adalah tidak bisa menjelaskan poin ini dengan jelas dan konkret. Menurut saya, masalah yang dipersoalkan dewan adalah bahwa ia tidak bertindak seperti pengelola entitas nirlaba yang seharusnya ia jalankan, melainkan bergerak demi kepentingan anak usaha berorientasi laba dan dirinya sendiri, dan kepentingan itu bertentangan dengan piagam nirlaba
      Bagian yang benar-benar kacau adalah mereka gagal menyampaikan klaim ini dengan meyakinkan, atau memang tidak mau melakukannya
    • Bahkan jika ini benar-benar soal konflik penyelarasan, yakni nirlaba versus laba, keselamatan, dan semacamnya, itu pun masih sebuah “jika” yang besar. Dewan menjalankannya dengan sangat buruk dan sepenuhnya salah menilai reaksi karyawan
      Dibanding Altman, godaan keuntungan, kekuatan untuk menjalankan keseharian secara stabil dan jelas tanpa dewan aktivis yang tertutup, terlihat batas kekuasaan dan daya persuasi mereka sebenarnya ada di mana
      Atau mungkin mereka memang sudah tahu karyawan tidak berada di pihak mereka, dan karena tak punya cara lain, berharap bisa membuat semua orang ikut dengan menyingkirkan CEO secara mendadak dan dramatis
      Kalau CEO tampak bekerja dengan baik lalu tiba-tiba dipecat tanpa alasan yang jelas, saya juga akan cukup khawatir. Jika dewan menjelaskan dasar dan buktinya, mungkin sebagian karyawan akan mau mendengarkan, tetapi itu tidak terjadi, dan sampai sekarang pun kita tidak tahu apa sebenarnya tuduhannya
      Dari luar, ini tampak seperti kudeta yang gagal, dan tidak ada penjelasan dari pihak yang mencobanya
    • “Untuk memperjelas, keputusan kami berkaitan dengan kemampuan dewan untuk menjalankan pengawasan yang efektif terhadap perusahaan, dan itulah peran serta tanggung jawab kami. Ada banyak spekulasi, tetapi keinginan untuk memperlambat laju kerja OpenAI bukanlah motivasinya.”
      https://nitter.net/hlntnr/status/1730034022737125782#m
      Ada juga latar belakang menarik yang memberi sedikit gambaran tentang apa yang mungkin terjadi: https://nitter.net/labenz/status/1727327424244023482#m
    • Bahkan jika Altman diganti dengan orang lain, operasional dan kemajuan bisa saja secara harfiah tidak berubah sama sekali, tetapi tetap tidak jelas mengapa itu tidak bisa terjadi
      Saya benar-benar bingung mengapa orang-orang bereaksi seolah Bulls memecat Michael Jordan
    • Alasan karyawan ingin membawanya kembali adalah karena dia orang yang menjanjikan akan membuat semua orang kaya

  • Dulu saya sempat saling berkirim email dengan Bret Taylor saat dia masih di Google. Ia membuat aplikasi Windows Notable yang saya pakai setiap hari untuk menulis memo, dan belakangan saya juga mulai ikut berkontribusi
    Menarik melihat perjalanan kariernya dari manajer produk Google, lalu co-CEO Salesforce, dan sekarang ketua dewan OpenAI. Ia juga pernah menjadi ketua dewan Twitter sebelum era Elon

    • Setahu saya, dia juga pencipta konsep Like. Itu diperkenalkan di FriendFeed dan kemudian dipakai Facebook

  • Saya tidak tahu bagaimana harus memahami fakta bahwa Ilya tidak lagi ada di dewan, dan bahwa Ilya juga tidak termasuk dalam “Leadership group” di pernyataan itu

    • Seperti kata Sam, tampaknya mereka masih menyelaraskan cara bekerja bersama. Setelah diskusi itu selesai, bisa jadi ia masuk ke tim kepemimpinan

  • “Saya benar-benar menantikan untuk menuntaskan pekerjaan membangun AGI yang bermanfaat bersama kalian—tim terbaik di dunia, misi terbaik di dunia.”
    Sam Altman hidup di dunia yang sangat berbeda dari dunia tempat saya tinggal

    • Semua orang harus membaca Superintelligence. OpenAI sedang melaju kencang menuju hasil yang sangat menakutkan, yang dalam sebagian besar skenario mencakup kepunahan umat manusia

  • Apakah ada yang lebih jelas soal kenapa dia awalnya dipecat?

    • Hampir tidak ada. Namun Helen Toner sempat menulis sedikit di Twitter: “Untuk memperjelas, keputusan kami berkaitan dengan kemampuan dewan untuk secara efektif mengawasi perusahaan, dan itu adalah peran serta tanggung jawab kami. Ada banyak spekulasi, tetapi keinginan untuk memperlambat laju kerja OpenAI bukanlah motivasinya.” https://twitter.com/hlntnr/status/1730034020140912901
    • Hampir tidak ada. Pasar prediksi terkait ada di sini: https://manifold.markets/sophiawisdom/why-was-sam-altman-fir...
      Karena beberapa opsi bisa dipilih sebagai jawaban benar, tampaknya total probabilitasnya tidak 100%
    • Ada rumor kebocoran terkait Q* yang beredar. Tetapi sebenarnya tidak ada yang tahu

  • Bukan bermaksud mengkritik Sam, tetapi sepertinya banyak orang tidak tahu bahwa orang yang sebenarnya membentuk visi OpenAI adalah Greg. Cukup baca blog-nya
    Greg adalah orang yang tenang dan tidak membuat drama, dan kemungkinan dia merekrut Sam karena tahu Sam adalah komunikator dan eksekutif yang hebat. Namun, tampaknya orang dengan kejeniusannya yang paling langka dan kegigihan terbesar di tim sebenarnya adalah Greg, jadi agak disayangkan melihat dia terus berhasil tetap berada di luar sorotan

    • “Greg dan saya adalah partner yang menjalankan perusahaan ini bersama. Kami belum benar-benar menemukan cara mengekspresikannya di bagan organisasi, tetapi kami akan menemukannya.”
    • Dari deskripsinya, Greg terdengar seperti mendapatkan persis apa yang dia inginkan
    • Siapa yang bilang dia ingin sorotan?

  • Sulit membaca dan mengikuti persoalan ini karena ada visi moral yang megah, dan tingkat keyakinan naif yang berbeda-beda terhadap visi itu
    Entah Ilya, Sam, atau dewan, ucapan mereka semuanya dipenuhi hal-hal seperti alignment dan manfaat bagi umat manusia
    Di sisi lain, semua pihak yang terlibat adalah pemain besar yang serius menunggangi gelombang AI, membangun moat dan monopoli, serta mencoba menciptakan AdWords atau Azure berikutnya
    Dua kosakata ini terlalu berbeda secara ekstrem sehingga sulit disatukan, dan rasanya seperti ada dua percakapan dengan premis yang sepenuhnya berbeda berlangsung pada saat yang sama. Karena itu, semua orang jadi menganggap setidaknya ada seseorang yang sepenuhnya tidak tulus
    “AI alignment” adalah topik yang sangat menarik, tetapi masalah alignment yang kurang futuristis dan lebih nyata adalah alignment antara Microsoft, OpenAI, investor lain, dan para anggota konsorsium
    Jika Ilya atau Sam dan lainnya benar-benar khawatir soal alignment superinteligensi, mereka setidaknya juga harus memberi bobot pada gagasan bahwa kita semua khawatir tentang human alignment mereka

    • Yang harus dilihat bukan kata-kata, melainkan tindakan nyata
      Dan sejujurnya sulit percaya bahwa benar-benar ada altruis sejati. Apalagi kalau dia kaya. Kalau benar-benar altruistis, seharusnya sebelum meninggal dia sudah menyerahkan seluruh hartanya. Bahkan uang yang dimasukkan ke “yayasan amal” setelah meninggal pun rasanya meragukan apakah layak diakui sebagai benar-benar tulus

  • Gara-gara kejadian ini, tim kecil kami jadi mencoba instance GPT-3.5 di Azure, dan ternyata 20 kali lebih cepat
    Tidak ada lagi permintaan server yang tak dijawab seperti yang terlalu sering kami alami di OpenAI API. Sekarang ada sesuatu yang cukup cepat dan stabil untuk benar-benar dipakai. Harganya memang lebih mahal, tetapi ya ampun, ini benar-benar berfungsi

    • Jelas orang-orang OpenAI sangat hebat, tetapi tampaknya mereka fokus pada riset dan matematika, dan kurang punya pengalaman operasional
      Sejujurnya, kemarin Azure API juga sempat tidak stabil
    • Lucu bahwa OpenAI berjalan sepenuhnya di atas Azure tetapi harganya justru lebih mahal
    • Penasaran bagaimana semua orang menggunakan Azure. Saya sendiri memakai Azure sebagai lingkungan kerja utama, tetapi buat orang yang sebelumnya lebih banyak memakai AWS, CLI, API, dan Portal Azure pasti terasa cukup berbeda dan asing, jadi mungkin menarik
      Ada juga biaya ingress dan egress, tetapi bagaimanapun juga bagi kebanyakan orang biaya AI kemungkinan akan jauh lebih besar daripada itu