Co-founder OpenAI John Schulman Umumkan Bergabung dengan Rival Anthropic

• Co-founder OpenAI John Schulman mengungkapkan dalam postingan X pada hari Senin bahwa ia akan meninggalkan perusahaan yang didukung Microsoft dan bergabung dengan startup AI Anthropic yang menerima investasi dari Amazon
• Schulman merupakan co-lead tim post-training OpenAI yang meningkatkan model AI untuk chatbot ChatGPT dan antarmuka pemrograman bagi pengembang pihak ketiga
• Pada bulan Juni, OpenAI mengumumkan bahwa Schulman akan bergabung dengan komite keselamatan dan keamanan yang memberi nasihat kepada dewan sebagai kepala ilmu alignment

Alasan Schulman pindah

• Dalam postingan media sosial, Schulman mengatakan bahwa "pilihan ini diambil untuk memperdalam fokus pada AI alignment dan kembali terlibat langsung dalam pekerjaan teknis"
• Ia mengatakan bahwa ia tidak pergi karena kurangnya dukungan terhadap pekerjaan baru pada topik ini di OpenAI
• "Sebaliknya, para pemimpin perusahaan sangat berkomitmen untuk berinvestasi di area ini," katanya
• Keputusan ini diambil kurang dari tiga bulan setelah OpenAI membubarkan tim superalignment yang bertujuan mengendalikan sistem AI yang melampaui kemampuan manusia
  • Jan Leike, pemimpin tim superalignment, dan co-founder Ilya Sutskever juga telah meninggalkan perusahaan tahun ini
  • Leike bergabung dengan Anthropic, dan Sutskever memulai perusahaan baru bernama Safe Superintelligence Inc.

Persaingan antara OpenAI dan Anthropic

• Sejak karyawan OpenAI mendirikan Anthropic pada 2021, dua perusahaan muda berbasis di San Francisco ini telah bersaing untuk memiliki model AI generatif paling canggih yang mampu menghasilkan teks mirip manusia
• Amazon, Google, dan Meta juga telah mengembangkan large language model

Perubahan terbaru di OpenAI

• Ketika dewan menyingkirkan Altman dari jabatan chief executive pada November lalu, karyawan termasuk Schulman melakukan protes
• Setelah itu, Sutskever dan dua anggota dewan lainnya, Tasha McCauley dan Helen Toner, mengundurkan diri
• Altman kembali menjabat dan OpenAI menerima anggota dewan tambahan

Kabar lainnya

• Co-founder sekaligus presiden OpenAI, Greg Brockman, mengumumkan bahwa ia akan mengambil cuti panjang hingga akhir tahun ini

Opini GN⁺

• Arus perpindahan talenta antara OpenAI dan Anthropic menunjukkan bahwa persaingan di industri AI semakin ketat
• Keselamatan dan alignment AI tampaknya akan menjadi semakin penting seiring kemajuan teknologi AI, dan hal ini juga terlihat dari alasan kepindahan Schulman
• Kedua perusahaan sama-sama berfokus pada pengembangan large language model, tetapi pertimbangan keselamatan dan etika juga esensial untuk pengembangan dan penerapan teknologi AI yang bertanggung jawab
• Konflik internal dan pergantian manajemen OpenAI baru-baru ini dapat dilihat sebagai contoh growing pains yang bisa dialami startup AI yang tumbuh cepat
• Perlu dicermati ke mana arah OpenAI dan Anthropic ke depan, serta peran apa yang akan mereka mainkan dalam industri AI

[xguru]

Ini sempat disebut singkat di berita lain, tetapi tampaknya cukup banyak perpindahan di level pimpinan OpenAI

• Greg Brockman, salah satu pendiri bersama OpenAI sekaligus presidennya, dijadwalkan mengambil cuti panjang hingga akhir tahun
• Peter Deng, pemimpin produk yang bergabung tahun lalu, juga keluar dari perusahaan
  • OpenAI baru-baru ini merekrut CFO dan CPO pertamanya, dan ini tampaknya memengaruhi peran Deng
• Baru-baru ini OpenAI juga memindahkan pemimpin keamanan lain, Aleksander Madry, ke peran yang berbeda
• Salah satu pendiri bersama Ilya Sutskever keluar dari perusahaan lalu mendirikan Safe Superintelligence Inc.
• Salah satu pendiri bersama Andrej Karpathy keluar dan mendirikan perusahaan AI+pendidikan EurekaLabs

[GN⁺]

Opini Hacker News

• Ini bisa menjadi kabar buruk untuk ChatGPT 5. Kepergian salah satu pendiri ke Anthropic bisa menjadi sinyal bahwa OpenAI tidak berada di posisi terdepan

  • Tingkat pembakaran dana tahunan OpenAI sekitar $5 miliar, dan jika pendanaan tidak berjalan lancar, mereka mungkin harus menerima uang dari investor yang meragukan
  • Sering kali, ketika memilih jalan yang etis dan berprinsip, seseorang juga bisa memperoleh keuntungan pribadi

• Sebagai salah satu pendiri, ini pasti keputusan yang sulit. Ia adalah kepala keselamatan tertinggi di OpenAI

  • Meski dikatakan bahwa ia tidak pergi karena kepemimpinan OpenAI tidak berkomitmen pada keselamatan, hal itu sulit dipercaya
  • Menarik bahwa waktu pengumumannya bertepatan dengan cuti panjang Brockman

• Bingung dengan GPT-4o. Memang cepat, tetapi kualitasnya menurun

  • Sering memberikan jawaban yang berulang
  • Saya sempat membatalkan langganan Plus lalu berlangganan lagi, tetapi rasanya tidak sepadan
  • Penurunan kualitas yang cepat di tier gratis sangat menjengkelkan
  • Fitur "memori" dan "percakapan" hanyalah iklan
  • Gemini sudah banyak membaik
  • Claude dan Mistral tidak bisa menjalankan kode

• Perubahan di bidang AI terasa seperti ketenangan sebelum badai

  • Momen ketika situs web AI terbuka gratis pertama menjadi populer akan sangat penting
  • Industri jawaban AI bisa menjadi 10 kali lebih besar daripada industri pencarian
  • Google beroperasi selama 2 tahun tanpa monetisasi

• OpenAI memiliki 11 pendiri. Schulman adalah salah satunya

  • Schulman awalnya bukan penanggung jawab penyelarasan/keamanan AI
  • Pendiri lembaga riset AI nirlaba mungkin tidak ingin menjadi pemimpin organisasi yang kompleks
  • Keberhasilan OpenAI bergantung pada kemampuannya merekrut dan mempertahankan talenta yang tepat

• Judul yang lebih komprehensif, termasuk kepergian Greg Brockman dan Peter Deng

  • tautan

• Sementara OpenAI bergerak ke model yang berorientasi laba, Anthropic lebih sejalan dengan tujuan awal OpenAI

  • Penasaran bagaimana Anthropic membiayai operasionalnya
  • Mereka menerima investasi masing-masing $4 miliar dan $2 miliar dari Amazon dan Google

• Claude 3.5 Sonnet milik Anthropic adalah model terbaik

  • OpenAI kini berada dalam posisi mengejar ketertinggalan

• "Fokus pada penyelarasan AI" terdengar seperti "menghabiskan lebih banyak waktu dengan keluarga dan teman"

  • Penasaran apakah OpenAI diam-diam sedang mengerjakan aplikasi militer
  • Bisa juga berarti menetralkan model untuk menghindari diskusi politik

• Ada kepercayaan besar pada tim Anthropic