OpenAI menghapus kata 'safely' dari misinya

• OpenAI baru-baru ini menghapus frasa 'safely' dari pernyataan misinya dan menetapkan tujuan baru bahwa kecerdasan buatan harus memberi manfaat bagi seluruh umat manusia
• Perubahan ini terjadi bersamaan dengan peralihan dari struktur nirlaba ke struktur yang berpusat pada laba, sambil menarik investasi besar dari Microsoft, SoftBank, dan lainnya
• Struktur baru memisahkan yayasan nirlaba (OpenAI Foundation) dan perusahaan manfaat publik berorientasi laba (OpenAI Group), dengan yang pertama memegang sekitar 26% saham yang kedua
• Namun, penyebutan soal keselamatan hilang dari misi, dan kedua organisasi juga tidak memiliki tanggung jawab eksplisit terkait keselamatan, sehingga memunculkan kekhawatiran melemahnya akuntabilitas dewan
• Perubahan ini dinilai sebagai kasus uji apakah AI akan memprioritaskan kepentingan masyarakat luas atau kepentingan pemegang saham

---

Perubahan misi OpenAI dan restrukturisasi

• Hingga 2023, OpenAI secara eksplisit menyatakan tujuannya sebagai “mengembangkan AI yang memberi manfaat bagi umat manusia secara aman”, tetapi dalam laporan IRS 2024 diubah menjadi “memastikan kecerdasan buatan yang memberi manfaat bagi seluruh umat manusia”
  • Frasa ‘safely’ dan ‘tanpa dibatasi oleh kebutuhan untuk menghasilkan keuntungan finansial (unconstrained by a need to generate financial return)’ sama-sama dihapus
  • Menurut laporan Platformer, 'mission alignment team' juga dibubarkan
• OpenAI masih menyebut di situs webnya soal kemajuan simultan dalam keselamatan, kapabilitas, dan dampak positif, tetapi dalam misi resminya tidak ada lagi frasa terkait keselamatan

Peralihan dari nirlaba ke laba

• OpenAI didirikan pada 2015 sebagai lembaga riset nirlaba, dengan hasil riset dipublikasikan dan disediakan tanpa royalti
• Pada 2019, di bawah kepemimpinan Sam Altman, OpenAI mendirikan anak perusahaan berorientasi laba, dan Microsoft menanam investasi awal sebesar US$1 miliar
  • Hingga 2024, total investasi kumulatif Microsoft mencapai US$13,8 miliar
• Saat penggalangan dana tambahan sebesar US$6,6 miliar pada akhir 2024, ditetapkan syarat bahwa dana itu akan berubah menjadi utang jika OpenAI tidak beralih menjadi perusahaan laba tradisional

Struktur hukum baru dan para pemangku kepentingan

• Pada Oktober 2025, melalui kesepakatan dengan jaksa agung negara bagian California dan Delaware, OpenAI direstrukturisasi menjadi public benefit corporation
  • Dipisahkan menjadi OpenAI Foundation (nirlaba) dan OpenAI Group (berorientasi laba)
  • Foundation memegang sekitar seperempat saham Group, sementara Microsoft memegang 27%
• Public benefit corporation wajib mempertimbangkan manfaat sosial dan lingkungan, tetapi keseimbangan antara laba dan kepentingan publik bergantung pada diskresi dewan
• SoftBank menyelesaikan investasi US$41 miliar pada akhir 2025, dan setelah itu sedang bernegosiasi untuk tambahan investasi US$30 miliar

Ketentuan terkait keselamatan dan keterbatasannya

• Perjanjian restrukturisasi mencakup pembentukan komite keselamatan dan keamanan, wewenang untuk menghentikan peluncuran produk, dan kendali atas komposisi dewan
  • Dewan OpenAI Group diwajibkan dalam isu terkait keselamatan untuk memprioritaskan misi dibanding kepentingan finansial
• Namun, karena misi tidak lagi secara eksplisit menyebut keselamatan, landasan hukum bagi dewan untuk benar-benar memprioritaskan keselamatan menjadi lemah
• Karena anggota dewan kedua organisasi sebagian besar sama, ada masalah bahwa fungsi pengawasan pada praktiknya saling tumpang tindih

Model alternatif dan pembahasan regulasi

• Saat Health Net beralih menjadi entitas laba pada 1992, ada kasus regulasi yang mewajibkan 80% asetnya dialihkan ke yayasan nirlaba
• Pada 2016, Philadelphia Inquirer beralih menjadi public benefit corporation yang dimiliki oleh Lenfest Institute yang nirlaba, untuk mempertahankan tujuan jurnalisme komunitas
• Sejumlah organisasi nirlaba di California berpendapat bahwa seluruh aset OpenAI seharusnya dipindahkan ke entitas nirlaba independen
• Tulisan ini menilai bahwa dewan OpenAI telah meninggalkan misi keselamatan, dan bahwa pemerintah negara bagian membiarkannya, sebagai kegagalan tata kelola

Ekspansi investasi dan penilaian pasar

• Pada awal 2026, OpenAI berpotensi menggalang hingga US$60 miliar investasi dari Amazon, Nvidia, Microsoft, dan lainnya
• Valuasi perusahaan naik dari US$300 miliar pada Maret 2025 menjadi lebih dari US$500 miliar pada Oktober 2025
• Kemungkinan IPO juga disebut, yang diperkirakan akan memperkuat tekanan untuk memaksimalkan keuntungan pemegang saham
• Dana OpenAI Foundation diperkirakan bernilai sekitar US$130 miliar, tetapi itu hanya estimasi berbasis valuasi pasar karena perusahaan belum tercatat di bursa

Makna sosial

• Perubahan misi dan restrukturisasi OpenAI dipandang sebagai kasus uji apakah perusahaan AI akan memprioritaskan kepentingan publik atau keuntungan
• Penghapusan frasa soal keselamatan dapat ditafsirkan sebagai kemunduran dalam tanggung jawab sosial dan manajemen risiko AI
• Ke depan, efektivitas model public benefit corporation dan peran pengawasan pemerintah akan menjadi isu utama

[GN⁺]

Komentar Hacker News

• Pernyataan misi resmi untuk tiap tahun bisa dilihat di data IRS 990 milik ProPublica
  Saya mengumpulkannya ke dalam halaman revisi Gist agar perubahan per tahun bisa dilihat sekilas
  Rinciannya juga saya rangkum di postingan blog saya

  • Ini lucu sekali. Mengingatkan pada adegan revisi hukum di Animal Farm — sindiran seperti saat “Semua hewan setara” diubah menjadi “Semua hewan setara, tetapi beberapa hewan lebih setara dari yang lain”
  • Terima kasih sudah benar-benar mengekstrak perubahan misi historisnya. Terutama pada 2021 tertulis “...that benefits humanity”, lalu pada 2022 ditambahkan “safely” sehingga menjadi “...that safely benefits humanity”. Namun di versi terbaru, “safely” hilang sepenuhnya dan kalimatnya juga jadi jauh lebih pendek
    Kata-kata yang dihapus mencakup responsibly, safe, technology, world, dan lainnya
  • Sangat keren bahwa Anda mengekstrak frasa dari 2016 sampai 2024 lalu memakai Claude Code untuk memanipulasi tanggal commit agar terlihat seperti repo git. Ini contoh bagus dari pengarsipan otomatis
  • Saya merasa cukup banyak tanda baca yang hilang di Gist itu
  • Sangat menarik. Saya penasaran apakah Anthropic juga punya catatan perubahan misi seperti ini

• Dalam pembaruan Preparedness Framework April 2025, item persuasion/manipulation dihapus dari kategori yang dilacak, dan itu sinyal besar
  Menurut artikel Fortune, OpenAI kini tidak lagi menilai risiko persuasi dan manipulasi sebelum peluncuran model, dan sebagai gantinya membatasinya lewat ketentuan penggunaan
  Ini pada dasarnya mendefinisikan “keamanan AI” secara sangat spesifik — AI manipulatif yang membuat orang kehilangan kemampuan memahami realitas bisa menjadi ancaman bagi umat manusia sama seperti perancangan senjata pemusnah massal

  • “Sistem yang membuat orang kehilangan pemahaman terhadap realitas”, bukankah itu memang media sosial dan teknologi iklan?
    Manusia sudah dibuat kebal terhadap teknik manipulasi selama puluhan tahun, dan sekarang skalanya serta efisiensinya hanya akan membesar. Pada akhirnya segelintir orang akan makin kaya, dan mayoritas akan makin susah
  • Inilah tujuan AI yang sebenarnya. Sensor manusia masih bisa merasa bersalah, tetapi AI akan menjalankan sensor yang diperintahkan dengan sempurna.
    Yang lebih menakutkan, profiling ala Cambridge Analytica bisa dibuat sangat personal sampai setiap orang diberi konten manipulatif yang disesuaikan khusus untuk mereka
  • Saya rasa “kehilangan pemahaman terhadap realitas” pada akhirnya adalah tanggung jawab pribadi. Jika seseorang terus-menerus tertipu dan tetap tidak mau belajar sendiri, itu akibat kemalasan

• Di versi 2024, penghapusan frasa “unconstrained by a need to generate financial return” adalah perubahan yang menentukan. Kalau itu dibuang, apa yang tersisa?

  • Yang tersisa hanya keuntungan
  • Selain itu, bagi organisasi nirlaba 501(c)(3), perubahan seperti ini bisa bermasalah secara hukum

• Menghapus kata “safely” justru terasa lebih jujur. Seperti saat Google membuang “Don’t be evil”, topeng kemunafikannya dilepas

  • Saya tidak setuju. Orang-orang juga cukup marah pada perusahaan yang terang-terangan jahat seperti Palantir atau Broadcom
  • Bahkan di tengah kepentingan yang rumit, organisasi yang bekerja dengan aman itu ada. Untuk talenta kelas dunia, setidaknya itu layak diharapkan
  • Saya melakukan riset AI di Google selama 10 tahun, dan keputusan untuk tidak merilis teknologi proto LLM ke dunia memang diambil oleh Sundar. Dia menilai dunia belum siap menanganinya

• Rasanya seperti dejavu sinis yang sama seperti saat Google membuang “Don’t be evil”

  • Sebagai gantinya berubah menjadi “Do the right thing (for the shareholders) ”

• Pertanyaan pamungkasnya adalah ini — apakah kita akan lebih dulu menikmati gadis kucing robot, atau langsung menuju Terminator?

  • Etimologi “robot” berasal dari bahasa Slavia “rabu (budak)”. Lelucon seperti ini mencerminkan pola pikir perbudakan. Perbaiki cara berpikir itu atau lenyaplah

• Misi OpenAI sejak awal memang terdengar seperti deklarasi lelucon. Mereka bilang “jika riset kami membantu pihak lain mencapai AGI maka misi kami tercapai”, lalu mengadu ke Kongres karena model open source dipakai untuk melatih model lain

• Saya tidak paham kenapa perusahaan membuat kalimat misi seperti ini. Menghapus kalimat “kami tidak akan jahat” tidak membuat mereka jadi lebih jahat, tetapi pada akhirnya hanya menyingkap kemunafikan

• Misi barunya pada dasarnya telah diganti menjadi “profitably”.
  Dulu atasan saya pernah mengurung kami seharian di ruang rapat untuk membuat kalimat misi, lalu dipajang dalam bingkai dan tidak pernah dilihat lagi. Pada akhirnya itu cuma ornamen pemasaran

• Pada Juni 2024, mantan direktur NSA Paul Nakasone bergabung ke dewan OpenAI, dan pada Oktober 2025 mereka mengumumkan izin pembuatan konten dewasa

  • Benar-benar perusahaan yang menyeramkan. Rasanya seperti gabungan kerakusan dan pengawasan
  • Tautan video terkait
  • Hasil kerja saya selama 10 tahun dipakai perusahaan-perusahaan ini untuk pelatihan tanpa izin. Kalau sampai foto telanjang saya juga diambil lalu dipakai membuat pornografi, saya bahkan tak mau membayangkan kemarahan yang akan saya rasakan