Semua komentar: thread ini memiliki lebih dari 1800 komentar, dan jika ingin membaca semuanya, Anda bisa mengeklik 'More' di bagian bawah setiap halaman atau menggunakan tautan yang disediakan.
Jika OpenAI tetap menjadi organisasi nirlaba, anggota dewan dari Microsoft memiliki kewajiban hukum untuk memajukan misi amal, bukan kebutuhan bisnis Microsoft, dan ini dapat menimbulkan konflik kepentingan yang jelas. Diperkirakan IRS tidak akan menyukai susunan seperti ini.
Dengan Sam Altman kembali sebagai CEO, ini bisa menjadi bukti bahwa dewan OpenAI telah kehilangan fungsinya. Dewan tidak lagi dapat menjalankan haknya untuk memecat Sam, dan Sam kini bisa bertindak sesuka hatinya. Bukan untuk menyalahkan atau salah paham terhadap tindakan Sam, tetapi ada kekhawatiran bahwa ia bisa berbohong atau bertindak tidak pantas.
Ini mengingatkan pada kasus Coca-Cola dan New Coke, yang pada akhirnya membuat Coke orisinal menjadi lebih populer. Konsumen sangat menuntut kembalinya rasa yang sudah akrab, dan beberapa wartawan berspekulasi bahwa semua ini adalah strategi publisitas.
Dalam pertarungan antara satu pengembang dan satu pebisnis, pebisnislah yang menang, dan ketika ratusan pengembang mengancam akan keluar, dewan menyerah, menunjukkan bahwa para pengembang sebenarnya memang punya kekuatan.
Ilya sudah mundur dari dewan, tetapi Adam masih tetap ada. Ini mungkin membuat sebagian orang mengernyitkan dahi, tetapi kembalinya Sam akan membawa perubahan besar di OpenAI, dan saya tidak berpikir OpenAI dalam jangka panjang akan menjadi perusahaan besar seperti Facebook atau Uber. Ada persepsi bahwa kepercayaan telah hilang.
Ada konflik antara tim Rapid Commercialization dan tim yang berpegang pada prinsip, dan ini sudah terlihat dalam tulisan-tulisan bahkan sebelum GPT-3. Hanya sebagian kecil publik yang peduli pada keselamatan AI, sementara sisanya puas dengan ChatGPT yang membantu pekerjaan rumah. Kita bisa saja menertawakan ketidaktahuan dewan, tetapi jika seseorang sungguh-sungguh menganggap ancaman superinteligensi itu serius, ada baiknya mencoba memahami tindakan mereka.
Secara pribadi saya tidak menganggap ancaman terhadap keselamatan AI sebagai sesuatu yang sangat serius, tetapi tetap perlu ada upaya untuk memahaminya. Semoga tidak akan datang hari ketika tim Helen berkata, "inilah persis hal yang dulu coba kami cegah".
Dulu ada harapan terhadap pendekatan industri swasta untuk keselamatan AI, tetapi sekarang tampaknya mustahil, dan karena lambatnya investasi negara pada litbang AI publik, semua pendekatan terhadap keselamatan AI tampak mustahil. Riset keselamatan pada model mainan akan terus berkembang, tetapi industri melihat ada batas pada apa yang bisa dipelajari tentang keselamatan tanpa riset pada model mutakhir.
Altman mengklaim bahwa struktur tata kelola OpenAI adalah mekanisme untuk memastikan prioritas pada keselamatan, tetapi laporan internal bahwa riset keselamatan dipindahkan untuk menjaga operasional ChatGPT menimbulkan kekhawatiran. Karena terungkap bahwa dewan, meski secara teknis mampu, tidak memiliki kekuatan yang cukup untuk mengelola kepentingan yang saling bertentangan, menjadi tidak jelas apakah organisasi mana pun yang memprioritaskan keselamatan, termasuk Anthropic, dapat menghindari pengaruh akselerasionisme dari para penyandang dana.
Paul Graham berkata, "kalau kembali 5 tahun lagi, Sam akan menjadi raja di pulau itu".
Ada narasi bahwa banyak VC/Microsoft menggulingkan struktur tata kelola organisasi nirlaba karena motif keuntungan, tetapi saya rasa sebenarnya tidak demikian. Alasan keputusan ini terjadi adalah karena 95% karyawan berpihak pada Sam dalam masalah ini, dan dewan sama sekali tidak menjelaskan posisi mereka. Sam, 95% karyawan, dan semua investor menentang dewan, jadi dewan memang harus kalah di sini. Karena dewan memerintah hanya untuk dirinya sendiri. Pada akhirnya hasilnya adil dan baik, dan saya masih menganggap struktur tata kelola untuk menangani persoalan AGI tetap tepat, tetapi dewan kali ini sangat tidak layak.
1 komentar
Opini Hacker News