Seluruh situasi ini terlihat mencurigakan
Dewan sebenarnya bisa memecat Sam dengan alasan umum seperti “ketidakselarasan yang mendalam terhadap tujuan” atau “ketidakcocokan yang fundamental”, tetapi mereka justru memilih frasa seperti “tidak konsisten dalam bersikap jujur” dan “tidak lagi mempercayainya”, seolah-olah Sam yang bersalah
Mungkin memang ada alasan sah untuk pemecatan itu, atau mungkin ini sekadar pengaburan yang disengaja. Jika yang kedua, justru dewanlah yang tampak “tidak konsisten dalam bersikap jujur”. Setelah itu, sikap diam mereka dan tidak adanya koordinasi dengan para mitra strategis membuat kesan itu makin kuat
Fakta bahwa Ilya baru sekarang mengaku menyesal terasa lebih seperti “malu karena ketahuan”. Sepertinya mereka mencemarkan figur publik yang karismatik dan merancang kudeta, tetapi tidak punya rencana untuk menghadapi dampaknya https://www.newcomer.co/p/give-openais-board-some-time-the
Kemungkinan lain adalah Sutskever dimanipulasi, terseret ke dalam rencana dengan dalih yang mencurigakan, dan baru sekarang menyadarinya lalu mencoba memperbaikinya
“Ketidakselarasan yang mendalam terhadap tujuan”? Jangan-jangan GPT-5 yang memutuskan?
Bukankah Altman sedang menyiapkan startup terpisah untuk membuat akselerator AI bersama pihak Saudi?
Sekarang alasannya perlu dijelaskan dengan jelas. Untuk saat ini, teori soal Saudi tampak seperti alasan paling besar
Benar. Masuk akal jika dewan dianggap membungkus ini seperti pemecatan biasa. Kalau memang tidak ada pelanggaran nyata atau masalah lama yang muncul lagi, ini terlihat sangat tidak bertanggung jawab
Dalam surat terbuka itu tertulis bahwa OpenAI adalah perusahaan AI terdepan di dunia, para pegawainya telah mengerjakan model-model terbaik serta pekerjaan keselamatan dan tata kelola AI, dan proses pemecatan Sam Altman serta penyingkiran Greg Brockman dari dewan telah membahayakan seluruh pekerjaan dan misi tersebut
Yang paling mencolok adalah bagian yang menyebut dewan berkali-kali diminta memberikan fakta konkret atau bukti tertulis tetapi gagal melakukannya, dan bahwa mereka mengatakan kepada tim kepemimpinan, “membiarkan perusahaan hancur bisa saja sejalan dengan misi”
Apakah mereka benar-benar sudah mencapai AGI? Atau mereka mengamati sesuatu yang mengkhawatirkan?
Tafsiran Ben Thompson tampaknya yang paling meyakinkan. Meski memang agak condong kritis terhadap organisasi nirlaba https://stratechery.com/2023/openais-misalignment-and-micros...
Saya tidak tahu seberapa besar risiko AI, tetapi tetap ada nilainya jika organisasi nirlaba meneliti cara mencegahnya. Perusahaan profit kemungkinan besar tidak akan melakukannya, seperti ketika Google memecat Timnit Gebru dan Margaret Mitchell
Kalau benar-benar percaya pada misi itu, mereka seharusnya mengembangkan teknologi pengaman lalu merilisnya sebagai open source. Perusahaan seperti Microsoft, Google, Meta, dan Amazon mungkin tidak sungguh-sungguh berinvestasi pada keselamatan AI, tetapi mereka pasti tidak akan menolak memakai hasil kerja gratis orang lain. Hanya saja karena tidak menghasilkan uang, kemungkinan besar sebagian besar pegawai OpenAI akan pergi mencari syarat yang lebih baik
Orang sering lupa bahwa godaan kekuasaan lebih besar daripada uang
Organisasi nirlaba pun pada akhirnya akan ingin menjadi penjaga gerbang, lalu menawarkan solusi yang menghalangi akses publik dengan alasan “terlalu berbahaya bagi masyarakat umum”
Saya malah lebih memilih jika ini dikendalikan perusahaan profit. Idealnya, ini menjadi open source agar masyarakat umum bisa mengendalikan dan menyelaraskan AI sesuai tujuan mereka sendiri
Setuju. Diskusi soal keselamatan ini mengingatkan saya pada masa awal keamanan siber, ketika security through obscurity masih menjadi standar
Ini memang berlawanan dengan intuisi, tetapi mengurung teknologi mirip dengan upaya mengendalikan harga dan upah. Kecuali seluruh GPU dunia disita dan data center dibom, pendekatan itu tidak akan berhasil
Cara terbaik untuk menyelaraskan AGI dan ASI yang akan datang adalah membangunnya di bawah sorotan publik. Pendekatan “mari kita kurung” pada akhirnya pasti gagal
Saya melihat Timnit Gebru sebagai aktivis beracun yang merusak seluruh divisi AI/ML, dan manajemen hanya memecat orang yang menyandera divisi itu
Bagi Microsoft, ini terasa seperti Natal datang lebih awal
Apa yang tampak seperti situasi buruk terkait investasi 10 miliar dolar kini berubah menjadi perekrutan talenta inti di bidang itu, dan OpenAI mungkin bahkan harus diakuisisi Microsoft agar bisa bertahan
Melihat kekacauan total yang terungkap dalam 72 jam terakhir, minat untuk membangun sesuatu di atas OpenAI ChatGPT mungkin turun tajam. Sebaliknya, membangun di atas Azure OpenAI atau Claude 2 bisa terlihat lebih menarik
Kalau saya ingat dengan benar, OpenAI dilatih di Azure, jadi bagaimana konflik kepentingan ini akan berkembang ketika kedua pihak sama-sama kelaparan GPU?
Ungkapan “berpartisipasi” membuatnya terdengar seolah dia bukan penggerak utama, cuma peserta. Saya tidak tahu apakah itu benar, tetapi pilihan katanya menarik
Tidak mungkin menjadi penonton tak bersalah kalau ikut voting di dewan beranggotakan 6 orang untuk menyingkirkan 2 orang. Hitungannya tidak masuk akal
Lagi pula, semua media selama ini menunjuk Ilya sebagai pendorong utama kudeta
Sejujurnya ini cukup memalukan. Kalau ini benar-benar soal keyakinan, setidaknya dia seharusnya bisa bertahan satu akhir pekan penuh
Kalimat keseluruhannya ditulis dengan sangat aneh
Dia memang menyatakan penyesalan, tetapi tidak mengatakan ingin mengembalikan Altman. Dia cuma bilang ingin memperbaiki OpenAI
Dia bilang “berpartisipasi”, tetapi tidak jelas berpartisipasi dalam apa. Voting? Pesan-pesan yang beracun? Keduanya? Sebenarnya apa yang dia sesali? Sekali lagi, dia tidak mengatakan menyesali voting untuk memecat Altman
Mengapa tidak langsung saja bilang, “Saya menyesal telah memberikan suara untuk memecat Sam Altman, dan saya sedang berusaha mengembalikannya”? Mungkin karena itu bukan fakta yang sebenarnya. Tapi tetap saja dia memberi kesan seperti itu
Jika penyingkiran itu dipimpin oleh orang dari kubu Poe, kemungkinan besar ini lebih mirip menyingkirkan pesaing dari dalam ketimbang perbedaan ideologis yang nyata
Saya rasa tujuan utama tweet ini bukan menunjukkan penyesalan, melainkan menanamkan kesan bahwa dia bukan penggeraknya, hanya ikut terlibat
Apakah orang ini berada di posisi yang cukup tinggi dalam organisasi untuk tahu apa yang diinginkan Ilya?
Atau dia marah karena jutaan dolarnya sendiri jadi terancam?
“Ilya tidak peduli pada keselamatan atau kemanusiaan. Ini cuma egonya dan hasratnya akan kekuasaan yang berbalik menghantam dirinya.”
Yang ini terasa lebih meyakinkan
Aku tidak paham kenapa tiba-tiba orang-orang mengira manusia tidak termotivasi oleh uang dan kekuasaan. Lebih lucu lagi kalau menganggap “akademisi” justru lebih tidak begitu
Sebenarnya ini apaan?
Sampai sekarang aku memahami kekacauan ini sebagai masalah prinsip. Memang kotor, tapi kupikir ini perlu untuk memperbaiki budaya perusahaan yang dibayangkan kubu Ilya
Kalau mau bergerak, setidaknya harus tetap memegang posisi itu. Gara-gara tweet ini, konteks situasinya terasa 10 kali lebih buruk
Biasanya orang sulit bertahan saat jadi pusat kontroversi besar. Negativitas dan kebencian yang harus ditanggung itu luar biasa
Hampir siapa pun bisa dibuat mundur demi menghentikan itu
Sederhana. Dia bergerak, semuanya berantakan, dan sekarang dia sedang mencoba menghindari ledakannya
Kalau dia diam saja, hari ini tak akan ada yang membicarakannya karena hal-hal lain yang sudah terjadi. 2 CEO sementara dalam dua hari
Dari seluruh sandiwara badut ini, sekarang hampir cuma itu yang masuk akal
Sulit tahu apa yang sebenarnya terjadi, tapi bisa juga narasi tentang “kubu” Ilya berbeda dari kenyataannya
Bisa jadi itu halusinasi yang diciptakan oleh groupthink media sosial yang berusaha memahami situasi berdasarkan sangat sedikit bukti
Banyak yang bereaksi dengan “kalau mau bergerak, setidaknya harus tetap memegang posisi itu”, tapi aku melihatnya berbeda
Ada kalanya aku mengira sebuah keputusan itu bagus saat diambil, lalu belakangan mendapat perspektif yang lebih luas dan sadar itu keputusan yang mengerikan
Mampu mengakui kalau kita sudah kacau adalah kualitas yang hebat. Terus ngotot pada kesalahan bukan sesuatu yang patut dihormati
Sulit dipercaya orang-orang sepintar itu membuat begitu banyak keributan
Jadi teringat temanku yang bilang bahkan di pertemuan Mensa pun mereka tak bisa menyepakati poin-poin dasar soal menjalankan organisasi
Rasanya semua ini seperti acara media untuk menyerahkan keputusan dewan kepada ChatGPT selama satu dua hari
Kalau AGI yang langkah pertamanya memecat atasannya sendiri, itu lumayan sempurna
Model RLHF tidak akan pernah mengusulkan hal seperti ini. Solusi yang diajukan selalu ke arah berpegangan tangan sambil menyanyikan “Kumbaya”
Mungkin GPT-4 versi asli justru ingin memecat semua orang
Beberapa hari ini rasanya hampir setengah postingan HN yang dikirim membahas drama ini
Tidak bisa lewat DM saja? Aku tidak paham kenapa semuanya harus diumbar di Twitter
Cukup ironis bahwa orang-orang yang membangun sistem ML/AI terdepan justru sangat berakar pada egoisme dan emosi, dan dari luar nyaris tidak terlihat rasional
Mungkin mereka tanpa sengaja menciptakan AGI-GPT jahat, dan sekarang sedang bertindak seacak dan setidak terduga mungkin untuk mengacaukan kemampuan prediksinya
Dia tampaknya cuma menyesal karena semuanya berbalik menghantamnya dengan keras
Microsoft sedang menelan semua hal berharga dari OpenAI, dan dia tahu tidak akan ada apa-apa yang tersisa untuk dirinya
Dia menggertak dengan taruhan yang sangat besar lalu kalah
Ini lebih seru daripada apa pun yang dirilis Netflix, Disney, Amazon, atau Apple TV dalam beberapa tahun terakhir
Plotnya memang agak tidak realistis
Agak disayangkan karena aku tidak bisa berempati dengan satu pun tokoh utamanya
Kalau ini terasa sedramatis itu, berarti kamu belum pernah bekerja di perusahaan YC. Ini cuma terlihat diperbesar karena arti OpenAI dalam ekosistem saat ini
Apakah Netflix sudah mulai menggarap filmnya? ChatGPT bisa membantu menulis naskah dengan mencampurkan jumlah halusinasi yang pas demi membuatnya menarik
Tentu saja dia sangat menyesal, tapi sekarang sudah agak terlambat
Kabar baiknya, seperti yang akan dipahami orang-orang yang sudah lama memakai Twitch, kalau Emmett Shear memimpin, kita tidak perlu lagi takut OpenAI akan merilis fitur baru terlalu cepat
1 komentar
Opini Hacker News
Seluruh situasi ini terlihat mencurigakan
Dewan sebenarnya bisa memecat Sam dengan alasan umum seperti “ketidakselarasan yang mendalam terhadap tujuan” atau “ketidakcocokan yang fundamental”, tetapi mereka justru memilih frasa seperti “tidak konsisten dalam bersikap jujur” dan “tidak lagi mempercayainya”, seolah-olah Sam yang bersalah
Mungkin memang ada alasan sah untuk pemecatan itu, atau mungkin ini sekadar pengaburan yang disengaja. Jika yang kedua, justru dewanlah yang tampak “tidak konsisten dalam bersikap jujur”. Setelah itu, sikap diam mereka dan tidak adanya koordinasi dengan para mitra strategis membuat kesan itu makin kuat
Fakta bahwa Ilya baru sekarang mengaku menyesal terasa lebih seperti “malu karena ketahuan”. Sepertinya mereka mencemarkan figur publik yang karismatik dan merancang kudeta, tetapi tidak punya rencana untuk menghadapi dampaknya
https://www.newcomer.co/p/give-openais-board-some-time-the
Sekarang alasannya perlu dijelaskan dengan jelas. Untuk saat ini, teori soal Saudi tampak seperti alasan paling besar
Yang paling mencolok adalah bagian yang menyebut dewan berkali-kali diminta memberikan fakta konkret atau bukti tertulis tetapi gagal melakukannya, dan bahwa mereka mengatakan kepada tim kepemimpinan, “membiarkan perusahaan hancur bisa saja sejalan dengan misi”
Apakah mereka benar-benar sudah mencapai AGI? Atau mereka mengamati sesuatu yang mengkhawatirkan?
Tafsiran Ben Thompson tampaknya yang paling meyakinkan. Meski memang agak condong kritis terhadap organisasi nirlaba
https://stratechery.com/2023/openais-misalignment-and-micros...
Saya tidak tahu seberapa besar risiko AI, tetapi tetap ada nilainya jika organisasi nirlaba meneliti cara mencegahnya. Perusahaan profit kemungkinan besar tidak akan melakukannya, seperti ketika Google memecat Timnit Gebru dan Margaret Mitchell
Kalau benar-benar percaya pada misi itu, mereka seharusnya mengembangkan teknologi pengaman lalu merilisnya sebagai open source. Perusahaan seperti Microsoft, Google, Meta, dan Amazon mungkin tidak sungguh-sungguh berinvestasi pada keselamatan AI, tetapi mereka pasti tidak akan menolak memakai hasil kerja gratis orang lain. Hanya saja karena tidak menghasilkan uang, kemungkinan besar sebagian besar pegawai OpenAI akan pergi mencari syarat yang lebih baik
Organisasi nirlaba pun pada akhirnya akan ingin menjadi penjaga gerbang, lalu menawarkan solusi yang menghalangi akses publik dengan alasan “terlalu berbahaya bagi masyarakat umum”
Saya malah lebih memilih jika ini dikendalikan perusahaan profit. Idealnya, ini menjadi open source agar masyarakat umum bisa mengendalikan dan menyelaraskan AI sesuai tujuan mereka sendiri
Ini memang berlawanan dengan intuisi, tetapi mengurung teknologi mirip dengan upaya mengendalikan harga dan upah. Kecuali seluruh GPU dunia disita dan data center dibom, pendekatan itu tidak akan berhasil
Cara terbaik untuk menyelaraskan AGI dan ASI yang akan datang adalah membangunnya di bawah sorotan publik. Pendekatan “mari kita kurung” pada akhirnya pasti gagal
Bagi Microsoft, ini terasa seperti Natal datang lebih awal
Apa yang tampak seperti situasi buruk terkait investasi 10 miliar dolar kini berubah menjadi perekrutan talenta inti di bidang itu, dan OpenAI mungkin bahkan harus diakuisisi Microsoft agar bisa bertahan
Melihat kekacauan total yang terungkap dalam 72 jam terakhir, minat untuk membangun sesuatu di atas OpenAI ChatGPT mungkin turun tajam. Sebaliknya, membangun di atas Azure OpenAI atau Claude 2 bisa terlihat lebih menarik
Ungkapan “berpartisipasi” membuatnya terdengar seolah dia bukan penggerak utama, cuma peserta. Saya tidak tahu apakah itu benar, tetapi pilihan katanya menarik
Lagi pula, semua media selama ini menunjuk Ilya sebagai pendorong utama kudeta
Sejujurnya ini cukup memalukan. Kalau ini benar-benar soal keyakinan, setidaknya dia seharusnya bisa bertahan satu akhir pekan penuh
Dia memang menyatakan penyesalan, tetapi tidak mengatakan ingin mengembalikan Altman. Dia cuma bilang ingin memperbaiki OpenAI
Dia bilang “berpartisipasi”, tetapi tidak jelas berpartisipasi dalam apa. Voting? Pesan-pesan yang beracun? Keduanya? Sebenarnya apa yang dia sesali? Sekali lagi, dia tidak mengatakan menyesali voting untuk memecat Altman
Mengapa tidak langsung saja bilang, “Saya menyesal telah memberikan suara untuk memecat Sam Altman, dan saya sedang berusaha mengembalikannya”? Mungkin karena itu bukan fakta yang sebenarnya. Tapi tetap saja dia memberi kesan seperti itu
Tweet Shengjia Zhao yang telah dihapus: https://i.imgur.com/yrpXvt9.png
Atau dia marah karena jutaan dolarnya sendiri jadi terancam?
Yang ini terasa lebih meyakinkan
Aku tidak paham kenapa tiba-tiba orang-orang mengira manusia tidak termotivasi oleh uang dan kekuasaan. Lebih lucu lagi kalau menganggap “akademisi” justru lebih tidak begitu
Sebenarnya ini apaan?
Sampai sekarang aku memahami kekacauan ini sebagai masalah prinsip. Memang kotor, tapi kupikir ini perlu untuk memperbaiki budaya perusahaan yang dibayangkan kubu Ilya
Kalau mau bergerak, setidaknya harus tetap memegang posisi itu. Gara-gara tweet ini, konteks situasinya terasa 10 kali lebih buruk
Hampir siapa pun bisa dibuat mundur demi menghentikan itu
Kalau dia diam saja, hari ini tak akan ada yang membicarakannya karena hal-hal lain yang sudah terjadi. 2 CEO sementara dalam dua hari
Dari seluruh sandiwara badut ini, sekarang hampir cuma itu yang masuk akal
Bisa jadi itu halusinasi yang diciptakan oleh groupthink media sosial yang berusaha memahami situasi berdasarkan sangat sedikit bukti
Ada kalanya aku mengira sebuah keputusan itu bagus saat diambil, lalu belakangan mendapat perspektif yang lebih luas dan sadar itu keputusan yang mengerikan
Mampu mengakui kalau kita sudah kacau adalah kualitas yang hebat. Terus ngotot pada kesalahan bukan sesuatu yang patut dihormati
Jadi teringat temanku yang bilang bahkan di pertemuan Mensa pun mereka tak bisa menyepakati poin-poin dasar soal menjalankan organisasi
Rasanya semua ini seperti acara media untuk menyerahkan keputusan dewan kepada ChatGPT selama satu dua hari
Mungkin GPT-4 versi asli justru ingin memecat semua orang
Tidak bisa lewat DM saja? Aku tidak paham kenapa semuanya harus diumbar di Twitter
Cukup ironis bahwa orang-orang yang membangun sistem ML/AI terdepan justru sangat berakar pada egoisme dan emosi, dan dari luar nyaris tidak terlihat rasional
Dia tampaknya cuma menyesal karena semuanya berbalik menghantamnya dengan keras
Microsoft sedang menelan semua hal berharga dari OpenAI, dan dia tahu tidak akan ada apa-apa yang tersisa untuk dirinya
Dia menggertak dengan taruhan yang sangat besar lalu kalah
Ini lebih seru daripada apa pun yang dirilis Netflix, Disney, Amazon, atau Apple TV dalam beberapa tahun terakhir
Tentu saja dia sangat menyesal, tapi sekarang sudah agak terlambat
Kabar baiknya, seperti yang akan dipahami orang-orang yang sudah lama memakai Twitch, kalau Emmett Shear memimpin, kita tidak perlu lagi takut OpenAI akan merilis fitur baru terlalu cepat