Sam Altman mulai menunjukkan wajah aslinya
(slate.com)- Kontroversi membesar setelah asisten suara Sky dalam demo GPT-4o dianggap mirip dengan suara Scarlett Johansson, dan OpenAI pun menghentikan penggunaannya untuk sementara
- Johansson mengatakan bahwa pada September 2023 ia menolak tawaran untuk mengisi suara ChatGPT 4.0 dari Sam Altman, lalu menerima permintaan ulang dua hari sebelum peluncuran, tetapi sistem sudah dirilis sebelum mereka sempat terhubung
- OpenAI menjelaskan bahwa Sky adalah suara alami dari aktor profesional lain, tetapi cuitan Altman yang berbunyi “her” makin memperkuat perbandingan dengan film Her
- Insiden ini, bersama gugatan hak cipta, kontrak pembatasan kritik bagi pegawai yang keluar, hengkangnya tim keselamatan, dan penyelidikan SEC, memunculkan keraguan terhadap janji transparansi Altman
- Kontroversi Sky meluas menjadi persoalan kepercayaan tentang standar OpenAI dalam memperlakukan kreator, karyawan, dan sumber data pelatihan
Awal mula kontroversi suara Sky
- OpenAI mendemonstrasikan model interaksi multimodal dengan berfokus pada asisten suara Sky dalam pengumuman GPT-4o
- Warna suara Sky memicu reaksi bahwa suaranya sangat mirip dengan Scarlett Johansson
- Johansson mengatakan dalam pernyataan yang dikirim kepada Bobby Allyn dari NPR bahwa pada September 2023 Altman menawarinya untuk mengisi suara sistem ChatGPT 4.0 saat ini
- Ia menolak tawaran tersebut karena alasan pribadi
- Sembilan bulan kemudian, teman, keluarga, dan publik mengatakan bahwa Sky terdengar sangat mirip dengannya
- Setelah mendengar demo publik, ia mengatakan merasakan “syok, kemarahan, dan ketidakpercayaan”
- Setelah itu Johansson menunjuk pengacara dan mengirim surat kepada Altman dan OpenAI, lalu mengatakan bahwa OpenAI “dengan enggan setuju” mengganti suara Sky
Penjelasan OpenAI dan Altman
- OpenAI memposting di X bahwa setelah mendengar pertanyaan seputar Sky, mereka sedang menghentikan penggunaan Sky untuk sementara
- Dalam tulisan blog, OpenAI menyatakan bahwa suara AI tidak boleh dengan sengaja meniru suara khas seorang selebritas
- Mereka mengklaim Sky bukan tiruan Scarlett Johansson, melainkan suara dari aktor profesional lain dengan gaya bicara alaminya sendiri
- Altman mengatakan kepada NPR bahwa pengisi suara Sky sudah dipilih sebelum pendekatan kepada Johansson dilakukan
- Ia mengatakan penggunaan Sky dihentikan pada produk sebagai bentuk penghormatan kepada Johansson
- Ia mengatakan kepada Johansson bahwa ia “menyesal karena tidak berkomunikasi dengan lebih baik”
Indikasi yang memperkuat perbandingan dengan Her
- Altman men-tweet kata “her” dalam proses peluncuran GPT-4o
- Ini mengingatkan pada film Her tahun 2013, di mana Johansson memerankan asisten suara mirip Siri
- Altman sebelumnya pernah menyebut Her sebagai film favoritnya
- Setelah itu, ia menulis di blog pribadinya tentang GPT-4o bahwa itu “terasa seperti AI dalam film”
- Johansson mengatakan bahwa dua hari sebelum demo ChatGPT 4.0 dirilis, Altman kembali menghubungi agennya untuk memintanya mempertimbangkan lagi
- Sebelum kedua pihak sempat terhubung, sistem tersebut sudah lebih dulu dirilis
- Nitasha Tiku dari Washington Post mengatakan bahwa dalam demo langsung OpenAI pada September 2023, ia merasa suara Sky terdengar seperti Johansson dan menanyakan kepada eksekutif terkait apakah itu disengaja
- Para eksekutif saat itu membantah bahwa hal itu disengaja
Tekanan yang mengelilingi OpenAI
- GPT-4o diperkenalkan sebagai salah satu peningkatan utama OpenAI, dan setelah peluncurannya memicu lonjakan pendapatan aplikasi mobile ChatGPT sekaligus kontroversi spam yang digunakan untuk melatih kemampuan bahasa Mandarin
- Kontroversi Johansson muncul hanya beberapa bulan setelah para aktor mencapai kesepakatan serikat pasca mogok kerja karena kekhawatiran atas dampak AI terhadap industri film
- SAG-AFTRA secara terbuka mendukung posisi Johansson terhadap OpenAI
- OpenAI telah lama dikritik karena tidak memberikan permintaan maaf atau transparansi yang memadai tentang data berskala besar yang digunakan untuk melatih dan menjalankan aplikasi seperti ChatGPT dan DALL-E 3
- Perusahaan itu pernah mengakui bahwa melatih model tanpa menggunakan buku, karya seni, artikel, dan materi berhak cipta lain dalam jumlah besar adalah “mustahil”
- Penulis dan penerbit berita telah menggugat OpenAI atas praktik tersebut
- 404 Media melaporkan bahwa OpenAI mengajukan “keluhan hak cipta” terkait penggunaan logo subreddit OpenAI
Pemecatan Altman dan hengkangnya tim keselamatan
- Mayoritas dewan OpenAI menyatakan tidak percaya kepada Altman pada November 2023 dan memecatnya secara mendadak
- Saat itu dewan menyatakan bahwa Altman “tidak secara konsisten jujur” dalam komunikasinya dengan dewan
- Setelah itu, perdebatan meluas menjadi konflik antara Altman dan para eksekutif pendukungnya, serta mereka yang khawatir terhadap pengembangan dan distribusi produk yang terlalu cepat serta potensi penyalahgunaan
- Ilya Sutskever adalah salah satu tokoh kunci dalam peristiwa November itu dan dilaporkan mempertanyakan kejujuran Altman, tetapi kemudian diketahui tidak kembali aktif ke perusahaan selama beberapa bulan
- Minggu lalu OpenAI mengumumkan kepergian Sutskever
- Jan Leike, pemimpin tim Sutskever, juga mengumumkan pengunduran dirinya beberapa jam kemudian
- Ia mengatakan bahwa selama ini ia telah lama berbeda pendapat dengan kepemimpinan OpenAI dan prioritas inti perusahaan, dan akhirnya mencapai batasnya
- Vox melaporkan bahwa sejak November, sedikitnya lima pegawai tambahan di OpenAI yang berfokus pada keselamatan telah keluar atau tersingkir
- Salah satu mantan pegawai mengatakan bahwa ia perlahan kehilangan kepercayaan pada kepemimpinan OpenAI
Kerahasiaan, kontrak keluar, dan sengketa hukum
- Vox melaporkan bahwa pegawai OpenAI harus menandatangani kontrak keluar yang sangat membatasi jika ingin mempertahankan kepemilikan saham mereka
- Kontrak itu melarang mereka mengkritik mantan tempat kerja seumur hidup
- Mereka bahkan dilarang mengakui keberadaan NDA itu sendiri
- Altman mengatakan di X bahwa ia tidak mengetahui klausul saham tersebut, sedang menulis ulang kontraknya, dan akan memperbaiki juga kontrak lama bagi mantan pegawai yang menghubunginya
- MIT Technology Review melaporkan bahwa OpenAI pada masa lalu terobsesi dengan kerahasiaan, perlindungan citra, dan menjaga loyalitas pegawai
- The Information melaporkan bahwa pada April 2024, dua pegawai OpenAI dipecat karena dugaan kebocoran informasi
- Dalam proses gugatan Authors Guild, terungkap dokumen bahwa OpenAI menghapus dua dataset berisi lebih dari 100 ribu buku terbitan yang digunakan untuk melatih model GPT awal
- Pegawai yang menyusun data tersebut sudah tidak lagi berada di OpenAI
- OpenAI menolak mengungkap riwayat data pelatihan hingga sebelum gugatan berlangsung
- Pengacara utama dalam gugatan New York Times mengirim surat ke pengadilan bahwa OpenAI menunda proses pembuktian dengan memperlambat negosiasi perintah perlindungan dan tidak segera menyerahkan informasi dasar
- SEC sedang menyelidiki komunikasi Altman terkait apakah dirinya dan pemimpin senior OpenAI lainnya menyesatkan investor
Masalah kepercayaan yang ditinggalkan insiden Sky
- Altman selama ini berbicara tentang pentingnya transparansi, mengatakan bahwa ia bersikap toleran terhadap penentang internal di OpenAI, dan juga berhubungan dengan pemerintah untuk menampilkan dirinya sebagai pengelola AI yang bertanggung jawab
- Namun, kontroversi Sky memperbesar kecurigaan bahwa pernyataan publik Altman bertentangan dengan operasi internal OpenAI, perlakuan terhadap pegawai, dan cara perusahaan menjaga kerahasiaan
- Fakta bahwa suara serupa dirilis setelah Johansson menolak telah mengguncang kepercayaan apakah OpenAI menjalankan proses pelatihan dan pemilihan suara Sky dengan itikad baik
1 komentar
Opini Hacker News
Altman mencoba membuat orang percaya bahwa ini hanyalah kesalahpahaman yang polos, tetapi sebenarnya ia tidak mengatakan demikian: “Pengisi suara Sky sudah dipilih sebelum kami menghubungi Johansson”
Kalimat ini tampaknya dimaksudkan agar terdengar seolah perusahaan tidak mencoba membuatnya terdengar mirip dengannya tanpa izin. Ini adalah kalimat yang, seperti ditulis pengacara, secara teknis benar tetapi pada kenyataannya memberi kesan yang salah, dan merupakan gaya bahasa khas untuk mencari celah. Kita tidak boleh memberi orang yang licik, mengelak, dan sengaja menipu seperti ini begitu banyak kuasa atas masa depan kita
Sam, apakah kamu ingin membayar tarif penampilannya? Biasanya orang justru ingin menghindari membayar tarif itu, jadi besar kemungkinan mereka memilih pengisi suara sebelum menghubungi Johansson
“Suara Sky bukanlah milik Scarlett Johansson, dan tidak pernah dimaksudkan untuk menyerupainya. Pengisi suara Sky sudah dipilih sebelum kami menghubungi Johansson. Sebagai bentuk penghormatan kepada Johansson, kami menghentikan penggunaan suara Sky di produk. Kami meminta maaf kepada Johansson karena tidak berkomunikasi dengan lebih baik.”
Saya meragukan apakah ini benar, tetapi setidaknya ini adalah penyangkalan yang jelas dan tidak terselubung
Ini adalah pola pikir klasik bergerak cepat dan merusak banyak hal. Bedanya, ini bertentangan langsung dengan apa yang selama ini Sam katakan tentang akan melakukannya “dengan hati-hati”, dan pada akhirnya kata-kata itu terlihat seperti tabir asap
Secara realistis, tidak ada yang akan berhenti demi berhati-hati dalam mengembangkan AGI; semuanya sedang didorong seperti perlombaan pengembangan bom atom. Sejarah menunjukkan bahwa pada akhirnya kita melaju dengan kecepatan penuh tanpa rem. ScarJo hanyalah contoh terbaru orang yang terinjak dalam proses itu, dan tampaknya pada akhirnya akan jauh lebih banyak orang yang terinjak
Ada banyak orang yang suaranya mirip Scarlett Johansson. Jika SJ tidak mau menjadi pengisi suara OpenAI, saya tidak mengerti kenapa OpenAI tidak boleh mencari dan memakai suara yang mirip
SJ tidak punya hak eksklusif atas semua suara yang mirip dengannya. Orang yang memiliki suara seperti itu juga punya hak yang sama seperti SJ untuk menghasilkan uang dari suaranya, dan nyatanya seseorang memang menggunakan hak itu. Jika membandingkan suara Sky dengan suara SJ, keduanya juga tidak sama. Kesalahan OpenAI adalah tunduk kepada SJ. Mereka seharusnya mempertahankan Sky dan menyuruh SJ enyah. Jika digugat, mereka cukup membuktikan bahwa mereka memakai pengisi suara lain dan mengajukan argumen yang sah bahwa SJ tidak memiliki hak eksklusif atas suara yang mirip
Sepertinya media membesar-besarkannya karena Scarlett terkenal. Dibandingkan biasanya, saya rasa kasus ini tidak membuat orang lebih terpancing; dari komentar-komentarnya, perasaan orang terhadap OpenAI tampaknya tidak jauh berbeda dari sebelumnya. Hanya saja sekarang semua orang punya alasan untuk mengatakan pendapat mereka pada saat yang sama. Mereka bertindak seolah perusahaan itu secara harfiah mencuri sesuatu. Keputusan OpenAI menurunkan suara Sky juga tidak membantu. Kalau tidak ada yang disembunyikan, kenapa diturunkan? Tentu jawabannya karena Scarlett adalah orang kaya yang terkenal, sehingga meski tanpa dasar pun ia bisa mengajukan gugatan yang sangat mahal terhadap OpenAI. Namun tetap saja OpenAI seharusnya menanggung biaya itu, dan sekarang mereka terlihat seperti ketahuan memasukkan tangan ke stoples kue. Padahal tidak ada yang bisa mengatakan dengan tepat kue mana yang dicuri
Saya penasaran berapa lama thread ini akan bertahan di HN
Seberapa besar pengaruh @sama di sini akhir-akhir ini? Sebagai catatan, saya tidak pernah terkesan olehnya. Selain mengambil kredit atas kerja hebat para ilmuwan AI dan engineer OpenAI, saya tidak tahu satu pun hal penting yang benar-benar ia lakukan atau buat. Perusahaan itu terasa seperti sarana untuk ambisi dan warisannya, tidak lebih dari itu
Pernyataan Scarlett Johansson terkait suara “Sky” OpenAI - https://news.ycombinator.com/item?id=40421225 - Mei 2024, 970 komentar
Jan Leike mengundurkan diri dari OpenAI - https://news.ycombinator.com/item?id=40363273 - Mei 2024, 391 komentar
Ilya Sutskever meninggalkan OpenAI - https://news.ycombinator.com/item?id=40361128 - Mei 2024, 780 komentar
Tambahan mantan karyawan OpenAI: mengapa para mantan karyawan tidak bisa bicara? - https://news.ycombinator.com/item?id=40393121 - Mei 2024, 961 komentar
Semuanya thread raksasa. Kadang di HN suatu topik lebih dulu dibahas besar-besaran, lalu seorang jurnalis melihatnya dan menulis artikel, lalu pengguna mengirimkan artikel itu lagi sehingga lahir thread HN lain. Loop umpan balik semacam itu tidak diperlukan. Jika konten berulang kurang menghibur, pikiran cenderung mengompensasinya dengan amarah (https://hn.algolia.com/?dateRange=all&page=0&prefix=true&sort=byDate&type=comment&query=mind%20amuse%20by:dang), dan thread-thread sebelumnya juga sudah cukup marah dan repetitif. Pengaruh @sama adalah 0. Bahkan saat memimpin YC, ia tidak pernah meminta perubahan apa pun terkait HN, dan setelah itu apalagi. Sebagai catatan, Sam-lah yang memposting https://www.ycombinator.com/blog/two-hn-announcements/. Secara pribadi, saya ingat sudah mendengar komentar semacam ini tentang Sam sejak masa Loopt. Saya punya hipotesis bahwa pujian publik pg yang sangat besar terhadapnya memicu perasaan “kenapa orang itu, bukan saya?” pada para pembaca. Ironisnya, semakin banyak yang dicapai Sam, semakin besar keluhannya. Memimpin OpenAI di tengah boom teknologi terbesar sejak iPhone jelas merupakan hal besar. Rasanya keluhan seperti ini akan tetap berlanjut meskipun Sam menyatukan gravitasi dengan teori kuantum, menengahi perdamaian Timur Tengah, dan menyembuhkan kanker. Ini bukan berdasarkan pencapaian objektif atau ketiadaannya, melainkan tampak seperti semacam fenomena tingkat kedua, dan itu menarik. Setidaknya kalau Anda bukan Sam
Menarik bahwa alur yang semula membahas hak cipta dan lisensi bergeser menjadi “mana yang lebih baik, GPT atau Google”
Untuk semua seniman dan engineer yang berkontribusi pada pengetahuan umum: kalian sudah kalah. Semua hal yang kalian lakukan untuk membantu orang lain kini menjadi bagian dari model, dan tidak ada cara untuk memutarnya balik. Apa yang terjadi dengan serangan hak cipta yang katanya akan diajukan para seniman terhadap perusahaan AI? Rasanya seperti kejadian 100 tahun lalu
Fakta bahwa gugatan membutuhkan waktu bukanlah hal yang mengejutkan. Sampai pengadilan merumuskan isu-isu hukumnya, OpenAI dan sejenisnya bergerak di wilayah abu-abu hukum
[0]: https://www.sagaftra.org/sag-aftra-statement-regarding-scarlett-johansson-and-openai-chat-gpt-4o-%E2%80%9Csky%E2%80%9D
Seniman tidak ditentukan oleh karya masa lalu atau keluaran acak mereka, melainkan oleh sudut pandang dan kreativitas. Ini juga bukan pencerahan baru. AI tidak relevan dengan hal ini, hanya sarana untuk mencapai tujuan. Masalah sebenarnya adalah hukum, sisanya berlebihan
Apakah ada orang lain yang merasa seluruh kejadian ini terlalu dibesar-besarkan? Saya benar-benar tidak paham dengan reaksi keras dari industri teknologi soal masalah ini
Sam Altman mencoba sesuatu, ScarJo mengajukan gugatan, dan ChatGPT menurunkan suaranya. Itu saja. Sistemnya berjalan sebagaimana mestinya. Tapi sulit dipahami kalau dari sini ia disebut orang yang buruk. Ini jauh dari situasi seperti #MeToo. Dia aktris Hollywood yang kaya dan terkenal, dan dia akan baik-baik saja
Bagaimana kalau AI dikeluarkan dari persamaan. Apakah pengisi suara A, yang mengisi suara Sky, tidak boleh melakukan pekerjaan suara apa pun hanya karena terdengar terlalu mirip dengan SJ?
Misalkan studio yang membuat film Her ingin membuat Her 2, tetapi SJ menolak pekerjaan suaranya. Lalu apakah mereka tidak boleh mempekerjakan A untuk mengisi suaranya? Kalau studio itu bertanya lagi kepada SJ tetapi ia tetap menolak, lalu mereka membuat filmnya bersama A, apakah itu tidak sopan? Saya ingin tahu di mana orang-orang menarik garis batasnya
Aktor tidak tampil dalam film tanpa kontrak terperinci, jadi aturan umum belum tentu berlaku persis dalam situasi itu. Para pembuat Her mungkin memiliki hak untuk menggunakan citra SJ dalam materi terkait. Bagaimanapun, jika mereka membuat sekuel dengan suara yang mirip, pengisi suaranya bukan “A” anonim, melainkan akan dicantumkan namanya di kredit, dan tidak akan ada kebingungan soal suara siapa itu
Kemungkinan besar ada ketentuan kontrak antara studio dan Scarlett Johansson tentang apa yang harus dilakukan jika ia tidak ingin tampil di sekuel. Tidak ada kontrak seperti itu antara OpenAI dan Scarlett Johansson
Mereka mempekerjakan pengisi suara untuk suara Sky
Kalau OpenAI kalah, apakah pengisi suara ini jadi tidak boleh bekerja lagi hanya karena kebetulan punya suara yang mirip dengan aktor lain? Apakah pengisi suara Sky juga bisa menggugat film yang dibintangi Johansson dengan alasan Johansson meniru suaranya?
Pelanggaran hak publisitas bukan sekadar kemiripan suara
Ini mungkin terdengar seperti pencemaran nama baik, tetapi apakah ada orang lain yang merasa Sam Altman makin menuju bencana reputasi yang secara konyol dekat dengan Sam Bankman-Fried? Saya juga beberapa kali melihat pandangan seperti ini di Twitter/X
Ada rasa ngeri seolah adegan “tidak setuju” dari Ghost in the Shell sedang terjadi di dunia nyata
https://getyarn.io/yarn-clip/e913bd02-2582-4258-819f-2d5a00b1db6d