Kasus kematian pelapor internal OpenAI yang ditemukan di apartemen San Francisco

 (mercurynews.com)
3 poin oleh GN⁺ 2024-12-14 | 1 komentar | Bagikan ke WhatsApp
  • Mantan peneliti Suchir Balaji, yang disebut sebagai calon pemberi kesaksian dan pemilik materi potensial dalam gugatan hak cipta OpenAI, ditemukan tewas di rumahnya di San Francisco pada 26 November, dan pihak berwenang menyimpulkan cara kematiannya sebagai bunuh diri
  • Sebelum meninggal, Balaji secara terbuka mengkritik bahwa OpenAI melanggar undang-undang hak cipta AS dalam proses pelatihan ChatGPT, dan bahwa penggunaan data pelatihan tersebut tidak termasuk penggunaan wajar
  • Pihak New York Times, dalam dokumen yang diajukan ke pengadilan federal pada 18 November, menyebut Balaji sebagai pemilik “unique and relevant documents” yang dapat membantu gugatan
  • Setelah ChatGPT dirilis, para penulis, programmer, dan perusahaan media mengajukan gugatan dengan tuduhan bahwa OpenAI secara ilegal menggunakan materi berhak cipta untuk pelatihan; Mercury News beserta 7 media saudaranya dan New York Times juga ikut terlibat
  • OpenAI membantah bahwa pekerjaannya legal berdasarkan penggunaan wajar, dan menilai alat AI seperti ChatGPT dapat memperkuat hubungan antara penerbit dan pembaca serta pengalaman berita

Kematian Suchir Balaji dan kesimpulan pihak berwenang

  • Mantan peneliti OpenAI Suchir Balaji ditemukan tewas pada usia 26 tahun di apartemennya di Buchanan Street, San Francisco, pada 26 November
  • Polisi datang ke kediamannya di Lower Haight sekitar pukul 13.00 hari itu
    • Pemicu kedatangan itu adalah laporan yang meminta pemeriksaan kesejahteraannya
  • Kepolisian San Francisco dan kantor kepala pemeriksa medis mengonfirmasi kematiannya pekan ini
  • Kantor pemeriksa medis menyimpulkan cara kematiannya sebagai bunuh diri
  • Polisi menyatakan saat ini tidak ada bukti dugaan tindak kriminal
  • Ibu Balaji meminta privasi selama masa berduka atas kematian putranya

Posisi dalam gugatan hak cipta OpenAI

  • Informasi yang dimiliki Balaji diperkirakan akan memainkan peran penting dalam gugatan terhadap OpenAI yang berbasis di San Francisco
  • Para pengacara pihak New York Times, dalam dokumen yang diajukan ke pengadilan federal pada 18 November, menyebut Balaji sebagai pemilik “unique and relevant documents” yang dapat membantu gugatan terhadap OpenAI
  • Menjelang proses kesaksian, namanya tercantum dalam dokumen pengadilan sebagai salah satu dari setidaknya 12 orang yang memiliki materi berguna untuk perkara tersebut
    • Banyak di antara mereka adalah mantan maupun karyawan OpenAI saat ini

Keberatan terhadap data pelatihan ChatGPT

  • Kematian Balaji terjadi tiga bulan setelah ia secara terbuka mengkritik bahwa OpenAI melanggar undang-undang hak cipta AS saat mengembangkan ChatGPT
  • ChatGPT adalah program AI generatif yang digunakan ratusan juta orang di seluruh dunia, dan dirilis pada akhir 2022
  • Dalam wawancara New York Times yang diterbitkan pada 23 Oktober, ia menyatakan bahwa OpenAI merugikan perusahaan dan pendiri yang merupakan pemilik asli data yang digunakan untuk melatih ChatGPT
  • Balaji mengatakan, “Jika saya meyakini apa yang saya yakini, saya tidak punya pilihan selain meninggalkan perusahaan,” dan “ini bukan model yang berkelanjutan bagi seluruh ekosistem internet”
  • Pada akhir Oktober, ia menerbitkan tulisan analisis di situs web pribadinya yang mengembangkan argumen bahwa penggunaan data pelatihan ChatGPT tidak termasuk penggunaan wajar
    • Ia menulis bahwa sulit menemukan faktor yang membuat penggunaan data pelatihan ChatGPT menguntungkan dari sisi penggunaan wajar
    • Namun ia menambahkan bahwa argumen tersebut tidak terbatas pada ChatGPT saja, dan dapat berlaku serupa untuk produk AI generatif di berbagai bidang

Masa kerja di OpenAI dan perubahan pandangan

  • Balaji tumbuh di Cupertino dan belajar ilmu komputer di UC Berkeley
  • Saat itu, ia percaya pada potensi manfaat AI bagi masyarakat, dan juga berharap pada kemungkinan seperti pengobatan penyakit dan pencegahan penuaan
  • Pada 2020, ia bergabung dengan OpenAI sebagai peneliti
  • Sejak 2022, pandangannya mulai berubah menjadi negatif
  • Ia terutama khawatir terhadap pekerjaan mengumpulkan data dari internet untuk program GPT-4
    • Program tersebut disebut menganalisis teks dari hampir seluruh internet untuk pelatihan AI
  • Balaji memandang praktik ini bertentangan dengan hukum penggunaan wajar AS yang mengatur penggunaan publikasi yang sudah ada

Gugatan OpenAI dan perusahaan media

  • Setelah ChatGPT dirilis pada akhir 2022, gugatan terhadap OpenAI terus bermunculan
    • Para penulis, programmer komputer, dan jurnalis menuduh OpenAI secara ilegal mengambil materi berhak cipta untuk digunakan dalam pelatihan programnya dan menaikkan valuasi perusahaan menjadi lebih dari 150 miliar dolar AS
  • Mercury News dan 7 media berita saudaranya, bersama sejumlah surat kabar termasuk New York Times, menggugat OpenAI dalam satu tahun terakhir
  • Perusahaan-perusahaan media menuduh OpenAI dan Microsoft menjiplak serta mencuri artikel mereka, sehingga melemahkan model bisnis berita
  • Dokumen gugatan memuat klaim bahwa Microsoft dan OpenAI mengambil karya para reporter, kolumnis, editor, dan lainnya yang membuat berita yang diandalkan komunitas, tanpa mempertimbangkan hak hukum mereka
  • Microsoft memiliki hubungan bisnis dengan OpenAI, dan juga termasuk pihak yang digugat dalam gugatan Mercury News

Bantahan OpenAI dan penyebaran AI generatif

  • OpenAI membantah keras klaim-klaim terkait
  • Perusahaan menegaskan bahwa seluruh pekerjaannya legal berdasarkan hukum penggunaan wajar
  • Saat gugatan diajukan, OpenAI menyatakan bahwa alat AI seperti ChatGPT memiliki potensi besar untuk memperdalam hubungan antara penerbit dan pembaca serta meningkatkan pengalaman berita
  • Program AI generatif bekerja dengan menganalisis data internet dalam jumlah sangat besar, lalu menjawab prompt pengguna atau menghasilkan teks, gambar, dan video
  • Peluncuran ChatGPT dengan cepat membesarkan industri perusahaan-perusahaan yang bergerak dalam penulisan esai, pembuatan seni, dan pembuatan kode
  • Banyak perusahaan paling bernilai di dunia bekerja di bidang AI atau membuat chip komputer yang diperlukan untuk menjalankan program tersebut
  • Valuasi OpenAI hampir berlipat ganda selama satu tahun terakhir

Informasi dukungan krisis

  • Orang yang mengalami depresi atau dorongan bunuh diri dapat memperoleh dukungan, informasi, dan sumber bantuan gratis 24 jam dari 988 Suicide & Crisis Lifeline
  • 988 dapat dihubungi melalui telepon atau SMS, dan obrolan juga tersedia di situs web 988lifeline.org

Bacaan terkait

1 komentar

 
GN⁺ 2024-12-14
Komentar Hacker News

  • Saya pernah menjadi partner proyek Suchir di kelas CS Berkeley (sistem operasi), dan dia benar-benar cerdas, rendah hati, dan orang yang baik.
    Kelihatannya jelas ia akan melakukan hal-hal besar di masa depan; ini sungguh mengerikan.

  • Saya melihat cukup banyak komentar dingin di thread ini.
    Suchir baru berusia 26 tahun dan baru 3 tahun lulus dari Berkeley. Situs pribadinya adalah https://suchir.net/.
    Menurut saya, cukup berani bagi seseorang yang baru beberapa tahun lulus untuk melawan ketidakadilan yang diyakini dilakukan oleh salah satu perusahaan terbesar di dunia. Saya tidak tahu berapa banyak orang yang akan melakukan hal yang sama dalam posisi itu.
    Hati saya ikut sedih untuk keluarganya. Ia jelas seorang engineer berbakat, dan riwayat penghargaan competitive programming di LinkedIn juga mengesankan. Sepertinya ia juga punya akun HN.
    Sebelum menulis soal definisi whistleblower atau teori pembunuhan, saya berharap orang-orang berhenti sejenak dan berpikir apakah mereka ingin tulisan seperti itu muncul jika diri mereka atau teman mereka berada dalam situasi yang sama.

    • Jika beberapa bulan sebelum memberikan kesaksian di pengadilan saya “dianggap bunuh diri”, saya rasa saya ingin orang-orang menelusuri keadaan di balik kematian saya, alih-alih menerima penjelasan bunuh diri begitu saja tanpa banyak curiga.
      Jika ia diam-diam mengakhiri hidupnya sendiri, tentu saya ingin itu berlalu dengan tenang, tetapi dari artikel saja tidak jelas seberapa sentral perannya dalam gugatan yang akan datang.
      Ada kalimat: “Informasi yang ia miliki diperkirakan akan memainkan peran penting dalam gugatan terhadap perusahaan berbasis di San Francisco itu.”
    • Jika saya meninggal saat menjadi whistleblower, saya memberi izin terlebih dahulu di sini agar semua orang tidak perlu mengabaikan fakta itu.
    • Jika saya menjadi whistleblower yang meninggal, orang-orang harus benar-benar berusaha mencari tahu apa yang sebenarnya terjadi.
    • Jika itu adalah identitas publik saya, saya tidak mengerti mengapa tidak boleh. Jika ia takut didefinisikan oleh hal itu, ia bisa saja memilih diam atau tidak bersaksi.
      Sangat disayangkan bahwa itulah yang menjadi warisan publiknya. Ia jelas orang yang luar biasa, dan jika hidup beberapa dekade lagi, ia pasti akan banyak membantu mengubah dunia ke arah yang lebih baik.
      Namun teori pembunuhan memang hanya teori, dan dalam arti ketat bahkan menyebutnya “teori” pun mungkin terlalu kuat. Pada dasarnya itu sebatas kabar dari mulut ke mulut, dan karena tidak ada petunjuk yang bisa ditarik, arah itu tampak kurang produktif.
    • Sebagian besar tampaknya menyampaikan kesedihan dan belasungkawa atas kehilangan seseorang dengan bakat luar biasa serta prinsip dan keberanian yang langka.
      Di forum internet mana pun selalu ada beberapa komentar norak, tetapi komentar-komentar seperti itu sudah turun ke bawah.
      Semoga ia beristirahat dalam damai.

  • Saya agak bingung dengan istilah “whistleblower” di sini. Apakah ia benar-benar mengungkap sesuatu yang sebelumnya tidak diketahui publik?
    Tampaknya ia tidak setuju soal apakah ini “fair use”, dan mendapat perhatian karena ia orang dalam perusahaan. Fakta-faktanya sendiri sudah selalu diketahui, termasuk bahwa OpenAI melatih model dengan data teks berhak cipta yang tersedia publik. Mungkin ia bisa disebut penentang atau kritikus internal.

    • Intinya adalah hal itu harus dibuktikan di pengadilan. Orang ini terlibat langsung dalam pengembangan web scraping, dan ikut mengerjakan pengambilan data dari sumber-sumber yang kemungkinan besar memiliki hak cipta.
      Ia kemungkinan besar juga memiliki komunikasi internal yang membahas legalitas pekerjaannya, dan ia secara terbuka menanyakan masalah itu kepada para atasannya.
    • Ada petunjuk di artikel: “Informasi yang ia miliki diperkirakan akan memainkan peran penting dalam gugatan terhadap perusahaan berbasis di San Francisco itu.”

  • http://suchir.net/fair_use.html
    Tulisan Suchir Balaji, Kapan AI generatif termasuk fair use

    • Tweet pertamanya juga layak dibaca: https://x.com/suchirbalaji/status/1849192575758139733
      Ia menjelaskan bahwa ia membahas fair use dan AI generatif dalam artikel NYT, dan menulis secara rinci di posting blog (https://suchir.net/fair_use.html) mengapa menurutnya “fair use” sulit menjadi pembelaan yang meyakinkan bagi banyak produk AI generatif.
      Ia mengatakan hampir 4 tahun bekerja di OpenAI, dengan 1,5 tahun terakhir di antaranya terlibat dalam ChatGPT. Awalnya ia tidak banyak tahu soal hak cipta dan fair use, tetapi menjadi tertarik setelah melihat gugatan terhadap perusahaan-perusahaan AI generatif. Setelah menelaah lebih jauh, ia menyimpulkan bahwa pembelaan fair use cukup sulit bagi banyak produk AI generatif karena alasan mendasar bahwa produk itu dapat membuat pengganti yang bersaing dengan data pelatihannya.
      Ia bukan ahli hukum, tetapi memandang penting bagi non-ahli hukum untuk memahami teks undang-undang dan mengapa undang-undang itu ada, dan ia juga mengatakan tidak ingin isu ini dibaca sebagai kritik terhadap ChatGPT atau OpenAI saja. Ia menekankan bahwa para peneliti machine learning perlu belajar lebih banyak soal hak cipta, dan bahwa preseden yang sering dikutip seperti Google Books mungkin tidak semenguntungkan kelihatannya.
    • Ada juga sisi output. Mungkin output AI generatif seharusnya tidak menjadi objek perlindungan hak cipta.
    • Saya baru sadar bahwa saat meneliti kasus AI dan hak cipta, saya pernah membaca sebagian tulisan orang ini. Saya juga pernah memposting tulisan ini ke HN sebelumnya.
      Untuk seseorang yang bukan ahli hukum, tulisannya tampak sangat berwawasan. Semoga ia beristirahat dalam damai.
    • Terhadap argumen bahwa “melatih model dengan data berhak cipta tanpa perjanjian lisensi serupa juga merupakan bentuk kerugian pasar karena merampas sumber pendapatan pemegang hak cipta”, saya ingin menjawab begini:
      Pertama, para penulis sebenarnya tidak memperoleh pendapatan dari royalti hak cipta, dan pada akhirnya bergantung pada pendapatan iklan, yang mengarah pada penurunan kualitas layanan. Seniman, copywriter, dan musisi akan kelaparan jika harus hidup hanya dari royalti hak cipta.
      Kedua, hak cipta makin terkonsentrasi di tangan segelintir perusahaan dan tidak memberi manfaat besar bagi penulis atau pembaca sebenarnya.
      Ketiga, pesaing bagi karya baru sebenarnya bukan AI, melainkan karya-karya lama yang telah menumpuk di web selama 25 tahun terakhir.
      Menurut saya yang dibutuhkan bukan hak cipta yang lebih restriktif. Orang-orang sudah beralih dari konsumsi pasif ke interaksi, dan lebih menyukai game, jejaring sosial, dan mesin pencari daripada TV, media berita, dan radio. Ini arus yang diciptakan internet, sehingga tidak bisa dibalik.
      Sekarang ada Wikipedia, GitHub, Linux, open source, public domain, publikasi sains terbuka, serta lingkungan yang tidak restriktif untuk berbagi dan berkomentar.
      Jika perlindungan hak cipta didorong sampai ekstrem, kesimpulannya kita harus melindungi bukan hanya ekspresi, tetapi juga ide abstrak, karena AI generatif dapat dengan mudah menghindari ekspresi. Namun jika penggunaan ulang abstraksi dicegah, itu akan menjadi bencana bagi kreativitas. Menurut saya, hak cipta kini pada dasarnya adalah institusi yang sedang sekarat.

  • Polisi kini mengatakan bahwa kasus ini disimpulkan sebagai bunuh diri
    https://sfstandard.com/2024/12/13/key-openai-whistleblower-d...
    https://www.forbes.com/sites/cyrusfarivar/2024/12/13/openai-...
    https://www.huffpost.com/entry/openai-whistleblower-dead_n_6...

    • AS makin berubah seperti Rusia. Menjadi negara tempat orang yang akan bersaksi secara ajaib jatuh dari jendela
    • Di sekolah seharusnya diajarkan bahwa whistleblowing membutuhkan persiapan keselamatan. Jadikan saja seperti topik “woke” atau apa pun; ini adalah hal yang bahkan setelah kejadian pun jarang dipikirkan banyak orang

  • Suchir adalah orang yang berprinsip, dan kemungkinan besar ia harus melepaskan opsi OpenAI karena sikapnya itu. Ada laporan bahwa perjanjian keluar OpenAI sangat membatasi [1]
    “Mantan karyawan dilarang mengkritik mantan pemberi kerja mereka seumur hidup. Bahkan mengakui bahwa NDA itu ada pun merupakan pelanggaran
    Jika karyawan yang keluar menolak menandatangani dokumen atau melanggarnya, mereka bisa kehilangan semua ekuitas yang sudah vesting yang diperoleh selama bekerja di perusahaan, yang nilainya kemungkinan jutaan dolar”
    [1] https://www.vox.com/future-perfect/2024/5/17/24158478/openai...

    • Hal seperti ini menunjukkan betapa “open”-nya OpenAI. Sepertinya mereka ingin memiliki karyawan, dan dalam arti tertentu membuat mereka terikat
      Sampai-sampai rasanya mereka menganggap penyebab kematian whistleblower pun bisa menular jika dipublikasikan
      Sungguh konyol bahwa OpenAI begitu takut pada kritik. Mereka bertingkah seperti anak kecil yang mengamuk saat tidak mendapatkan apa yang diinginkan, dan kita harus terus mengingat bahwa, setidaknya dari segi usia, orang-orang yang melakukan ini adalah orang dewasa
    • Sekarang tidak lagi. Pada Mei 2024, OpenAI memastikan bahwa mereka tidak akan menegakkan klausul seperti itu
      Mereka tidak akan membatalkan ekuitas yang sudah vesting, terlepas dari apakah karyawan menandatangani perjanjian pemutusan hubungan kerja atau perjanjian non-disparagement
      Mantan karyawan dibebaskan dari kewajiban non-disparagement
      OpenAI memberi tahu mantan dan karyawan saat ini bahwa mereka “belum pernah membatalkan unit yang sudah vesting, dan tidak akan melakukannya di masa depan”
      https://www.theregister.com/2024/05/24/openai_contract_staff...
      https://www.bloomberg.com/news/articles/2024-05-24/openai-re...
    • Apakah ada pakar hukum yang bisa menilai seberapa besar kemungkinan klausul ini dipertahankan di pengadilan: “melarang kritik terhadap mantan pemberi kerja seumur hidup, dan bahkan mengakui keberadaan NDA pun merupakan pelanggaran”?
    • Mengejutkan bahwa hal seperti ini bisa terjadi. Di Prancis, ini begitu ilegal sampai terasa lucu
      Saya bilang “lucu” karena perusahaan memang kadang memaksakan klausul kecil lalu kemudian meminta maaf, tetapi mengatakan seseorang terikat seumur hidup sudah setingkat komedi

  • Turut berduka cita untuk keluarganya. Ia tampaknya orang yang sangat bijaksana dan berprinsip

  • Sungguh sedih. Suchir bersekolah di SMA yang sama denganku, dan kami berdua kuliah di Berkeley. Ia jelas sangat pintar, dan aku selalu yakin ia akan sukses besar atau melakukan sesuatu yang menarik
    Jika membaca ini terasa berat, aku ingin mengatakan bahwa kamu tidak sendirian. Meskipun saat ini mungkin tidak terasa begitu, dunia dengan tulus ingin kamu bahagia
    Jalannya terbuka: Old Path White Clouds [0], Opening the Heart of Compassion [1], Seeing That Frees [2]
    [0] https://z-library.sk/book/1313569/e77753/old-path-white-clou...
    [1] https://z-library.sk/book/26536611/711f2c/opening-the-heart-...
    [2] https://z-library.sk/book/3313275/acb03c/seeing-that-frees-m...

  • Orang tuanya meragukan kesimpulan bahwa itu bunuh diri, dan meminta autopsi independen kedua: https://sfist.com/2024/12/26/parents-of-openai-whistleblower...

  • Sungguh sangat menyedihkan, dan hati saya ikut hancur untuk keluarga serta teman-teman Suchir
    Sebagai seseorang yang telah bekerja di industri teknologi selama lebih dari 10 tahun dan pernah bergulat dengan pikiran untuk bunuh diri, saya bertanya-tanya apakah budaya gila di industri teknologi Bay Area turut berperan
    Bukan hanya budaya hustle yang ekstrem, tetapi juga optimisme teknologi yang naif yang bisa membuat orang kehilangan akal. Dikelilingi orang-orang yang merasa tidak apa-apa melanggar hukum, mengeksploitasi pekerja di negara berkembang demi dukungan teknologi murah, tetapi tetap percaya bahwa mereka mengubah dunia dengan menjual perangkat dapur pintar. Semua itu sambil melewati korban overdosis narkoba di luar kondominium mereka sendiri
    Pola pikir seperti ini begitu meluas sampai-sampai saya mempertanyakan apakah saya yang aneh karena punya empati atau rasa keadilan
    Saya tidak tahu secara khusus, tetapi perpindahan dari mahasiswa Berkeley yang jelas sangat cemerlang ke startup sekeras OpenAI pasti terasa mengejutkan. Seakan mencapai tujuan yang telah diperjuangkan seumur hidup, lalu menyadari bahwa pekerjaan yang dilakukan sepenuhnya menyimpang dari moral dan nilai-nilai sendiri

    • Di bidang yang sangat terspesialisasi, stres yang dialami whistleblower menjadi lebih besar. Karena begitu mereka mengkritik bidang itu secara terbuka, pada dasarnya mereka menjadi tidak bisa dipekerjakan di bidang tersebut
      Itu tetap berlaku meski perusahaan yang bermasalah tidak secara aktif melakukan pembalasan, dan prospeknya akan lebih suram lagi jika ada pembalasan seperti departemen HR di industri yang sama saling berbagi daftar hitam
    • Masalah kesehatan mental di industri teknologi Bay Area nyata karena berbagai alasan. Dari semua tempat yang pernah saya kunjungi, tidak ada yang mendorong keseimbangan kerja-hidup dan pengelolaan kesehatan mental sekuat Silicon Valley, tetapi pada saat yang sama di sanalah saya juga melihat paling banyak orang dengan masalah serius
      Sindrom impostor tinggi di kalangan engineer pada semua tingkat karier dan kemampuan. Ada tekanan dari pekerjaan engineering itu sendiri, ditambah berbagai alasan lain yang membuat orang merasa stres atau tertekan, serta faktor-faktor khas Bay Area yang memperkuatnya
      Anda akan terkejut jika tahu betapa banyak orang cerdas dan kompeten yang akhirnya runtuh. Jika ada yang merasa sendirian, saya harap mereka tidak merasa begitu. Meski orang-orang di sekitar tampak bahagia dan percaya diri, saya jamin jauh lebih banyak orang yang sedang kesulitan daripada yang Anda kira
    • Diungkapkan dengan baik. Hampir semua startup SF tempat saya bekerja pada akhirnya ternyata dijalankan oleh para sosiopat yang berusaha melanggar aturan apa pun
      Salah satunya sekarang sedang didakwa oleh FTC atas dugaan pelanggaran besar-besaran. Saya benar-benar membenci pola pikir amoral yang rela mengorbankan segalanya demi menang, mulai dari kenyamanan karyawan hingga tindakan ilegal terang-terangan terhadap pelanggan