Pernyataan Sam Altman tentang insiden bom molotov

 (blog.samaltman.com)
1 poin oleh GN⁺ 8 hari lalu | 1 komentar | Bagikan ke WhatsApp
  • Setelah insiden pelemparan bom molotov ke rumahnya, Sam Altman merilis foto keluarganya dan menyampaikan pesan untuk mencegah meluasnya kekerasan
  • Ia menyebut pemberitaan provokatif dan kecemasan terhadap AI yang belakangan diarahkan kepadanya sebagai latar belakang insiden, sambil menekankan kekuatan dan tanggung jawab bahasa
  • Ia mendefinisikan AI sebagai alat untuk memperluas potensi manusia, dan menegaskan bahwa masyarakat perlu menyiapkan kebijakan, sistem keselamatan, dan kontrol demokratis untuk meresponsnya
  • Sambil meninjau 10 tahun OpenAI, ia mengakui pencapaian dan kesalahan sekaligus, serta menyebut perlunya operasi yang dapat diprediksi dan stabil ke depan
  • Ia menggambarkan konflik di industri AI sebagai situasi di mana “kekuatan AGI membuat orang menjadi tidak rasional”, dan menyerukan penyelesaian melalui dialog dan proses demokratis, bukan kekerasan

Ringkasan insiden

  • Setelah insiden pelemparan bom molotov ke rumahnya, Sam Altman memublikasikan foto keluarganya dan mengunggah seruan untuk menahan kekerasan
    • Insiden terjadi sekitar pukul 3:45 dini hari, dan bom molotov memantul dari rumah sehingga tidak ada yang terluka
    • Ia menjelaskan bahwa “gambar memiliki kekuatan”, dan bahwa publikasi foto keluarganya adalah tindakan untuk mencegah serangan berikutnya
  • Ia menyebut insiden itu terjadi pada saat artikel-artikel provokatif yang menargetkannya dan kecemasan sosial terhadap AI sedang meningkat
    • Ia mengatakan “kata-kata juga punya kekuatan”, seraya mengungkapkan penyesalan karena meremehkan pengaruh bahasa dan narasi

Keyakinan dan nilai

  • Ia mendefinisikan kemakmuran semua orang serta kemajuan sains dan teknologi sebagai kewajiban moral
  • Ia menyebut AI sebagai alat paling kuat untuk memperluas kemampuan dan potensi manusia, dan mengatakan bahwa umat manusia akan melakukan hal-hal luar biasa melaluinya
    • Umat manusia membutuhkan AI dalam skala besar, dan harus menemukan cara untuk mewujudkannya

  • Ketakutan dan kecemasan terhadap AI itu sah

    • Masyarakat perlu menyiapkan kebijakan dan sistem keselamatan untuk merespons ancaman baru
    • Diperlukan penguatan ketahanan sosial untuk melewati masa transisi ekonomi
    • Ia menekankan demokratisasi AI, dan bahwa kekuasaan tidak boleh terkonsentrasi pada segelintir pihak
    • Kendali atas masa depan harus menjadi milik semua orang dan institusi, dan pengambilan keputusan kolektif adalah hal yang esensial
    • Ia menegaskan bahwa tidak benar jika beberapa laboratorium AI saja yang menentukan masa depan umat manusia
    • Ia menekankan pentingnya kemampuan beradaptasi
    • Karena laju perkembangan teknologi sangat cepat, kita harus merevisi keyakinan yang keliru dan mengubah cara berpikir secara fleksibel
    • Belum ada seorang pun yang memahami dampak superintelligence, tetapi skalanya akan sangat besar

Refleksi pribadi

  • Sambil menoleh ke 10 tahun pertama OpenAI, ia mengakui kebanggaan dan kesalahan sekaligus
    • Ia menyebut dengan bangga keputusannya untuk menolak tuntutan kontrol sepihak dalam negosiasi dengan Elon Musk
    • Ia menilai keputusan itu memungkinkan OpenAI bertahan dan mencapai prestasi berikutnya
  • Ia mengakui bahwa kecenderungannya menghindari konflik telah menyebabkan penderitaan besar bagi dirinya maupun perusahaannya
    • Ia menyebut benturan dengan dewan sebelumnya ditangani dengan buruk hingga menimbulkan kekacauan
    • Sebagai “manusia yang tidak sempurna dalam situasi yang rumit”, ia mengatakan terus berupaya menjadi sedikit lebih baik setiap tahun
  • Ia menyadari bahwa OpenAI kini bukan lagi startup, melainkan platform besar
    • Ia menekankan perlunya operasi yang dapat diprediksi dan stabil ke depan
  • Ia menilai OpenAI telah mewujudkan misi yang tadinya tampak mustahil
    • Termasuk mengembangkan AI yang kuat, membangun infrastruktur berskala besar, menyelesaikan produk dan model bisnis, serta menyediakan layanan yang aman dan tangguh dalam skala besar
    • Ia mengatakan OpenAI adalah “salah satu dari banyak perusahaan yang berkata akan mengubah dunia, dan benar-benar melakukannya”

Pandangan tentang industri

  • Ia menjelaskan penyebab konflik dan persaingan dramatis di industri AI belakangan ini sebagai psikologi bahwa “siapa pun yang telah melihat AGI tidak bisa kembali seperti sebelumnya”
    • AGI, katanya, seperti “cincin kekuasaan” yang memiliki kekuatan untuk membuat orang menjadi tidak rasional
  • Sebagai solusi, ia mengusulkan pembagian teknologi secara luas dan kontrol demokratis
    • Intinya adalah memperkuat kapasitas individu dan menjaga keunggulan sistem demokrasi
  • Ia menekankan bahwa proses demokratis harus lebih kuat daripada perusahaan
    • Hukum dan norma akan berubah, tetapi harus berubah dalam proses demokratis
    • Perusahaan boleh menyuarakan pendapat, tetapi tidak boleh memegang seluruh kekuasaan
  • Ia menilai kritik terhadap industri AI berangkat dari kekhawatiran serius atas besarnya dampak teknologi
    • Ia menyambut kritik dan diskusi yang beritikad baik, serta menyatakan empati terhadap sentimen anti-teknologi
    • Namun secara keseluruhan, ia tetap yakin bahwa perkembangan teknologi dapat mengarahkan masa depan umat manusia ke arah yang lebih baik
  • Di tengah perdebatan yang memanas, ia menyerukan agar retorika dan tindakan diredakan serta kekerasan dikurangi
    • Ia mengatakan, “baik secara kiasan maupun nyata, ledakan yang lebih sedikit harus terjadi di lebih sedikit rumah”

Bacaan terkait

1 komentar

 
GN⁺ 8 hari lalu
Komentar Hacker News

  • Mengkritik Sam Altman atau pemimpin teknologi lain itu sah, tetapi sama sekali tidak ada alasan untuk melakukan kekerasan atau ancaman terhadap dia atau keluarganya

    • Ini memunculkan pemikiran tentang kesetaraan moral: menyiksa satu orang jelas buruk, tetapi bagaimana dengan menimbulkan penderitaan kecil pada jutaan orang?
      Pertanyaannya adalah apakah, seperti keluarga Sackler yang menghancurkan kehidupan banyak orang, mereka sudah sedemikian jahat hingga pantas menerima kekerasan, atau apakah bentuk badan hukum justru menyerap seluruh tanggung jawab
      Ada pandangan bahwa dalam kapitalisme modern, LLC/Corporation bekerja seperti semacam surat pengampunan dosa, dan struktur itu sedang mencapai batas moralnya
    • Baru-baru ini ada kontroversi bahwa OpenAI menyediakan teknologi untuk perang, jadi sulit memahami mengapa Sam terkejut bahwa dirinya berada dalam bahaya
      Jika terlibat dalam tindakan mematikan, reaksi balik tentu akan muncul
    • Bahkan ada pembicaraan tentang “kemitraan dengan Departemen Pertahanan”, jadi tidak masuk akal untuk berpura-pura tidak tahu
    • Ada yang bertanya apakah orang pernah mendengar nama “Suchir Balaji”, tetapi konteksnya tidak jelas

  • Saya sering tidak sependapat dengan Sam Altman, tetapi serangan fisik sama sekali tidak pernah bisa dibenarkan
    Terlebih lagi, menyerang keluarganya adalah hal yang tidak bisa ditoleransi

    • Ada yang bertanya bagaimana pandangan HN terhadap “Luigi Mangione”, tetapi tidak ada pembahasan berarti

  • Selama sekitar 10 tahun terakhir, seiring masyarakat berkembang, arus untuk memonetisasi segalanya terasa telah memperbesar skeptisisme orang-orang
    Akibatnya, bahkan ketika sesuatu yang buruk menimpa seseorang, respons publik pun dicurigai: ‘ini pemasaran atau tulus?’

    • Sikap skeptis seperti ini justru juga punya sisi sehat
      Ini mengingatkan pada ‘alegori gua’ dari Plato, sebuah peringatan agar tidak menilai hanya dari permukaan informasi
      Setelah peristiwa seperti Snowden, Epstein, dan Abu Ghraib, publik tidak lagi begitu saja mempercayai kata-kata kalangan berkuasa
      Memang benar Sam Altman berada dalam posisi berbahaya, tetapi itu tidak berarti serangan terhadapnya menjadi dapat dibenarkan
      Hanya saja, dalam budaya ketidakpercayaan seperti ini, spekulasi dan kecurigaan akan terus berlanjut

  • Kejadian seperti ini mengerikan, tetapi tidak mengejutkan
    Tiap kuartal ada PHK, dan yang terdengar hanya bahwa AI akan menggantikan pekerjaan manusia
    Bahkan kehidupan dasar yang dulu dinikmati generasi orang tua kini sulit dijangkau, sementara orang tetap diharapkan memuji kemajuan teknologi
    Di mata publik, Sam adalah ‘wajah AI yang mengancam mata pencaharian kita’

    • Ada kesan bahwa Sam dan orang-orang di sekitarnya memicu kemarahan publik lewat pernyataan provokatif di TV
      Sebagian orang yang mendengar itu mungkin merasa mereka sudah tidak punya apa-apa lagi untuk hilang

  • Reaksi ekstrem terhadap Sam Altman terasa mengejutkan
    Saya tidak menganggap dia pengelola teknologi yang baik, tetapi kekerasan tidak pernah bisa dibenarkan
    Juga terasa tidak pantas ketika dia mengaitkan artikel-artikel negatif dengan insiden ini
    Dia sering memimpin percakapan dengan narasi apokaliptik, dan itu memengaruhi investor maupun orang-orang yang ekstrem

    • Namun ada juga yang berpendapat bahwa Sam sendiri membenarkan kekerasan
      Karena melalui kontrak dengan Departemen Pertahanan AS dia menyediakan AI untuk sistem mematikan, dia dikritik tidak punya hak untuk menolak kekerasan
    • Ada juga yang mengatakan bahwa Sam punya riwayat berbohong berulang kali, sehingga sulit dipercaya seperti kisah penggembala yang berteriak serigala

  • Insiden ini mengerikan, tetapi terasa bermasalah bahwa Sam memanfaatkannya untuk menyerang pemberitaan media
    Dia memberi kesan selalu berusaha membangun citra korban untuk memanipulasi opini publik
    Tulisan kali ini pun tampaknya tidak akan menghentikan orang-orang gila, melainkan terlihat seperti upaya untuk mengundang simpati

  • Dalam masyarakat barbar tempat kekerasan telah menjadi hal biasa, protes damai menjadi tidak berarti

    • Yang lebih buruk, kekerasan bisa terus bertahan bukan hanya karena mayoritas, tetapi cukup dengan minoritas yang bodoh atau memilih diam

  • Ini mengingatkan pada pengalaman diusir dari rumah sewa tahun lalu
    Pemilik baru awalnya ramah, tetapi dua hari kemudian memberi pemberitahuan pengusiran
    Tentu saya marah, tetapi saya tidak bertindak dengan kekerasan

    • Jika ada kontrak sewa, pemilik baru tidak akan bisa mengusir sampai masa kontrak berakhir

  • Ucapan “begitu melihat AGI, kamu tak akan bisa lagi berpura-pura tidak melihatnya” terdengar seperti analogi Cincin dalam ‘The Lord of the Rings’
    Tetapi menurut saya analogi itu salah
    Cincin itu harus dihancurkan, dan sampai saat itu harus dipegang oleh seseorang
    Tanpa dua syarat itu, analoginya tidak berlaku
    Sudah melelahkan mendengar analogi rapuh seperti ini dipakai untuk membicarakan kiamat umat manusia atau dominasi AI

  • Rasanya Sam sedang melempar bom molotov kepada kita semua
    Kali ini kita mungkin beruntung bisa lolos, tetapi belum tentu pada kesempatan berikutnya