Snowden: Jangan Pernah Mempercayai OpenAI dan Produknya

 (twitter.com/Snowden)
1 poin oleh GN⁺ 2024-06-16 | 1 komentar | Bagikan ke WhatsApp
  • Snowden secara terbuka memperingatkan agar jangan pernah mempercayai @OpenAI dan produk-produknya seperti ChatGPT
  • Pemicu langsung peringatan itu adalah keputusan @OpenAI untuk mengangkat Director @NSA/CSS ke dewan direksi
  • Ia menegaskan hanya ada “satu alasan” untuk penunjukan ini, tetapi tidak menjelaskan alasan spesifiknya dalam unggahan tersebut
  • Ia mengkritik keras keputusan itu sebagai pengkhianatan yang disengaja dan diperhitungkan terhadap hak setiap orang di seluruh dunia
  • Unggahan itu lebih mirip peringatan singkat, dan tidak memuat dasar tambahan, contoh, maupun langkah tanggapan

Isi peringatan Snowden

  • Snowden mengatakan agar tidak mempercayai @OpenAI dan produk-produknya
    • ChatGPT disebut sebagai salah satu contohnya
  • Keputusan yang dipermasalahkan adalah pengangkatan Director @NSA/CSS ke dewan direksi oleh @OpenAI
  • Ia menilai penunjukan ini sebagai keputusan yang secara sengaja mengkhianati hak semua orang di dunia
  • Unggahan tersebut diakhiri dengan “You have been warned”, sebagai bentuk peringatan langsung kepada pembaca

Bacaan terkait

1 komentar

 
GN⁺ 2024-06-16
Pendapat Hacker News

  • Snowden, seperti Stallman, mungkin tidak selalu Anda setujui dan posisinya bisa dianggap ekstrem, tetapi mengabaikannya sepenuhnya adalah tindakan bodoh
    Saat ini, ketika masyarakat dan para pembuat undang-undang sedang tertidur, sedang terjadi demam emas untuk mengakali hak kekayaan intelektual dan memanfaatkan karya miliaran orang tanpa atribusi atau kompensasi

    • Richard Stallman tidak pernah melakukan apa pun yang menggoyahkan keyakinan bahwa ia digerakkan oleh prinsip-prinsip yang berakar pada hak privasi dan kebebasan individu
      Motif Snowden yang sebenarnya jauh kurang pasti

  • Kita tidak perlu Snowden untuk mengatakan agar tidak mempercayai OpenAI
    Ketika pertama kali mengetahui perusahaan ini, hanya dengan membaca beberapa kata saja, rasanya seperti masuk ke dealer mobil bekas yang dijalankan oleh orang yang dulu merundung saya saat SMA

    • Namun banyak orang tetap perlu diberi tahu oleh seseorang
      Apakah menurutmu lebih baik tidak mengatakan apa-apa?

  • Tentu saja ada alasan yang sah bagi Nakasone untuk masuk ke dewan direksi
    OpenAI sangat sensitif terhadap regulasi, sehingga mereka memiliki tim lobi besar untuk menarik pemerintah AS ke arah mereka. Ia (a) membawa koneksi politik dan (b) memberikan kepercayaan bahwa perkembangan apa pun tidak akan mengancam keamanan nasional AS. Ini cukup umum di dewan perusahaan
    Secara realistis, yang berdampak jauh lebih besar pada dunia adalah apa yang dipersepsikan dapat dilakukan AI, bukan apa yang sebenarnya bisa dilakukan AI

    • Ini mengingatkan pada orang-orang seperti Henry Kissinger yang masuk ke dewan Theranos
      Bagaimana kita tahu apakah posisi dewan seperti ini benar-benar bermakna, atau hanya posisi bergaji gratis yang semuanya sekadar memberi stempel persetujuan?
    • Benar
      Selain itu, ia bukan hanya direktur NSA, tetapi juga komandan U.S. Cyber Command, pengalaman yang sangat relevan baik untuk postur keamanan dan keselamatan OpenAI maupun untuk menjual ke pelanggan pemerintah dan pertahanan
    • Jika ingin menjual ke pemerintah, ini juga ide yang bagus
    • Dalam tafsir paling positif, koneksinya bisa membantu mencegah pemerintah menjatuhkan larangan menyeluruh terhadap AI secara umum tanpa dasar fakta
      Namun saya rasa isi kepala kebanyakan orang akan menerima isu ini dengan sangat negatif
    • Bisakah jelaskan lebih lanjut bagian bahwa “apa yang dipersepsikan dapat dilakukan AI” berdampak lebih besar daripada kemampuan sebenarnya?
      Persepsi itu memberi dampak seperti apa, dan AI yang sebenarnya memberi dampak seperti apa?

  • Dalam tweet yang sama tertulis, “Ini adalah pengkhianatan yang disengaja dan diperhitungkan terhadap hak setiap orang di muka bumi”
    Bagi saya itu terdengar agak berlebihan

    • Saya tidak tahu detail spesifik soal ini, tetapi hiperbola cukup umum bagi Snowden
      Saya tidak terlalu menyalahkannya. Ia telah melalui hal-hal yang mengerikan. Namun saya rasa deklarasinya di Twitter bukanlah ungkapan yang netral
    • Setuju
      Ungkapan peringatan bisa membantu mengangkat sebuah tujuan, tetapi harus digunakan seperlunya agar tidak terlihat seperti anak gembala yang berteriak serigala

  • Melihat situasi seperti ini, pilihan Apple untuk berintegrasi dengan ChatGPT milik OpenAI terlihat makin buruk
    Meski ada janji privasi bahwa mereka tidak akan banyak mengungkap informasi dan akan bertanya secara eksplisit kepada pengguna, kejadian ini dan insiden lain di OpenAI seharusnya menimbulkan kekhawatiran serius bagi manajemen Apple
    Para eksekutif tertinggi Apple mengatakan mereka memulai dari ChatGPT karena itu yang terbaik. Mungkin kemitraan ini tidak akan bertahan hingga waktu yang sama tahun depan

    • Saya teringat saat Steve bersemangat mengintegrasikan Facebook dan Twitter sebagai fitur kelas satu di iOS
      Situasi ini terasa sangat mirip dengan momen itu
      Lalu saya teringat betapa buruknya Siri. OpenAI tiba-tiba membuat Apple terlihat memalukan, dan Apple sangat membutuhkan ini agar tampak kompetitif di bidang ini. Aneh dan menyedihkan
    • Terdengar seolah mereka membuatnya fleksibel agar model lain bisa disisipkan
      Jika ada lebih banyak pilihan, mungkin mereka bisa membiarkan pengguna memilih model
    • Bisa saja menggunakan Mixtral, Minstral, XWin, Mythomax, Claude 3 Haiku 196M
      Semuanya bagus dan sebagian besar atau semuanya lebih baik daripada Siri
      Menurut saya, hal terbaik yang bisa dilakukan Apple adalah membiarkan pengguna memilih AI mana yang ingin dipanggil. Mereka bahkan bisa menyebutnya AI store, seperti iTunes atau App Store. Dengan begitu, penyedia AI dapat bersaing dalam privasi dan kinerja. Namun pengguna akan membutuhkan banyak fitur perbandingan untuk menilai mana yang layak dipilih

  • Sumber: The Verge
    https://www.theverge.com/2024/6/13/24178079/openai-board-pau...
    https://news.ycombinator.com/item?id=40680962 - Mantan kepala NSA bergabung dengan dewan OpenAI

  • Saya benar-benar banyak mengajukan pertanyaan ke chatbot tentang berbagai topik, dan berkali-kali terbukti berguna
    Meski begitu, saya jelas tidak sepenuhnya memercayainya dan tetap waspada, dan saya juga tidak terlalu meragukan bahwa saya sedang diawasi secara rinci. Hanya saja sulit membayangkan skenario di mana itu dipakai untuk merugikan saya
    Saya bersedia membayar lebih untuk privasi yang lebih baik dan juga tertarik untuk meng-host sendiri. Namun dari 99 masalah saya, yang satu ini posisinya cukup di belakang
    Dulu saya pernah mengirim air liur ke 23andMe. Sebagian data itu dicuri, dan mungkin saya ada di daftar Yahudi Ashkenazi yang dijual di suatu tempat. Itu hal yang tidak menyenangkan. Saat ini saya belum bisa membayangkan situasi di mana pengawasan chatbot menjadi masalah, tapi bisa jadi imajinasi saya kurang

    • Jika teman-teman Anda dan bahkan teman dari teman-teman mereka semua mengatakan langit berwarna ungu, apakah Anda cukup berani untuk menyatakan bahwa langit itu biru meski berbeda dari pengamatan Anda?
      Kita akan tenggelam dalam umpan balik AI, dan semua orang akan terpengaruh oleh nasihatnya. “Sumber” seperti Google mengarahkan saya ke BuzzFeed sehingga tahu bahwa saya membaca tulisan sampah praktis akan hilang. Semua akan mendapat selubung otoritas hanya karena ChatGPT yang mengatakannya. Produk ini adalah kepercayaan. Apakah Anda akan mengajukan pertanyaan yang sama kepada preman jahat dan mengungkap detail pribadi? Tentu tidak
      Anda boleh merasa bebas untuk tidak percaya, tetapi aliran nasihat AI itu seperti air dan kita seperti ikan. Kita sudah terpengaruh, dan jika tidak tahu bagaimana kita terpengaruh, kita harus melihat lebih cermat
    • Ini mungkin sedikit berbeda, tetapi masalah sebenarnya dari layanan seperti 23andMe bukan hanya karena mereka memiliki informasi DNA dan sifat yang tidak bisa ditarik kembali
      Kini mereka juga memiliki informasi DNA dan sifat tentang seluruh kerabat dalam cakupan yang cukup luas, naik-turun pohon keluarga. Menggunakan layanan seperti itu pada dasarnya berarti menjual keluarga Anda, dan mereka tidak punya pilihan
    • OpenAI kemungkinan besar akan menawarkan lebih dari sekadar chatbot di masa depan
      Sekarang pun sudah bisa mengunggah file untuk dianalisis
      Saya tidak berpikir kebetulan bahwa Microsoft mendorong Windows Recall untuk konsumen, berusaha mempertahankan indeks permanen atas file yang dihapus, mendorong OneDrive sebagai lokasi penyimpanan default bagi pelanggan korporat O365, dan menggelontorkan miliaran dolar ke OAI

  • Untuk orang yang memblokir Twitter, bagian yang tampaknya merupakan isi tweet lainnya dikutip di sini
    https://fortune.com/2024/06/14/edward-snowden-eviscerates-op...

    • Saya tidak memblokir Twitter, tetapi saya tidak bisa melihat apa pun di sana
      Sekitar 80% hanya menampilkan error umum dan “coba lagi”
    • Catatan: halaman “artikel” itu memiliki peringatan bahwa Anda akan diarahkan ke x.com
      Sudah waktunya menambahkan entri ke daftar filter
      Saya mengklik tautannya untuk melihat layar rusak baru seperti apa yang sekarang ditampilkan alih-alih tweet. Anehnya, tautan artikel berfungsi. Buat saya itu kejadian yang sudah sangat lama tidak terjadi

  • Tampaknya cukup jelas bahwa ada suatu bentuk kerja sama antara OpenAI dan pemerintah
    Tapi mengapa itu bisa menjadi sesuatu yang sangat buruk secara dramatis?

    • Mungkin karena rekam jejak mereka tidak terlalu transparan, hehe

  • Satu lagi hilang
    Saya menambahkannya ke daftar, membatalkan akun berbayar, menghapus data, dan menghapus akun juga
    Semakin mudah untuk mundur sejenak dari suatu layanan dan mempertimbangkan apakah layanan itu benar-benar penting. Pada prinsipnya tidak ada yang wajib, dan begitu menjadi hubungan yang abusif, hapus saja
    OpenAI bukan anjing yang baik