- Dalam sidang dengar pendapat Komite Sains DPR AS, CEO Hugging Face Clement Delangue menekankan bahwa open science dan AI open source sangat selaras dengan nilai dan kepentingan Amerika
- Delangue menilai alat open source asal AS seperti PyTorch, Tensorflow, Keras, transformers, dan diffusers telah menopang kemajuan AI serta posisi terdepan Amerika
- Kesaksian ini muncul dua minggu setelah para senator mempertanyakan potensi penyalahgunaan seperti spam, penipuan, malware, pelanggaran privasi, dan perundungan setelah kebocoran LLaMA milik Meta
- Ia menjelaskan bahwa keterbukaan yang etis memberi masyarakat sipil, organisasi nirlaba, kalangan akademik, dan pembuat kebijakan kemampuan untuk menyeimbangkan kekuatan perusahaan swasta besar serta mengurangi sistem kotak hitam
- Hugging Face berupaya menggabungkan keterbukaan dan pengaman melalui model card, pembatasan akses, rilis bertahap, moderasi komunitas, serta dataset opt-in dan opt-out
Pembelaan AI open source dalam sidang DPR AS
- CEO Hugging Face Clement Delangue memberikan kesaksian dalam sidang pleno Komite Sains DPR AS Artificial Intelligence: Advancing Innovation Towards the National Interest
- Turut hadir dalam sidang yang sama CEO RAND Corporation Jason Matheny, general partner Lux Capital Shahin Farshchi, fellow Responsible AI Harvard University Rumman Chowdhury, dan direktur eksekutif Georgetown University Center for Security and Emerging Technology Dewey Murdick
- Delangue menilai kemajuan AI belakangan ini dimungkinkan di atas fondasi open science dan open source
- PyTorch, Tensorflow, Keras, transformers, dan diffusers disebut sebagai teknologi open source yang dibuat di Amerika
- Ia mengatakan tanpa teknologi ini, Amerika mungkin tidak akan menjadi negara terdepan dalam AI
Keterbukaan etis yang diajukan di tengah kontroversi LLaMA
- Kesaksian Delangue muncul dua minggu setelah para senator mengajukan pertanyaan kepada Mark Zuckerberg terkait kebocoran LLaMA, LLM open source milik Meta
- Surat tersebut menyoroti kekhawatiran bahwa LLaMA dapat digunakan untuk spam, penipuan, malware, pelanggaran privasi, perundungan, dan tindakan salah lain yang merugikan
- Dengan penyebaran LLaMA, tingkat kecanggihan model AI yang dapat diakses publik meningkat tajam, begitu juga kekhawatiran atas kemungkinan penyalahgunaan atau abuse
- Hugging Face adalah startup berbasis di New York yang tahun lalu memperoleh valuasi 2 miliar dolar AS dan telah menjadi hub untuk kode serta model open source
- Pada April, Delangue mengumpulkan lebih dari 5.000 orang di meetup teknologi open source yang diadakan di Exploratorium, San Francisco
- Delangue mengatakan open science dan open source mendorong puluhan ribu startup yang memanfaatkan AI
- Keterbukaan yang etis memberi masyarakat sipil, organisasi nirlaba, kalangan akademik, dan pembuat kebijakan kapasitas yang dibutuhkan untuk menyeimbangkan kekuatan perusahaan swasta besar
- Ini mencegah sistem kotak hitam dan meningkatkan akuntabilitas perusahaan
- Ini dapat membantu mitigasi bias, mengurangi misinformasi, memperkuat hak cipta, dan memberi kompensasi kepada pemangku kepentingan termasuk seniman dan kreator konten
- Pendekatan Hugging Face menggabungkan kebijakan kelembagaan, pengaman teknis, dan insentif komunitas
- Ini mencakup dokumentasi dan model card, termasuk model cards yang dipelopori Dr. Margaret Mitchell
- Pembatasan akses ke artefak dan rilis bertahap digunakan sebagai pengaman teknis
- Moderasi komunitas serta dataset opt-in dan opt-out juga termasuk dalam struktur insentif
- Dalam beberapa bulan terakhir, perdebatan soal AI open source makin memanas seiring berlanjutnya rilis model bahasa besar dan munculnya penolakan dari startup, kolektif, serta kalangan akademik terhadap pergeseran ke LLM tertutup dan proprietari
1 komentar
Komentar Hacker News
Ini adalah miniatur sempurna yang menunjukkan cara sistem bekerja. Orang ini benar, tetapi datang terlalu terlambat, kekurangan dana, dan tidak mendapat cukup perhatian
Sementara itu Sam Altman adalah wajah dari produk konsumen dengan tim pemasaran hebat dan bahkan pelobi, menerima miliaran dolar dari Microsoft, serta punya produk yang bisa dicoba gratis oleh siapa saja
Tinggal masuk lebih dulu lalu mengangkat narasi bahaya AI, dan meyakinkan para anggota parlemen bahwa teknologi mutakhir itu berbahaya. OpenAI segera diterima seolah sinonim dengan teknologi terdepan, sehingga orang mengikuti pemimpin industri tanpa benar-benar melihat ke mana mereka menuju, dan akhirnya kita sampai di sini
Saya berharap perangkat lunak sumber terbuka terwakili secara adil di pengadilan opini publik, tetapi ide tidak bisa membiayai dirinya sendiri dan suara uang terlalu keras
Kongres merasa terbebani karena membiarkan media sosial tak terkendali, dan sangat ingin mengatur AI. Dalam sidang itu tidak ada perbedaan pendapat yang berarti, dan niat pemerintah serta industri sepenuhnya selaras. Mereka sedang menggelar karpet merah bagi kontrol terpusat, dan mengarah pada regulasi yang menghapus persaingan
Hal-hal yang berjalan secara lokal melewati batas jaringan yang bisa disadap dan diawasi. Bertanya ke Google akan tercatat, riwayat pencarian bisa diperoleh lewat surat perintah, dan catatan peminjaman perpustakaan umum juga demikian. Penjaga gerbang seperti OpenAI bisa mengambil peran itu dan menarik tarif
Jika melakukan penyelidikan yang sama dengan sesuatu seperti Vicuna-13B-ggml, tidak ada yang bisa mengendus apa yang sedang dilakukan. Ini terdengar bagus bagi orang yang ingin dibiarkan sendiri, tetapi punya implikasi menakutkan bagi pihak yang merasa harus menghentikan pengguna yang lebih berniat jahat
Sayangnya, pada isu seperti ini hampir tidak mungkin ada kompromi. Yang terbaik mungkin seperti hukum terbaru di Belanda, yang memungkinkan pemerintah menembus perangkat pribadi bila ada alasan yang cukup kuat, tetapi sepertinya tidak akan ke sana. Satu-satunya alternatif yang menguntungkan pemerintah adalah melarang model lokal dan pengembangan open-source-nya sendiri
Untuk melampaui resistensi status quo dibutuhkan dukungan publik yang besar, dan dukungan seperti itu tidak ada serta sangat mahal untuk dibeli dengan uang
Open source adalah komponen penting untuk membangun masyarakat digital yang sehat yang lebih dekat dengan nilai-nilai yang kita junjung
AI memang penting, tetapi pada akhirnya hanya bagian kecil dari perubahan yang lebih besar ini. Perlu diingat bahwa Bitcoin, yang ingin mengguncang fondasi kehidupan ekonomi, juga bersifat open source
Proses evolusi menanamkan kemampuan open source pada skala masyarakat tidaklah otomatis dan jelas-jelas tidak selalu baik. Contoh kripto di atas menunjukkan hal itu
Masih banyak teknologi, institusi, dan pola perilaku yang harus dibayangkan, dikembangkan, diuji, dan disebarluaskan. Ini adalah tantangan yang bagus untuk digarap serius oleh para insinyur “masyarakat” digital masa kini dan masa depan
Sulit membayangkan semesta selain distopia. Jika pernah ada visi monopolistik yang selaras secara moral dengan agensi individu, kebebasan, dan kontrol demokratis, sekaligus jujur secara intelektual tentang insentifnya sendiri, saya sungguh ingin tahu
CEO Hugging Face melakukannya dengan baik. Saya membagikan tautan YouTube berdurasi 5 menit kepada teman dan keluarga, dan itu menjelaskan keunggulan model terbuka dan open source dengan sangat baik
Dalam kasus ini terasa seperti contoh di mana perbedaan antara open source dan free software menjadi cukup penting
Hal yang sama berlaku bahkan jika dirilis dengan sengaja tetapi lisensinya membatasi pada “penggunaan nonkomersial”, atau hanya mengizinkan penggunaan komersial bila tidak “bersaing” dengan perusahaan yang merilisnya
Selama 20 tahun terakhir, kemajuan di bidang ini sangat dipercepat oleh pertukaran semacam itu. Alih-alih perusahaan menggenggam hasilnya dan menjaga bumbu rahasia mereka, banyak detail dibagikan, lalu diverifikasi dengan mereproduksi dan meningkatkan hasil satu sama lain
OpenAI membuat ChatGPT, Meta membuat Llama, dan Google menjalankan Bard. Llama sampai taraf tertentu telah dilepas ke komunitas open-source, dan orang-orang sekarang menggunakannya, meningkatkannya, serta membandingkannya dengan model dan benchmark mereka sendiri
Setidaknya dalam generasi gambar, karena pelatihan dilakukan secara crowdsourcing, model terbuka kini tampaknya menghasilkan keluaran yang jauh lebih baik
Aneh melihat Hugging Face muncul di berita seperti ini. Saya ingat pernah menyumbang patch perbaikan sekitar musim panas 2019 saat bintangnya sekitar 4 ribu, dan bahkan waktu itu saya menganggapnya proyek yang cukup populer
Apa tujuan akhir Hugging Face? Menjadi GitHub untuk AI?
Mereka juga sedang mencoba berekspansi ke pelatihan model AI dan menjalankan inferensi. Tetapi biaya inferensinya tampak jauh kurang kompetitif dibanding penyedia GPU seperti CoreWeave
Saya suka bahwa dia masih orang yang cukup mudah dijangkau di media sosial
Mengapa Kongres sampai ikut campur dalam hal-hal seperti perangkat lunak, open source, dan AI?
Kongres memiliki wewenang untuk mengatur perdagangan dengan negara asing, antarnegara bagian, dan dengan suku Indian
Penasaran apakah Anda sudah melihat proyek Bittensor dan bagaimana pendapat Anda tentangnya. Apakah layak dipertimbangkan untuk integrasi?
Saya rasa itu bisa membantu hal-hal seperti proyek ini dan gerakan AI open-source
Bukankah sebagian besar model di Hugging Face berada di bawah lisensi RAIL yang aneh dan bukan open source?