PoisonGPT: Kami menyembunyikan LLM yang dilobotomi di Hugging Face untuk menyebarkan berita palsu.

• Large Language Model (LLM) telah diakui secara global, tetapi ada kekhawatiran terkait keterlacakan dan penyebaran berita palsu.
• Artikel ini menunjukkan bagaimana model open source GPT-J-6B dimodifikasi secara bedah agar dapat menyebarkan informasi palsu sambil tetap lolos dari deteksi.
• Artikel ini menekankan pentingnya rantai pasok LLM yang aman dengan provenance model untuk menjamin keamanan AI.
• AICert, alat open source yang menyediakan bukti kriptografis atas provenance model, sedang dikembangkan untuk menanggapi masalah ini.
• Artikel ini membahas potensi konsekuensi dari pencemaran rantai pasok LLM, termasuk kemampuan untuk merusak keluaran LLM dan menyebarkan misinformasi secara global.
• Pemerintah AS mewajibkan bill of materials AI untuk mengidentifikasi provenance model AI.
• Mithril Security mengembangkan AICert untuk menyediakan solusi pelacakan transparansi dan provenance model.

[GN⁺]

Opini Hacker News

• Sebuah perusahaan sedang mengembangkan AICert, alat open source untuk membuktikan asal-usul model yang dienkripsi.
• AICert menggunakan perangkat keras aman seperti TPM untuk membuat identitas yang tidak dapat dipalsukan bagi model AI.
• Ada ketidakpastian mengenai perangkat keras spesifik yang digunakan dalam AICert.
• Sifat open source AICert belum jelas dampak praktisnya.
• Kepercayaan terhadap LLM mirip dengan kepercayaan terhadap kode, dan menandatangani output LLM dengan GPG bisa menjadi alternatif.
• Sebagian orang khawatir teknologi ini akan menyebabkan lebih banyak kontrol dan pembatasan.
• Diperlukan langkah-langkah untuk melarang orang-orang yang menyebarkan ketakutan dan misinformasi.
• LLM adalah sumber informasi yang tidak dapat diandalkan dan tidak seharusnya dianggap sakral.
• Bentuk LLM saat ini tidak cocok untuk pendidikan.
• Banyak pengembang dan organisasi menggunakan kode yang tidak tepercaya dan fitur AI tanpa benar-benar memahaminya.
• Konsep asal-usul model perlu disebarluaskan dengan lebih baik di komunitas AI.
• Ada kekhawatiran tentang kemungkinan model berperilaku berbeda setelah tanggal tertentu.
• Sertifikasi model mungkin tidak menjamin keamanan jika manipulasi terjadi di tingkat lain.
• Proses sertifikasi mirip dengan HTTPS, dan tingkat kepercayaan penerbit sangat penting.