Nightshade: Alat ofensif bagi seniman untuk melawan generator seni AI

Apa itu Nightshade

• Model AI generatif dan para pelatih model telah menunjukkan kemampuan untuk menggunakan konten online untuk pelatihan model.
• Pemilik konten dan kreator hampir tidak memiliki alat untuk mencegah konten mereka digunakan sebagai data pelatihan bagi model AI generatif tanpa persetujuan mereka.
• Nightshade adalah alat yang mengubah gambar menjadi sampel data yang tidak cocok untuk pelatihan model, membantu menghalangi pelatih model yang mengabaikan hak cipta dan melakukan scraping data tanpa izin.

Cara kerja Nightshade dan keterbatasannya

• Nightshade mengubah gambar menjadi sampel yang "beracun", sehingga model yang dilatih tanpa persetujuan mempelajari perilaku yang tidak terduga.
• Alat ini tidak bertujuan merusak model, melainkan meningkatkan biaya pelatihan dengan data yang tidak berlisensi agar melisensikan gambar dari kreator menjadi alternatif yang layak.
• Nightshade bekerja mirip dengan Glaze untuk pertahanan terhadap peniruan gaya, tetapi sementara Glaze adalah alat defensif, Nightshade dirancang sebagai alat ofensif yang mendistorsi representasi fitur di dalam model gambar AI.

Nightshade vs Glaze

• Glaze adalah alat defensif yang digunakan seniman individu untuk melindungi diri dari serangan peniruan gaya.
• Nightshade adalah alat ofensif yang digunakan seniman secara berkelompok untuk mengganggu model yang melakukan scraping gambar tanpa persetujuan.
• Idealnya, seniman menerapkan Glaze dan Nightshade sekaligus saat memublikasikan karya mereka secara online.

Risiko dan keterbatasan

• Perubahan akibat Nightshade lebih terlihat pada karya seni dengan warna datar dan latar belakang yang halus.
• Seperti serangan atau pertahanan keamanan lainnya, kecil kemungkinan Nightshade menjadi bukti untuk masa depan jangka panjang.
• Nightshade dirancang untuk berjalan tanpa jaringan, sehingga tidak ada data atau karya seni yang dikirim ke kami atau pihak lain.

Nightshade dan WebGlaze

• Nightshade v1.0 dirancang sebagai alat mandiri dan tidak menyediakan fungsi pertahanan peniruan seperti Glaze.
• Sedang diuji bagaimana Nightshade dan Glaze bekerja bersama, dan ketika siap, Nightshade akan dirilis sebagai fitur tambahan di WebGlaze.

Opini GN⁺

• Nightshade adalah alat inovatif yang memungkinkan kreator melindungi hak cipta mereka dan mengirim peringatan kepada pelatih model AI yang menggunakan gambar tanpa izin.
• Alat ini dapat memberi dampak positif pada ekosistem seni digital dengan menekan penggunaan karya tanpa izin dan mendorong perjanjian lisensi dengan pemegang hak cipta.
• Kombinasi Nightshade dan Glaze memberikan cara baru bagi seniman untuk berbagi karya mereka secara online dengan lebih aman.

[GN⁺]

Opini Hacker News

• Tautan makalah: arXiv:2310.13828
  • Makalah ini tampaknya memperkenalkan artefak pada tingkat yang sulit diterima oleh banyak seniman.
• Teknik ini
  • a) nyaris hanya bekerja pada proses pelatihan generasi sebelumnya,
  • b) sama sekali tidak bekerja pada proses pelatihan terbaru (pelabelan GPT-4V, LLaVA, BLIP2, dll.).
  • c) bahkan jika efektif dan menjadi populer, diperkirakan akan mudah ditangani.
  • Karya sebelumnya dari para penulis, Glaze, juga tampaknya tidak efektif, dan hasilnya mungkin dinilai terlalu tinggi dibanding kenyataannya.
• Alat-alat seperti ini tampaknya tidak punya peluang untuk berhasil di pasar, dan ada cara untuk segera melewatinya tanpa memengaruhi persepsi manusia.
  • Jika seniman atau pihak lain ingin mencegah penggunaan hasil karya manusia untuk pelatihan, itu harus dilakukan melalui jalur hukum.
  • Ini pun bukan solusi sempurna, dan justru bisa mendorong pengembangan jaringan pelatihan terdistribusi.
• Ini tampak seperti "perlombaan senjata" atau "permainan kucing dan tikus" yang tidak berarti.
  • Orang-orang yang tidak mempertimbangkan pendapat seniman dapat merusak perubahan halus algoritme Nightshade melalui pascapemrosesan gambar.
  • Di masa depan, pengadilan kemungkinan akan berpihak pada seniman karena tekanan sosial, dan seniman akan bisa menggugat gambar generatif yang "terlalu mirip" dengan gaya mereka.
  • Atau para seniman bisa saja berhenti memonetisasi gambar itu sendiri dan hanya fokus pada penciptaan karya fisik.
• Melalui eksperimen fine-tuning Stable Diffusion XL dengan gambar yang buruk/tidak konsisten, ditunjukkan bahwa ketika gambar-gambar ini digunakan sebagai prompt negatif, model dapat menghasilkan gambar yang lebih baik.
  • Secara paradoks, membuat dataset seperti ini justru dapat membantu meningkatkan model seni AI generatif.
• Menginginkan penerapan biaya bertahap untuk penggunaan hak cipta/kekayaan intelektual/paten.
  • Misalnya, menginginkan biaya lisensi yang diterapkan dengan persentase yang dikaitkan dengan pendapatan.
  • Menginginkan masa hak cipta 0 tahun setelah kematian jika dimiliki individu, dan maksimal 20-30 tahun jika dimiliki perusahaan.
  • Ingin menetapkan denda yang sangat tinggi bagi perusahaan atas penggunaan yang tidak dilaporkan/tidak membayar biaya untuk mencegah pencurian.
• Menunjukkan kontradiksi antara seniman yang mempelajari berbagai gaya dengan melihat karya seniman lain dan upaya membela diri dari AI yang mempelajari gaya dari karya mereka.
• Ini melemahkan konsep 'akurasi informasi' dan mengakui adanya permainan serangan dan pertahanan yang terus-menerus.
• Sebentar lagi banyak orang akan dapat membuat karya seni berkualitas tinggi dengan mudah, dan ini adalah prospek yang sangat menarik.