- Proyek payung yang menyediakan alat dan evaluasi kepercayaan serta keamanan terbuka untuk membantu para pengembang menerapkan model AI generatif secara bertanggung jawab
- Sebagai langkah pertama, dua alat dirilis
- CyberSec Eval: tolok ukur evaluasi keamanan siber untuk LLM
- Llama Guard: pengklasifikasi keamanan untuk penyaringan input dan output yang dioptimalkan agar mudah diterapkan
- Akan disediakan untuk komunitas open source melalui kolaborasi dengan AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA, dan Scale AI
Mengapa Purple?
- Ada keyakinan bahwa untuk benar-benar memitigasi tantangan yang ditimbulkan oleh AI generatif, diperlukan postur serangan (red team) dan pertahanan (blue team) sekaligus
- Purple team, yang merupakan gabungan red team dan blue team, adalah pendekatan kolaboratif untuk mengevaluasi dan memitigasi potensi risiko
- Proyek Purple Llama akan tersedia dengan lisensi permisif yang memungkinkan penggunaan riset dan komersial
- Ini merupakan langkah penting untuk mendorong kolaborasi komunitas serta menstandarkan pengembangan dan penggunaan alat kepercayaan dan keamanan untuk pengembangan AI generatif
1 komentar
Saya sempat melihat AI Alliance - https://thealliance.ai itu apa, ternyata ini adalah aliansi yang dibentuk dengan dipimpin oleh IBM dan Meta.
Lebih dari 50 perusahaan/organisasi ikut berpartisipasi, tetapi justru OpenAI, Google, NVidia, dan Microsoft tidak ikut, jadi rasanya ini sebenarnya apa ya.. haha