- Purple Llama adalah proyek payung (umbrella) ekosistem open source untuk keandalan dan keamanan AI yang dipimpin oleh Meta, dengan tujuan menghimpun berbagai alat keamanan, panduan, alat evaluasi (Eval), dan benchmark yang dibutuhkan untuk pengembangan AI generatif (LLM), lalu mengembangkannya bersama komunitas
- LlamaFirewall adalah komponen inti dari proyek Purple Llama, yaitu kerangka kerja yang mendeteksi dan memblokir secara real-time beragam ancaman keamanan yang dapat muncul pada AI generatif (terutama chatbot/agen berbasis LLM), seperti prompt injection, misalignment, kerentanan kode, dan lain-lain, melalui struktur pemindai berlapis
- Bersama berbagai alat keamanan/keandalan Purple Llama seperti Llama Guard, Prompt Guard, Code Shield, CyberSec Eval, ia mewujudkan lapisan keamanan AI komprehensif di level sistem
- Llama Guard: model berbasis Llama 3 untuk mendeteksi/memblokir konten berbahaya pada input dan output. Dapat dimasukkan ke dalam kebijakan LlamaFirewall agar diterapkan otomatis di semua tahap input/output
- Prompt Guard: dikhususkan untuk mendeteksi serangan prompt injection/jailbreak, terhubung di dalam LlamaFirewall melalui PromptGuardScanner
- Code Shield: mendeteksi secara real-time kerentanan dan kode berbahaya pada kode yang dihasilkan LLM, terhubung di dalam LlamaFirewall melalui CodeShieldScanner
- CyberSec Eval: alat benchmark keamanan siber LLM dari Purple Llama. Digunakan untuk menguji ketahanan dan kerentanan keamanan nyata dari model berbasis LlamaFirewall
- Ciri utamanya adalah latensi rendah/throughput tinggi, penerapan real-time, open source yang transparan, dan skalabilitas yang kuat
- Memungkinkan tim keamanan dan pengembang AI untuk dengan cepat menerapkan Guardrail yang aman pada chatbot, agen, dan AI multi-langkah berbasis LLM
Belum ada komentar.