Proyek pertahanan injeksi LLM Python berbasis Rust

Ini adalah paket pertahanan injeksi LLM untuk Python yang dibuat berbasis Rust!

Saat menggunakan API AI untuk berbagai hal, saya menyadari bahwa serangan injeksi ternyata lebih umum daripada yang saya kira. Karena pemfilteran regex berbasis re dan replace yang saya lakukan berulang-ulang terasa merepotkan, saya pun mengembangkan layanan ini dengan berpikir alangkah baiknya jika ada paket seperti ini. (Dalam pengembangannya saya banyak dibantu AI!)

Fitur utamanya mencakup IPS, IDS, dan IUS.
IPS - memblokir prompt pengguna dan menginstruksikan agar tetap melanjutkan prompt yang sudah ada
IDS - tidak memblokir prompt pengguna, tetapi menandai kata-kata yang terkena aturan pemblokiran
IUS - IPS yang bekerja cepat dengan multithreading dan caching

Sebagai fitur, pemblokiran dapat didukung dengan menambahkan JSON baru pada lokasi rules.json di dalam paket atau dengan memodifikasi rules.json yang sudah ada, dan aturan juga bisa diubah saat proses berjalan dengan memanggil ulang init! (aturan kustom -> aturan bawaan)

Ini pertama kalinya saya mengunggah hal seperti ini jadi agak menegangkan, mohon bantuannya!