Python-LLM-Injection-Abwehrprojekt auf Rust-Basis

Ein Python-Paket zur Abwehr von LLM-Injection, entwickelt auf Rust-Basis!

Während ich mit AI APIs verschiedene Dinge umgesetzt habe, wurde mir klar, dass Injection-Angriffe häufiger sind als gedacht. Da das wiederholte regex-basierte Filtern und Ersetzen mit re umständlich war, habe ich diesen Dienst entwickelt, weil ich dachte, so ein Paket wäre nützlich. (Bei der Entwicklung habe ich viel Hilfe von AI bekommen!)

Die Hauptfunktionen sind IPS, IDS und IUS.
IPS - blockiert Benutzerprompts und weist an, den bestehenden Prompt fortzusetzen
IDS - blockiert Benutzerprompts nicht, markiert jedoch Wörter, die unter die Blockierungsregeln fallen
IUS - ein IPS, das dank Multithreading und Caching mit hoher Geschwindigkeit arbeitet

Besonders ist, dass Blockierungen unterstützt werden, indem neue JSON-Dateien am Speicherort von rules.json innerhalb des Pakets hinzugefügt oder die bestehende rules.json bearbeitet wird. Durch erneutes Aufrufen von init können die Regeln auch während der Ausführung geändert werden! (Benutzerdefinierte Regeln -> bereitgestellte Regeln)

Es ist das erste Mal, dass ich so etwas poste, deshalb bin ich etwas nervös. Ich freue mich auf euer Feedback!