Protect AI LLM Guard
Protect AI LLM Guard 是面向生成式 AI、模型、RAG 或 Agent 风险控制的 AI 安全工具。
分类：开源 LLM 输入输出安全工具箱
公司 / 团队：Protect AI
详细介绍
该工具的主要能力包括开源输入输出扫描、提示词注入与越狱检测、敏感数据与秘密信息过滤、毒性和有害内容检测、匿名化、去匿名化与 Python 集成。
AI 安全工具的真实效果取决于模型、语言、攻击方法、上下文长度、输入模态、系统提示、RAG 数据、工具权限、部署位置、阈值、规则、版本和业务容错。详情页应把防护位置、风险类型、模态、动作、API、延迟、部署方式、数据处理、日志、评测结果和产品状态拆成动态字段维护。
适合场景
- 自托管 LLM 安全
- 输入清洗
- 输出扫描
- PII 与秘密过滤
- Python 后端
使用注意
- 各 Scanner 的模型、许可证和资源消耗不同
- Protect AI 企业产品并购后需区分开源项目与商业平台状态
- 扫描链顺序、超时和失败策略应固定
- 上线前应建立正常样本、边界样本、已知攻击、未知变体、跨语言、多模态和故障场景测试集，并完成权限审查、红队、安全评审、日志、回滚和应急预案。