deepteam
由 confident-ai 研发
DeepTeam 是由 Confident AI 开发的开源大模型红队测试（安全渗透测试）框架。它在本地运行，基于 DeepEval 构建，专门用于模拟针对大模型系统、RAG 管道和 AI Agent 的对抗性攻击（如越狱、提示词注入、多轮诱导等），以此检测隐私泄露、安全漏洞、偏见等 50 多种风险，并为生产环境提供防护栏（Guardrails）以拦截异常输入。
- 50+ 内置大模型安全漏洞检测
- 20+ 研究支撑的前沿对抗性攻击模拟
- 本地运行并支持 LLM-as-a-Judge 评估机制
- 提供生产级安全防护栏 (Guardrails)
- 无缝对接 Confident AI 风险管理与监控平台
webdesktop