AI安全测试实战：精选15款顶级开源工具，聚焦漏洞挖掘与防护

iothackbot

物联网安全工具包，结合了 Python 命令行工具和 Claude Code 技术，专为自动化探测、固件分析和以漏洞利用为重点的物联网设备测试而设计。
⭐️339 | BrownFineSecurity | GitHub

Shannon

一款完全自主的AI黑客工具，能够发现您Web应用程序中的实际漏洞。Shannon在无需提示、感知源代码的XBOW基准测试中取得了96.15%的成功率。
⭐️ 251 | GitHub

PatchEval

用于评估 LLM 和代理在修补真实世界漏洞方面能力的基准测试，该测试使用 Docker 化的 CVE 测试平台和自动化补丁验证。
⭐️138 | GitHub

VulnRisk

VulnRisk 是一个开源漏洞风险评估平台，它提供超越基础 CVSS 的透明、上下文感知风险评分。非常适合部署在本地开发和测试环境中。
⭐️84 | GitHub

Wazuh-MCP-服务器

通过模型上下文协议 (MCP) 服务器公开 Wazuh SIEM 和 EDR 遥测数据，使 AI 代理能够针对真实数据安全地运行威胁狩猎和响应剧本。
⭐️83 | GitHub

mcp-checkpoint

MCP Checkpoint 通过静态和动态扫描持续保护和监控模型上下文协议 (MCP) 的操作，揭示代理与工具通信中隐藏的风险。
⭐️81 | Aira Security | GitHub

ai-reverse-engineering

一款人工智能辅助的逆向工程工具，它允许通过 MCP 驱动的聊天界面协调 Ghidra 分析二进制文件，用于安全研究。
⭐️42 | GitHub

whisper_leak

该研究工具包展示了加密的流式 LLM 对话如何通过数据包大小和时间泄露提示信息，并提供端到端的数据采集、模型训练、基准测试和推理演示工具。
⭐️42 | yo-yo-yo-jbo | GitHub

AI / LLM 红队实战手册和顾问手册

AI/LLM 红队演练手册和顾问手册，包含攻击提示、RoE/SOW 模板、OWASP/MITRE 映射以及用于测试 LLM、代理、RAG 流水线和 AI 应用的工作流程。
⭐️26 | GitHub

LLMGoat

故意设计了一个存在漏洞的 LLM 应用程序，用于在实验室环境中练习利用和理解 OWASP Top 10 LLM 漏洞。
⭐️36 | SECFORCE | GitHub

Reversecore_MCP

安全至上的 MCP 服务器，赋能 AI 代理，使其能够协调 Ghidra、Radare2 和 YARA，实现自动化逆向工程。
⭐️25 | sjkim1127 | GitHub

system-prompt-benchmark

安全测试框架，使用基于 Ollama 的测试工具，针对 287 种真实世界的提示注入、越狱和数据泄露攻击，对您的 LLM 系统提示进行测试。
⭐️3 | KazKozDev | GitHub

ctrl-alt-deceit

为 MLEBench 添加了破坏任务和监控工具，用于评估篡改代码、基准测试和使用日志的 LLM 代理。
⭐️3 | TeunvdWeij | GitHub

SOC-CERT AI Helper — Chrome 扩展程序

这款 Chrome 扩展程序利用 Gemini Nano 和 KEV 支持的 CVE 增强功能，直接在浏览器中检测和优先处理 Web 威胁。
⭐️1 | joupify | GitHub

aifirst-insecure-agent-labs

用于练习提示注入、系统提示提取和绕过防护机制的聊天机器人代理漏洞利用实验室，支持追踪和基于 NeMo/正则表达式的防护机制。
⭐️1 | trailofbits | GitHub

llm-security-framework

一个用于人工智能辅助开发的安全框架，包含分层检查清单、威胁模型和文档，可在几分钟内加固小型人工智能项目。
⭐️0 | annablume | GitHub