Agentic AI 的黑盒红队测试：用于自动化风险发现的分类法驱动框架

英文标题：Black-Box Red Teaming of Agentic AI: A Taxonomy-Driven Framework for Automated Risk Discovery

论文提出了一套面向 Agentic AI 的黑盒红队测试框架，以分类法驱动自动化风险发现。作者指出，Agentic 系统正快速进入生产环境：它们会读取不可信输入、调用具备真实权限的工具，并自主执行操作，因此其安全攻击面已超越纯聊天模型。现有标准评测多为单轮测试，难以覆盖 Agent 在工具调用、自主决策和外部输入交互中的复杂风险。该研究对开发者和行业的意义在于，需要采用更系统、自动化且贴近真实部署环境的安全评估方法。

2.1 KB 672 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB