Know Your Agent：AI Agent 侦察驱动渗透测试框架发布

近日，一项题为《Know Your Agent: Reconnaissance-Driven Pentesting of AI Agents》的研究论文在 arXiv 平台公开。该研究提出了一种名为 KYA（Know Your Agent）的框架，旨在通过自动化黑盒侦察驱动的方式，对 AI Agent 进行渗透测试，以挖掘其在间接提示注入攻击中的潜在弱点。

核心事件与背景

传统渗透测试强调在每个步骤中利用侦察来发现未知弱点、构建更强攻击并推进目标。然而，随着 AI Agent 在复杂任务中的广泛应用，其安全性问题日益凸显。研究团队指出，AI Agent 同样需要接受类似的系统性安全测试。

该论文由 Or Zion Eliav、Eyal Lenga、Shir Bernstien 和 Yisroel Mirsky 共同撰写，于 2026 年 7 月 22 日提交至 arXiv（编号：2607.19837）。研究领域涵盖人工智能（cs.AI）、密码学与安全（cs.CR）以及机器学习（cs.LG）。

KYA 框架：从侦察到攻击的自动化闭环

KYA 框架的核心创新在于将“侦察”形式化为 AI Agent 渗透测试的关键环节。研究团队首先建模了侦察过程，识别出攻击者试图提取的知识资产类型，包括：
1. 知识资产的性质：Agent 内部存储或处理的关键信息。
2. 资产的使用方式：这些信息如何在 Agent 的工作流中被调用。
3. 弱点利用机制：哪些 Agent 架构缺陷可能被间接提示注入攻击所利用。

基于这些洞察，KYA 实现了一个自动化流程：
- 探测（Probing）：对目标 Agent 进行黑盒测试，收集响应特征。
- 画像构建（Profiling）：根据探测结果建立目标 Agent 的详细档案。
- 攻击生成（Attack Crafting）：利用画像信息设计更精准的间接提示注入攻击。

评估与开源贡献

研究团队在两个层面评估了 KYA 的有效性：
1. 基准测试：在现有的 Agent 安全基准数据集上进行测试。
2. 真实场景验证：在一个真实的编码类 AI Agent 上部署测试。

此外，为了促进可复现性和社区研究，作者已开源了 KYA 框架本身、相关的基准测试工具以及基线实现代码。

意义与展望

随着 AI Agent 逐渐深入金融、医疗、开发等高敏感领域，其安全性不再仅仅是功能完善性的附属品，而是系统设计的核心组成部分。KYA 框架提供了一种结构化的方法，帮助开发者和安全研究人员在攻击者之前发现并修复 Agent 的隐蔽弱点。

对于 AI 从业者和开发者而言，理解并应用此类侦察驱动的渗透测试方法，是构建健壮、可信 AI 系统的重要一步。

---

论文链接：
- arXiv 页面：https://arxiv.org/abs/2607.19837
- PDF 下载：https://arxiv.org/pdf/2607.19837
- 实验性 HTML 版本：https://arxiv.org/html/2607.19837v1

DOI：
https://doi.org/10.48550/arXiv.2607.19837

提交信息：
- 提交日期：2026 年 7 月 22 日
- 文件大小：597 KB
- 版本：v1