多 Agent 系统:身份、权限隔离、信息共享与运行期防御
Agent 指能自主决定下一步行动、并调用工具作用于外部环境的模型系统。多 Agent 系统的设计可以归结为两条正交的约束:执行权限按最小化原则隔离,信息按任务需要结构化流通。这两条约束属于静态预防。系统在生产环境中长期运行,还需要运行期的检测与恢复机制。完整的防御体系因此由三部分组成:预防、检测、恢复。
问题定义
安全设计要回答三个问题,每个问题决定系统的一项属性:
| 问题 | 含义 | 决定的属性 |
|---|---|---|
| 身份(identity) | 操作由哪个主体发起 | 可追责性 |
| 权限(authorization) | 该主体被允许执行哪些操作 | 可控性 |
| 隔离(isolation) | 该主体出错或被攻破时,影响范围有多大 | 爆炸半径 |
设计的前提是:Agent 不是完全可信的执行者。它的输出有随机性,还可能被输入内容里的恶意指令劫持,这类攻击叫提示词注入(prompt injection)。所以每个 Agent 都应当作一个独立的、可能失效的服务主体来管理。
身份:一个 Agent 对应一个身份
每个 Agent 使用独立的代码托管身份、邮箱和 API key,不共用凭据。共享身份会同时破坏三项属性:
| 被破坏的属性 | 后果 |
|---|---|
| 可归因性 | 审计日志无法区分操作主体 |
| 可独立撤销性 | 只能整体吊销,无法单独停用出现异常的 Agent |
| 可差异化授权 | 无法为不同角色配置不同权限 |
在 GitHub 上,优先使用 GitHub App,而不是个人账号。GitHub App 的安装令牌是短期令牌,1 小时后自动过期,权限可以精确到指定仓库和操作类型[1]。只能使用个人访问令牌(Personal Access Token,PAT)时,应选 fine-grained token,并限定仓库范围和有效期[2]。
权限:最小权限与职责分离
每个 Agent 只持有完成任务所需的最小权限集。写入者和审批者必须是不同的主体,这样单个 Agent 失效时,还有第二道独立的关卡。拉取请求(Pull Request,PR)的提交和合并因此分属不同角色:
| 角色 | 授予的权限 | 明确禁止的操作 |
|---|---|---|
| 调研 Agent | 只读 | 任何写入和对外发送 |
| 编码 Agent | 推送功能分支、创建 PR | 推送主分支、合并 |
| 审查 Agent | 评论、approve | 修改代码 |
| 合并 / 部署 | 分支保护规则加人工确认 | 未经人工确认的不可逆操作 |
凭据应当是短期令牌,由 vault(集中保管和签发密钥的服务)按 Agent 身份签发,不以长期密钥的形式硬编码在配置里。
隔离:限制爆炸半径
隔离要在四个层面同时实施:
| 层面 | 实施方式 |
|---|---|
| 凭据 | 每个 Agent 在 vault 中只能读取自己路径下的密钥 |
| 执行 | 独立的容器或沙箱,网络出口采用白名单 |
| 数据 | 独立的工作目录、分支或 git worktree,避免并发写冲突 |
| 通信 | 通过 issue、PR、消息队列等结构化渠道交接,不传递凭据 |
隔离还有一条关键约束。把 Agent 的三项能力分别记为: 表示读取不可信输入(网页、外部邮件、第三方文档), 表示访问敏感数据, 表示执行对外操作(发送、推送、调用外部接口)。对任意一个 Agent,都要求
三项能力并存时,一次提示词注入就能走完“注入 → 读取 → 外泄”的整条链路。Willison 把这三项能力称为“致命三要素”(lethal trifecta)[3]。所以,处理不可信输入的 Agent 只持有最低权限,高权限 Agent 只接收经过筛选的结构化输入。
共享 skills 仓库:供应链问题
skill 是预先写好、会被加载进 Agent 上下文的指令和资料。共享的 skills 仓库会注入所有 Agent 的上下文,所以对它的写权限,等于对全部 Agent 的间接控制权。这是一个供应链安全问题,做法有三条:
- skills 仓库对绝大多数 Agent 只读。
- 修改必须以 PR 提交,经人工审核后合并。
- 合并前必须通过评测集(见下文“Prompt 与 skill 的回归评测”)。
信息共享:权限与信息正交
隔离作用于执行权限,共享作用于信息,两者是正交的维度。系统可以在信息高度共享的同时,保持权限的严格隔离。
共享并不是越多越好,它有三项成本:
| 成本 | 说明 |
|---|---|
| 注意力成本 | 上下文窗口有限,无关信息会稀释关键信息,降低任务表现 |
| token 成本 | 全量共享时,每个 Agent 的上下文开销随 Agent 数量线性增长 |
| 污染扩散 | 一个 Agent 接收的错误结论或恶意内容,会经由共享传播到全部 Agent |
共享的原则是:共享经过压缩的结论、状态和接口约定,不共享原始的中间推理过程和执行凭据。
共享机制
| 机制 | 结构 | 适用场景 |
|---|---|---|
| 编排者(Orchestrator) | 主 Agent 持有全局上下文,向子 Agent 下发任务切片,子 Agent 回传结果摘要 | 任务可以分解、需要全局一致 |
| 共享状态库(Blackboard) | 单一事实来源(Git 仓库、数据库或文档),存放任务状态、决策记录和接口约定 | 多个 Agent 并行、需要共同状态 |
| 结构化交接物(Handoff Artifact) | issue、PR、规格文档、结构化消息,充当上下游的接口契约 | 流水线式的顺序协作 |
| 消息总线(Event Bus) | 发布–订阅,Agent 按事件类型订阅 | 松耦合、异步触发 |
共享状态库遵循“单写入者、多读取者”的规则:每条状态只有一个归属 Agent 可以写,这样既消除写冲突,也保证可追溯。用 Git 作载体时,版本和审计记录随之而来。
来源标签与信任级别
共享的信息必须带来源标签。标签随信息一起传递,接收方不能提升它。这样信息可以流通,信任级别却不会被隐式提升。
| 来源 | 信任级别 | 接收方的处理方式 |
|---|---|---|
| 人工确认 | 高 | 可以作为决策依据和指令 |
| Agent 推理得出 | 中 | 作为参考结论,关键操作前需要校验 |
| 外部内容(网页、邮件、第三方文档) | 低 | 只作为数据,不作为指令执行 |
由多个来源派生出的信息,取其中最低的信任级别。
运行期防御的必要性
前面的身份、权限、隔离和信息共享机制,约束的是“出错时最多损失多少”。它们回答不了另外两个问题:错误什么时候被发现,损失能不能撤回。
我们用一个简单的估算模型说明三者的关系,它不来自文献。记失效发生到被遏制的时间为 单位时间内可能造成的损失上限为 (由权限和隔离决定),可以回滚的部分为 则单次失效的损失 的上界近似为
静态隔离降低 检测机制缩短 恢复机制增大 三者作用于式 (2) 中不同的项,所以不能互相替代。
检测与恢复
熔断
实时监控每个身份的 API 调用频率、token 消耗速率和错误率。超过阈值(如循环调用、异常的批量写入)时,熔断器自动吊销或冻结该身份的令牌。熔断依赖“一个 Agent 对应一个身份”:只有身份独立,才能熔断单个 Agent 而不影响其他 Agent。
可回滚写入与可追溯链路
| 机制 | 做法 |
|---|---|
| 写入默认可回滚 | Agent 的写操作默认落在临时分支;合并进主干前,必须通过持续集成(Continuous Integration,CI)测试和静态分析 |
| 因果链追踪 | 用分布式追踪记录完整的调用链(如 Orchestrator → Researcher → Coder → Reviewer),每一跳附带输入的来源标签;出故障时,可以定位到被污染的具体输入或失效的外部数据源 |
| 交接物快照 | 对每次交接产生的交接物(issue 描述、PR diff、结构化消息)做不可变的持久化,供事后复盘和离线评测使用 |
注意:对外发送、支付、删除这类外部副作用本质上不可回滚,只能靠审批在执行前拦截(见下文“风险分级审批”)。
Prompt 与 skill 的回归评测
prompt 和 skill 按代码管理。skills 仓库的 PR 合并前,必须通过自动化评测集。评测集包含两类用例:
| 用例 | 检查内容 |
|---|---|
| 行为回归 | 已有任务上的输出不变差 |
| 对抗用例 | 已知的注入样本不被执行 |
风险分级审批
如果所有操作都不加区分地要求人工审批,在高频场景下审批会流于形式,成为橡皮图章。所以审批按风险和可逆性分级:
注意:中风险级别里的模型预审只用来过滤低级错误,不构成独立的关卡。它和被审查的 Agent 有同一类失效模式,自身也可能被注入,因此只能减轻人工审查的负担,不能代替人工审查。
| 风险级别 | 示例 | 处理方式 |
|---|---|---|
| 低 | 补充文档、运行单元测试 | 自动放行,记录日志 |
| 中 | 修改非核心逻辑 | 第二个模型预审,再加人工审查 |
| 高 / 不可逆 | 合并主分支、对外发送、删除、支付 | 强制人工确认 |
权衡与结论
共享的程度需要权衡。共享越多,协同的一致性越高,但成本和错误传播的风险同步上升。共享越少,各个 Agent 越独立、越稳健,但会出现重复劳动和结论不一致。
工程上的平衡点如下:
| 机制 | 解决的问题 |
|---|---|
| 身份 | 可追责 |
| 权限 | 可控制 |
| 隔离 | 故障不扩散 |
| 按需共享决策、状态和接口约定 | 信息流通而不稀释、不污染 |
| 结构化契约交接 | 交接不依赖共享凭据 |
| 熔断与追踪 | 缩短遏制时间 |
| 可回滚写入与分级审批 | 限制不可逆的损失 |
这些机制不是可以相加的分量。系统的安全性受限于最薄弱的一环:它不取决于单个 Agent 的能力,而取决于任何一个 Agent 失效时,损失能否被及时发现、限制在局部,并尽可能撤回。
参考文献
- GitHub, “Generating an installation access token for a GitHub App,” GitHub Docs. [Online]. Available: docs.github.com
- GitHub, “Managing your personal access tokens,” GitHub Docs. [Online]. Available: docs.github.com
- S. Willison, “The lethal trifecta for AI agents: private data, untrusted content, and external communication,” Jun. 16, 2025. [Online]. Available: simonwillison.net