多 Agent 系统:身份、权限隔离、信息共享与运行期防御

2026-11-01笔记AgentHarness安全

Agent 指能自主决定下一步行动、并调用工具作用于外部环境的模型系统。多 Agent 系统的设计可以归结为两条正交的约束:执行权限按最小化原则隔离,信息按任务需要结构化流通。这两条约束属于静态预防。系统在生产环境中长期运行,还需要运行期的检测与恢复机制。完整的防御体系因此由三部分组成:预防、检测、恢复。

问题定义

安全设计要回答三个问题,每个问题决定系统的一项属性:

问题含义决定的属性
身份(identity)操作由哪个主体发起可追责性
权限(authorization)该主体被允许执行哪些操作可控性
隔离(isolation)该主体出错或被攻破时,影响范围有多大爆炸半径

设计的前提是:Agent 不是完全可信的执行者。它的输出有随机性,还可能被输入内容里的恶意指令劫持,这类攻击叫提示词注入(prompt injection)。所以每个 Agent 都应当作一个独立的、可能失效的服务主体来管理。

身份:一个 Agent 对应一个身份

每个 Agent 使用独立的代码托管身份、邮箱和 API key,不共用凭据。共享身份会同时破坏三项属性:

被破坏的属性后果
可归因性审计日志无法区分操作主体
可独立撤销性只能整体吊销,无法单独停用出现异常的 Agent
可差异化授权无法为不同角色配置不同权限

在 GitHub 上,优先使用 GitHub App,而不是个人账号。GitHub App 的安装令牌是短期令牌,1 小时后自动过期,权限可以精确到指定仓库和操作类型[1]。只能使用个人访问令牌(Personal Access Token,PAT)时,应选 fine-grained token,并限定仓库范围和有效期[2]。

权限:最小权限与职责分离

每个 Agent 只持有完成任务所需的最小权限集。写入者和审批者必须是不同的主体,这样单个 Agent 失效时,还有第二道独立的关卡。拉取请求(Pull Request,PR)的提交和合并因此分属不同角色:

角色授予的权限明确禁止的操作
调研 Agent只读任何写入和对外发送
编码 Agent推送功能分支、创建 PR推送主分支、合并
审查 Agent评论、approve修改代码
合并 / 部署分支保护规则加人工确认未经人工确认的不可逆操作

凭据应当是短期令牌,由 vault(集中保管和签发密钥的服务)按 Agent 身份签发,不以长期密钥的形式硬编码在配置里。

隔离:限制爆炸半径

隔离要在四个层面同时实施:

层面实施方式
凭据每个 Agent 在 vault 中只能读取自己路径下的密钥
执行独立的容器或沙箱,网络出口采用白名单
数据独立的工作目录、分支或 git worktree,避免并发写冲突
通信通过 issue、PR、消息队列等结构化渠道交接,不传递凭据

隔离还有一条关键约束。把 Agent 的三项能力分别记为:UU 表示读取不可信输入(网页、外部邮件、第三方文档),SS 表示访问敏感数据,EE 表示执行对外操作(发送、推送、调用外部接口)。对任意一个 Agent,都要求

¬ (U∧S∧E)\neg\,(U \land S \land E)

三项能力并存时,一次提示词注入就能走完“注入 → 读取 → 外泄”的整条链路。Willison 把这三项能力称为“致命三要素”(lethal trifecta)[3]。所以,处理不可信输入的 Agent 只持有最低权限,高权限 Agent 只接收经过筛选的结构化输入。

共享 skills 仓库:供应链问题

skill 是预先写好、会被加载进 Agent 上下文的指令和资料。共享的 skills 仓库会注入所有 Agent 的上下文,所以对它的写权限,等于对全部 Agent 的间接控制权。这是一个供应链安全问题,做法有三条:

信息共享:权限与信息正交

隔离作用于执行权限,共享作用于信息,两者是正交的维度。系统可以在信息高度共享的同时,保持权限的严格隔离。

共享并不是越多越好,它有三项成本:

成本说明
注意力成本上下文窗口有限,无关信息会稀释关键信息,降低任务表现
token 成本全量共享时,每个 Agent 的上下文开销随 Agent 数量线性增长
污染扩散一个 Agent 接收的错误结论或恶意内容,会经由共享传播到全部 Agent

共享的原则是:共享经过压缩的结论、状态和接口约定,不共享原始的中间推理过程和执行凭据。

共享机制

机制结构适用场景
编排者(Orchestrator)主 Agent 持有全局上下文,向子 Agent 下发任务切片,子 Agent 回传结果摘要任务可以分解、需要全局一致
共享状态库(Blackboard)单一事实来源(Git 仓库、数据库或文档),存放任务状态、决策记录和接口约定多个 Agent 并行、需要共同状态
结构化交接物(Handoff Artifact)issue、PR、规格文档、结构化消息,充当上下游的接口契约流水线式的顺序协作
消息总线(Event Bus)发布–订阅,Agent 按事件类型订阅松耦合、异步触发

共享状态库遵循“单写入者、多读取者”的规则:每条状态只有一个归属 Agent 可以写,这样既消除写冲突,也保证可追溯。用 Git 作载体时,版本和审计记录随之而来。

来源标签与信任级别

共享的信息必须带来源标签。标签随信息一起传递,接收方不能提升它。这样信息可以流通,信任级别却不会被隐式提升。

来源信任级别接收方的处理方式
人工确认高可以作为决策依据和指令
Agent 推理得出中作为参考结论,关键操作前需要校验
外部内容(网页、邮件、第三方文档)低只作为数据,不作为指令执行

由多个来源派生出的信息,取其中最低的信任级别。

运行期防御的必要性

前面的身份、权限、隔离和信息共享机制,约束的是“出错时最多损失多少”。它们回答不了另外两个问题:错误什么时候被发现,损失能不能撤回。

我们用一个简单的估算模型说明三者的关系,它不来自文献。记失效发生到被遏制的时间为 TcontainT_{\text{contain}}单位时间内可能造成的损失上限为 rr(由权限和隔离决定),可以回滚的部分为 RR则单次失效的损失 LL 的上界近似为

L≤r⋅Tcontain−RL \le r \cdot T_{\text{contain}} - R

静态隔离降低 rr检测机制缩短 TcontainT_{\text{contain}}恢复机制增大 RR三者作用于式 (2) 中不同的项,所以不能互相替代。

检测与恢复

熔断

实时监控每个身份的 API 调用频率、token 消耗速率和错误率。超过阈值(如循环调用、异常的批量写入)时,熔断器自动吊销或冻结该身份的令牌。熔断依赖“一个 Agent 对应一个身份”:只有身份独立,才能熔断单个 Agent 而不影响其他 Agent。

可回滚写入与可追溯链路

机制做法
写入默认可回滚Agent 的写操作默认落在临时分支;合并进主干前,必须通过持续集成(Continuous Integration,CI)测试和静态分析
因果链追踪用分布式追踪记录完整的调用链(如 Orchestrator → Researcher → Coder → Reviewer),每一跳附带输入的来源标签;出故障时,可以定位到被污染的具体输入或失效的外部数据源
交接物快照对每次交接产生的交接物(issue 描述、PR diff、结构化消息)做不可变的持久化,供事后复盘和离线评测使用

注意:对外发送、支付、删除这类外部副作用本质上不可回滚,只能靠审批在执行前拦截(见下文“风险分级审批”)。

Prompt 与 skill 的回归评测

prompt 和 skill 按代码管理。skills 仓库的 PR 合并前,必须通过自动化评测集。评测集包含两类用例:

用例检查内容
行为回归已有任务上的输出不变差
对抗用例已知的注入样本不被执行

风险分级审批

如果所有操作都不加区分地要求人工审批,在高频场景下审批会流于形式,成为橡皮图章。所以审批按风险和可逆性分级:

注意:中风险级别里的模型预审只用来过滤低级错误,不构成独立的关卡。它和被审查的 Agent 有同一类失效模式,自身也可能被注入,因此只能减轻人工审查的负担,不能代替人工审查。

风险级别示例处理方式
低补充文档、运行单元测试自动放行,记录日志
中修改非核心逻辑第二个模型预审,再加人工审查
高 / 不可逆合并主分支、对外发送、删除、支付强制人工确认

权衡与结论

共享的程度需要权衡。共享越多,协同的一致性越高,但成本和错误传播的风险同步上升。共享越少,各个 Agent 越独立、越稳健,但会出现重复劳动和结论不一致。

工程上的平衡点如下:

机制解决的问题
身份可追责
权限可控制
隔离故障不扩散
按需共享决策、状态和接口约定信息流通而不稀释、不污染
结构化契约交接交接不依赖共享凭据
熔断与追踪缩短遏制时间
可回滚写入与分级审批限制不可逆的损失

这些机制不是可以相加的分量。系统的安全性受限于最薄弱的一环:它不取决于单个 Agent 的能力,而取决于任何一个 Agent 失效时,损失能否被及时发现、限制在局部,并尽可能撤回。

参考文献

  1. GitHub, “Generating an installation access token for a GitHub App,” GitHub Docs. [Online]. Available: docs.github.com
  2. GitHub, “Managing your personal access tokens,” GitHub Docs. [Online]. Available: docs.github.com
  3. S. Willison, “The lethal trifecta for AI agents: private data, untrusted content, and external communication,” Jun. 16, 2025. [Online]. Available: simonwillison.net