Agent 的安全门 — 先设边界,再给自由
上一章我们给了 Agent 一双"万能手"(工具系统)。但一个能执行任何命令的 Agent,就像一个没有刹车的赛车——跑得快,但容易翻车。
权限系统就是 Agent 的刹车和安全气囊:在工具执行之前,先过三道安检。
每个工具调用都要经过三道检查,就像机场安检一样层层把关。
类比:机场安检流程
你带着行李去坐飞机:
① 第一关:违禁品清单(炸药、刀具)→ 命中就直接没收,没得商量
② 第二关:X 光扫描(检查可疑物品)→ 发现可疑的拿出来细看
③ 第三关:人工开箱检查(需要你配合确认)→ 打开箱子给安检员看
Agent 的三道闸门完全一样:拒绝列表 → 规则匹配 → 用户审批
永远禁止的操作。命中即拒绝,没有例外。
需要检查的操作。匹配规则后决定是询问还是拒绝。
需要你确认的操作。你可以选择允许或拒绝。
当 Agent 想执行一个工具时,权限系统会按顺序过三道关。
| 权限结果 | 含义 | 后续动作 |
|---|---|---|
allow | 放行 | 直接执行工具 ✅ |
deny | 拒绝 | 返回错误信息 ❌ |
ask | 需要确认 | 弹出提示问用户 ⏸️ |
命令: sudo apt install xxx
→ 闸门1 检查:包含 "sudo"
→ 结果:DENY,直接拒绝
命令: rm temp.txt
→ 闸门1:不在拒绝列表 ✅
→ 闸门2:匹配 CommandRule
→ 闸门3:ASK,问用户
权限管线是整个系统的核心。它实现了三道闸门的检查逻辑。
永远不允许的操作。比如 rm -rf /、sudo、shutdown。命中即拒绝,不需要问用户。
限制文件操作只能在指定目录内。超出范围的操作需要用户确认。防止 Agent 读写系统文件。
特定命令模式需要确认。比如 rm、chmod 777。匹配后询问用户是否允许执行。
继承 PermissionRule,实现 matches、should_ask/should_deny、get_reason。
调用 pipeline.add_rule(MyRule()) 即可生效。
权限系统会在每次工具调用前自动检查你的规则。
最小权限原则(Principle of Least Privilege)是安全设计的基石:只授予完成任务所需的最低权限。
在 Agent 中这意味着:只允许访问当前工作目录,而不是整个文件系统。只允许执行项目相关命令,而不是系统管理命令。
实现方式:PathRule 的 allowed_paths 只设为 [os.getcwd()]——当前目录就够了。
审计日志记录每一次工具调用的详情:谁调用了什么工具、参数是什么、结果是什么。这对于安全审计和问题排查至关重要。
实现方式:通过 PostToolUse Hook 记录日志。这是 Hook 系统(04章)和权限系统的完美协作。
日志应该记录:工具名、输入参数、执行结果、时间戳、权限决策。
DenyListRule 使用简单的 pattern in command 字符串包含检查,而不是正则表达式。为什么?
简单即安全:正则表达式容易写出有漏洞的匹配规则。比如 rm -rf 的正则如果写成 rm\s+-rf,攻击者可以用 rm -rf(两个空格)绕过。
字符串包含虽然"粗暴",但覆盖面更广。"sudo" in command 不管 sudo 出现在命令的哪个位置都能匹配。
当然,生产环境通常会用更精细的策略,比如 AST 解析命令结构。
权限系统实际上是通过 PreToolUse Hook 接入 Agent Loop 的。也就是说,权限检查是 Hook 系统的一个"插件"。
这种设计的好处:权限系统不需要修改 Agent Loop 的代码。它只是一个注册在 PreToolUse 事件上的 Hook 函数。
这也意味着你可以完全替换权限系统——只要新的实现也注册为 PreToolUse Hook。这就是"开闭原则"的又一次体现。