理解 Agent 的心脏 — 一个 while True 循环如何让 AI "活"起来
想象你是一个餐厅服务员:客人点菜 → 你告诉厨师 → 厨师做好端上来 → 你送给客人 → 客人可能再点一道 → 循环继续…直到客人说"买单"。
Agent Loop 就是这个永不疲倦的服务员,而 LLM 就是那个厨师。
一句话:Agent Loop 就是一个 while True 死循环,它让 AI 不停地"思考→行动→观察",直到任务完成。
类比:你在解一道数学题
你不会一步算出答案。你的过程是:
① 读题(输入)→ ② 想下一步怎么做(推理)→ ③ 动笔计算(执行)→ ④ 看看结果对不对(观察)→ ⑤ 如果没做完,回到②继续。
Agent Loop 做的是完全一样的事情,只不过"你"变成了 AI,"动笔计算"变成了"调用工具"。
循环不能永远转下去。它靠一个叫 stop_reason 的信号来决定"继续"还是"结束"。
类比:交通信号灯
🔴 红灯(stop_reason ≠ tool_use)= "我做完了"→ 循环停止,返回结果
🟢 绿灯(stop_reason = tool_use)= "我还需要用工具"→ 执行工具,继续循环
| stop_reason 的值 | 含义 | 循环动作 |
|---|---|---|
tool_use |
AI 说:"我要用一下工具" | 执行工具 → 结果喂回去 → 继续循环 🔄 |
end_turn |
AI 说:"我说完了" | 退出循环,返回最终答案 ✅ |
max_tokens |
AI 说太多话了,被强制打断 | ⚠️ 异常情况,需要处理 |
在循环过程中,所有对话内容都存在一个列表 messages[] 里,像聊天记录一样不断追加:
用户说的话,或者工具返回的结果(没错,工具结果也用 user 角色发送)
AI 的回复,可能是文字回答,也可能是"我要调用某个工具"
系统提示词,告诉 AI "你是谁"以及"你能做什么",在最开头设置一次
下面这段代码就是 Agent 的"心脏"。我们一行一行拆解,保证你看得懂。
return 跳出 while True 循环。如果没有 Hook 阻止,任务就完成了!核心循环虽然只有十几行,但它调用了三个"打工人"函数来完成具体工作。
信使:把聊天记录和工具定义打包发给 AI 大模型,等它回复。就像把信寄出去,等回信。
检查员:翻看 AI 的回复,找有没有"tool_use"标记。有的话说明 AI 想用工具。
执行者:拿到 AI 指定的工具名称和参数,真的去执行,然后把结果收集起来。
类比:点外卖
model = 选哪家餐厅(模型)
system = 备注"不要辣"(AI 的人设约束)
messages = 你之前跟店家的所有聊天记录
tools = 店家能做的菜品列表(AI 可用的工具)
max_tokens = 最多做几道菜(限制回复长度)
rm -rf / 这种危险命令。
设计模式就是"前辈们总结的编程套路"。Agent Loop 用了三种经典模式。
Agent 有不同的状态(空闲→运行→等待→完成),每个状态有不同的行为。就像红绿灯,不同颜色对应不同动作。
Hook 系统就是观察者。当 Agent 发生事件(工具执行前/后),所有注册的 Hook 都会被通知。就像微信群发消息,所有人都能看到。
不同的工具(读文件、执行命令、搜索)都是"策略",Agent 根据 AI 的选择调用对应的策略。就像餐厅菜单,点什么做什么。
做完这些题,你就知道自己是不是真的理解了 Agent Loop。
True 循环。这些内容超出基础范围,但如果你想深入理解 Agent,值得看看。
在代码第 11-13 行,我们看到当 LLM 表示"我说完了"时,还会触发一个 Stop Hook。这个 Hook 可以返回新的用户消息,让循环继续!
实际应用场景:
• 自动审查:AI 说"我做完了",但 Hook 检查结果发现有遗漏,自动追加"请再检查一遍"
• 多轮确认:AI 完成任务后,Hook 自动添加"请确认你的修改",实现人机协作
• 自我纠错:Hook 检查 AI 的输出是否符合格式要求,不符合就要求重做
这种设计让 Agent 不仅能"做事",还能"自我反思和改进"——这正是高级 Agent 的核心能力。
在 _execute_tools() 中,工具是逐个串行执行的(for 循环)。但如果 AI 一次请求了多个工具呢?
比如 AI 说:"同时读取 file1.py 和 file2.py"——两个读文件操作完全独立,串行执行就浪费时间了。
优化方案:
• 使用 asyncio.gather() 并行执行独立的工具调用
• 用有向无环图(DAG)分析工具间的依赖关系
• 只对有依赖的工具串行,无依赖的并行
这就是为什么生产级 Agent 比教学示例快得多的原因之一。
随着循环进行,messages[] 会越来越长。但 LLM 的上下文窗口是有限的(比如 Claude 约 200K tokens)。
当消息太长时怎么办?
• 截断:丢弃最早的消息(简单但可能丢失重要信息)
• 摘要压缩:让 LLM 把旧消息总结成一段话,替代原始消息
• 滑动窗口:只保留最近 N 轮对话
• 重要性排序:根据消息的重要性选择性保留
这就是文档中提到的 [[06-Memory System]] 要解决的问题——Agent 的"记忆管理"。
这是 Anthropic API 的设计选择。stop_reason 回答的问题是"模型为什么停了?"而不是"模型的状态是什么?"
这种设计更精确:状态可以有很多种,但"停止原因"直接告诉你下一步该做什么:
• tool_use → "我需要工具" → 你该去执行工具
• end_turn → "我说完了" → 你该返回结果
• max_tokens → "我被截断了" → 你该处理异常
每个值都是一个明确的行动指令,而不仅仅是一个状态标签。这是 API 设计的好范例。
tool_use(继续循环)和 end_turn(退出循环)最终类比:Agent Loop 就像一个永不停歇的厨师学徒
它拿到订单(用户输入)→ 做菜(LLM 推理)→ 需要什么食材就去拿(工具执行)→ 做好了端给客人 → 如果客人说"再来一道"就继续做 → 直到客人满意离开。
30 行的 while True 就是 Agent 的核心。所有复杂功能都是在这个循环上叠加的。