从零学Agent:Agent为什么需要循环
Agent是什么
一个简单的公式可以定义目前的Agent:Agent = 模型 + 工具 + 循环 + 状态。
像市面上热门的 Claude Code、Codex 这些Coding Agent 都可以套进来。
MCP本质也只是调用远程工具的协议,Skill本质是由一些prompt+资源、脚本组成,prompt描述了模型应该如何使用工具、资源、脚本。不影响本质。
循环的本质
循环的本质是:模型决定做什么,外部执行把结果回灌给模型,知道满足终止条件。
常见的终止条件有:
- 任务完成
- 达到最大步数
- 达到token预算上线
- 人工中断
- 触发重复检测/错误检测
从这里其实可以看出为什么需要循环,模型其实没有直接调用工具的能力,模型调用工具是输出特定格式的数据,如JSON格式,包含调用ID、方法名、参数。
示例:
{
"role": "assistant",
"tool_calls": [
{
"id": "call_1",
"type": "function",
"function": {
"name": "get_city",
"arguments": "{\"userId\": 123}"
}
}
]
}
由程序识别到大模型的返回之后,调用对于工具,然后把结果拼到下次调用模型的上下文中以完成完整的工具调用。
如果没有循环,模型想调用一下工具,直接输出这些内容,显然没法解决用户问题,更何况当问题复杂之后,需要逐步推理,试错,经过多步之后最终才能完成任务。
循环里通常做些什么
从前面的本质其实可以知道,循环需要检测终止条件是否满足、调用模型、工具结果回灌。
不依赖框架,一个极简的 Agent Loop 伪代码如下:
public class AgentLoop {
static int MAX_STEP = 20;
static int MAX_TOKEN_USAGE = 100 * 1024;
public static void main(String[] args) {
loop();
}
static LoopResult loop() {
// 构造prompt
List<Message> msgs = new ArrayList<>();
msgs.add(SystemMessage.from(SYSTEM_PROMPT));
msgs.add(UserMessage.from(userInput));
int step = 0;
int tokenUsage = 0;
// 循环
while (step <= MAX_STEP) {
ChatResponse response = chatModel.chat(msgs, tools);
tokenUsage += response.tokenUsage == null ? 0 : response.tokenUsage;
AiMessage aiMessage = response.aiMessage();
msgs.add(aiMessage);
// 不调用工具了认为完成了,也可以识别特定输出,或者识别调用了“任务结束工具”,按情况自行定义
if (!aiMessage.hasToolCalls()) {
return LoopResult(aiMessage.text(), step + 1, StopReason.FINAL, tokenUsage);
}
// 达到token 上限
if (tokenUsage > MAX_TOKEN_USAGE) {
return LoopResult(aiMessage.text(), step + 1, StopReason.TOKEN_LIMIT, tokenUsage);
}
// 进行工具调用、结果回灌
for (ToolRequest toolRequest : aiMessage.toolRequests()) {
String result = null;
try {
result = toolFactory.invoke(toolRequest.name(), toolRequest.arguments());
} catch (Exception e) {
result = errorResult(toolRequest.name(), toolRequest.arguments());
}
// 结果回灌
msgs.add(ToolExecMessage.toolExecMessag(toolRequest.id(), toolRequest.name(), result));
}
step++;
}
return LoopResult(null, step, StopReason.MAX_STEPS, tokenUsage);
}
}
还有很多逻辑都可以加入,比如以相同参数重复调用工具多次,连续调用工具失败达到上限直接返回错误信息等等。防止死循环,或一直没有真实进展浪费模型调用。
更多和循环相关的高阶功能可以自行补充:
- 记忆的注入也可以放在构造prompt的位置,记忆的生成、写入可以放在循环结束前。
- 上下文压缩,可以放在循环里调用模型的前后去做。