Agent 让 LLM 通过工具调用获取外部能力,三大机制:(1) Function Calling Schema——把 API 声明为 name + description + parameters(JSON Schema),模型输出结构化的 tool_call(name + JSON 参数),工具注册表与参数校验(必填字段、枚举、类型)保证调用合法;(2) 语法约束解码——用约束解码(JSON mode / Outlines / guidance)在采样时只允许符合 Schema 的下一个 token,从概率上保证输出可解析:解码只遍历满足
schema(prefix) 的合法候选;(3) ReAct 循环——Thought → Action → Observation 交替迭代:
stLLM(Thoughtt,Actiont)execot→st+1,观察结果回填上下文进入下一轮,配合自我纠错(反思失败、重试不同工具或参数)。