Constrained Decoding & Structured Outputs: 解释工具调用中结构化输出的必要性。

Core Concept: 工具参数必须符合 schema（类型/枚举/必需字段）；结构化输出（约束解码）保证参数可解析、可执行。

数学机理：<strong>为什么工具调用需要结构化输出</strong>——工具（函数）有<strong>严格的接口</strong>：参数名、类型（string/integer/array/object）、是否必需、取值范围（枚举）。若模型输出的参数 (a) <strong>格式不合法</strong>（如缺引号、类型错），则<strong>解析失败</strong>（无法调用）；(b) <strong>类型/枚举错</strong>（如把 high 写成 High），则<strong>执行失败或行为错误</strong>。故'结构化'不是美观问题，而是<strong>功能正确性的前提</strong>。<strong>实现路径</strong>——(1) <strong>原生 function calling</strong>——现代模型经专门训练，能输出符合 schema 的结构化调用（通常配合约束解码保证严格合法）；这是<strong>首选</strong>（可靠性高）。(2) <strong>prompt + 约束解码</strong>——自建系统用 JSON Schema 约束解码，保证输出合法。(3) <strong>prompt only</strong>——只靠 prompt 要求 JSON（最不可靠，尤其复杂 schema）。<strong>常见错误类型</strong>——(a) <strong>格式错误</strong>（缺引号、多逗号、截断）；(b) <strong>类型错误</strong>（数字写成字符串）；(c) <strong>枚举错误</strong>（大小写、拼写）；(d) <strong>必需字段缺失</strong>；(e) <strong>嵌套结构错误</strong>；(f) <strong>幻觉参数</strong>（编造不存在的参数名）。<strong>约束解码的作用</strong>——从根本上消除 (a)(b)(c)(d)(e)（因为非法 token 被掩码）；但<strong>不能消除</strong> (f) 的语义错误（如参数名合法但值不合理）——故仍需<strong>参数校验</strong>（服务端验证）。<strong>与'工具选择'的关系</strong>——工具调用有两个失败点：(a) <strong>选错工具</strong>（模型能力问题，需更好的工具描述与模型）；(b) <strong>参数错误</strong>（结构化问题，可用约束解码解决）。研究表明<strong>参数错误</strong>是常见失败模式（尤其复杂参数），故结构化输出有直接价值。<strong>工程实践</strong>——(a) <strong>用 schema 约束</strong>（不要只靠 prompt）；(b) <strong>服务端校验</strong>（拒绝非法参数，返回具体错误让模型修正）；(c) <strong>参数设计简化</strong>（扁平、枚举、少嵌套）；(d) <strong>默认值</strong>（减少必需参数）。<strong>与'自由文本参数'的权衡</strong>——有些参数本质是自由文本（如'搜索查询'）；此时约束解码只在'外层结构'起作用（字符串内容自由）；故需 (a) 在 schema 描述中说明期望格式、(b) 服务端做校验/清洗。

深度剖析与工程权衡：① <strong>'参数错误是常见失败模式'</strong>——研究表明即使工具选择正确，参数错误仍占相当比例（尤其复杂 schema）；故结构化输出（约束解码）有直接价值。② <strong>'约束解码不能解决语义错误'</strong>——它保证格式，但'参数值是否合理'仍需服务端校验；故需'格式约束 + 语义校验'两层。③ <strong>'参数设计简化'是最有效的改进</strong>——扁平化、用枚举、减少必需参数、提供默认值；这比'让模型更聪明'更有效（降低出错空间）。④ <strong>'服务端校验与错误回填'</strong>——拒绝非法参数时返回<strong>具体错误信息</strong>（哪个参数、为什么错），让模型修正；这是 Agent 健壮性的关键（见 function calling 题）。⑤ <strong>'自由文本参数'的处理</strong>——对'搜索查询'这类参数，无法用枚举约束；故需 (a) 描述格式、(b) 后处理清洗（去引号、截断）、(c) 服务端校验。⑥ <strong>面试要点</strong>——被问'为什么工具调用要结构化输出'，应给出'<strong>参数必须匹配 schema 才能执行 + 常见错误类型（格式/类型/枚举/缺失/嵌套）+ 约束解码消除格式类错误 + 服务端校验处理语义错误</strong>'，并强调'<strong>参数错误是常见失败模式</strong>'与'<strong>简化参数设计</strong>'；这是 Agent 工程类问题的深度回答。