结构化输出保证与语法约束解码引擎 (Guaranteed Structured Outputs & Grammar-Constrained Decoding) 是将大模型非确定性自然语言输出强制转换为 100% 符合特定 JSON Schema / Pydantic 语法树的核心 AIE 基础设施;两大实现流派:1) 提示词与自我修复流 (Prompting + Pydantic Validation + OutputFixingParser: 让模型尝试输出 JSON,若反序列化失败则将错误 Trace 拼入 Prompt 让 LLM 重新修复,存在延迟高与偶发解析失败缺陷);2) 引擎级约束解码 (Engine-Level Constrained Decoding / Outlines / SGLang / Guidance): 在大模型每一步自回归采样时,通过编译 JSON Schema 为确定有限状态自动机 (DFA / CFG 语法上下文无关文法),动态构建 Logits Mask 掩码,将当前不符合 JSON 语法的 Token Logits 强行置为
−∞(如在字段名后只能输出 `": "`),从数学与采样层面提供
100% 语法绝对合法保证 且零性能开销。