Convex Optimization & KKT: 什么是强对偶与 Slater 条件？对偶问题有什么用。

Core Concept: 强对偶指原问题最优值等于对偶最优值；Slater 条件（存在严格可行点）是凸问题强对偶的充分条件。

对偶的构造是交换 min 与 max 的顺序：原问题 p*=min_x max_{λ≥0}L(x,λ)，对偶问题 d*=max_{λ≥0}min_x L(x,λ)。<strong>弱对偶</strong> d*≤p* 总成立（因为对任意 x,λ 有 min_x L ≤ L ≤ max_λ L），它给出原问题最优值的<strong>下界</strong>——这在实践中极有用（可用于验证解的最优性间隙）。<strong>强对偶</strong> d*=p* 需要额外条件：对凸问题，Slater 条件（存在严格可行点，即 ∃x 使所有不等式约束严格成立）保证强对偶成立。此时 KKT 条件成为充要条件，且原问题与对偶问题同解。

对偶的三大实用价值：① <strong>SVM 的核技巧</strong>——原问题的变量是权重 w（维度等于特征数，可能无限维），对偶问题的变量是样本乘子 αᵢ（维度等于样本数），且目标函数中只出现<strong>内积 xᵢᵀxⱼ</strong>，可直接替换为核函数 K(xᵢ,xⱼ) 实现非线性分类而无需显式映射到高维——这是 SVM 相对其他线性模型的核心优势；② <strong>下界与最优性间隙</strong>——对偶目标值可作为原问题最优值的下界，用于早停（当间隙足够小即停止）与解的验证，也用于分布式优化中的收敛判定；③ <strong>分解与并行</strong>——对偶问题常可按样本分解（如 ADMM、坐标下降求解 SVM），便于大规模并行。