内点法：优化理论的明珠
在优化问题的求解中，等式约束问题通常通过牛顿法轻松解决KKT方程组，但不等式约束的加入却使其复杂度飙升。处理等式与不等式联合约束时，KKT方程组的非线性性和非正定性难题尤为突出，如我们熟悉的案例：
当不等式约束导致方程组秩不足时，牛顿法的迭代方向变得模糊不清。因此，即使在LP和QP问题中广泛应用的图形法（积极集法的扩展）在面对线性规划时，其求解复杂度已接近灾难级别。内点法，作为优化理论中的一项高效多项式算法，无论在LP还是NLP问题上都大放异彩。本节将深入探讨障碍函数和原始对偶这两种内点法的妙用。
内点法的创新之处在于通过引入障碍函数，将约束转化为目标函数，构建出等价的优化问题。以对数障碍函数为例，原模型可近似表示为：
当约束条件满足时，我们有
对数函数的定义域限制了梯度下降法的迭代，确保它不会超出边界。通过设置适当的\(\tau\)值，如\(\tau = 0.1, 1, 10\)，我们能看到凸优化问题与障碍函数相结合的便利性。
拉格朗日函数转换后，KKT条件相应简化，消除了互补松弛条件，使得求解难度显著降低。而证明障碍函数法下的最优解接近原模型的关键在于，找到合适的对偶间隔\(\delta\)，它能保证最优解的逼近。
相较于障碍函数法，原始对偶内点法通过调整互补松弛条件，将问题转化为更易处理的形式：
通过矩阵形式展示，牛顿法的迭代过程变得清晰，对偶间隔的自适应调整是其核心策略。在每次迭代中，对偶间隔\(\delta\)根据当前值动态更新，确保求解的稳定性和效率。
然而，对优化过程的正确性，我们还需附加一个停止条件，同时步长选择也需确保满足约束条件，以保证求解的稳健性。
尽管障碍函数法和原始对偶法在形式上相似，但它们的操作层面有所不同。障碍函数法需要在每一步对\(\delta\)进行牛顿迭代，并在外部进行对\(\delta\)的逐步缩小，而对偶法则只进行单层迭代，其内核在于对对偶间隔的动态调整。
总的来说，内点法家族的这两种方法以其独特的优势，为优化问题的求解提供了强大且高效的工具，让复杂约束下的问题变得不再棘手。无论是障碍函数法的巧妙转化，还是原始对偶法的智能迭代，都证明了内点法在优化理论中的核心地位和广泛适用性。