跳转至

何意味

优化基础理论与方法

约 378 个字 预计阅读时间 1 分钟

任课教师：张寅

General Formulation

令 \(x\) 是一个 \(n\) 维实向量，\(S\subseteq \mathbb{R}^n\)，且 \(f_0 (x),...,f_m (x)\) 是 \(x\) 在 \(S\) 上的一些实值函数，一般最小化问题可表示为

\(min f_0 (x) s.t. f_i (x) \leq 0, i=1,...,m\)

其中 \(f_0 (x)\) 称为目标函数，向量函数 \(f(x) = (f_1 (x),...,f_m (x))^T\) 称为函数约束向量，\(S\) 称为基本可行集，集合 \(Q = \{x\in S|f_i (x) \leq 0, i=1,...,m\}\) 称为上述问题的可行集。

对上述这个最小化问题可以进行分类：

  • 有约束问题：\(Q \subset \mathbb{R}^n\)
  • 无约束问题：\(Q = \mathbb{R}^n\)
  • 光滑问题：所有函数 \(f_i (x)\) 都是可微的
  • 非光滑问题：存在不可微的分量 \(f_k (x)\)
  • 线性约束问题：所有函数（从 i = 1 开始） \(f_i (x)\) 都是线性的
    • 如果 \(f_0 (x)\) 也是线性的，则称为线性优化问题
    • 二次优化问题：\(f_0 (x)\) 是二次函数
  • \(Q \neq \emptyset\)：可行问题
  • \(\exists x\in Q\) 对于所有不等式约束满足 \(f_j (x) < 0(或 f_j (x) \geq 0)\)，且对于所有等式满足 \(f_j (x) = 0\)：严格可行问题
  • \(x^*\) 是优化全局解，如果 \(\forall x\in Q, f_0 (x^*) \leq f_0 (x)\)
    • 此时 \(f_0 (x^*)\) 称为最优值
  • \(x^*\) 是局部解，如果 \(\forall x \in NBR(x^*, \epsilon) \cap Q, f_0 (x^*) \leq f_0 (x)\)
    • 即在一个小邻域内函数值最小

评论