--- title: Josh's Note — 凸优化
Part 2.1 凸函数—保凸运算 mathjax: true comments: true copyright: true toc: enable: true number: false wrap: true expand_all: true max_depth: 4 categories: - - Josh 的学习笔记 - 凸优化 - 凸函数 - - 数学 - 凸优化 tags: - 凸优化 - 凸函数 abbrlink: c3476904 date: 2024-07-03 23:04:33 --- $ \newcommand{\dd}{\mathrm{d}} \def\dom{\mathop{\bf dom}} \def\epi{\mathop{\bf epi}} $  本文讨论几种保持函数凸性或者凹性的运算，这样可以构造新的凸函数或者凹函数。首先从一些简单的运算开始，如求和、伸缩以及逐点上确界，之后再介绍一些更为复杂的运算（其中一些运算的特例即为简单运算）。 # 1. 非负加权求和   显然，如果函数 $f$ 是凸函数且 $\alpha\geqslant0$，则函数 $\alpha f$ 也为凸函数。如果函数 $f_1$ 和 $f_2$ 都是凸函数，则它们的和 $f_1+f_2$ 也是凸函数。将非负伸缩以及求和运算结合起来，可以看出，凸函数的集合本身是一个凸锥：凸函数的非负加权求和仍然是凸函数，即函数 $$ f=w_1f_1+\cdots+w_mf_m $$ 是凸函数。类似地，凹函数的非负加权求和仍然是凹函数。严格凸（凹）函数的非负，非零加权求和是严格凸（凹）函数。   这个性质可以扩展至无限项的求和以及积分的情形。例如，如果固定任意 $y\in\mathcal{A}$，函数 $f(x,y)$ 关于 $x$ 是凸函数，且对任意 $y\in\mathcal{A}$,有$w(y)\geqslant0$，则函数 $g$ $$ g(x)=\int_{\mathcal{A}}w(y)f(x,y)\dd y $$ 关于$x$是凸函数（若此积分存在）。   我们可以很容易直接验证非负伸缩以及求和运算是保凸运算，或者可以根据相关的上境图得到此结论。例如，如果 $w\geqslant0$ 且 $f$ 是凸函数，有 $$ \epi (wf)=\left[\begin{array}{cc} I&0\\ 0&w \end{array}\right]\epi f $$ 因为凸集通过线性变换得到的像仍然是凸集，所以 $\epi(wf)$是凸集。 # 2. 复合仿射映射   假设函数 $f:\mathbf{R}^n\to\mathbf{R}$，$A\in\mathbf{R}^{n\times m}$，以及 $b\in\mathbf{R}^n$，定义 $g:\mathbf{R}^m\to\mathbf{R}$ 为 $$ g(x)=f(Ax+b) $$ 其中$\dom g=\{x\mid Ax+b\in\dom f\}$。若函数 $f$ 是凸函数，则函数 $g$ 是凸函数；如果函数 $f$ 是凹函数，那么函数 $g$ 是凹函数。 # 3. 逐点最大和逐点上确界   如果函数 $f_{1}$ 和 $f_{2}$ 均为凸函数，则二者的逐点最大函数 $f$ $$ f(x)=\max\{f_1(x),f_2(x)\} $$ 其定义域为$\dom f=\dom f_1\cap\dom f_2$，仍然是凸函数。这个性质可以很容易验证：任取 $0\leqslant \theta \leqslant 1$ 以及 $x,y\in\dom f$，有 $$\begin{aligned} f(\theta x+(1-\theta)y)&=\max\{f_1(\theta x+(1-\theta)y),f_2(\theta x+(1-\theta)y)\} \\ &\leqslant\max\{\theta f_1(x)+(1-\theta)f_1(y),\theta f_2(x)+(1-\theta)f_2(y)\} \\ &\leqslant\theta\max\{f_1(x),f_2(x)\}+(1-\theta)\max\{f_1(y),f_2(y)\} \\ &=\theta f(x)+(1-\theta)f(y) \end{aligned}$$ 从而说明了函数 $f$ 的凸性。同样很容易证明，如果函数 $f_1,\cdots,f_m$ 为凸函数，则它们的逐点最大函数 $$ f(x)=\max\{f_1(x),\cdots,f_m(x)\} $$ 仍然是凸函数。