99 lines
3.2 KiB
Markdown
99 lines
3.2 KiB
Markdown
---
|
||
title: Josh's Note — 凸优化<br>Part 2.1 凸函数—保凸运算
|
||
mathjax: true
|
||
comments: true
|
||
copyright: true
|
||
toc:
|
||
enable: true
|
||
number: false
|
||
wrap: true
|
||
expand_all: true
|
||
max_depth: 4
|
||
categories:
|
||
- - Josh 的学习笔记
|
||
- 凸优化
|
||
- 凸函数
|
||
- - 数学
|
||
- 凸优化
|
||
tags:
|
||
- 凸优化
|
||
- 凸函数
|
||
abbrlink: c3476904
|
||
date: 2024-07-03 23:04:33
|
||
---
|
||
|
||
$
|
||
\newcommand{\dd}{\mathrm{d}}
|
||
\def\dom{\mathop{\bf dom}}
|
||
\def\epi{\mathop{\bf epi}}
|
||
$  本文讨论几种保持函数凸性或者凹性的运算，这样可以构造新的凸函数或者凹函数。首先从一些简单的运算开始，如求和、伸缩以及逐点上确界，之后再介绍一些更为复杂的运算（其中一些运算的特例即为简单运算）。
|
||
|
||
# 1. 非负加权求和
|
||
|
||
  显然，如果函数 $f$ 是凸函数且 $\alpha\geqslant0$，则函数 $\alpha f$ 也为凸函数。如果函数 $f_1$ 和 $f_2$ 都是凸函数，则它们的和 $f_1+f_2$ 也是凸函数。将非负伸缩以及求和运算结合起来，可以看出，凸函数的集合本身是一个凸锥：凸函数的非负加权求和仍然是凸函数，即函数
|
||
|
||
$$
|
||
f=w_1f_1+\cdots+w_mf_m
|
||
$$
|
||
|
||
是凸函数。类似地，凹函数的非负加权求和仍然是凹函数。严格凸（凹）函数的非负，非零加权求和是严格凸（凹）函数。
|
||
|
||
  这个性质可以扩展至无限项的求和以及积分的情形。例如，如果固定任意 $y\in\mathcal{A}$，函数 $f(x,y)$ 关于 $x$ 是凸函数，且对任意 $y\in\mathcal{A}$,有$w(y)\geqslant0$，则函数 $g$
|
||
|
||
$$
|
||
g(x)=\int_{\mathcal{A}}w(y)f(x,y)\dd y
|
||
$$
|
||
|
||
关于$x$是凸函数（若此积分存在）。
|
||
|
||
<!-- more -->
|
||
|
||
  我们可以很容易直接验证非负伸缩以及求和运算是保凸运算，或者可以根据相关的上境图得到此结论。例如，如果 $w\geqslant0$ 且 $f$ 是凸函数，有
|
||
|
||
$$
|
||
\epi (wf)=\left[\begin{array}{cc}
|
||
I&0\\
|
||
0&w
|
||
\end{array}\right]\epi f
|
||
$$
|
||
|
||
因为凸集通过线性变换得到的像仍然是凸集，所以 $\epi(wf)$是凸集。
|
||
|
||
# 2. 复合仿射映射
|
||
|
||
  假设函数 $f:\mathbf{R}^n\to\mathbf{R}$，$A\in\mathbf{R}^{n\times m}$，以及 $b\in\mathbf{R}^n$，定义 $g:\mathbf{R}^m\to\mathbf{R}$ 为
|
||
|
||
$$
|
||
g(x)=f(Ax+b)
|
||
$$
|
||
|
||
其中$\dom g=\{x\mid Ax+b\in\dom f\}$。若函数 $f$ 是凸函数，则函数 $g$ 是凸函数；如果函数 $f$ 是凹函数，那么函数 $g$ 是凹函数。
|
||
|
||
# 3. 逐点最大和逐点上确界
|
||
|
||
  如果函数 $f_{1}$ 和 $f_{2}$ 均为凸函数，则二者的逐点最大函数 $f$
|
||
|
||
$$
|
||
f(x)=\max\{f_1(x),f_2(x)\}
|
||
$$
|
||
|
||
其定义域为$\dom f=\dom f_1\cap\dom f_2$，仍然是凸函数。这个性质可以很容易验证：任取 $0\leqslant \theta \leqslant 1$ 以及 $x,y\in\dom f$，有
|
||
|
||
$$\begin{aligned}
|
||
f(\theta x+(1-\theta)y)&=\max\{f_1(\theta x+(1-\theta)y),f_2(\theta x+(1-\theta)y)\}
|
||
\\
|
||
&\leqslant\max\{\theta f_1(x)+(1-\theta)f_1(y),\theta f_2(x)+(1-\theta)f_2(y)\}
|
||
\\
|
||
&\leqslant\theta\max\{f_1(x),f_2(x)\}+(1-\theta)\max\{f_1(y),f_2(y)\}
|
||
\\
|
||
&=\theta f(x)+(1-\theta)f(y)
|
||
\end{aligned}$$
|
||
|
||
从而说明了函数 $f$ 的凸性。同样很容易证明，如果函数 $f_1,\cdots,f_m$ 为凸函数，则它们的逐点最大函数
|
||
|
||
$$
|
||
f(x)=\max\{f_1(x),\cdots,f_m(x)\}
|
||
$$
|
||
|
||
仍然是凸函数。
|