new post josh-cvx-2.2, update josh-cvx-2.1, new draft zynq-debug-fsbl

source/_posts/2024-07-03-josh-cvx-2-2.md

@@ -0,0 +1,98 @@
+---
+title: Josh's Note — 凸优化<br>Part 2.1 凸函数—保凸运算
+mathjax: true
+comments: true
+copyright: true
+toc:
+  enable: true
+  number: false
+  wrap: true
+  expand_all: true
+  max_depth: 4
+categories:
+  - - Josh 的学习笔记
+    - 凸优化
+    - 凸函数
+  - - 数学
+    - 凸优化
+tags:
+  - 凸优化
+  - 凸函数
+abbrlink: c3476904
+date: 2024-07-03 23:04:33
+---
+
+$
+\newcommand{\dd}{\mathrm{d}}
+\def\dom{\mathop{\bf dom}}
+\def\epi{\mathop{\bf epi}}
+$&emsp;&emsp;本文讨论几种保持函数凸性或者凹性的运算，这样可以构造新的凸函数或者凹函数。首先从一些简单的运算开始，如求和、伸缩以及逐点上确界，之后再介绍一些更为复杂的运算（其中一些运算的特例即为简单运算）。
+
+# 1. 非负加权求和
+
+&emsp;&emsp;显然，如果函数 $f$ 是凸函数且 $\alpha\geqslant0$，则函数 $\alpha f$ 也为凸函数。如果函数 $f_1$ 和 $f_2$ 都是凸函数，则它们的和 $f_1+f_2$ 也是凸函数。将非负伸缩以及求和运算结合起来，可以看出，凸函数的集合本身是一个凸锥：凸函数的非负加权求和仍然是凸函数，即函数
+
+$$
+f=w_1f_1+\cdots+w_mf_m
+$$
+
+是凸函数。类似地，凹函数的非负加权求和仍然是凹函数。严格凸（凹）函数的非负，非零加权求和是严格凸（凹）函数。
+
+&emsp;&emsp;这个性质可以扩展至无限项的求和以及积分的情形。例如，如果固定任意 $y\in\mathcal{A}$，函数 $f(x,y)$ 关于 $x$ 是凸函数，且对任意 $y\in\mathcal{A}$,有$w(y)\geqslant0$，则函数 $g$
+
+$$
+g(x)=\int_{\mathcal{A}}w(y)f(x,y)\dd y
+$$
+
+关于$x$是凸函数（若此积分存在）。
+
+<!-- more -->
+
+&emsp;&emsp;我们可以很容易直接验证非负伸缩以及求和运算是保凸运算，或者可以根据相关的上境图得到此结论。例如，如果 $w\geqslant0$ 且 $f$ 是凸函数，有
+
+$$
+\epi (wf)=\left[\begin{array}{cc}
+I&0\\
+0&w
+\end{array}\right]\epi f
+$$
+
+因为凸集通过线性变换得到的像仍然是凸集，所以 $\epi(wf)$是凸集。
+
+# 2. 复合仿射映射
+
+&emsp;&emsp;假设函数 $f:\mathbf{R}^n\to\mathbf{R}$，$A\in\mathbf{R}^{n\times m}$，以及 $b\in\mathbf{R}^n$，定义 $g:\mathbf{R}^m\to\mathbf{R}$ 为
+
+$$
+g(x)=f(Ax+b)
+$$
+
+其中$\dom g=\{x\mid Ax+b\in\dom f\}$。若函数 $f$ 是凸函数，则函数 $g$ 是凸函数；如果函数 $f$ 是凹函数，那么函数 $g$ 是凹函数。
+
+# 3. 逐点最大和逐点上确界
+
+&emsp;&emsp;如果函数 $f_{1}$ 和 $f_{2}$ 均为凸函数，则二者的逐点最大函数 $f$
+
+$$
+f(x)=\max\{f_1(x),f_2(x)\}
+$$
+
+其定义域为$\dom f=\dom f_1\cap\dom f_2$，仍然是凸函数。这个性质可以很容易验证：任取 $0\leqslant \theta \leqslant 1$ 以及 $x,y\in\dom f$，有
+
+$$\begin{aligned}
+f(\theta x+(1-\theta)y)&=\max\{f_1(\theta x+(1-\theta)y),f_2(\theta x+(1-\theta)y)\}
+\\
+&\leqslant\max\{\theta f_1(x)+(1-\theta)f_1(y),\theta f_2(x)+(1-\theta)f_2(y)\}
+\\
+&\leqslant\theta\max\{f_1(x),f_2(x)\}+(1-\theta)\max\{f_1(y),f_2(y)\}
+\\
+&=\theta f(x)+(1-\theta)f(y)
+\end{aligned}$$
+
+从而说明了函数 $f$ 的凸性。同样很容易证明，如果函数 $f_1,\cdots,f_m$ 为凸函数，则它们的逐点最大函数
+
+$$
+f(x)=\max\{f_1(x),\cdots,f_m(x)\}
+$$
+
+仍然是凸函数。