凸分析一

背景

欧几里得空间

• 定义范数$norm$ in $\mathbf{E}$为

$$\| x \|=\sqrt{\langle x, x\rangle}$$

• unit ball

$$B=\{x \in \mathbf{E} |\|x\| \leq 1\}$$

• 两个集合的加定义为

$$C+D=\{x+y | x \in C, y \in D\}$$

• 两个集合的乘

$$\Lambda C=\{\lambda x | \lambda \in \Lambda, x \in C\}$$

• $C$称为cone，（包括原点）

$$\mathbf{R_+} C =C$$

• 凸集

$$\lambda x+(1-\lambda) y \in C \text { whenever } 0 \leq \lambda \leq 1$$

• linear span，$\operatorname{span}(D)$：最小的包含$D$的线性子空间，这个是干嘛用的？？

• convex hull凸包，$\operatorname{conv}(D)$：最小的包含$D$的凸集

定理

• Suppose that the set $C \subset E$ is closed and convex, and that the point $y$ does not lie in $C$. Then there exist real $b$ and a nonzero element $a$ of $E$ satisfying $\langle a, y\rangle >b \geq\langle a, x\rangle$ for all points $x$ in $C$.

• 有界序列有收敛子序列

对称矩阵

• 用$S^n$来表示$n \times n$的实对称矩阵的空间

• 半正定、正定矩阵

• 欧几里得空间上的内积：$\langle X, Y\rangle=\operatorname{tr}(X Y) \quad$ for $X, Y \in \mathbf{S}^{n}$

• 任意$S^n$的矩阵$X,Y$

$$\operatorname{tr}(X Y) \leq \lambda(X)^{T} \lambda(Y)$$

​ 当且仅当$XY$有simultaneous ordered spectral decomposition，$U$为正交矩阵

$$X=U^{T}(\operatorname{Diag} \lambda(X)) U \quad \text { and } \quad Y=U^{T}(\operatorname{Diag} \lambda(Y)) U$$

• Doubly stochastic matrices are convex combinations of permutation matrices.