范数

一个范数是实数或复数向量空间到非负实数映射的函数，有点像与坐标原点的距离。

定义

对于复数$\mathbb{C}$的子域$\mathbf{F}$的向量空间$\mathbf{X}$，其范数为实值函数$p:\mathbf{X}\to\mathbb{R}$，满足以下特性：

• 三角不等式：$p(x+y)\le p(x)+p(y)$
• 绝对同质性：$p(sx)=\vert s\vert p(x)$，$s$为标量
• 正定性：只有$x=0$，才有$p(x)=0$

向量$z\in\mathbf{X}$的范数被表示为$\Vert z\Vert=p(z)$。对欧式空间，向量的长度也被表示为$\vert x\vert$

等价范数

假设$p$和$q$为向量空间$\mathbf{X}$中两个范数。若存在两个正整数$c$和$C$，使每个向量$x\in\mathbf{X}$满足
$$
\begin{aligned}
cq(x)\le p(x)\le C q(x)
\end{aligned}
$$
那么，范数$p$和$q$为等价范数。这是因为该大小关系具有自反性、对称性、以及传递性。其中，对称性是指：若$cq\le p\le Cq$，那么$\frac{1}{C}p\le q\le\frac{1}{c}p$

例子

绝对值范数：$\vert x\vert$

欧式范数：$\Vert x\Vert_2:=\sqrt{x_1^2+\cdots+x_n^2}$

p-norm：$\Vert\mathbf{x}\Vert_p:=(\sum_{i=1}^n\vert x_i\vert^p)^{\frac{1}{p}}$

最大化范数：$\Vert\mathbf{x}\Vert_{\infty}:=max(\vert x_1\vert,\ldots,\vert x_n\vert)$

零范数：$\Vert\mathbf{x}\Vert_0=\sum_{i=1}^n\mathbf{1}_{\{v_i\neq0\}}$

其中，最大化范数也称为无穷范数、均匀范数、或极大化范数。