法锥

法锥（normal cone）收集凸集在某点的全部外法向方向。对凸集 $C\subseteq {ℝ}^n$ 和 $x_0\in C$，定义 $$N_C(x_0)=\{v:v^{𝖳}(x-x_0)\le 0\text{ 对所有 }x\in C\}.$$ 若 $x_0\notin C$，本文约定 $N_C(x_0)=\varnothing$。零向量总属于集合内点的法锥，非零向量则对应经过 $x_0$ 的支撑超平面。它是外法向约定；改变不等号会反转方向。

对矩形 $C=[0,2]\times [0,1]$，右上顶点 $p=(2,1)$ 的法锥是非负象限 $\{(a,b):a,b\ge 0\}$；上边内部点 $q=(1,1)$ 的法锥只有向上射线 $\{(0,b):b\ge 0\}$；内部点的法锥只有零。法锥的形状反映当前位置允许向哪些方向移动。

从定义逐项求法锥

在顶点 $p$，取可行点 $p-(\epsilon ,0)$ 与 $p-(0,\epsilon )$，法锥不等式分别给出 $a\ge 0,b\ge 0$。反向只要两者非负，任意可行点满足 $x_1-2\le 0,x_2-1\le 0$，内积之和就非正，故条件充分。

顶点 p=(2,1)：水平和竖直分量都可非负，法锥有二维内部。这里把法向量平移到p作为示意，箭头表示射线继续延伸。

在上边中点 $q$，沿边可向左、右移动。分别代入 $q\pm (\epsilon ,0)$ 得 $a=0$；向下移动给出 $b\ge 0$，充分性同样可直接检查。

边内部点 q=(1,1)：沿边可左右移动，法向的水平分量必须为零，只留下向上的射线。

内部点可沿每个坐标方向正负移动，迫使所有法向分量为零。

内部点 r=(1,1/2)：每个坐标方向都能正负微移，所以法锥只有零；点旁没有非零法向箭头。

法锥不是只有单位法向量：若 $v$ 满足全部不等式，任意非负倍数也满足。

对固定 $x\in C$，定义是关于 $v$ 的闭半空间约束；因此法锥自动是闭凸锥，即使原集合没有闭性。原集合是否闭则会影响下面的投影是否存在。

最近点与法锥的等价条件

定理　设 $C$ 为非空闭凸集。点 $p\in C$ 是 $z$ 在 $C$ 中的欧几里得最近点，当且仅当 $$z-p\in N_C(p).$$ 最近点存在，可将距离最小化限制在足够大的闭球内利用紧性；唯一性则来自平方距离的严格凸性。

证明必要性：对任意 $x\in C$，线段点 $p+t(x-p)$ 可行。最近性给出 $$\Vert z-p-t(x-p){\Vert }^2-\Vert z-p{\Vert }^2=-2t(z-p{)}^{𝖳}(x-p)+t^2\Vert x-p{\Vert }^2\ge 0.$$ 除以 $t>0$ 后令 $t\downarrow 0$，得到法锥不等式。充分性则对任意 $x\in C$ 展开 $$\Vert z-x{\Vert }^2=\Vert z-p{\Vert }^2+\Vert x-p{\Vert }^2-2(z-p{)}^{𝖳}(x-p)\ge \Vert z-p{\Vert }^2.$$ 当 $x\ne p$ 时平方项严格为正，故也直接得到唯一性。

主例取 $z=(3,2)$，候选最近点 $p=(2,1)$ 的残差为 $(1,1)$，在顶点法锥内，所以确为最近点，距离为 $\sqrt{2}$。变式取 $z=(1,3)$，最近点是 $q=(1,1)$，残差 $(0,2)$ 在向上法锥内，距离为二。把任何外点都投到最近顶点会错过第二种情形。

凸优化的一阶最优性

设 $f$ 在包含凸集 $C$ 的开凸域上可微且凸。可行点 $x_{\ast }$ 为最小点，当且仅当 $$-\mathrm{\nabla }f(x_{\ast })\in N_C(x_{\ast }).$$ 必要性来自沿任意可行线段的右导数非负，即 $\mathrm{\nabla }f(x_{\ast }{)}^{𝖳}(x-x_{\ast })\ge 0$。充分性使用凸函数的一阶下界 $f(x)\ge f(x_{\ast })+\mathrm{\nabla }f(x_{\ast }{)}^{𝖳}(x-x_{\ast })$，于是全部可行点目标值都不小于 $f(x_{\ast })$。这个下界可由凸性在线段上的差商不等式令参数趋零得到。

对 $f(x)=\frac{1}{2}\Vert x-z{\Vert }^2$，负梯度恰为 $z-x$，便恢复最近点定理；对线性最小化 $c^{𝖳}x$，条件为 $-c\in N_C(x_{\ast })$。负号保证下降方向被外法锥挡住，不能省略。

非凸集合的失败边界

上述最近点必要条件用到了全部线段可行。若取非凸集合 $C=\{-1,1\}$、$z=0$，点一是最近点之一。若仍用本文的全局支撑不等式定义法锥，则 $N_C(1)=[0,\mathrm{\infty })$，因为对另一点需 $v(-2)\le 0$；残差 $z-p=-1$ 却不在其中。非凸分析中存在多种局部法锥，它们的定义与条件不同，不能将本文的凸法锥结论直接外推。