局部渐近正态性

局部渐近正态性（local asymptotic normality，LAN）描述统计实验在真参数附近的似然形状：把参数差缩小到样本量平方根的倒数尺度后，对数似然比可近似为一个随机线性项减去确定的二次项。它是模型或实验序列的性质，并不是“所有估计量都近似正态”的同义词。

先看独立伯努利观测 $X_i\sim \mathrm{Bernoulli}(p_0)$，其中 $0<p_0<1$。若 $n=100$、候选基础概率 $p_0=0.4$，一个局部变化 $h=0.5$ 对应概率 $p_0+h/\sqrt{n}=0.45$。样本量增大时，比较的两个参数越来越近，而非始终相差0.05。

伯努利模型的直接展开

记成功总数为 $S_n$、$d=h/\sqrt{n}$。对数似然比为 $$\begin{array}{cc}{\Lambda }_n(h)& =S_n\log (1+d/p_0)\\ & +(n-S_n)\log \{1-d/(1-p_0)\}.\end{array}$$ 固定 $h$，充分大的 $n$ 使两个对数的自变量远离零。用 $\log (1+z)=z-z^2/2+O(z^3)$，整理线性项： $$\begin{array}{cc}{S}_n\frac{d}{p_0}-(n-S_n)\frac{d}{1-p_0}& =h{\Delta }_n,\\ {\Delta }_n& =\frac{S_n-n{p}_0}{\sqrt{n}{p}_0(1-p_0)}.\end{array}$$ 二次项则为 $$-\frac{h^2}{2}\{\frac{S_n/n}{p_0^2}+\frac{1-S_n/n}{(1-p_0{)}^2}\}.$$ 由大数律，括号趋于 $I(p_0)=1/[p_0(1-p_0)]$。三阶余项的绝对值可界为常数乘 $n|d{|}^3=|h{|}^3/\sqrt{n}$，故趋零。伯努利中心极限定理又给出 ${\Delta }_n\stackrel{d}{\to }N(0,I(p_0))$。因此完整得到 $${\Lambda }_n(h)=h{\Delta }_n-\frac{1}{2}{h}^{2}I(p_0)+o_{P_{p_0}}(1).$$ 这里的随机线性系数来自样本波动，负二次项控制局部似然的弯曲程度。

一次样本的精确值与二次值

设百次试验观察到四十六次成功。则 $${\Delta }_n=\frac{46-40}{10\times 0.24}=2.5,I(p_0)=25/6.$$ 取 $h=0.5$，二次展开值为 $0.5\times 2.5-(0.5{)}^2(25/6)/2=35/48\approx 0.7292$；精确值可直接计算为 $$46\log (0.45/0.4)+54\log (0.55/0.6)\approx \mathrm{0.7194.}$$ 两者接近但不同，差来自有限样本展开余项与样本二阶系数。此处的基础概率是比较的参考值，并非从样本得到了“已知真值”。

横轴h对应p等于0.4加h除以十。远离局部中心时，有限样本高阶项更加明显。

实验序列中的定义

设 $P_{\theta ,n}$ 是 $n$ 规模实验的分布，${\theta }_0$ 是参数空间内点。在通常的非退化定义中，若存在正定信息矩阵 $I$ 和随机向量 ${\Delta }_n$，对每个固定局部向量 $h$ 有 $$\begin{array}{cc}\log \frac{\mathrm{d}{P}_{{\theta }_0+h/\sqrt{n},n}}{\mathrm{d}{P}_{{\theta }_0,n}}& =h^{𝖳}{\Delta }_n-\frac{1}{2}{h}^{𝖳}Ih+o_P(1),\\ {\Delta }_n& \stackrel{d}{\to }N(0,I)\text{在 }{P}_{{\theta }_0,n}\text{ 下},\end{array}$$ 就称该实验在 ${\theta }_0$ 局部渐近正态。似然比在参考分布下解释；需要讨论更一般支配关系时，要相应处理测度的绝对连续部分。Duchi讲义给出该定义及二次均值可微性推出LAN的定理。

对于独立同分布的二次均值可微密度族，得分二阶可积时可建立相应LAN展开；信息正定再保证通常的非退化局部比较。一般定理需控制密度平方根的余项，本篇已完整证明的是内部概率的伯努利特例。

变式。 若 $X_i\sim N(\theta ,4)$，令 ${\Delta }_n=\sqrt{n}(\bar{X}-{\theta }_0)/4$，则直接展开平方差就精确得到 $${\Lambda }_n(h)=h{\Delta }_n-h^2/8.$$ 参考分布下 ${\Delta }_n\sim N(0,1/4)$，没有余项，信息为 $1/4$。这展示了“局部像高斯实验”的一个本身就是高斯的基准。

如果伯努利基础概率为零，分布退化、两侧局部扰动不都合法，前述含 $1/[p_0(1-p_0)]$ 的证明失效。参数边界、不可识别性或不同收敛尺度都应单独分析，不能仅凭似然能被软件求导便套用LAN。