跳到正文
格致开物MATHWIKI

巴苏定理

巴苏定理(Basu's theorem)说明:在同一个统计模型中,完备充分统计量与任何辅助统计量相互独立。充分性让条件分布可以不再依赖未知参数,完备性把一个对所有参数均值为零的条件概率差变成零;辅助性则提供那个不随参数变化的边缘概率。三个条件在证明中各有作用。

取两次独立读数 X1,X2∼U(0,θ),未知量为 θ>0。样本最大值 M=max⁡(X1,X2) 会随尺度增大;比值 A=min⁡(X1,X2)max⁡(X1,X2) 则只描述两个读数的相对接近程度。分母为零是概率零事件,可以在那里任意定义比值。巴苏定理会给出 M 与 A 独立,下面逐项检查条件。

定理与条件概率证明

在通常的有限或欧氏样本空间中,设 T 对模型 {Pθ} 完备且充分,A 对同一模型辅助,则 T 与 A 在每个 Pθ 下独立. 这里“完备”与“充分”针对整族分布,而独立性是在每个固定参数下的联合分布性质。[1]

证明。 对 A 的任意可测取值集合 C,辅助性使 cC=Pθ(A∈C) 不依赖参数。充分性又保证可以选取不依赖参数的函数 qC(T)=Pθ(A∈C∣T). 它们都在零与一之间,所以可积;由全期望公式, 𝔼θ[qC(T)−cC]=0对全部 θ. 完备性于是给出 qC(T)=cC 几乎处处。再对 T 的任意可测集合 B 积分, Pθ(A∈C,T∈B)=𝔼θ[qC(T)1{T∈B}]=cCPθ(T∈B). 右侧是两个边缘概率的乘积,故独立。

最大值的充分性与完备性

对一般 n≥2 的独立 U(0,θ) 样本,联合密度为 pθ(x)=θ−n1{0≤minixi}1{maxixi≤θ}. 参数只通过 M=maxiXi 进入,可由因子分解定理验证充分性。又因为 Pθ(M≤m)=(m/θ)n(0≤m≤θ), 最大值的密度是 nmn−1/θn。

若 g(M) 可积且在所有参数下均值为零,则 ∫0θg(m)mn−1dm=0(θ>0). 可积性使左侧在每个紧区间上是绝对连续函数。其导数在几乎每个正数处存在,故 g(m)mn−1=0 几乎处处;因 m>0,得到 g(m)=0。所有最大值分布都有相对于Lebesgue测度的密度,因此这是每个 Pθ 下的几乎处处结论,完成完备性证明。不能把积分微分后得到的结论误写成对任意不可连续函数每一点都成立。

比值的辅助性与两点手算

写成 Xi=θUi,其中 Ui 独立服从 U(0,1),比值中的尺度就相消,故其分布与 θ 无关。定理所需条件齐全,最大值和比值独立。

两点时还可直接核对。记 u=min⁡(X1,X2)、v=max⁡(X1,X2),联合密度在 0<u<v<θ 上为 2/θ2。令 a=u/v,保留 v;Jacobian绝对值为 v,得到 fA,M(a,v)=1{0<a<1}2vθ21{0<v<θ}. 第一因子是均匀密度,第二因子是最大值密度。这不但再次验证独立,还得到 A∼U(0,1)。

最小值和最大值经尺度归一化后的可行区域是单位正方形中的一个三角形
在原来的有序读数坐标中,最小值必须小于最大值;两个坐标并不独立。
改用最小最大比值和归一化最大值后,支持区域成为矩形,联合密度为二倍纵坐标
矩形内并非均匀分布。独立性来自密度分解为一与二倍纵坐标之积,而不是只凭支持区域的形状判断。

若观察值为 (2,5),则 M=5,A=2/5。比值不是固定等于其期望一半;独立性说的是重复抽样规律。例如理论事件 A≤0.4 与 M≤θ/2 的联合概率为 0.4×(1/2)2=0.1。

变式。 把前一事件改为 A≤0.7,后一事件仍为最大值不超过尺度的一半,则联合概率为 0.7/4=0.175。这里恰有两次观测;一般样本量下最小最大比值的分布不再是均匀分布,不能只改最大值密度而保留这个均匀结论。

充分而不完备时的失败

取两次独立 U(μ,μ+1) 读数。两端次序统计量 T=(min⁡Xi,max⁡Xi) 充分,极差 R=max⁡Xi−min⁡Xi 辅助。但 R 是 T 的非退化函数,不可能与 T 独立:若一个非退化随机变量与自身独立,每个事件概率都必须满足 p=p2,与存在介于零一之间的概率矛盾。

缺少的正是完备性。两点单位均匀样本有 𝔼R=1/3,所以 g(T)=R−1/3 在所有位置参数下均值为零,却不恒为零。巴苏定理不能仅保留“充分”和“辅助”两个条件。

参考文献

  1. ↑ Will Fithian,Completeness, Ancillarity, and Basu's Theorem,§3“Basu's Theorem”,定理及条件概率证明。