逆威沙特分布

逆威沙特分布（inverse Wishart distribution）是一类取值为对称正定矩阵的概率分布，常用于给未知协方差矩阵指定先验。它与威沙特分布通过矩阵求逆联系，但其尺度参数也要随求逆改变；把尺度矩阵原封不动地保留，是两种参数化最容易混淆的地方。

求逆关系与密度

本文采用 $\Sigma \sim I{W}_p(\nu ,\Psi )$ 的约定：$\Psi \succ 0$，实数 $\nu >p-1$，并且 $${\Sigma }^{-1}\sim W_p(\nu ,{\Psi }^{-1}).$$ 其在正定对称矩阵上的密度是 $$p(\Sigma )=\frac{|\Psi {|}^{\nu /2}}{2^{\nu p/2}{\Gamma }_p(\nu /2)}|\Sigma {|}^{-(\nu +p+1)/2}\exp [-\frac{1}{2}\mathrm{tr}(\Psi {\Sigma }^{-1})].$$ 这里的多元伽马函数与威沙特分布相同。$\nu$ 是自由度，$\Psi$ 是尺度，均不直接等于协方差的期望。

以 $p=1$ 核对：若 $\Sigma =s>0,\Psi =\psi >0$，则 $$p(s)=\frac{(\psi /2{)}^{\nu /2}}{\Gamma (\nu /2)}{s}^{-\nu /2-1}{e}^{-\psi /(2s)}.$$ 这就是形状 $\nu /2$、尺度 $\psi /2$ 的逆伽马分布。即使密度可以归一化，右尾仍可能很重；“有一个合法分布”与“均值存在”是两个条件。

已知均值时的共轭更新

设 $x_1,\dots ,x_n\mid \Sigma$ 条件独立，均服从 $N_p(\mu ,\Sigma )$，且均值 $\mu$ 已知。写散布矩阵 $$A=\sum _{i=1}^n(x_i-\mu )(x_i-\mu {)}^{𝖳}.$$ 要更新协方差，只需保留似然中含 $\Sigma$ 的部分： $$L(\Sigma )\propto |\Sigma {|}^{-n/2}\exp [-\frac{1}{2}\mathrm{tr}(A{\Sigma }^{-1})].$$ 似然表达式中的迹来自恒等式 $v^{𝖳}{\Sigma }^{-1}v=\mathrm{tr}(v{v}^{𝖳}{\Sigma }^{-1})$。将似然乘以前述先验密度，行列式的指数相加，迹中的两项合并，得到 $$p(\Sigma \mid x)\propto |\Sigma {|}^{-(\nu +n+p+1)/2}\exp [-\frac{1}{2}\mathrm{tr}((\Psi +A){\Sigma }^{-1})].$$ 因此 $$\Sigma \mid x\sim I{W}_p(\nu +n,\Psi +A).$$ 这是共轭性：数据把自由度增加 $n$，把尺度增加散布矩阵；无需重新寻找一种不同形状的后验。这个推导只处理已知均值，未知均值时一般要使用联合的正态—逆威沙特先验，不能把样本均值直接代入后照搬自由度。

二维更新的完整算例

取 $p=2,\mu =0$，先验 $I{W}_2(4,I_2)$。两个教学观测为 $x_1=(1,1{)}^{𝖳}$、$x_2=(1,0{)}^{𝖳}$，所以 $$A=\left(\begin{array}{cc}1& 1\\ 1& 1\end{array}\right)+\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right)=\left(\begin{array}{cc}2& 1\\ 1& 1\end{array}\right).$$ 后验为 $I{W}_2(6,\left(\begin{array}{cc}3& 1\\ 1& 2\end{array}\right))$。在本参数化下，若 $\nu >p+1$，均值为 $$𝔼[\Sigma ]=\frac{\Psi }{\nu -p-1}.$$ 故先验均值为 $I_2$，后验均值为 $\left(\begin{array}{cc}1& 1/3\\ 1/3& 2/3\end{array}\right)$。矩阵求逆与取期望一般不能交换，$(𝔼[\Sigma ]{)}^{-1}$ 并不等于 $𝔼[{\Sigma }^{-1}]$。

椭圆用两次分布的均值矩阵作形状比较，显示两个观测引入的正相关；它不是后验可信域，也没有展示全部矩阵不确定性。

图中后验均值沿正相关方向倾斜，但后验仍是一整个矩阵分布，不是只剩这一条椭圆。要报告协方差不确定性，应给相关元素或派生量的后验区间，而非仅画均值形状。

变式。 仅把先验自由度由四改为二，分布仍合法，因为 $2>p-1=1$；先验均值却不存在，因为 $2\le p+1=3$。加入同样两个观测后，自由度变四，后验均值存在并等于 $\Psi +A$。密度的合法性条件不能代替矩存在条件。

参数选择与边界

逆威沙特将方差与相关性的先验形状联系在一起，单一自由度不能分别控制每个元素；在高维中称某个参数为“无信息”，也不能保证各派生相关系数具有预期的先验。应先检查均值存在性，再通过先验模拟检查方差尺度和相关程度。只把密度公式写进计算程序而不检查正定性，会使行列式或求逆步骤失去意义。