多元正太分布的参数估计

多元正态分布

定义：密度函数

$$
X_{n\times p}=(x_1,\cdots,x_n)’\
p(X;\mu,\Sigma)= \prod_{i=1}^np(x_i;\mu,\Sigma)
$$

引理：函数极值

$$
当A=nI_m时\
函数f(A)=|A|^{\frac{n}{2}}exp{-\frac{1}{2}tr(A)}取得最大值\
f(A)=n^{\frac{mn}{2}}e^{-\frac{mn}{2}}
$$

定理1：参数估计

$$
\hat{\mu}=\overline{x}=\frac{1}{n}\sum_{i=1}^nx_i是\mu的极大似然估计\
\hat{\Sigma}n=\frac{1}{n}S=\frac{1}{n}\sum{i=1}^n(x_i-\overline{x})(x_i-\overline{x})’是\Sigma的极大似然估计。
$$

性质1：估计量评优

$$
\hat{\mu}=\overline{x}是一致最小方差无偏无极\
\hat{\Sigma}_n=\frac{1}{n-1}S是一致最小方差无偏估计\
\hat{\Sigma}_n=\frac{1}{n}S是渐进无偏估计
$$

性质2：均值分布

$$
\overline{x}\sim N_p(\mu,\frac{1}{n}\Sigma),\overline{x}与S相互独立。
$$

性质3：离差分布

$$
S\sim W_p(n-1,\Sigma)
$$

$W_p是多元高维的\chi^2分布$