Estom的博客

旅行商问题1 贪心算法2 邻域搜索34 遗传算法5 蚁群算法

考试1 考试内容第一章：基础知识 充分统计量 正态分布 三大分布的性质； 第二章：参数估计 估计方法：频率估计、矩估计、极大似然估计方法 评优准则：无偏估计、一致最小方差无偏估计 Fisher信息量、有效估计； 相合估计、区间估计不考，但是可以加深对假设检验的理解。 第三章：假设检验 基本概念：拒绝域、第一第二类错误、势函数定义， 正态总体假设检验（必考，重要） 似然比检验， 检验的优良性：最优势检验、一致最优势检验、无偏检验； 第四章：回归分析 大作业内容已考察； 第五章：方差分析与正交试验 极差分析和正交表设计； 第六章：多元正太总体 不做要求； 第七章：判别分析 大作业内容已考察； 第八章：相关分析 主成分分析。 参数估计 求：极大似然估计、一致最小方差无偏估计 求Fisher信息量 判断是否有效估计 求无偏估计参数的值15年5 主成分 求特征向量 计算特征值 归一化

1 多元正太分布的定义定义1：密度函数 条件 $$\mu是p维向量,\\Sigma是p\times p维协方差矩阵,\x\sim N_p(\mu,\Sigma)$$ 结论 $$p(x)=(2\pi)^{-\frac{1}{2}}|\Sigma|^{-\frac{1}{2}}exp{-\frac{1}{2}(x-\mu)’\Sigma^{-1}(x-\mu)}$$ 定义2：特征函数 结论 $$\varphi(t)=E(e^{it’x})=exp{it’\mu-\frac{1}{2}t’\Sigma t}$$ 定义3： 条件$$对任何非零向量a\in R^p\与向量x的线性组合a’x服从一元正太分布N(a’\mu,a’\Sigma a)\$$ 结论$$x服从p员正太分布N_p(\mu,\Sigma)$$ 2 多元正太分布的性质性质1：均值方差 条件$$x\sim N_p(\mu,\Sigma)$$ 结论$$E(x)=\mu,Var(x)=\Sigma$$ 性质2：线性变换 条件$$y...

多元正太分布的参数估计多元正态分布定义：密度函数$$X_{n\times p}=(x_1,\cdots,x_n)’\p(X;\mu,\Sigma)= \prod_{i=1}^np(x_i;\mu,\Sigma)$$ 引理：函数极值$$当A=nI_m时\函数f(A)=|A|^{\frac{n}{2}}exp{-\frac{1}{2}tr(A)}取得最大值\f(A)=n^{\frac{mn}{2}}e^{-\frac{mn}{2}}$$ 定理1：参数估计$$\hat{\mu}=\overline{x}=\frac{1}{n}\sum_{i=1}^nx_i是\mu的极大似然估计\\hat{\Sigma}n=\frac{1}{n}S=\frac{1}{n}\sum{i=1}^n(x_i-\overline{x})(x_i-\overline{x})’是\Sigma的极大似然估计。$$ 性质1：估计量评优$$\h...

多元正太总体的假设检验1 协方差矩阵已知时均值向量的检验似然比检验 假设$$H_0:\mu=\mu_0,H_1:\mu\not ={\mu_0}$$ 似然比$$p(X;\mu)=(2\pi)^{-\frac{n}{2}}exp{-\frac{1}{2}tr{\Sigma^{-1}[S+n(\overline{x}-\mu)(\overline{x}-\mu)’]}}\\lambda(x)=\frac{sup_{\mu\in\Theta}{p(X;\mu)}}{sup_{\mu\in\Theta_0}{p(X;\mu)}}=exp{\frac{n}{2}(\overline{x}-\mu_0)’\Sigma^{-1}(\overline{x}-\mu_0)}\n(\overline{x}-\mu_0)’\Sigma^{-1}(\overline{x}-\mu_0)\sim \chi^2(p) 性质6作为检验统计量$$ 拒绝域 $$W={(x_1,...

主成分分析1 总体主成分分析概述多元统计分析，解释多元变量的各项指标之间的相关关系。对多元总体，协方差矩阵和相关矩阵是反映各个指标之间相关程度的统计特征。 主成分分析是一种通过将为方法把多像相关指标化为少数几个不相关的综合指标的多元数据处理技术。 数学模型 描述了压缩的目的，和基本的方法。 总体特征$$p元总体x=(x_1,\cdots,x_n)’\E(x)=\mu,Var(x)=\Sigma=(\sigma_{ij})\$$ 维度压缩 压缩为一维$$y_1=\mu’x\var(y_1)=\mu’\Sigma\mu$$ 标准化 $$\mu’\mu=1的条件下，选择合适的\mu使Var(y_1)=\mu’\Sigma\mu 最大$$ 定理1 给出了上述数学模型的一个解的定理 条件 $$协方差矩阵\Sigma,特征值\lambda_1,\cdots,\lambda_p\geq 0\单位正交向量a_1,\cdots,a_p\$$ 结论$$在\mu’\mu=1的条件下,\mu’...

Fisher判别1 原理概念Fisher 利用投影，将n为的向量特征投射到一维或者其他几个维度。借助方差分析的思想导出判别函数。 定义：Fisher投影 条件$$m个正太总体G_1,\cdots,G_m\均值\mu_1,\cdots,\mu_m\协方差阵\Sigma_1,\cdots,\Sigma_m\$$ 结论$$线性变换y=a’x\m个1维总体G_1^,\cdots,G_m^\均值a’\mu_1,\cdots,a’\mu_m\协方差阵a’\Sigma_1a,\cdots,a’\Sigma_ma\$$ 定义：方差分析 条件 $$组间方差，各个向量之间的方差B_0=\sum_{i=1}^m(a’\mu_i-a’\overline{\mu})^2=a’Ba\组内方差，向量各维度间的方差E_0=\sum_{i=1}^ma’\Sigma_ia=a’Ea\\overline{\mu}=\frac{1}{m}\sum_{i=1}^m\mu_i\B=\sum_{i=1}^m(\m...

线性方程组 利用矩阵求解线性方程组的解。