多元统计分析课后习题解答_

第四章判别分析4.1简述欧几里得距离与马氏距离的区别和联系。答：设p维欧几里得空间Rp中的两点x=和Y=则欧几里得距离为O欧几里得距离的局限有①在多元数据分析中，其度量不合理。②会受到实际问题中量纲的影响。协方差设X,Y是来自均值向量为IEMBEDEquation.3if,的总体G中的p维样本。则马氏距离为D(X,Y)=即单位阵时，D(X,Y)=即欧几里得距离。因此，在一定程度上，欧几里得距离是马氏距离的特殊情况，马氏距离是欧几里得距离的推广。4.2试述判别分析的实质。答：判别分析就是希望利用已经测得的变量数据，找出一种判别函数，使得这一函数具有某种最优性质，能把属于不同类别的样本点尽可能地区别开来。设R1,R2,,,Rk是p维空间Rp的k个子集，如果它们互不相交，且它们的和集为，则称为Rp的一个划分。判别分析问题实质上就是在某种意义上，以最优的性质对p维空间Rp构造一个“划分”，这个“划分”就构成了一个判别规则。4.3简述距离判别法的基本思想和方法。答：距离判别问题分为①两个总体的距离判别问题和②多个总体的判别问题。其基本思想都是分别计算样本与各个总体的距离(马氏距离)，将距离近的判别为一类。两个总体的距离判别问题设有协方差矩阵习相等的两个总体G和G,其均值分别是叫和R2,对于一个新的样品X,要判断它来自哪个总体。计算新样品X到两个总体的马氏距离D2(X,G)和D2(X,G),则X,D2（X,G）ID2（X,G）2,一、2,_X,D（X,G）>D（X,G,具体分析，D2（X，G）-D2（X，G）=（X—山）2（X—岗）一（X—四2）2（X—（12）=X‘2‘X—2X室-\+山‘24■山一（XWx—2X‘2-1险+话刀^妇—2X2（（x2—山）+山2四一（x22（x2=2X‘271（&一向）+（向+&）'〉」（博一&）（“+“〈，=—2.X-―2/（出一段）I2J=-2（X-。a=—2a（X—。则判别规则为,W(X),W(X)<0多个总体的判别问题。设有k个总体G〔，G2,…，Gk,其均值和协方差矩阵分别是且Z=Z2=涅=Z。计算样本到每个总体的马氏距离,于哪个总体。具体分析，D2(X,GQ=(X-心/」(X-s)=Xn」X_2e」X+效=Xn」X-2(1#+CQl11.1取\a=2"腿=—必ZS，«=1,2，…,k。可以取线性判别函数为W^X)=l；X+C_，二=1,2，…,k相应的判别规则为XwGi若Wi(XHmax(CQ4.4简述贝叶斯判别法的基本思想和方法。到哪个总体的距离最小就属fi(x),f2(x),…，fk(x),假设k个总体各自出现的概率分别为qi,q2,,qk，qi芝0，£qi=1。设将本来属于Gj总体的样品基本思想：设k个总体G[,G2,…，Gk,其各自的分布密度函数i=1错判到总体Gj时造成的损失为C(j|i),i,j=1,2，…，k。设k个总体G,G2,…，Gk相应的p维样本空间为R=(R,,R2,…，Rk)。在规则R下，将属于Gj的样品错判为Gj的概率为P(j|i,R)=Rfi(x)dxi,j=1,2；,ki=j则这种判别规则下样品错判后所造成的平均损失为kr(i|R)八[C(j|i)P(j|i,R)]i=1,2,,kj日则用规则R来进行判别所造成的总平均损失为kg(R)八qir(i,R)i4kkqLC(j|i)P(j|i,R)i4j4贝叶斯判别法则，就是要选择一种划分Ri,R2,…，Rk,使总平均损失g(R)达到极小。kk基本方法：g(R)='q'C(j|i)P(j|i,R)i4j4kkqLC(j|i)Rfi(x)dxTOC\o"1-5"\h\zi4j4jkk='、r('qiC(j|i)fi(x))dxj」Rji4kk令ZqQ(j|i)fi(x)=hj(x),则g(R)=WRhj(x)dxidjWjk若有另一划分R*=(R*,R；,…，R；),g(R*)=EL*hj(x)dxj日j则在两种划分下的总平均损失之差为kkg(R)-g(R*)5(x)-hj(x)]dxqjm5因为在Ri上hi(x)苴hj(x)对一切j成立，故上式小于或等于零，是贝叶斯判别的解。R」RRR\R={x|hi(x)=m.inhj(x)}从而得到的划分R—(Rl,R2,,Rk)为1如』1—1,2,,k4.5简述费希尔判别法的基本思想和方法。答：基本思想：从k个总体中抽取具有p个指标的样品观测数据，借助方差分析的思想构造一个线性判别函数U(X)=u1X1u2X2npXp=uX系数u=(Ui，U2,…，Up)'可使得总体之间区别最大，而使每个总体内部的离差最小。将新样品的p个指标值代入线性判别函数式中求出U(X)值，然后根据判别一定的规则，就可以判别新的样品属于哪个总体。4.6试析距离判别法、贝叶斯判别法和费希尔判别法的异同。答：①费希尔判别与距离判别对判别变量的分布类型无要求。二者只是要求有各类母体的两阶矩存在。而贝叶斯判别必须知道判别变量的分布类型。因此前两者相对来说较为简单。②当k=2时，若^=12=1则费希尔判别与距离判别等价。当判别变量服从正态分布时，二者与贝叶斯判别也等价。当时，费希尔判别用+£2作为共同协差阵，实际看成等协差阵，此与距离判别、贝叶斯判别不同。距离判别可以看为贝叶斯判别的特殊情形。贝叶斯判别的判别规则是XIG]IInd,W(X)IG?X,W(X)