模式识别练习题

第四章 习解 1． 设一维两类模式满足正态分布，它们的均值和方差分别为，1=0，1=2，2=2，2=2，p(x) N(,)，窗P(ω1)= P(ω2)，取0-1损失函数，试算出判决边界点，并绘出它们的概率密度函数曲线；试确定样本-3，-2，1，3，5各属哪一类。 解： 已知 ， 由Bayes最小损失判决准则： 如果 ，则判 ，否则判 。 如果 ，则判 ，否则判 。 -3，-2属于ω1；1，3，5属于ω2。 2． 在图像识别中，假定有灌木丛和坦克两种类型，分别用ω1和ω2示，它们的先验概率分别为0.7和0.3，损失函数如表所示。现在做了四次试验，获得四个样本的类概率密度如下： ：0.1，0.15，0.3， 0.6 ：0.8，0.7，0.55， 0.3 （1）    试用贝叶斯最小误判概率准则判决四个样本各属于哪个类型； （2）    假定只考虑前两种判决，试用贝叶斯最小风险准则判决四个样本各属于哪个类型； （3）    将拒绝判决考虑在内，重新考核四次试验的结果。 表 类型损失 判决 ω1 ω2 1 (判为ω1) 0.5 2.0 2 (判为ω2) 4.0 1.0 3 (拒绝判决) 1.5 1.5       解： （1）两类问题的Bayes最小误判概率准则为 如果 ，则判 ，否则判 。 由已知数据，12=0.3/0.7=3/7， 样本x1：∵ l12（x1）=0.1/0.8<12=3/7 x1ω2 样本x2：∵ l12（x2）=0.15/0.7<12=3/7 x2ω2 样本x3：∵ l12（x3）=0.3/0.55>12=3/7 x3ω1 样本x4：∵ l12（x4）=0.6/0.3>12=3/7 x4ω1 （2）不含拒绝判决的两类问题的Bayes最小风险判决准则为 如果 ，则判 ，否则判 。 由已知数据，12=0.3（2 - 1）/[0.7（4 - 0.5）]=3/24.5， 样本x1：∵ l12（x1）=1/8>12=6/49 x1ω1 样本x2：∵ l12（x2）=3/14>12=6/49 x2ω1 样本x3：∵ l12（x3）=6/11>12=6/49 x3ω1 样本x4：∵ l12（x4）=6/3>12=6/49 x4ω1 （3）含拒绝判决的两类问题的Bayes最小风险判决准则为 其中条件风险： 后验概率： 记       (4.7-1) 则，含拒绝判决的两类问题的Bayes最小风险判决准则为 对四个样本逐一列写下表，用(4.7-1)式计算r(j|x)。 样本x1： (j|ωi) 类型 损失 判决 ω1 p(x|ω1)P(ω1)= 0.10.7=0.07 ω2 p(x|ω2)P(ω2)= 0.80.3=0.24 r(j|x) 1 (判为ω1) 0.5 2.0 0.5*0.07+2*0.24=0.515 2 (判为ω2) 4.0 1.0 4*0.07+1*0.24=0.52 3 (拒绝判决) 1.5 1.5 1.5*0.07+1.5*0.24=0.465         因为r(3|x1)=0.465最小，所以拒绝判决； 样本x2： (j|ωi) 类型 损失 判决 ω1 p(x|ω1)P(ω1)= 0.150.7=0.105 ω2 p(x|ω2)P(ω2)= 0.70.3=0.21 r(j|x) 1 (判为ω1) 0.5 2.0 0.5*0.105+2*0.21=0.4725 2 (判为ω2) 4.0 1.0 4*0.105+1*0.21=0.63 3 (拒绝判决) 1.5 1.5 1.5*0.105+1.5*0.21=0.4725         因为r(1|x2)=0.4725最小，所以判x2ω1，即灌木丛，或拒绝判决； 样本x3： (j|ωi) 类型 损失 判决 ω1 p(x|ω1)P(ω1)= 0.30.7=0.21 ω2 p(x|ω2)P(ω2)= 0.550.3=0.165 r(j|x) 1 (判为ω1) 0.5 2.0 0.5*0.21+2*0.165=0.435 2 (判为ω2) 4.0 1.0 4*0.21+1*0.165=1.005 3 (拒绝判决) 1.5 1.5 1.5*0.21+1.5*0.165=0.5625         因为r(1|x3)=0.435最小，所以判x3ω1，即灌木丛； 样本x4： (j|ωi) 类型 损失 判决 ω1 p(x|ω1)P(ω1)= 0.60.7=0.42 ω2 p(x|ω2)P(ω2)= 0.30.3=0.09 r(j|x) 1 (判为ω1) 0.5 2.0 0.5*0.42+2*0.09=0.39 2 (判为ω2) 4.0 1.0 4*0.42+1*0.09=1.77 3 (拒绝判决) 1.5 1.5 1.5*0.42+1.5*0.09=0.765         因为r(1|x4)=0.39最小，所以判x4ω1，即灌木丛。 3． 假设两类二维正态分布参数为1=(-1，0)’，2=(1，0)’，先验概率相等。 （1）令1=2=I，试给出判决规则； 2）令    解： Bayes最小误判概率似然比判决规则为 如果 ，则判 ，否则判 。 相应的负对数似然比判决规则为 如果 ，则判 ，否则判 。 对于正态分布 （1）由已知， 故，如果 则判 ，否则判 。 （2） ∵ ，  ， 即， 故，Bayes判决函数为d(x)=1.5-x 。 4．在目标识别中，假定类型1为敌方目标，类型2为诱饵（假目标），已知先验概率P(1)=0.2和P(2)=0.8，类概率密度函数如下： （1）求贝叶斯最小误判概率准则下的判决域，并判断样本x=1.5属于哪一类； 解：（1）应用贝叶斯最小误判概率准则如果 则判     得 l12(1.5)=1 < =4，故 x=1.5属于2 。 5．设在三维空间中一个类别分类问题拟采用二次曲面。如欲采用广义线性方程求解。试向其广义样本向量与广义权向量的表达式，其维数是多少？  答：设次二次曲面为 故广义权向量： 广义样本向量： 维数为9。 6．设两类样本的类内离散矩阵分别为 ， 试用fisher准则求其决策面方程。 答： 由于两类样本分布形状是相同的（只是方向不同），因此w0应为两类均值的中点 。 下图中的绿线为最佳线性分界面。 7．已知有两类数据,分别为 试求：该组数据的类内及类间离散矩阵 及 。 答：第一类的均值向量为 8．设一个二维空间中的两类样本服从正态分布，其参数分别为 ， ，先验概率 试证明其基于最小错误率的贝叶斯决策分界面方程为一圆，并求其方程。 证明：先验概率相等条件下，基于最小错误率贝叶斯决策的分界面上两类条件概率密度函数相等。 因此有： 化简为 ，是一个圆的方程。 9．画出用近邻法得到的分类器 第一类样本：(0,1)T，(0,1)T 第二类样本：(0,0)T，(-1,0)T