模式识别最近邻和fisher分类matlab实验报告.docVIP

一、Fisher线性判别 Fisher线性判别是统计模式识别的基本方法之一。它简单，容易实现，且计算量和存储量小，是实际应用中最常用的方法之一。Fisher判别法Fisher在1936年发表的论文中首次提出的线性判别法。Fisher判别法的基本思想是寻找一个最好的投影，当特征向量x从d维空间映射到这个方向时，两类能最好的分开。这个方法实际上涉及到特征维数的压缩问题。 一维空间的Fisher线性判别函数为： （1） =,i=1,2 （2） （）和是两个样本的均值，，分别为各类样本的的类内离散度。投影方向为： （4） （5） 在Fisher判决函数中，分子反应了映射后两类中心的距离平方，该值越大，类间可分性越好；分母反应了两类的类内的离散度，其值越小越好；从总体上讲，的值越大越好，在这种可分性评价标准下，使达到最大值的即为最佳投影方向。 1.1、 Fisher线性判别实验流程图 1.2 Fisher线性判别mtalab代码 data=importdata(C:\Users\zzd\Desktop\data-ch5.mat); data1=data.data; data2=data.label; sample1=data1(1:25,:); sample2=data1(51:75,:); sample=[sample1 sample2]; sp_l=data2(26:75); test1=data1(26:50,:); test2=data1(76:100,:); test=[test1 test2]; lth=zeros(50,50); sample_m1=mean(sample1); sample_m2=mean(sample2); m1=sample_m1; m2=sample_m2; sb=(m1-m2)*(m1-m2); s1=zeros(2); for n=1:25 temp = (sample1(n,:)-m1)*(sample1(n,:)-m1); s1=s1+temp; end; s2=zeros(2); for n=1:25 temp = (sample2(n,:)-m2)*(sample2(n,:)-m2); s2 = s2+temp; end; sw=s1+s2; vw=inv(sw)*(m1-m2); a_m1 = vw*m1; a_m2 = vw*m2; w0 = (a_m1+a_m2)/2; for n=1:50 if(vw*test(n,:) - w00) m1(n,:)=1; else m1(n,:)=2; end; end; m1; count1=0; count2=0; for n=1:25 if m1(n,:)==sp_l(n,:) count1=count1+1; else n end if m1(n+25,:)==sp_l(25+n,:) count2=count2+1; else n+25 end end class1_rate=count1/25 class2_rate=count2/25 plot(sample(1:25,1),sample(1:25,2),r.); hold on ; plot(test(1:25,1),test(1:25,2),b.); plot(sample(26:50,1),sample(26:50,2),m.); plot(test(26:50,1),test(26:50,2),g.); x1 = [-2:0.01:4]; y1 = x1*vw(2)/vw(1); plot(x1,y1); 1.3 Fisher线性判别实验运行结果 class1_rate = 0.8000 class2_rate = 0.8400 二、近邻法 　法是一理论上比较成熟的方法，也是的机器学习算法之一。法所选择的邻居