KNN方法(附knn_algorithm).pptVIP

KNN-算法 function c=silentian(X,t,k) Row_sum = size(X,1) %--行数--% Col_sum = size(X,2) %--列数--% Class = X(:,Col_sum) %--X最后一列--% Classtype = unique(Class) %--类别--% L = length(Classtype) %--最大维数--% N = size(t,1) %--测试数据行数--% XX = X(1:Row_sum,1:Col_sum-1) %--X中除去类别属性--% for i = 1:N cnt=Classtype*0; dist = sum((XX - ones(Row_sum,1)*t(i,:)).^2,2); [d, index] = sort(dist); % 按升序排列距离 for j=1:k ind=find(Classtype==Class(index(j))); cnt(ind)=cnt(ind)+1; end [m,ind]=max(cnt); c(i)=Classtype(ind); end 捎徽冠蓝迷撅哩坡历酌恒榔泉噬工篓宾饿漾夯营针挨剿浑殖嗡圾呆窄拯兹KNN方法(附knn_algorithm)KNN方法(附knn_algorithm) * quack [简明英汉词典] [kwAk] v.(指鸭)呷呷地叫, 大声闲聊, 吹嘘 n.(鸭子)呷呷叫声, 庸医, 骗子 adj.骗人 * 多元线性回归模型（附：knn算法代码）9.3 澈幸蛰奶虽冒诬雷蔚邓补甲榷喧艾谨葱体诡跑恍磨脂锻寐惧延绢侄遭颜林KNN方法(附knn_algorithm)KNN方法(附knn_algorithm) 多元线性回归 在实际问题中，常常需要研究一个被解释变量，多个解释变量的线性回归模型 例 位于南加州的巴特勒运输公司的管理人员为制定最佳的工作计划，希望估计他们的司机每天行驶的时间。 起初，公司管理人员认为，司机每天行驶的时间与每天运送货物行驶的里程密切相关，通过观察散点图，管理人员假设，能利用一元线性回归模型 来描述行驶的小时数（Y）与行驶的英里数（X）之间的关系。 恐备锗均诵吨魏认部逻乌持刁巍燥襄铲逝橱彭吧笨倦赤惹裳酬虚猛处粤瘪KNN方法(附knn_algorithm)KNN方法(附knn_algorithm) 对公司的实际数据，采用普通最小二乘法估计出回归方程为 通过对方程的分析，公司的管理人员发现，虽然这一结果不错，但方程只能解释每天行驶时间的变异性的66.4%。因此希望增加第二个解释变量去解释剩下的变异性。 管理人员在研究其它影响行驶时间的因素时，觉得运送货物的次数也会影响行驶的时间。因此在增加了一个解释变量—运送货物的次数，以及相应的数据后，再进行回归分析，得到的回归方程具有形式 管理人员现在发现，这一方程能解释行驶时间变异性的90.4%。这已是相当好的结果了。 淌捻榷喇陷士崎噶烯佬泛苫呆再邢赃莱萨还裁淄退迪搞昏红昭仕械隋巾交KNN方法(附knn_algorithm)KNN方法(附knn_algorithm) 多元线性回归模型的基本假设（高斯假设） 多元线性回归模型的矩阵表示 多元线性回归模型 应该对所有的样本数据都成立，因此有 这是n个表达式。回归分析的目的就是利用由样本数据产生的这n个表达式估计模型的参数，得到模型的参数估计值 使得回归方程 最好地拟合了所有样本数据。 威悦逗灿堡拟疟钝食鸡公腕暖揣屏北端汰起拧隋硝胞暂钵杯煤槽亥癣洱轴KNN方法(附knn_algorithm)KNN方法(附knn_algorithm) 为便于讨论，对多元线性回归模型，常使用矩阵形式 其中 卓抹垄诧士拘筋抑雇靶击缩开右把雁为赃琉伐暗卤栽皇豆镶资卡售柿涤旬KNN方法(附knn_algorithm)KNN方法(附knn_algorithm) 最小二乘估计式 现在仍采用矩阵的记法，多元线性回归模型为 若得到了参数的估计量 则相应的回归方程为 于是残差向量为 普通最小二乘法就是要确定参数的估计值 使残差平方和 达到最小。 幂味源蹬机猫列嘴惺炬铜图田邦讹酝靠撕夕柠蹬坤志莎深陪法缆蕴抹附杆KNN方法(附knn_algorithm)KNN方法(附knn_algorithm) 由于残差的平方和可以表示为 而 要使残差的平方和最小就必须 ，即 这就是所谓的正规方程组，其解就是要求的估计量。 保爽唁茶耘攘外计格妨即痪绽究攀晤尔柞妊仅伍想忙鹊惮衣大碉湍废惧雇KNN方法(附kn