开题报告-基于Bayes算法的性别分类.docVIP

一、选题的依据及意义： （一）选题依据 随着科学技术的进步和社会的发展，人们需要新的技术来自动、智能、快速、有效的分析大量的原始数据，使数据充分利用，由此引发一个新的研究方向：使用贝叶斯达到性别的分类。 贝叶斯分类的基础是概率推理，就是在各种条件的存在不确定，仅知其出现概率的情况下，如何完成推理和决策任务。概率推理是与确定性推理相对应的。而朴素贝叶斯分类器是基于独立假设的，即假设样本每个特征与其他特征都不相关。 尽管是带着这些朴素思想和过于简单化的假设，但朴素贝叶斯分类器在很多复杂的现实情形中仍能够取得相当好的效果。2004年，一篇分析贝叶斯分类器问题的文章揭示了朴素贝叶斯分类器取得看上去不可思议的分类效果的若干理论上的原因。尽管如此，2006年有一篇文章详细比较了各种分类方法，发现更新的方法（如boosted trees和随机森林）的性能超过了贝叶斯分类器。朴素贝叶斯分类器的一个优势在于只需要根据少量的训练数据估计出必要的参数（变量的均值和方差）。由于变量独立假设，只需要估计各个变量的方法，而不需要确定整个协方差矩阵。 贝叶斯分类算法是统计学分类方法，它是一类利用概率统计知识进行分类的算法。在许多场合，朴素贝叶斯分类算法可以与决策树和神经网络分类算法相媲美，该算法能运用到大型数据库中，且方法简单、分类准确率高、速度快贝叶斯分类器的分类原理是通过某对象的先验概率，利用贝叶斯公式计算出其后验概率，即该对象属于某一类的概率，选择具有最大后验概率的类作为该对象所属的类。也就是说，贝叶斯分类器是最小错误率意义上的优化。随着Internet的迅猛发展和日益普及,电子文本信息迅速膨胀,如何有效地组织和管理这些信息,并快速、准确、全面地从中找到用户所需要的信息是当前信息科学和技术领域面临的一大挑战。文本分类作为处理和组织大量文本数据的关键技术,可以在较大程度上解决信息杂乱现象的问题,方便用户准确地定位所需的信息和分流信息。而且作为信息过滤、信息检索、有哪些信誉好的足球投注网站引擎、文本数据库、数字化图书馆等领域的技术基础,文本分类技术有着广泛的应用前景。 本文对文本分类及其相关技术进行了研究。从提高分类方法的快速性、准确性和稳定性出发,提出多种有效的解决或改进的方法和技术。同时,对文本分类技术的一个新的研究方向——文本流派分类,文本分类的一个重要应用领域——文本信息过滤,进行了研究naive bayes（朴素贝叶斯）是ML中的一个非常基础和简单的算法，常常用它来做分类。现在的研究中大概已经很少有人用它来实验了（除非是做base line），但确实是个很好的入门的算法，来帮助自己更加深刻的理解ML的本质 在众多的分类模型中，应用最为广泛的两种分类模型是决策树模(Decision Tree Model)和朴素贝叶斯模型（Naive Bayesian Model，NBC）。决策树模型通过构造树来解决分类问题。首先利用训练数据集来构造一棵决策树，一旦树建立起来，它就可为未知样本产生一个分类。在分类问题中使用决策树模型有很多的优点，决策树便于使用，而且高效；根据决策树可以很容易地构造出规则，而规则通常易于解释和理解；决策树可很好地扩展到大 型数据库中同时它的大小独立于数据库的大小；决策树模型的另外一大优点就是可以对有许多属性的数据集构造决策树。决策树模型也有一些缺点，比如处理缺失数据时的困难，过度拟合问题的出现，以及忽略数据集中属性之间的相关性等。利用所学知识，设计一个基于方法的识别系统进行分析，成比对误差及识别的功能。 dataset1.txt 作为训练样本，用dataset2.txt 作为测试样本，采用身高和体重数据为特征，在正态分布假设下估计概率密度（只用训练样本），建立最小错误率贝叶斯分类器，写出所用的密度估计方法和得到的决策规则，将该分类器分别应用到训练集和测试集，考察训练错误率和测试错误率。将分类器应用到dataset3 上，考察测试错误率的情况。（在分类器设计时可以尝试采用不同先验概率，考查对决策和错误率的影响。） 2) 自行给出一个决策表，采用最小风险贝叶斯决策重复上面的实验，用最大似然估计求取概率密度函数。 第一步、获取样本数据，存储为矩阵A； 第二步、对矩阵的每一行求和，并除以样本总数N，得到平均值向量； 第三步、应用公式求出男女身高、体重均值和方差 假设身高和体重服从各自的均值和方差的高斯分布 则根据： P（C/W） = P(C) * P(W/C) / P(W) W =[weight, height] P(Cmale) = P(Cfemale) = 1/2; P(W/Cmale) = P(weight/Cmale)*P(height/Cmale) 前提是weight和height的分布独立。 P(W