基于决策树的关键短语抽取的研究.pdf

Computer Knowledge and Technology 电脑知识与技术 第 5 卷第 20 期 (2009 年 7 月) 基于决策树的关键短语抽取的研究 严春风 1，2 （1.苏州大学 计算机学院，江苏 苏州 215000；2.苏州托普信息职业技术学院，江苏 苏州 215000） 摘要：关键词提取可以作为所有文本自动处理的基础与核心技术。 较多文档都不具有关键词，同时手工标引费力费时且主观性较 强，因此关键词自动标引是一项值得研究的技术。 关键词：关键短语抽取；决策树；算法 中图分类号：TP311 文献标识码：A 文章编号：1009-3044(2009)20-5512-01 Research on Keyphrases Extraction Based on DecisionTree YAN Chun-feng1,2 (1.Computer College of Suzhou University,Suzhou 215000,China;2.Suzhou Top Institute of Information and Vocational Technology, Suzhou 215000,China) Abstract: Keywords extraction can be considered as the basic and the key technology for all automatically-handling text. Many texts have no keyword. Meanwhile, manual indexing is an arduous and time consuming job with high subjectivity. Therefore, automatic indexing of keywords is a kind of technology worth researching. Key words: keyphrae extraction; decesionTree; algorithm 关键词抽取是文本信息处理的重要技术，是在进行文本自动摘要、文本自动分类、主题提取及专利检索分析等文本信息理解工 作时，都要应用到的一项关键技术。 关键词一要反映文本的主题内容，二要具有专指性。 由于作者给定的关键词大多是由两个或者 两个以上的词组成，该文也称为关键短语。 关键词自动抽取是一种识别有意义且具有代表性片段或词汇的自动化技术。 大部分对非 结构化文本的自动处理，如自动摘要、自动分类等，都可先进行关键词提取的动作，再进行其他的处理。 1 决策树算法介绍 决策树方法自 20 世纪 60 年代以来，在分类、预测、规则提取等领域有着广泛的应用，特别是 Quilan 于 1986 年提出 ID3 算法以 后，在机器学习、知识发现领域得到了进一步的应用及巨大的发展。决策树学习是一种逼近离散值目标函数的方法，在这种方法中学习 得到的函数被表示为一棵决策树。学习到的决策树可以再被表示为多个 if-then 的规则，以提高可读性。这种学习算法是最流行的归纳 推理算法之一，已被成功地应用到很多领域。其中关于 C4.5 算法是 Quinlan 在 1993 年针对 ID3 存在的一些缺点提出的，它既是 ID3 算 法的后继，也成为以后诸多决策树算法的基础。 在应用于单机的决策树算法中，C4.5 算法不仅分类准确率高而且是速度最快的。 1.1 决策树的基本思想 决策树是一种树状结构，内部结点对应着一个划分，将该结点对应的样本集划分成若干个子集，它的每个叶结点对应着某一 类。 决策树分类方法采用自顶向下的递归方式，在决策树的内部节点进行属性值的比较并根据不同的属性值判断从该节点向下的 分支，在树的叶节点得到结论。 因此从根到叶节点的一条路径就对应着一条合取规则，整棵决策树对应着一组析取表达式规则。 基 于决策树的分类算法的一个最大优点就是它在学习过程中不需要使用者了解很多背景知识，只要训练样例能够使用属性一结论式 表示出来，就能使用该算法来学习。 1.2 决策树学习过程 对于一个分类问题或规则学习问题，决策树的生成是一个从上至下、分而治之的过程。 决策树从根结点开始，对数据样本进行 测试，根据不同的结果将数据样本划分成不同的样本子集，每个样本子集构成一个子结点。 对每个子结点再进行划分，生成新的子