基于半监督学习的自适应内容过滤算法.PDFVIP

西北大学学报( 自然科学网络版) 2007 年 1 月，第 5 卷，第 1 期 Science Journal of Northwest University Online Jan . 2007 ，Vol.5 ，No.1 基于半监督学习的自适应内容过滤算法 王 栋，吴 江 (西北大学 信息科学与技术学院, 陕西 西安 710069) 摘 要：基于内容的信息过滤中一个大的挑战在于用户兴趣建模问题，而机器学习技术在自动构建 用户兴趣模型方面具有明显的优势。为了精确表达用户的兴趣特征，机器学习技术需要用户提供一 定数量的相关性反馈作为训练数据，但在实际应用中，被标记为负样本训练数据很难获得；在保证 过滤精度没有较大下降的前提下，采用一种半监督学习的 SVM 二元文本分类器来表达用户兴趣特 征，该算法只使用正的和未标记样本来学习用户的兴趣，并且能够自动适应用户兴趣的变化。实验 表明：在信息过滤中，使用半监督学习方法建立的 SVM 分类器在判断文本与用户兴趣的相关性方 面达到了令人满意的分类精度。 关 键 词：用户特征；兴趣模型；支持向量机；信息过滤 中图分类号：O413.3 文献标识码：A 文章编号：1000-274X(2006)0254-07 信息过滤技术已经在诸如商业推荐系统，个性化 Web 信息代理，新闻过滤，数字图书馆个性化信息服 务系统等中得到了广泛的应用，其中的典型代表有：亚马逊在线书店，信息代理 WebMate ，以及个性化信息 服务系统 Mylibrary 等。所采用的过滤机制包括基于协作的过滤和基于内容的过滤，前者利用用户兴趣模型 的相似性来推荐信息，但必威体育精装版的、未被任何用户浏览或评估过的信息是无法被推荐的；而后者则对输入文本 流的内容进行分析，选择与用户兴趣特征（profile of user ）相关的文档推荐给用户。无论采用何种过滤机制， 现有的内容过滤系统的运行效果十分有限[1]，最重要的原因是：对用户个性化的信息需求模型缺乏准确的描 述。表达个人兴趣的复杂性决定了仅仅依赖读者提供的关键字和主题目录来刻画用户兴趣特征是很不完备 的，这直接导致了过滤出的信息项包含大量不相关的信息。 在基于内容的文本过滤中，最早采用知识工程中基于规则的方法建立兴趣模型，用户要手动的定义一套 规则集来过滤信息，不但所定义的规则质量难以保证，且不能动态更新。当前普遍采用向量空间模型 VSM （which is abbreviation for Vector Space Model ）来表达用户兴趣，该方法需要用户提供一组能够表达自己信 息需求的关键词，但由此却引入了词的二义性问题，并最终导致了很低的过滤精度。目前，机器学习技术在 构建用户兴趣模型方面表现出了极大的优势，用户只需要提供一定数量的，被标记为与自己兴趣相关的或者 不相关的文档作为相关性反馈（Relevance feedback ），这些反馈被作为分类器的训练数据集中的正负样本， 机器学习方法通过训练数据集来学习某个特定用户的兴趣，由于训练数据集中既包含正样本又包含负样本， 因此这是监督学习方式；但在实际应用中，被用户标记为与兴趣不相关的负样本很难获得，而只能够通过少 量的正样本和大量未标记样本来构建用户的兴趣特征，因而这是一种半监督学习方式。本文实现了一个主动 信息服务原型系统，提出一个新的表达用户兴趣特征的方法：利用一种半监督学习的支持向量机 SVM （which is the abbreviation for Support Vector Machines ）二元文本分类器来表达用户兴趣特征；以及相应的兴 _______________________ 收稿日期：2005-09-11 基金项目：陕西省工业攻关项目（2003K05-G32 ） 审 稿 人：程国建，男，西安石油大学数学系教授 趣特征管理和自动更新机制。对比实验表明：半监督学习的 SVM 二元分类器虽然在过滤精度上比监督学习 的 SVM 分类器略差，但却比目前普遍采用的向量空间模型 VSM 更好的表达了用户的兴趣和变化。反应在 主动推送给读者的信息上，表现为在相同的召回率下，准确率有了很大的提高。 以下 1，2 部分介绍所采用的关键技术，第 3 部分具体描述了该