[工学]机器学习.pptVIP

机器学习 黑龙江工程学院 计算机系 詹晓娟 第五章 机器学习 概述 归纳学习 实例学习 第五章 机器学习 什么是机器学习 机器学习的研究内容及研究价值 机器学习的发展史 一、什么是机器学习 学习的概念 什么是学习？ 通过观察、阅读、听讲、研究、实践等获得知识或技能的过程。———《汉语词典》 “学”和“习“ “学”就是闻、见，是获得知识、技能。“习”是巩固知识、技能，一般有三种含义：温习、实习、练习，有时还包括行的含义在内。“学”偏重于思想意识的理论领域，“习”偏重于行动实习的实践方面。学习就是获得知识，形成技能，培养聪明才智的过程。实质上就是学、思、习、行的总称。----百度知道 学习的概念 学习是一种既古老而又永恒的现象。 不同的学习观： ??“学习是指人和动物在生活过程中获得个体行为经 验的过程。” ??“学习是学习者吸取信息并输出信息，通过反馈与 评价得知正确与否的整体过程。” ??“人的学习是个体掌握人类社会经验的过程” ??“学习是通过由经验产生的个体行为的适应性变化 而表现出来的过程。” ??子曰：“学而时习之,不亦说乎?” 学习与智能 学习现象 语言、文字的认知识别 图像、场景、自然物体的认知识别 ??规则 （eg 下雨天要带雨伞） ??复杂的推理、判断能力（智能） 好人与坏人？ 好猫与坏猫？ Learning ---WikiPedia (Informal) Learning is one of the most important mentalfunction of humans, animals and artificial cognitive systems. It relies on the acquisition of different types of knowledge supported activities such as play,seen only in relatively intelligent animals and humans. In general, a learning can be conscious and not conscious. 什么是机器学习？ 使得计算机具备和人类一样的学习能力 决策 推理 认知 识别 …… 等智能 给定数据（样本、实例）和一定的学习规则，从数据中获取知识的能力 机器学习与人工智能 ?? 自然智慧的伟大与奥妙 举例：婴儿的认知能力（声音、人脸、汽车…） 重要的二个特点： 容错性，推广能力（举一反三） ?? 机器智能：希望用机器实现部分智能 基于数据的机器学习问题?? 根据已知样本估计数据之间的依赖关系，从而对未知或无法测量的数据进行预测和判断 关键：推广能力 “One year’s research in artificial intelligenceis enough for one to believe in God” ---- cited from ? 二、机器学习的研究意义和主要内容 研究意义 如果我们能发现有效的机器学习方法，利用它可以将观察数据（现象）转换为模型，这将一劳永逸的解决信息有效利用的难题！ ??网络数据 ??金融数据 ??生物数据 ??气象数据 ??地震观察数据 ??自然物体分类识别数据… ?? 从而实现真正意义上的机器智能（电脑） 机器学习所要解决的一些典型问题 存在什么样的算法能从特定的训练数据学习出一般的目标函数（决策规则）？ 那种训练数据是充足的？如何保证学习的泛化（推 广）能力？ 如何引入先验知识？ 怎样把学习任务简化为一个或多个函数逼近问题？ 学习过程能自动化吗？ 学习机能自动改变来提高表示和学习目标函数的能力？ 重要问题(1) 机器学习中长期存在、可能永远无法得到最终解决、但又非常重要的几个问题： 1. 提高泛化能力 更“准” 2. 提高学习速度 更“快”. 3. 提高可理解性 更“明白” 重要问题(2) 机器学习在走向实用过程中出现的、非常重要的问题： ??1. 高维数据的处理 成百上千甚至上万个属性 ??2. 类别不平衡、代价敏感数据的处理 不同类别的样本往往分布悬殊、并且有显著不同的代价 ??3. 未标记数据的利用 少量的有标记数据、大量的未标记数据 重要问题(3) 与人工智能其他领域关系非常密切的、非常重要的问题： ?? 1.有结构数据的学习 “结构”中蕴藏了重要的信息 ?? 2.领域知识的利用 通用