机器学习 概念学习和一般到特殊.pptVIP

* * 2.6关于变型空间和候选消除算法的说明 二、下一步需要什么样的训练样例 学习器应试图在当前变型空间中选择假设，以进一步划分该空间。因此，需要选择的实例需满足:它能被变型空间中一些假设分类为正例，另一些分类为反例。其中一个这样的实例是: Sunny，Warm，Normal，Light，Warm，Same 注意:这一实例满足变型空间的6个假设中的3个。如果施教者将实例划分为正例，变型空间的S边界就需要被一般化。相反，G边界需要被特殊化。无论哪种情况，机器将能够学到更多的知识，以确定目标概念并将变型空间缩小到原来的一半。 一般来说，概念学习的最优查询策略，是产生实例以满足当前变型空间中大约半数的假设。这样，变型空间的大小可以在遇到每个新样例时减半，正确的目标概念就可在只用log2l VS |次实验后得到。 * * 2.6关于变型空间和候选消除算法的说明 三、怎样使用不完全学习概念 机器现在要对未见过的实例进行分类。虽然目标概念还未完全学习到，但是仍然有可能对新样例进行一定可信度的分类。 待分类的新实例 Instance Sky AirTemp Humidity Wind Water Forecast EujoySport A Sunny Warm Normal Strong Cool Change ? B Rainy Cold Normal Light Warm Same ? C Sunny Warm Normal Light Warm Same ? D Sunny Cold Normal Strong Warm Same ? * * 2.6关于变型空间和候选消除算法的说明 注意，实例A不在训练样例中，但当前变型空间中每个假设都将其分类为正例。不管变型空间中哪个假设最终成为目标概念，它都会将其划分为正例。 实例B被变型空间中的每个假设划分为反例（实例B不满足G中的所有成员），所以这个实例可被放心地划分为反例。 实例C的情况有所不同。变型空间中半数的假设划分其为正例，半数划分为反例。因此，学习器无法可信地分类这一样例，除非提供更多的训练样例。 实例D在变型空间中被两个假设分为正例，被其他4个假设分为反例。这个例子的分类可信度比实例A和B要小。投票选举要倾向于反例分类，所以我们可以输出拥有最大票数的分类。 * * 第2章 概念学习和一般到特殊序 2.1简介 2.2概念学习任务 2.3作为有哪些信誉好的足球投注网站的概念学习 2.4Find－S：寻找极大特殊假设 2.5变型空间和候选消除算法 2.6关于变型空间和候选消除算法的说明 2.7归纳偏置 2.8小结 * * 2.1简介 概念：每个概念可被看作一个对象或事件集合。 它是从更大的集合中选取的子集(如从动物的集合中选取鸟类) 或者是在较大集合中定义的布尔函数(如在动物集合中定义的函数，它对鸟类产生true并对其他动物产生false )。 归纳学习：从特殊的训练样例（关于某概念的正例和反例）中归纳出一般的概念描述（函数），它的一般操作是泛化和特化。这也是机器学习的中心问题。 * * 2.2 概念学习任务 概念学习：是归纳学习的一种，指从有关某个布尔函数f（未知）的输入输出训练样例中推断出该布尔函数f，或从样例中逼近布尔函数f。 概念学习任务被描述为: 实例的集合X:由各种属性值确定的元组 候选假设H的集合 实例集合上的目标函数c（概念） 训练样例的集合D * * 目标概念EnjoySport的正例和反例 Example Sky AirTemp Humidity Wind Water Forecast EnjoySport 1 Sunny Warm Normal Strong Warm Same Yes 2 Sunny Warm High Strong Warm Same Yes 3 Rainy Cold High Strong Warm Change No 4 Sunny Warm High Strong Cool Change Yes 概念学习例： 目标概念：“Aldo进行水上运动的日子”，即使Enjoysport=Yes的日子 日