信息论--模糊熵.docxVIP

信息论--模糊熵 信息论--模糊熵 模糊不确定性的度量—模糊熵 摘要: 熵是模糊变量的一个重要的数字特征，用来度量模糊变量的不确定性，是处理模糊信息的重要工具。模糊集用来描述元素无法明确界定是否属于给定集合的集合类。模糊变量则是取值于这种具有不确定性的模糊集的变量。本文主要介绍模糊集模糊变量模糊熵简单的定义及其性质，文中最后通过例子具体介绍模糊熵的实际应用。 关键词:熵，模糊变量，模糊集，模糊程度，包含关系 1. 模糊集与熵 集合的概念是逻辑和数学中最基本的概念之一。集合中非常重要且基本的性质为矛盾律和排中律，满足矛盾律和排中律的集合就是清晰集。即一个元素可以明确的表示属于或是不属于这个集合，任意选定的元素可以被明确界定，对应于数理逻辑就是一个命题要么是真的 要么是假的。但是在实际客观事务的描述中很多集合和命题不满足这种特性，如“水很热”，显然这个集合中的元素无法被明确界定，这是因为“热”和“不热”之间不存在明确的分界。 定义函数 为模糊集 的隶属函数，表示 中的元素属于模糊集 的程度，隶属度越大，表示该元素属于集合 的程度就越大，隶属度为0表示该元素完全不属于集合 ，隶属度为1则表示该元素完全属于集合 。 1.1 模糊集合的一般性理论回顾 如果我们对周围的一切细加考察的话不难发现，普通集合无法描述像“天气好”“个子高”“美丽”这样的模糊概念，因为普通集合描述的概念有这样的特点：一个对象要么符合该概念，要么不符合该概念，二者必居其一，没有模棱两可的情况，而对于模糊概念来说，一对象是否符合它，不能简单的用“是”或“否”来回答，因为对象既不完全符合，也不完全不符合，而是在某种程度上符合该概念。 1.1.1 模糊集合的概念 论域X 上的模糊集合A*由隶属函数u A *(x ) 来表征, 其中u A *(x ) 在实轴的闭区间[0,1] 上取值, u A *(x ) 的值反映了X 中的元素x 对于A*的隶属程度. 模糊集合完全由隶属函数所刻画. u A *(x ) 的值接近于1, 表示x 隶属于A*的程度很高; u A *(x ) 接近于0, 表示x 隶属于A*的程度很低; 当u A *(x ) 的值域为{0,1}二值, u A *(x ) 演化为普通集合的特征函数u A (x ) ,A*便演化为普通集合A. 我们可以认为模糊集合时普通集合的一般化. 1.1.2 模糊集合的表示方法 就论域的类型而言, 模糊集合有以下两种表示方法: 1. 设论域X 是有限集或可数集, 令X={x 1, x 2, x 3... x n },X 上的任一模糊集A*,其隶属 函数为u A *(x ) ,i=1,2,3…,n, 则此时A*可以表示成: A*=u A *(x 1) /x 1+u A *(x 2) /x 2+... +u A *(x n ) /x n = (x i ) /x i 这里的的符号不是简单的加，除，而是只有符号意义的． 2. 设论域X 是无限集, 则此时X 上的一个模糊集A*可以表示为: 1.2 一般熵的基本概念 熵是一个一般性的概念，它度量了一个系统或一段信息的不确定性。信源熵H(S)定义为一个信源中事件x i 的自信息I (x i ) 的统计平均值，即 u A *(x ) 同样的积分符号也不再表示积分, 只是无穷逻辑和的意义． p i log p i 一个事件的自信息是随其不确定程度的增大而增大的，所以信源熵可以被认为是一个系统不稳定性的度量。而模糊熵描述了一个模糊集合的模糊性程度，是度量模糊集的模糊程度的一种具体形式。 模糊度是描述模糊集的模糊程度的数量指标，用一个怎样的数量指标来描述模糊集的模糊程度，一种一般的定义是： 1、普通集是不模糊的，标志它的模糊程度的数量应该为0； 2、而对任一?u ∈U ，若A (u ) =0. 5, 则A c (u ) ≡0. 5，此时A 是隶属性最难确认的模糊集，标志其模糊程度的数量应为1； 3、又A (u ) -0. 5=A (u ) -0. 5, 所以A 与A c 的模糊程度是相同的； 4、此外，模糊集A 的模糊性应具有单调变化的性质，即A 越接近0.5，A 的模糊性越大，A 越远离0.5，A 的模糊性越小。 可定义模糊度如下： 若映射d:模糊集U →[0,1]满足： 1， d(A)=0?A ∈U 2， d(A)=1?A(u)=0.5 3， 若对任一ui ∈U, 有A(ui)≥ B(ui) ≥0.5, 或A(ui)≤ B(ui)