智能计算方法研究进展与发展趋势(精).doc

智能计算研究进展与发展趋势 中国科学院院刊 ? ? ????1 引言????智能计算技术是一门涉及物理学、数学、生理学、心理学、神经科学、计算机科学和智能技术等的交叉学科。目前，智能计算技术在神经信息学、生物信息学、化学信息学等交叉学科领域得到了广泛应用。这项技术所取得的些许进步，都会进一步促进神经信息学、生物信息学、化学信息学等交叉学科的发展，反过来，后者的深入研究和进一步发展，也将大大促进智能计算技术的长足进步。所以，深入开展智能计算技术研究具有重要意义，应引起我们的高度关注。????智能计算技术是将问题对象通过特定的数学模型进行描述，使之变成可操作、可编程、可计算和可视化的一门学科。它运用其所具有的并行性、自适应性、自学习性来对信息、神经、生物和化学等学科中的海量数据进行规律挖掘和知识发现。由于其在整个计算过程中自始至终考虑计算的瞬时性和敏捷性，因而对于复杂的问题对象能够通过任务分解或变换方法，使得问题对象能够在有限的时间内获得令人满意的解。????过去，智能计算技术的进步总是离不开人工智能，特别是人工神经网络技术的发展，但是以符号推理为特征的人工智能技术由于过于依赖规则，以至被认为缺少数学支持而遭到质疑；而以自学习、自适应、高度并行性为特征的人工神经网络技术，虽有坚实的数学支撑但又无法精确处理实际问题中的各种小样本集事件，这些大大限制了智能计算技术的进一步发展。近年来，由于支撑向量机(Support Vector Machine：SVM)、核(Kernek)方法和征战模型(Divide－and－Conquer：DAC)等新方法的相继出现，使智能计算技术发展成不但能处理海量数据等大样本集的问题对象，同时也能自适应地处理小样本事件集的数据，从而使该项技术更切合实际需求，更受人们的广泛青睐。????2 国际发展现状及趋势????2.1 智能计算模型????信息技术的发展离不开经典数理统计学，而智能计算技术的每一进步更以数理统计学为灵魂。众所周知，数理统计学的本质是以Bayes理论为基础、对随机事件或过程进行规律统计或挖掘，其中事件或样本的概率密度函数是Bayes理论得以广泛应用的基石。由Bayes理论为基础，进一步出现了各种提取有用信息或信号的估计方法，如著名的Weiner滤波器、Kakman滤波器等等。一般来说，在以Bayes理论为框架的信息处理方法中，最基本的一个假设是，所要解决的问题对象的样本数必须具有一定的规模，以至在信号传输或处理过程中能够估计或近似估计有用信号的概率密度函数，而且理论证明，基于Bayes理论的有用信号的无偏估计误差能够达到克拉美·罗Cramer－Rao 的下界。尽管如此，这是一个非常理想的情况，因为很多实际的问题对象很难得到大样本的数据集，如手写签名识别、信用卡防伪验证、人脸识别和语音识别等等。????以人工神经网络为代表的非线性“黑箱”处理模型，尽管对无法用数学模型精确描述的问题的处理具有其独特的优势，但对小样本数据集问题却很难训练网络收敛，且网络求解或描述问题的精度非常低，即使对大样本数据集问题能够使网络训练收敛，但往往会出现过拟合情况，而且有时需要设计非常庞大的网络结构来适应。即便如此，网络收敛后的输出也只是近似Bayes后验概率估计。也就是说，在极限情况下，神经网络能够逼近Bayes理论的估计。????近年来，以Vapnik的支撑向量机为代表的统计学习理论是专门研究小样本情况下的机器学习规律，它采用结构风险最小化准则，在最小化经验风险的同时最小化推广误差的上界，并采用凸二次规划技术使所求问题的解具有全局最优性。SVM不仅能保证在小样本条件下仍具有较好的推广性，而且基本消除了“维数灾难”、“过学习”和“欠学习”等传统机器学习方法难以解决的问题，在复杂系统的建模、优化、分类与预测等方面显示出强大的优势，使得SVM理论成为当前学术界研究的热点问题，受到普遍关注和重视。不过，SVM在应用中存在两个突出的问题，即SVM核函数的选择和SVM用于多类问题的学习算法设计。此外，实际应用中很难获得高质量、大规模的数据样本，数据样本中或包含不完整数据、或样本数很少、或蕴含模式多样性的情况。如何充分利用有限数据样本和不完整数据样本中包含的有限信息，构造高精度的SVM分类器是一个有待深入研究的问题。????近年来，围绕上述三大模型应用的主要发展趋势是：(1)先验信息的充分利用。即根据所求解问题的先验信息来选择确定具体的统计模型，或者是将问题的先验信息耦合到具体模型中以构造约束模型来求得问题的解。如在神经网络输出误差代价函数中将问题的先验信息通过拉格郎日乘子耦合进来，以构造一种新的约束学习算法来加快问题的求解；(2)任务分解和输出集成。即对于复杂