人工智能中可信赖性与可信赖性算法研究.pdfVIP

第íò 卷第í 期 信 息 与 控 制 œÃéíòåÆ œéí ëôôô 年 î 月 ©Œ œ“Õ £‘…œŒ £Œ ƒ £ œŒ ‘“œÃ ° – “éåëôôô 人工智能可信赖性与可信赖算法研究0 a 李应潭 à中国科学院沈阳自动化所 沈阳 ëëêêëïâ 摘 要 不可信赖的算法和系统不是人工智能的初衷å 准确率较高的不可信赖系统如果有相 当水平的专家的协同作业å有可能提高工作效率õ但在完全自动化的条件下或者在与其配合工作 的人不是非常可信赖的情况下å不可信赖系统则将丧失使用与存在价值é相反å 可信赖 系统却能够 出色地工作å 达到并长期保持制作它的群体专家的水平é 可信赖系统不仅在效率方面而且将在质 量方面体现人工智能的优越性和不可替代性å 因此将是推动知识经济的发动机é 已经证明å 一个不 可信赖的算法å 最终必然破坏系统中其他可信赖算法的可信赖性å应该予以扬弃é 实现可信赖算法 和系统的工作量和难度都大大增加é 可信赖算法本质上只适用于可界定! 可判定的类é 实现基于类 与Ø Ø 理论的若干可界定领域的可信赖算法与系统在实践上有确切的用途é 已经证明å 若干可信 赖算法的集成仍然是可信赖的õ 因此通过不断地继承和集成能够逼近最终的目标é 关键词 可界定类å 可信赖性å 可信赖算法 1 引言 从 ëôïñ 年算起å人工智能à â有 îí 年的历史了é这些年来å人工智能在思想和理论上的 ° © 进展和贡献是有目共赌的à文献太多从略âé但是作者认为人工智能至少面临两大问题ö可信赖 性和人工意识à 即真正的智能模型â研究é本文所涉及的就是人工智能系统的可信赖性问题é 自从作者 ëôôñ 年提出而且开展了可信赖性与可信赖算法研究以来å我们开展了一些实例 研究å理论上和实践上都取得了一些进展é本文就是两年来研究的总结é 我们认为可信赖性与可信赖算法研究是人工智能研究的新起点和突破点é这是因为可信 赖研究开辟了新的研究领地å 而且已经在我们面前展现出非常广阔的应用领域和应用前景é 而 我们也不难认定å可信赖性问题关系到人工智能理论与实践的前途é详细研究如下é 2 为什么要研究可信赖的算法 发展计算机和人工智能的主要目的是提高科学技术与生产力水平å其关键是要保证质量é 从某种意义上讲å可信赖算法和可信赖性理论是涉及智能性软件根本质量问题的理论é 首先我们应该区分四个概念ö可靠性! 可调试性! 可信赖性和可依赖性é可靠性是硬件在多 长时间内会发生故障的问题å可调试性是是否便于排除人工编制中的错误问题é 而可信赖性与 可靠性和可调试性这两个概念没有关系é可信赖性是在没有硬件故障和没有人为的输入错误 的前提下算法本身的质量方面的一个指标é软件的另一个质量指标是可依赖性à文献 ïâé 可信赖性要解决人工智能有关研究目标的根本质量问题é 专家系统也好å机器翻译也好å 模式识别也好å若没有可信赖性å就谈不上可依赖性å就没有人工智能的质量可谈é 在模式识别领域里å指纹识别和汉字识别是两个典型研究é 对于人来讲å 学会了一个字就 a ëôôòç êïç íñ 收稿 0 本研究得到中国科学院机器人学开放实验室基金课题/ 可界定!可信赖人工智能模型研究0 的支持 í 期 李应潭ö人工智能可信赖性与可信赖算法研究 òó 会认一个字å 自然能够很有把握地从报纸里挑出自己识别的那个汉字来é 虽然只认得一个字å 却是有把握的å是可信赖的é可是现在许多汉字识别软件硬是做不到这一点é 由于算法的原因å 不管其拒识率多么高å都不可能达到ëêê‡ 的准确率é 如果我们能够实现一个可信赖的汉字识 别算法å哪怕只能从报纸上 认出ëê 个汉字å却保证不错å这将是最伟大的成功é 因为在实现这 个目标以后å我们就有可能组织若干小组å将出现频率高的íêêê 个汉字分头解决åà 另外î