学界关于超级AI的论争及其实现的可能路径.pdfVIP

科学与技术 学界关于 超级 的论争 “ AI” 及其实现的可能路径 王彦雨 （中国科学院自然科学史研究所， 北京 100190） 摘 要 霍金关于人工智能取代人类的观点 引发了人们关于 超级 超级人工智能 【 】 ， “ AI （ ）” 的广泛争论 ，那么“超级 AI ”是否会实现 、其潜在的实现路径包括哪些 ？ 针对这些问题 ，该 文在分析历史上关于超级 AI 的争论的基础上 ，总结了学界等关于“超级 AI ”如何实现的 各种路径 认为当前我们不应过度夸大 的能力 但要敬畏 的未来发展潜力 因为无 。 ， ， AI AI 论是从技术态层面还是社会态层面上讲 ， 的未来发展陷入“动车困境 ”，超级 并非完 AI AI 全是一种科学幻想 。 【关键词 】超级 ； 风险 ；递归性自我改良 ；存在性风险 ，动车困境 AI AI 【中图分类号】C932.4 【文献标志码 】A 【文章编号 】1００3－０166(2０17)０8－００22－1０ doi:1０.3969/j.issn.1００3－０166.2０17.０8.００5 进入 ２１ 世纪 ，随着大数据 、神经网络科学的 到或超过人类的 AI ，它不仅仅是在功能或结构层 发展 ， 迎来了爆发期 ， 在很大程度上突破了此 面模拟人类大脑 ， 更是在能力层面达到或超过人 AI 前所面临的一系列技术难题 ，包括有限的计算能 类大脑 ， 类似的概念如塞尔 （J．R．Searle ） 的 “强 力 、组合爆炸 （combinatorial explosion ）现象等 。 凯 AI ”（Strong AI ）， 波斯特罗姆 （Nick Bostrom ） 的 利 （Kevin Kelly ）曾指出当前 AI 领域的三大突破 ： “超级智能 ”（Super intelligence ），以及 “奇点 ”等 。 廉价的并行运算 、大数据的支撑 、更好的算法 。 [１] 对于 “超级 AI ”是否会实现 ，大体上可分为两派 ： 当前 ，世界知名计算机 、网络、物流公司等都已部 一是 “可能派 ”，即“超级 AI ”最终会成为一种社会 署了自己的 AI 项目 ，如 IBM 公司的 Watson API 、 现实 ，并取代人类 ，并对 “超级 AI ”实现的可能路 亚马逊公司的 Amazon Alex 、 苹果公司的 Apple 径进行了前瞻性分析 ； 另一个是 “不可能派 ”，即 Siri 等 。 人工智能技术的快速发展 ，引发了广泛争 “超级 AI ”只是一种科学幻想或文学描述 ，不具备 论 ，如人工智能对就业的影响 、人工智能所引发 技术层面的可行性 。 自 ２０ 世纪 5０ 年代起 ，“可能 的伦理挑战 、人工智能对安全及社会公平的挑战 派 ”与 “不可能派