探索人工智能社会治理的中国方案.pdf

作为引领将来的战略性技术，人工智能的迅猛进展将进一步释放历次

科技革命和产业变革积蓄的巨大能量，给全球经济进展、国家治理、社会

建立和人民生活带来重大而深远的影响，推动人类迈入以科技进步与产业

革新为根底的智能社会。但也应当看到，人工智能在制造经济进展新引擎、

推动人类文明迈上新台阶的同时，模糊了虚拟与现实、数字和实体的界限，

给人类社会的法律标准、道德伦理、公共治理等方面带来了挑战。

人工智能时代召唤全新的治理理念和治理形式。当前人工智能技术正

深入进展，人工智能应用场景不断丰富，人工智能开放创新平台、人工智

能创新进展试验区建立正如火如荼推动。利用好这一有利契机，加强人工

智能技术进展过程中的人文社会影响讨论，开展人工智能社会试验，建立

更具有人文温度的智能社会意义重大而深远。

建立有人文温度的智能社会是大势所趋

自16世纪科学革命以来，科学技术的“双刃剑”效应就成为人类社

会进展进程中一个挥之不去的议题。科技进步使得生产力得以飞速进展，

为人们的生产和生活都带来了极大的便利。但科技创新带来的两极分化、

社会摩擦、生态破坏、伦理失范等负面影响也始终萦绕难散。英国闻名科

学家贝尔纳在其著作《科学的社会功能》中指出：“科学技术的进展本身

既为我们揭开了改善人类生活的前景，也为我们开拓了消灭人类的可能

”如今，伴随智能时代的到来，科技的正负效应都在不断强化，形成

巨大的张力，使得人类文明的前景更加迷茫。

随着人工智能进展与应用的深入，人机器的社会构造，终将为人智能

机器机器的社会构造所取代。可以确定的是，人工智能超强的信息储存、

超级仿照和深度自我学习力量，会把人类从各种危急、周密、烦琐、重复

的体力和脑力劳动中极大地解放出来。其进展与推广应用会转变“不劳动

者不得食”的人类社会基石，不劳动者照样可以丰衣足食，人类想象中的

“乌托邦”甚至会由于人工智能技术成为现实。但值得留意的是，与传统

科技相比，新一代人工智能技术最大的特色在于它能够具有和人一样进展

思索和决策的力量。这种力量正是人类区分于动物，并能够建立起绚烂文

明的核心因素。在历史的长河里，人类才智的宏大之处不仅在于其对自然

科学的孜孜以求，也在于其在技术、人文、社会科学领域制造出的累累硕

果。然而，当人工智能开头替代人类进展思索与决策时，它们能否像人类

一样，在理性之上兼顾感性认知，在追求效率的同时也顾及伦理、价值观、

情感和文化。

一个有人文温度的人工智能社会，不仅要拥有更加高效的生产力，也

要有更加丰富多彩的精神空间，更加深厚悠久的文化底蕴，更加公正公正

的制度保障，更加包涵和谐的人文关心。这需要我们抓住人工智能技术应

用刚刚起步、尚未形成锁定效应的这一良好时机，树立正确的价值观念，

深入开展基于科学循证规律的实证讨论，构建全新的人工智能治理体系，

引导人工智能技术良性进展，准时

躲避大规模失业失能、资源财宝分化加剧、数字和信息鸿沟加深、人类精

神文化生活停滞、人工智能技术失控等潜在风险和危机。

消解人工智能技术进展中的隐忧

作为第四次工业革命的技术基石，新一代人工智能技术进展与应用给

人类社会带来的好处自不必说，但我们也必需对人工智能所衍生出的风险

和威逼保持警觉。人类对于人工智能技术负面影响的忧虑主要包括两个方

面，一是对人工智能技术失控的担忧，二是对社会构造与社会秩序的重塑

的担忧。英国科学家斯蒂芬霍金和美国创新企业家埃隆马斯克都曾不断发

出对人工智能威逼的警告。霍金认为，人工智能会是“人类历史上最重大

的大事，不幸的是，也可能会是最终的重大大事”。马斯克也指出人工智

能之险尤甚于核武器。他们普遍担忧具有人类决策力量的机器人最终将摆

脱人类的掌握，反过来奴役人类甚至灭亡人类。电影《流浪地球》里，宇

航员疑心国际空间站掌握系统叛逃的情节，就反映了我们可能面临的这种

隐患。创新工场创始人李开复则认为，人工智能对人类社会真正的威逼不

在于技术层面，而在于对工作的含义、财宝的制造和安排方式的打碎、重

塑，由此“引发前所未有的经济不公平，甚至转变全球力气均势”。人工

智能的进展会使大量工作被机器人取代，从制造业到效劳业，各层面都可

能有大量工作岗位消逝。大规模失业的同时，财宝快速并大量集中到少数

人手里，进一步加剧两极分化，带来严峻的民生和政治问题。

科技进步既转变着人类社会，也塑造着人本身。对于人工智能的进展，

我们首先应当树立正确的价值观念，防患于未然，应