人工智能风险治理：模式、工具与策略.pdfVIP

改革TotalNo.359No.1January2024

REFORM

人工智能风险治理：模式、工具与策略

邓悦许弘楷王诗菲

摘要：人工智能技术在近二十年飞速迭代，由此产生的风险治理挑战呼唤治理模式与治理工

具的创新。规制型治理、创新型治理、自治型治理、市场导向型治理、集中式治理、敏捷治理是目前较

为成熟的风险治理模式，法律规制、伦理规范、数据算法、社会场景等领域的新兴风险催生更具体、更

灵活的风险治理工具，以适应新涌现的风险治理需求。中国坚持人工智能技术创新与风险治理的协

同改进和动态均衡，逐步向敏捷治理模式转变，各具体领域的风险治理工具呈现全面性、及时性、精

准性的特征。中国应从治理理念更新、多元主体协同、强度刚柔并济、工具灵活有效、追求可信目标

等方面提升风险应对能力，并将国家、政府、企业、公众纳入风险治理模式构建全过程，实现治理工具

在各领域的多维组合性使用。

关键词：强人工智能；风险治理；治理模式；治理工具；敏捷治理

中图分类号：TP18文献标识码：A文章编号：1003-7543(2024)01-0144-15

作为工业社会向智能社会迈进的创新“催进行识别、研判与规制。但由于治理经验相对分

化剂”，人工智能不断嵌人社会各领域，使人类生散化、对新兴风险的回应度不足，人工智能风险

产方式与社会结构产生深远变革。尽管人工智治理难以跟上人工智能技术突破的步伐。近些

能技术在蓬勃发展期具有一定的先行优势，但在年，我国更加关注并重视人工智能风险治理经

其向社会纵深领域应用的过程中会出现多种未验与方法，力图保持技术创新引导力度与风险规

曾产生的社会影响,其演进的复杂性与不确定性制力度的协同并重和动态均衡。风险治理、技术

正在挑战现有社会制度和规则，使人类加速进创新与社会发展之间达成一种相互塑造和影响

人风险社会时代。例如，自动驾驶自产生以来就的状态，保持这一状态的平衡和稳定需要治理模

存在着失控致死的争议；医疗人工智能的误式的范式突破与治理工具的组合创新。梳理具

诊、误操作损害人身健康并产生归责难题；数字有代表性的人工智能风险治理模式和工具，对

平台利用“大数据杀熟”损害消费者权益；等等。提升我国人工智能风险治理水平大有神益，可为

同时，人工智能技术在发展过程中深度嵌人各种构建符合中国国情的人工智能治理体系提供新

应用场景，为法律漏洞、伦理争议、技术安全、模思路。那么，何谓人工智能，人工智能新兴潜在风

型偏误、就业替代等新兴风险的涌现提供了温险有哪些？人工智能风险治理已存在哪些成熟

床，对人工智能技术应用过程中产生的各类风险的、广为认可的模式与工具？如何长久稳定提升

进行治理愈加必要且紧迫。中国人工智能风险治理能力？系统总结并更进

人工智能风险治理是新兴的交叉研究领一步提出中国在人工智能风险治理方面行之有

域，是指对人工智能技术特定应用场景的风险效的治理模式与治理工具，可为未来人工智能的

作者简介：邓悦，武汉大学质量发展战略研究院副教授，深圳市巨湾时空大数据技术研究院研究员；许弘

楷（通信作者），武汉大学质量发展战略研究院研究员；王诗菲，武汉大学质量发展战略研究院研究员。

144公共经济与管理PUBLICECONOMYANDMANAGEMENT

改革

REFORM

健康有序发展提供重要启示。