人工智能风险的全流程规制逻辑及制度因应.pdfVIP

学习与实践2024年第5期数字社会

人工智能风险的全流程规制逻辑及制度因应

胡小伟刘丽

摘要：人工智能风险并非确定性、单一性的风险，而是蕴含着生成多元性、演化交替性、结果未知性的体

系性风险，这成为人工智能风险全流程规制的逻辑基础。全流程视域下，人工智能风险可类型化为算法设计风

险、数据要素风险、平台控制风险、网络安全风险、自动决策风险等具体样态。人工智能风险规制立法应基于

全流程规制视角，在规制范围上，加强全周期贯穿，实现人工智能风险的穿透规制；在规制进路上，注重全过

程传导，实现人工智能风险的渐进规制；在规制内容上，强化全要素统筹，实现人工智能风险的一体规制。

关键词：人工智能风险全流程规制人工智能法

中图分类号：D922文献标识码：A

作为新兴技术的人工智能在给人类带来发能风险的全流程监管。

展机遇的同时,其风险亦相伴而生。《新一代人工

智能发展规划》提出：“实现对人工智能算法设一、人工智能风险全流程规制的逻辑基础

计、产品开发和成果应用等的全流程监管。人工

智能规制的核心问题是风险防范问题,即如何通人工智能风险并非确定性、单一性风险,而

过预防性行为与因应性制度来应对人工智能所是蕴含着复合性、流程性的体系架构，这由人工

产生的现代性负面影响。1建构人工智能法应以智能风险的技术运行逻辑所决定。需厘清人工

风险规制为中心，如欧盟《人工智能法案》，作为智能各形态风险的关联逻辑，基于全流程运行机

全球首部全面监管人工智能领域的法案，由低至理,探讨人工智能风险的一体化规制。

高将人工智能风险划分为四个等级，并进行分类（一)人工智能风险全流程规制的技术运行

分级监管。人工智能风险的法律规制不能仅侧逻辑

重对人工智能应用的风险规制，而忽视源头性、人工智能是基于机器学习形成自主决策，即

过程性风险。应基于全流程视域，条分缕析人工通过数据喂养训练算法，并通过算法进行数据输

智能风险类型谱系，动态把握人工智能风险转化人输出的过程（见图1)。在平台、网络（物联网）

规律，进而推动人工智能法的出台,实现人工智的加持下,实现人工智能体之间的万物互联、万

学习与实践2024年第5期

物互通。在全流程视域下，分析人工智能基础进行的相关决策。人工智能决策层主要是指，在

层、感知层、传输层、平台层、应用层等基本技术平台层之上建立相关的应用生态，基于平台层管

架构，以及内嵌于人工智能运行框架中的算法、理的设备与汇集的数据分析进行自动化决策。

数据、平台、网络、自动化决策等内容，有助于明换言之，人工智能决策可分为整体决策和局部决

晰人工智能风险类型化的技术机理。策，整体决策是输人特定数据而获得的特定输出

结果，呈现出单一的线性关系；局部决策是在人

历史数据

工智能基础层、感知层、传输层、平台层、应用层

训练

各个层级，为完成特定的算法训练任务、采集数

新数据输入算法输出决策结果

据任务、传输数据任务、处理数据任务而进行的

图1基于单体智能机器学习的人工智能运行原理局部决策。每个特定的局部决策都离不开其他

具言之，在基础层，“算法是人工智能应用层级的配合，例如，为完成特定局部决策均须有

（深度神经网络）的计算程序，它们被编程以执行算法模型的架构，作为基础层的算法渗透于各层

自动化决