无过错责任与人工智能发展--基于法律经济分析的一个观点.pdf

华东政法大学学报2024年第5期

无过错责任与人工智能发展

——基于法律经济分析的一个观点

戴昕*

目次

一、问题的提出：为何反对无过错责任？

二、过失责任与人工智能致害

三、无过错责任与过失责任：差别何在？

四、人工智能致害的无过错责任

五、侵权责任与风险规制

六、结语

摘要如何制定人工智能致害的侵权责任规则，是人工智能立法领域的一个困难议题。由于

黑箱系统的作用机制难以解释，以及致害过程有多方参与，人工智能致害侵权如适用过失责任，将产

生较高制度成本。适用无过错责任不仅制度成本更低、救济效果更好，而且结合法律经济分析有关责

任规则影响注意水平和行为水平的原理，可知其未必会导致对人工智能创新活动的过度抑制。同时，

尽管基于行政监管的风险规制是应对人工智能致害风险的最主要制度形态，但侵权赔偿责任，特别是

无过错责任的设置，将有助于维护社会对人工智能产业及人工智能监管体制的信任。

关键词无过错责任注意水平行为水平事前监管音效隔离

一、问题的提出：为何反对无过错责任？

〔1〕

人工智能系统（AISystems）致害应适用何种侵权责任规则，是近年来法律界议论较多的一个

〔2〕

话题。无论是自动驾驶汽车导致发生人员伤亡的交通事故、工业用机器人在生产车间伤害共同工

*戴昕，北京大学法学院长聘副教授、北京大学武汉人工智能研究院研究人员，法学博士。本文系2021年度国家社会科学基金

重大项目“社会信用体系的法律保障机制研究”（项目号21ZD199）的阶段性研究成果，并受“东湖高新区国家智能社会治理实验综

合基地”资助。

〔1〕本文中所谓“人工智能系统”（有时或简称为“人工智能”），大致借鉴欧盟《人工智能法》中使用的概念，主要指与基于

传统编程路径实现人类指令自动化执行的软件系统有所区别，有自行学习和推理能力的智能系统。EuropeanParliament,Artificial

IntelligenceActCorrigendum（19April2024）（AIAct）,Recitals,para.12.

〔2〕Seee.g.CruiseSelf-DrivingCarsInvestigatedAfterTwoAccidents,BBC（Oct.172023）,/news/technology

accessedJuly29,2024.

38

戴昕无过错责任与人工智能发展

〔3〕〔4〕

作的人类“同事”，还是医学诊疗系统作出贻害病患的错误诊断，这些致害场景要么已确凿出现

在真实世界，要么被认为没有理由不会出现，这使得有关侵权责任规则的厘定具有十足的紧迫性。

在这一论域，截至目前研讨相对更为集中的议题是，人工智能致害的侵权责任应由何种主体

承担。〔5〕由于相关致害场景中出现了具有高度自主性（autonomy）或自主决策能力，甚至是“人形”

（humanoid）的“机器”，这似乎意味着人工智能体独立为“致害行为”承担法律责任具备了伦理上的可

行性。〔6〕

此类讨论自带科幻光环，引人入胜。但主张赋予人工智能主体资格的观点看似“星辰大海”，

实则还是为应付眼前的“蝇营狗苟”。具体来说，人工智能致害的发生过程涉及参与人工智能系统开

发、部署、产品生产、服务提供及使用等多方社会主体〔7〕（为简略计，本文以下统称“人工智能致害参