人工智能董事法律地位及其信义义务构想——基于强人工智能视角.pdfVIP

人工智能董事法律地位及其信义义务构想

———基于强人工智能视角

刘成杰

摘要：人工智能技术的革新速度与应用场景改变了我们的传统认知，人工智能董事已从理论迈入现实。我

国的相关发展规划已提出“明确人工智能法律主体以及相关权利、义务和责任”的人工智能发展保障措施。在强人

工智能语境下，应摒弃客体说观点，通过法律拟制赋予人工智能董事法律主体地位。基于人工智能董事的特殊性，

传统董事忠实义务趋于消解，注意义务“理性人”标准适用性也将存疑。以前瞻性视角审视和革新人工智能董事的

信义义务，忠实义务需因应特殊情形，注意义务的范围则呈窄域化倾向，合规监督义务的内涵和边界将实质扩展。

关键词：强人工智能；人工智能董事；法律主体；信义义务

－－－

中图分类号：Ｄ９２２．２９文献标识码：Ａ文章编号：１００３０７５１（２０２４）０２００７９０８

［５］

人工智能通常是指由机器或其他智能系统执行决策权利，被称为“世界首个机器人公司董事”。

本由自然人方可完成的智能行为，本质在于“让计人工智能董事是人工智能技术在公司治理场景的具

［１］

算机系统完成人类心智能完成的各类事情”。一体呈现，这种新兴的治理模式不仅仅是技术和模式

般认为其有弱人工智能、强人工智能和超人工智能的革新，同时也在法律和伦理上带来诸多问题和挑

之分，强人工智能已具备自主认知、决策和行为的能战。如人工智能董事是否应承担与自然人董事相同

力，不仅能产生相应的数据以支持其持续的行为，还的信义义务？如是，其义务内涵和构成内容是什么？

［２］

拥有自我辨认和控制能力。２０世纪７０年代未若否，又该如何防止其可能带来的潜在风险或可能

来学家托夫勒曾预言，人工智能时代总时间应不足的滥用？这些问题不仅关系到公司的决策效力和责

百年，而今已行将过半；ＣｈａｔＧＰＴ（一款聊天机器人任归属，更影响到其自身在公司治理场景中的良性

程序）的出现及快速迭代已成为“强人工智能时代发展，乃至整个社会对人工智能技术的信任度。

［３］［４］

的里程碑”，人类即将进入强人工智能时代。有研究预测，再经过２５年左右的发展，非生物

［６］

基于人工智能强大的数据处理和分析能力，特“智能”将会１０亿倍于人类的“智慧”。２０１７年，

别是其在战略规划与市场预测方面的优异表现，一国务院印发《关于新一代人工智能发展规划的通

些公司开始尝试将人工智能引入决策层，用于辅助知》，提出把人工智能发展置于国家战略层面系统

甚至替代传统董事会的某些职能。在这一背景下，布局，牢牢把握战略主动，并要求明确人工智能法律

“人工智能董事”的概念应运而生。其实，早在２０１４主体以及相关权利、义务和责任等，加快研究制定相

［７］

年香港一家名为“深度知识创业”的风险投资基金，关法规，为新技术的快速应用奠定法律基础。

曾任命一唤作“ＶＩＴＡＬ”的人工智能体参与公司投资